---
title: "Finire dalle fondamenta"
subtitle: "E come l'AI Act può sopperire a una cosa che non aveva visto arrivare"
author: "Lorenzo Ancona"
date: 2023-11-22
language: it
words: 1176
canonical: https://artifactstech.substack.com/p/finire-dalle-fondamenta
license: CC BY 4.0
cite_as: "Finire dalle fondamenta by Lorenzo Ancona, Artifacts, 2023-11-22. https://artifactstech.substack.com/p/finire-dalle-fondamenta (CC BY 4.0)"
---
# Finire dalle fondamenta
Immagino sia plausibile che tu abbia sentito parlare dell’**AI Act**, il regolamento in discussione in UE per **stabilire delle norme sull’Intelligenza Artificiale.**
Dunque - detta come non la dovresti dire a un colloquio - l’AI Act è un regolamento di **“product safety”,** ossia mira a far sì che i prodotti di IA messi sul mercato siano sicuri. Come lo fa? Con un **risk-based approach,** esemplificato da **questa piramide,** pubblicata ad aprile 2021 (una vita fa!)**:**
[](https://substackcdn.com/image/fetch/$s_!5U8B!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fa4807c9c-1fb5-4427-8ae2-7536c66e6bf7_794x431.png)
Il criterio è abbastanza semplice: **invece di regolamentare le tecnologie in sè, l’UE ha stabilito 4 livelli di rischio**, secondo i quali sono poi classificate le tecnologie di IA. **Brando Benifei,** europarlamentare co-rapporteur dell’AI Act, mi ha recentemente spiegato che **“questo è il modo migliore per rendere l’AI Act a prova di futuro”.**[1](https://artifactstech.substack.com/p/finire-dalle-fondamenta#footnote-1)
Ed ha effettivamente funzionato. A parte una piccola, ma enorme, eccezione: **ChatGPT**. Sì, non è uno scherzo: **l’AI Act non aveva previsto non solo ChatGPT, ma tutti i sistemi simili.**
------------------------------------------------------------------------
Ma procediamo con calma. Dunque, non è proprio ChatGPT in sé a non essere stato previsto, ma GPT 3 o 4, ossia il **foundation model (FM)** che, come dice il nome, ne è alla base.
**Pausa tecnica:** per “foundation model” si intendono **“dei modelli di machine learning addestrati su grandi quantità di dati che possono essere adattati a un'ampia gamma di compiti”.**
**In italiano:** sistemi che hanno tantissimi dati e che **sono dei tuttofare:** possono scrivere una filastrocca per la mamma, correggerti i compiti di spagnolo, scrivere la lettera più cattiva che tu possa concepire, creare una fake news perfetta, programmare un virus, e molto altro.
**Ecco, proprio questa pluralità di task che ChatGPT, grazie a GPT, o altri chatbot, grazie ad altri FMs, hanno creato non pochi problemi a Bruxelles.**
Se, infatti, l’AI Act si basa sull’idea che ogni applicazione di IA possa essere assegnata a una categoria di rischio in base all'uso previsto, **con i FMs diventa impossibile fare ciò perché non esiste UN uso previsto, ma ce ne sono tantissimi e di difficile predizione.**
------------------------------------------------------------------------
E quindi, ancor prima di vedere la luce, l’AI Act incontra una difficoltà non da poco. **Che è sia tecnica che politica**, perché coinvolge non solo gli esperti di regolamentazione, ma **anche chi sviluppa foundation models e gli stati europei, tra cui l’Italia.** Tutti, disperatamente, alla ricerca di regole perché l’AI Act possa essere approvato.
**Di questa specifica questione dei FMs nell’AI Act, senza dilungarci, ne parla Artifacts.**
> ### Il Titolo
Diversamente dal solito, **partiamo dalla questione politica**, che si sta svolgendo proprio in queste ore prima dei triloghi sull’AI Act.
Semplificando, le posizioni vedono:
- **Parlamento UE,** che vuole promuovere il cosiddetto ‘tiered approach’, ossia classificare i FMs secondo vari criteri - **e su quali siano questi si sta giocando la questione** - e assegnare quindi poi livelli di regolamentazione diversi;
- **Il Consiglio Europeo,** ma soprattutto la cordata Germania - Francia - Italia, che invece vuole un approccio decisamente mooooolto di *laissez-faire;*
- **La Presidenza del Consiglio dell’UE** (che non è quello di sopra), ossia la Spagna, che sta cercando di mediare per chiudere l’AI Act. **Cosa decisamente prioritaria** perché il rischio è che possa poi essere rimandato a dopo le elezioni del Parlamento a giugno ‘24.
------------------------------------------------------------------------
**Presto per dire come andrà a finire.** Ad oggi, [Euractiv](https://www.euractiv.com/section/artificial-intelligence/news/spanish-eu-presidency-prepares-to-wrap-up-technical-work-on-ai-law/) riporta che sono in corso trattative per far sì che si trovi un compromesso.
Indubbiamente, è interessante fare luce sullo strappo di Germania - Francia - Italia, che non nasce certo dal nulla. **Al centro ci sono gli interessi nazionali e delle start-up che provano a sgomitare perché, per una volta, l’UE non resti indietro sull’innovazione.** Nello specifico, **Mistral AI** per la Francia e **Aleph Alpha** per la Germania. **Per l’Italia, ahimè, è mero calcolo politico** e al momento non ci sono grosse novità sul fronte innovazione.
In ogni caso, **la loro volontà è decisamente eccessiva:** il documento circolato nel weekend mirava a escludere una regolamentazione obbligatoria per i FMs e, invece, ad una non ben precisata **“mandatory self-regulation”,** che sembra, quantomeno, una contraddizione in termini. **Ed altre critiche interessanti**, di cui ha parlato [Philippe Hacker.](https://www.linkedin.com/posts/philipp-hacker-078940257_critical-comments-on-the-ai-act-found-model-ugcPost-7132016317053689856-p0bx/) Addirittura, Yoshua Bengio, computer scientist canadese, [ha detto a Politico](https://www.politico.eu/article/france-germany-power-grab-kill-eu-blockbuster-ai-artificial-intelligence-bill/) che una soluzione simile sarebbe **“folle”** e porterebbe ad un AI Act simile alla **“legge della giungla”.**
Come si evince dal grafico, il modello immaginato sarebbe carente su diversi aspetti, [sostiene il Future of Life Institute.](https://futureoflife.org/ai-policy/miles-apart/) Al contrario, **le altre soluzioni pensate in UE sembrano più ragionevoli in termini di efficacia.**
[](https://substackcdn.com/image/fetch/$s_!CxJj!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fbfd71abb-00e0-422f-9d3a-222e872155bb_1280x918.jpeg)
------------------------------------------------------------------------
Andando oltre le questioni politiche, comunque, **la complessità di regolamentare i FMs è sui criteri da utilizzare**, non tanto sul modello.
**Che si debba adottare un “tiered approach”, ossia su più livelli, è ampiamente approvato**, oltre che dalla Presidenza spagnola del Consiglio, anche dall’executive order di Biden o dalla community open-source. **Più problematiche sorgono sui criteri che vanno utilizzati per creare questi livelli differenti.**
[](https://substackcdn.com/image/fetch/$s_!bIjp!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F63ebbd0e-71c0-43c0-8ad5-9e48c2d57fd8_745x739.png)
Un po’ la complessità, un po’ i diversi tier. *Creato con DALL-E*
Si tratta di una questione estremamente tecnica, che non è possibile approfondire su Artifacts, ma un elemento dovrebbe essere chiaro: **serve partire dagli utilizzi di questi FMs.** Che significa? Come suggerisce [Rishi Bommassani](https://crfm.stanford.edu/2023/11/18/tiers.html), dello Stanford Centre for Research of Foundation Models, per l’UE **la soluzione ideale sarebbe quella di provare a misurare l’impatto di questi modelli attraverso la loro diffusione**. Semplificando, che chi sviluppa un **sistema** basato su un **foundation model** sia tenuto a registrarlo, e che quindi poi **i modelli, e non i sistemi, siano classificati in questi diversi livelli di tiered approach di conseguenza.** Insomma, alla domanda “quanto è rischioso GPT-4?” si dovrebbe rispondere valutando quanto sia vastamente utilizzato.
Approccio che ha dei meriti e che, per quanto comunque approssimativo, riflette un punto essenziale sui FMs: **se non possiamo stabilirne i rischi a priori, possiamo provare a valutarne gli usi concreti.**
Vedremo come andranno le cose in UE con l’AI Act: sono giornate calde.
[Lascia un commento](https://artifactstech.substack.com/p/finire-dalle-fondamenta/comments)
> ### Rassegna (Stampa)
**In 5 giorni Sam Altman è stato:** (1) licenziato da CEO di OpenAI, (2) assunto da Microsoft per un nuovo team su AI, (3) riassunto da OpenAI come CEO. Tralasciando la cronaca, [un bel commento sulla vicenda.](https://www.nytimes.com/2023/11/21/opinion/the-sam-altman-openai-board-microsoft.html)
Semplificato, **come funziona un LLM:**
[\[Embedded media — view original\]](https://www.youtube-nocookie.com/embed/f1fXCRtSUWU?rel=0&autoplay=0&showinfo=0&enablejsapi=0)
**L’UNESCO** ci guida all’uso dell’I[A Generativa per educazione e ricerca.](https://unesdoc.unesco.org/ark:/48223/pf0000386693)
Il Garante Privacy [apre una indagine](https://www.wired.it/article/intelligenza-artificiale-dati-personali-garante-privacy-indagine-webscraping/) sulla **raccolta dei dati per il training di IA.**
> ### Lo Scaffale
[](https://substackcdn.com/image/fetch/$s_!qE0x!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F972b4f91-8da6-4d16-95ca-8ee83cc8810d_1080x1080.png)
Visto che qua finiamo sempre a parlare dell’UE, **[“Il codice del futuro”](https://ecommerce.ilsole24ore.com/shopping24/il-codice-del-futuro.html)** [](https://ecommerce.ilsole24ore.com/shopping24/il-codice-del-futuro.html) è un ottimo libro che spiega un po’ della storia, dell’ispirazione e dell’avvenire di **come stiamo provando a regolamentare la tecnologia**. **Roberto Viola**, tra l’altro, nientepopodimenoche Direttore Generale per le politiche digitali della Commissione europea.
> ### Nerding
[](https://substackcdn.com/image/fetch/$s_!pA3A!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F8d978ae1-f9a7-4ce4-9cbf-d0f21bbae6c4_1080x1080.png)
**Immagina un ChatGPT per la musica.** Vero, ne avevo suggerito uno simile, ma **[Suno](https://www.suno.ai/)** fa dei pezzi veramente atomici e ti permette a tutti gli effetti di chattare con il tool di creazione della musica.
[1](https://artifactstech.substack.com/p/finire-dalle-fondamenta#footnote-anchor-1)
\[Ci ho parlato per un altro progetto, non Artifacts, ma credo che riutilizzare le sue parole sia classificato come minimal risk :) \]