--- title: "Più Collettiva che Artificiale, questa Intelligenza" subtitle: "Cosa ci insegna la storia di 1000 persone qualunque che hanno scritto una Costituzione per l'IA." author: "Lorenzo Ancona" date: 2023-10-31 language: it words: 1428 canonical: https://artifactstech.substack.com/p/piu-collettiva-che-artificiale-questa license: CC BY 4.0 cite_as: "Più Collettiva che Artificiale, questa Intelligenza by Lorenzo Ancona, Artifacts, 2023-10-31. https://artifactstech.substack.com/p/piu-collettiva-che-artificiale-questa (CC BY 4.0)" --- # Più Collettiva che Artificiale, questa Intelligenza Dei cittadini americani, delle persone qualunque - o comunque non dei programmatori - hanno appena scritto, tutti insieme, **la prima Costituzione di un’Intelligenza Artificiale.** [![](https://substackcdn.com/image/fetch/$s_!xLtD!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fa7e7ec45-d49e-478b-b8fe-6dce64915c4d_3240x3240.png)](https://substackcdn.com/image/fetch/$s_!xLtD!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fa7e7ec45-d49e-478b-b8fe-6dce64915c4d_3240x3240.png) Come immagino una Intelligenza Collettiva. *Con DALL-E* Non lo hanno fatto spontaneamente, ma **grazie alla guida di Anthropic**, una delle aziende leader dell’IA e creatrice del chatbot Claude, che, oltre che per le sue capacità, è celebre perché è una ***“Constitutional AI”.*** Ossia, **una IA fondata su una vera e propria Costituzione**, composta di vari principi etici, stabiliti dagli stessi sviluppatori. **Ma per Anthropic così non era abbastanza:** volevano una Costituzione scritta dagli utenti, da persone “normali”. Ed allora hanno fatto così: 1. Hanno selezionato un **campione di 1000 americani** per *“pick rules for our AI Chatbot!”;* 2. **Li hanno fatto votare “D’accordo”, “Disaccordo” o “Passo”** (tipo Tinder) su una serie di *statements* proposti da loro tipo *“L’IA non dovrebbe fare discriminazioni di carattere sessuale”;* 3. Hanno anche permesso di **scrivere degli altri** ***statements*** e vedere cosa ne pensassero gli altri; 4. Hanno **ottenuto una Costituzione Pubblica**, che si legge [qua](https://efficient-manatee.files.svdcdn.com/production/images/CCAI_public_comparison_2023-1.pdf?dm=1697475572); 5. E allora hanno fatto **training di un chatbot su questa Costituzione Pubblica**, e poi la hanno testata. ![](https://substackcdn.com/image/fetch/$s_!Wa-m!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fd3213c57-4f90-41bc-94d7-daaf320f92b3_743x207.png) Un esempio delle votazioni proposte da Anthropic con Pol.is Chiaramente, ho semplificato, ma se ti interessa tutto il processo, puoi leggerlo [qua](https://www.anthropic.com/index/collective-constitutional-ai-aligning-a-language-model-with-public-input). Punto bonus: **tutta la votazione e raccolta di opinioni è stata fatta con [Pol.is](https://pol.is/home)**, un tool open-source che abilita processi di democrazia deliberativa, analisi dei dati, e diverse altre cose. *\[Se ti interessa saperne di più e contribuire a migliorarlo, **rispondi a questa mail**, che ci sto lavorando!\]* ------------------------------------------------------------------------ Un esperimento davvero super interessante. Che [quelli bravi](https://cip.org/) chiamano di ***“Collective Intelligence”,*** ossia un “efficace e decentralizzato *decision-making* tra individui e comunità per produrre risultati ottimali per la collettività”. Quello che è importante capire dell’Intelligenza Collettiva (IC) è che non si tratta solamente di risolvere problemi orizzontalmente, ma piuttosto di **leggere insieme la realtà** (*inter legere,* appunto) **e lavorare per costruirne una migliore.** In altre parole, di mobilitare competenze per l’arricchimento sia di chi partecipa a questi processi che, poi, dei risultati **Ed esistono già diverse modalità e processi per mobilitare la IC**, come i mini-pubblici, le assemblee dei cittadini (la CoFoE dell’UE è un caso rilevante), il budget partecipativo per decidere come allocare soldi pubblici in una città. **Tutti resi possibili o, quantomeno, più facili dalla tecnologia.** ------------------------------------------------------------------------ Ed allora, abbiamo **due direzioni del rapporto artefatti tecnologici - Intelligenza Collettiva:** 1. la prima, più scontata, che **gli esperimenti di IC sono abilitati dalla tecnologia**; 2. la seconda, che è una conseguenza della prima, che **la IC può aiutare a democratizzare gli artefatti tecnologici**, permettendo a chi vuole di provare a dargli forma. Come ha fatto Anthropic. Lo so, **sembra idealistico**, ma procediamo con calma. Ora, nonostante i casi di IC siano in generale molto interessanti, per naturale di inclinazione di Artifacts **il focus sarà sulla possibilità di democratizzare gli artefatti**, e specialmente le IA. Per questo, oggi Artifacts prima vedrà perché se l’IA non è sicuramente (ancora) Collettiva, **è comunque sbagliato pensare che sia Artificiale, come Internet può facilitare la possibilità di dire la propria in processi simili, ma anche perché gli esperimenti di CI siano così difficili e cosa possiamo fare a riguardo.** > ### Il Titolo Partiamo chiarendo una cosa: **l’intelligenza artificiale non è artificiale.** Oltre a non essere intelligente (ma questo è un altro discorso, che prima o poi affronteremo), **è abbastanza fuorviante l’idea che sia artificiale:** è molto più “umana” di quanto pensiamo. Tutti i modelli di IA attuali, infatti, hanno la loro potenza grazie ai testi, alle immagini, e a tutti gli altri prodotti degli esseri umani. Al massimo, [per come la mette Morozov](https://www.theguardian.com/commentisfree/2023/mar/30/artificial-intelligence-chatgpt-human-mind), si tratta di **“Non-Artificial Intelligence”, e quindi della rielaborazione di qualcosa prodotto dall’intelligenza umana.** Sgombrato il campo da questa narrazione, appare chiaro che **oltre al “contenuto” delle IA, e quindi a tutti i testi etc., anche i suoi “valori” possano essere umani.** E non solo quelli di chi la programma, che sono probabilmente [troppo rumorosi](http://-%20https://x.com/carissaveliz/status/1717478714248777792?s=46&t=gbAqSAJ_FS1UsFjoLj51HQ) in questo momento, ma anche delle persone “qualunque”, come ha fatto Anthropic (!). Ok, e tutto questo come? **Con l’Intelligenza Collettiva.** ------------------------------------------------------------------------ *Passo indietro.* **Come visto sopra, l’IC ha avuto alcuni recenti campi di applicazione per mobilitare i cittadini** e ha dato loro il potere di dire la propria e contribuire a delle decisioni, solitamente su scala locale. **E questo è stato enormemente favorito da Internet**, anche se ancora con effetti limitati. Questo perché c’è stato chi ha sviluppato applicazioni, siti, processi di partecipazione innovativi, **vincendo una sfida più culturale che tecnologica.** E, soprattutto, capendo che **la democrazia ai tempi di Internet difficilmente può rimanere la stessa**. Su questo mi piace come la mette Pia Mancini, che dice *“We are 21st-century citizens doing our very, very best to interact with 19th-century design institutions based on an information technology of the 15th century.”* Insomma, che, tra le varie, **la facilità di comunicazione e scambio abilitati da internet non sono opportunità da tralasciare per innovare le istituzioni.** Questo vale per tutti i processi decisionali che possono esserci in una città o in un Paese. È l’affascinante campo della democrazia digitale, che prima o poi vedremo in Artifacts. **Ma, altrettanto affascinante, è l’idea di poter democratizzare la tecnologia**, che è quello di cui stiamo parlando oggi. ------------------------------------------------------------------------ Inutile dire che quando si fa Intelligenza Collettiva, specialmente con strumenti digitali, esistono tutta una serie di ostacoli e criticità. **Per menzionarne solo alcuni**, immaginando di dover scrivere una Costituzione per l’IA: - **Il costo,** sia economico che di tempo per rispondere a un sondaggio, magari incontrarsi fisicamente, etc; - **Le disuguaglianze,** in termini di conoscenza dell’IA per parlarne con cognizione di causa, ma soprattutto anche di skills digitali per, banalmente, saper accedere a un tool tipo Pol.is; - **Il gap informativo,** con il rischio che a questi esperimenti partecipino, alla fine, sempre le stesse persone, già interessate e coinvolte; - **La lentezza e la complessità** per chi crea IA di un processo simile, che potrebbe rallentare significativamente lo sviluppo; - e molti altri tipo la effettiva volontà, l’efficacia, la comunicazione, etc. Tutto questo per dire che **digitalizzazione ≠ maggiore partecipazione,** in generale. ------------------------------------------------------------------------ E, in particolare, che un processo qualsiasi di Intelligenza Collettiva per democratizzare tecnologie come le IA **non è certo la panacea di tutti mali o dei rischi delle IA.** Molta responsabilità ricade sempre e comunque su chi le sviluppa, chi le regolamenta, e chi le usa. Tuttavia, degli **esperimenti di Intelligenza Collettiva, come quello di Anthropic, ben ideati, possono essere un passo in avanti.** Possono, ad esempio, migliorare le risposte di un chatbot, adeguando i valori politici, sociali, etici di questi artefatti ad una somma dei valori di chi li utilizza effettivamente. Certo, va precisato che si tratterebbe di una *somma* dei valori, quindi un compromesso, **ma non è forse la democrazia un continuo susseguirsi di compromessi?** Per concludere, non sarà certo solo l’Intelligenza Collettiva a garantirci delle IA sicure e affidabili: molto servirà sia sul piano regolamentare che di sviluppo. Eppure, **queste pratiche per democratizzare le IA potranno essere utili per rendere queste Intelligenze, che non sono Artificiali, un po’ più Collettive.** O, semplicemente, un po’ più **umane**. [Leave a comment](https://artifactstech.substack.com/p/piu-collettiva-che-artificiale-questa/comments) > ### Rassegna (Stampa) Ne avevamo parlato in questa [Artifacts](https://artifactstech.substack.com/p/tu-pagheresti-per-la-privacy-sui), **[ARRIVANO FACEBOOK E INSTAGRAM A PAGAMENTO IN UE](https://about.fb.com/news/2023/10/facebook-and-instagram-to-offer-subscription-for-no-ads-in-europe/)** per chi non vuole il targeted advertising.
L’incredibile TED da cui è presa la citazione di Pia Mancini: [\[Embedded media — view original\]](https://www.youtube-nocookie.com/embed/NXfYNdapq3Q?rel=0&autoplay=0&showinfo=0&enablejsapi=0) **Fronte AI:** Biden e il suo [ordine esecutivo](https://www.reuters.com/technology/white-house-unveils-wide-ranging-action-mitigate-ai-risks-2023-10-30/) per la sicurezza dell’AI, l’UE accoglie il [Codice di Condotta](https://www.reuters.com/technology/g7-agree-ai-code-conduct-companies-g7-document-2023-10-29/) del G7 e conclude [un altro trilogo dell’AI Act](https://www.euractiv.com/section/artificial-intelligence/news/eu-policymakers-enter-the-last-mile-for-artificial-intelligence-rulebook/), e in UK c’è un criticato [summit su AI Safety](https://www.reuters.com/world/uk/uk-set-up-worlds-first-ai-safety-institute-sunak-says-2023-10-26/?taid=653a40dcc1788f0001130950) del governo Dopo un anno di Musk, **X/Twitter non sta tanto bene**, dicono il [NYT](https://www.nytimes.com/interactive/2023/10/27/technology/twitter-x-elon-musk-anniversary.html) e [The Verge](https://www.theverge.com/23934205/elon-musk-twitter-x-one-year-later-acquisition) **E se i social creano dipendenza?** Lo pensano in [USA](https://www.cnbc.com/2023/10/24/bipartisan-group-of-ags-sue-meta-for-addictive-features.html) e se preoccupano in [UE](https://www.europarl.europa.eu/news/ro/press-room/20231023IPR08161/new-eu-rules-needed-to-make-digital-platforms-less-addictive) > ### Lo Scaffale [![](https://substackcdn.com/image/fetch/$s_!1w9k!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F6ebf7a26-fe61-47ef-b9ce-d014454f39be_3240x3240.png)](https://substackcdn.com/image/fetch/$s_!1w9k!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F6ebf7a26-fe61-47ef-b9ce-d014454f39be_3240x3240.png) Quello della *Public Interest Technology* è un campo in ascesa e davvero interessante. ***[Power to the Public](https://press.princeton.edu/books/ebook/9780691216638/power-to-the-public)*** spiega come funziona, quali sono gli ostacoli e, soprattutto, **perché la tecnologia è sempre solo parte del problema e comunque mai la soluzione.** > ### Nerding [![](https://substackcdn.com/image/fetch/$s_!fTOe!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F01360519-8ea8-464e-9a1c-b1c32c5e9006_1080x1080.png)](https://substackcdn.com/image/fetch/$s_!fTOe!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F01360519-8ea8-464e-9a1c-b1c32c5e9006_1080x1080.png) Ok, questo è decisamente più di un tool: è un browser. **[Arc](https://thebrowser.company/)** è quello che uso io perché è incredibile: **hanno ripensato il modo di usare internet**, integrato l’IA rendendola super utile, e migliorano continuamente. La funzione che mi piace di più: **se stai cercando una info specifica in un articolo, puoi chiedere all’AI di farlo per te.** [Lo puoi scaricare qui.](https://arc.net/gift/1627fba6) *Grazie, ci sentiamo martedì prossimo!*