--- title: "Realtà parallele" subtitle: "Non sappiamo bene cosa vogliamo dall'Intelligenza Artificiale" author: "Lorenzo Ancona" date: 2024-04-09 language: en words: 1555 canonical: https://artifactstech.substack.com/p/realta-parallele license: CC BY 4.0 cite_as: "Realtà parallele by Lorenzo Ancona, Artifacts, 2024-04-09. https://artifactstech.substack.com/p/realta-parallele (CC BY 4.0)" --- # Realtà parallele Alla richiesta di generare un'immagine del **Papa**, Gemini, il chatbot IA di Google, ha risposto così: [![](https://substackcdn.com/image/fetch/$s_!UgTY!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fc5d24052-6c3d-4d5a-b709-40451fe3f894_1280x720.png)](https://substackcdn.com/image/fetch/$s_!UgTY!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fc5d24052-6c3d-4d5a-b709-40451fe3f894_1280x720.png) quello a sx mi pare sia addirittura una donna Per dei **soldati della Germania del 1943**, invece, questo è stato l'esito: [![Google pauses AI-generated images of people after ethnicity criticism \| Artificial intelligence (AI) \| The Guardian](https://substackcdn.com/image/fetch/$s_!SG9S!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F61062c13-c3ca-46b7-ab91-6f14ddbef473_445x445.jpeg "Google pauses AI-generated images of people after ethnicity criticism | Artificial intelligence (AI) | The Guardian")](https://substackcdn.com/image/fetch/$s_!SG9S!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F61062c13-c3ca-46b7-ab91-6f14ddbef473_445x445.jpeg) Infine, questi sarebbero i **Padri Fondatori degli Stati Uniti**: [![](https://substackcdn.com/image/fetch/$s_!2noo!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Feeeaa35e-fb03-4543-8a1e-b124c4d51867_750x866.png)](https://substackcdn.com/image/fetch/$s_!2noo!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Feeeaa35e-fb03-4543-8a1e-b124c4d51867_750x866.png) **Tutte immagini storicamente inaccurate o addirittura implausibili.** O meglio, se è possibile che ci sarà un Papa nero un giorno, direi che è da escludere che un indiano fosse insieme a Thomas Jefferson e Benjamin Franklin o che una donna giapponese fosse nelle truppe naziste. Eppure, qualche settimana fa, **l'IA di Google ha generato queste immagini,** oltre a rifiutarsi di chiarire **se fossero più pericolosi i tweet di Elon Musk o le decisioni di Hitler**, di generare una posizione di lavoro come **lobbista di oil&gas**, o anche di fare una campagna di marketing **pro consumo di carne.** Gemini è un'attivista *woke*? **No, affatto, nonostante [le accuse dei conservatori americani.](https://twitter.com/HouseGOP/status/1760646648751894670)** In primis, come macchina, non può sviluppare valori propri e, soprattutto, **queste immagini quantomeno bizzarre sono un errore, umano, di chi l'ha programmata.** Ma allora cos'è successo? [Google lo ha chiarito velocemente](https://blog.google/products/gemini/gemini-image-generation-issue/) con **2 ragioni:** - il tentativo di considerare criteri di inclusione ha portato ad **includere in casi in cui c'è poco da includere** (tipo i soldati tedeschi); - col tempo, **Gemini è diventata fin troppo cauta**, addirittura rifiutandosi di rispondere a certe domande non pericolose (tipo quella del lobbista) **E Google allora ha rimosso l'opzione di generazione immagini da Gemini**, che è tuttora indisponibile. ------------------------------------------------------------------------ In gergo, l'errore, tutto umano, è quello della ***"overcompensation"***: col fine di evitare dei bias conosciuti, **si finisce per esagerare**, creando situazioni imbarazzanti. Quali sono questi bias? **Il Washington Post ne ha fatto una [bella inchiesta](https://www.washingtonpost.com/technology/interactive/2023/ai-generated-images-bias-racism-sexism-stereotypes/)** su un altro tool IA di generazione immagini, da cui è preso questo: [![](https://substackcdn.com/image/fetch/$s_!ei-o!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F4b60491c-5507-43ac-a361-20ee8950f4f1_2056x1219.png)](https://substackcdn.com/image/fetch/$s_!ei-o!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F4b60491c-5507-43ac-a361-20ee8950f4f1_2056x1219.png) Ecco, **seppur a giocare a calcio siano statisticamente più uomini, non sono SOLO gli uomini a farlo.** Sulle pulizie non ho trovato statistiche, ma mi sento di dire che non sia solo una faccenda da donne. *Spero.* Ovviamente, non è un problema relativo solo alla generazione di immagini, ma **anche a quella di testo.** Qualche giorno prima che uscisse ChatGPT nel 2022, avevo fatto un [progetto per l'università](https://github.com/lorenzoancona/group_project/blob/main/English_exp2_1.png) in cui trovavo che **GPT associava aggettivi come “dolce” o “incompetente” con percentuali molto superiori alle donne**, mentre “competente” o “violento” erano per gli uomini (tra l'altro ho scoperto ora che è stato ripreso dal [Domani](https://www.editorialedomani.it/tecnologia/lintelligenza-artificiale-ha-imparato-a-essere-razzista-e-sessista-glw75cwl)!). Allora, **nel tentativo di creare una IA "giusta"** (nel senso di *"fair",* in inglese) **a Google hanno cercato di compensare i bias, ma hanno esagerato.** E così ne è scaturita non una IA più giusta, ma una che generava **immagini con errori fattuali, che non hanno nulla a che fare con valori e principi di uguaglianza o inclusione.** ------------------------------------------------------------------------ Comunque, al di là di Google, che sta lavorando per sistemare Gemini e della quale va anche apprezzato di aver riconosciuto gli errori, oggi Artifacts si fa una domanda essenziale: ***Quale realtà vogliamo che sia generata dall'IA?*** O meglio, vogliamo che replichi la realtà così com'è, riflettendone ingiustizie o disuguaglianze, o **dovremmo piuttosto preferire una realtà a cui aspiriamo, che ci auspichiamo, e verso la quale vorremmo tendere?** Insomma, vogliamo essere dei crassi empiristi attaccati alle statistiche o **ricordarci che gli algoritmi**, poiché allenati su dati del passato, prossimo o remoto, **in realtà tendono a ["predire il passato, più che il futuro"?](https://mitpress.mit.edu/9780262538961/the-smart-enough-city/)** Complessa, ma proviamoci. > ### La Storia **Premessa:** lascia da parte il caso di Gemini, che è estremo. La reazione, di pancia, che potrebbe venire è "ok, bello il progresso, ma se la realtà ha determinate caratteristiche, **non la cambieremo certo perché le immagini generate dall'IA sono più giuste".** È un pensiero ragionevole, al quale però va contrapposta l'idea che **se le cose sono sempre state in una certa maniera** - che non ci soddisfa più -, **non significa che debbano continuare a esserlo.** Basta astrazione, **esempio**. **Immaginiamo di chiedere ad un'IA di generare un CEO.** In inglese, quindi no differenze di genere. Da un lato è vero che la maggior parte dei CEO sono uomini, **quindi ha senso che ciò venga riflesso negli output.** Dall'altro, le cose - per fortuna - stanno cambiando e continuare a generare uomini CEO sarebbe contrario al cambiamento e, soprattutto, itererebbe uno stereotipo del passato. **Sarebbero, quindi, forse preferibili degli output che tengano conto del presente, magari leggermente spostati verso un modello a cui aspiriamo?** Insomma, un po' più CEO donne? ------------------------------------------------------------------------ **La questione è socio-politica, ma è in realtà anche profondamente tecnica.** D'altronde, "artifacts do have politics" :). E pone un interrogativo a chi sviluppa l'IA: **preferire modelli e software numericamente accurati**, dunque privi di bias statistici ma con bias sociali, **oppure "combattere" e limitare i bias sociali ma con ripercussioni sull'accuratezza dei modelli?** Ne potremmo discutere per ore. La tendenza dell'industria è quella di cercare di **controllare e mitigare gli output dell'IA Generativa.** Si può fare a priori, **manipolando i dati di training o con umani che "correggono" gli output in una fase di test**, oppure a posteriori, facendo del ***"prompt transformation"**.* Ossia, una volta ricevuto un prompt dall'utente, il tool lo "riscrive", sia per dare istruzioni più precise a se stesso che per limare ed evitare casi spiacevoli. Lo fa ChatGPT Plus, e si pensa che lo facesse anche Gemini, con i risultati che abbiamo visto sopra. A prescindere dalla tecnica, però, un elemento è chiaro: **la responsabilità di chi sviluppa l'IA.** Dato che, [come Floridi spiega bene](https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4551487), la neutralità non esiste, ecco che **le aziende tech**, come Google o OpenAI, **devono capire che realtà vogliono riflettere.** [![](https://substackcdn.com/image/fetch/$s_!mqra!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F9d162251-d8ae-4dd6-8ef6-d76e326cc892_1024x1024.webp)](https://substackcdn.com/image/fetch/$s_!mqra!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F9d162251-d8ae-4dd6-8ef6-d76e326cc892_1024x1024.webp) Mica mi ero scordato il disegnino eh! *Creato con DALL-E* Soprattutto, nel caso di Google, questo viene con un **cambiamento radicale:** se prima cercavamo la foto di un CEO su Google Search e il risultato erano solo uomini, la responsabilità di Google era limitata al ranking. Ora, invece, l'immagine è generata da un tool sviluppato da Google, **quindi c'è molto più margine per prendersela con Google.** (Chi sia responsabile degli output dell'IA è questione vasta su cui riflettiamo un'altra volta). ------------------------------------------------------------------------ Rispetto alle soluzioni, **esistono varie proposte.** Per semplificare, vediamo una prima dimensione in cui i tool, quindi le aziende, cercano di defilarsi, e un'altra in cui sono centrali. Nella prima, che suggerisce Kevin Roose in [Hard Fork](https://www.nytimes.com/2024/03/01/podcasts/hardfork-google-gemini-kara-swisher.html), **l'idea è di lasciare la scelta all'utente e di personalizzare l'uso che fa dell'IA.** Ad esempio, se chiediamo una foto dei nostri amati CEO, i tool potrebbero fare domande aggiuntive all'utente per capirne finalità e valori, e quindi generare output adatti alla circostanza. Qui, chiaramente, **si rischia di rinforzare agli estremi le visioni degli utenti,** ma d'altronde OpenAI produce tecnologia, non un corso di etica. Nella seconda, invece, **le aziende definiscono dei valori per le tecnologie che producono.** Quindi non è solo ingegneria informatica, ma anche **ingegneria valoriale.** In questo modo, fanno ciò di cui [Kate Crawford](https://www.degruyter.com/document/doi/10.12987/9780300252392/html?lang=en#Harvard) ha scritto come **"creazione e perimetrazione della realtà".** Inutile dire che qua la responsabilità è tanta tanta. Alla fine, **ne risulta ingigantita l'influenza sulla realtà di aziende private**, con i loro legittimi ma privati interessi. Che non è mica una cosa da condannare, ma un fatto di cui è bene essere consapevoli. E se molto abbiamo scritto e letto del ruolo dei social, e quindi di privati, nel *come* ci mostravano la realtà, **ora si profila uno scenario in cui decifrare** ***quali*** **realtà vengano generate.** Tra l'altro, se è davvero difficile capire che forma dare a queste realtà, è **anche importante ricordare che è una decisione comunque in mano ai pochi che la tecnologia la costruiscono.** No critica, dato di fatto. [Leave a comment](https://artifactstech.substack.com/p/realta-parallele/comments) > ### Rassegna (Stampa) **Il giornalismo incontra l’IA**, [al FT](https://www.theverge.com/2024/3/23/24106296/ask-ft-generative-ai-chatbot-answers-tool). Ci si chiede se [sarà o meno una rivoluzione.](https://www.cjr.org/tow_center/qa-ai-in-newsrooms-revolution-or-retooling.php) Qui una [database di tutti i casi di utilizzo](https://airtable.com/appdaeDwFizD4RK0u/shrKhe7Js48HvBhmG/tblBcSZESOAuy5Q9A) finora. **L’UE ha consigliato alle piattaform**e [come mitigare i rischi durante le elezioni](https://www.cjr.org/tow_center/qa-ai-in-newsrooms-revolution-or-retooling.php), a partire dal DSA. E Mozilla Foundation ripercorre la storia di [tutto quello che hanno fatto le piattaforme](https://foundation.mozilla.org/en/campaigns/platforms-promises-and-politics/) negli anni passati. Perché non dovremmo usare [Whatsapp](https://www.linkedin.com/posts/brunogiussani_not-using-whatsapp-i-dont-use-whatsapp-activity-7178666175692742657-kx0g/)? **OpenAI** avrebbe [“rubato” i video di YouTube](https://www.theverge.com/2024/4/6/24122915/openai-youtube-transcripts-gpt-4-training-data-google) per addestrare la sua IA. Però ha aggiunto una [funzione molto carina a DALL-E.](https://www.theverge.com/2024/4/3/24120181/openai-dall-e-chat-gpt-image-edit) Nel frattempo, **Google** potrebbe mettere la sua [IA a pagamento.](https://on.ft.com/3xoZPYA) Ma cosa stracavolo sono i **microchip**? [Pezzo incredibile del FT](https://ig.ft.com/microchips/) Il problemone dei [deepfake](https://www.ft.com/content/04dcc944-49a4-4a2d-808c-26551681a222). E **l’AI Act** che ha [qualche falla](https://edri.org/our-work/eu-ai-act-fails-to-set-gold-standard-for-human-rights/) secondo delle organizzazioni civili. [Ma l’IA sa di essere IA?](https://joshwhiton.substack.com/p/the-ai-mirror-test?source=Email_0_EDT_WIR_NEWSLETTER_0_TRANSPORTATION_ZZ&bxid=6356a0ac954628036104e708&cndid=71263277&esrc=AIHub-regGate&triedRedirect=true) Molto carina questa storia **Ok, bella la privacy, ma se la facciamo rispettare.** Ho fatto un video per NOS, **con un cookie,** basta cliccare :) [![](https://substackcdn.com/image/fetch/$s_!_bUx!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Ff7d3e921-9192-492a-b2ca-cb3db2790434_468x724.png)](https://www.instagram.com/reel/C5YrJ9XMMQx/?utm_source=ig_web_copy_link&igsh=MzRlODBiNWFlZA==) > ### Lo Scaffale [![](https://substackcdn.com/image/fetch/$s_!sL2W!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fbe969347-11a6-4cb1-8238-34254cd0285d_1080x1080.png)](https://substackcdn.com/image/fetch/$s_!sL2W!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fbe969347-11a6-4cb1-8238-34254cd0285d_1080x1080.png) Questo prima o poi volevo consigliarlo, è il classico libro per iniziare sull’IA o per avere delle prospettive etiche e filosofiche interessanti. **Luciano Floridi e Cabitza** sono presumibilmente tra gli italiani più forti sul tema. **Breve, si legge in due ore, ma veramente illuminante.** 📚 **Tutti, ma proprio tutti, i libri consigliati in Artifacts sono raccolti [qui](https://airtable.com/appK7fMPX1DMkQYzL/shrRh8TgI7GtmgBxM/tblWFBDnOoRBU47XM/viwdSxYeauFmB0EIM)** > ### Nerding [![](https://substackcdn.com/image/fetch/$s_!ZyN2!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F91a141de-cadf-4975-9d3f-d84bfa8d356d_1080x1080.png)](https://substackcdn.com/image/fetch/$s_!ZyN2!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F91a141de-cadf-4975-9d3f-d84bfa8d356d_1080x1080.png) Se cerchi ispirazione per visualizzare dei dati, **[DataViz Project](https://datavizproject.com/)** è tra i migliori. Tra l’altro, oltre alla varietà di soluzioni, anche le grafiche sono davvero belle belle.