---
title: "Non è una cosa per pochi"
subtitle: "Perché le vicende interne ad OpenAI non sono solo interne e, anzi, ci riguardano"
author: "Lorenzo Ancona"
date: 2023-11-28
language: it
words: 1611
canonical: https://artifactstech.substack.com/p/non-e-una-cosa-per-pochi
license: CC BY 4.0
cite_as: "Non è una cosa per pochi by Lorenzo Ancona, Artifacts, 2023-11-28. https://artifactstech.substack.com/p/non-e-una-cosa-per-pochi (CC BY 4.0)"
---
# Non è una cosa per pochi
Senza nessuna spiegazione chiara, la scorsa settimana Sam Altman, CEO di OpenAI, la società che ha sviluppato ChatGPT, è stato licenziato e poi riassunto nel giro di 4 giorni.
Nel frattempo, per qualche ora era stato assunto da Microsoft e OpenAI stava per saltare in aria con quasi tutti i dipendenti che minacciavano di andarsene.
Per aprire le cose servono le chiavi. Creata con DALL-E 3.
Come è stato possibile? OpenAI non è una azienda tecnologica come le altre, tipo Meta e Google. Quando è stata fondata, nel 2015, sembrava più un centro di ricerca o un think tank, ma soprattutto era non-profit.
L’obiettivo? Sviluppare la cosiddetta “Artificial General Intelligence” (AGI), ossia una AI più intelligente degli esseri umani, a beneficio del genere umano. Al punto che scrivevano “il nostro principale dovere fiduciario è nei confronti dell'umanità”. Ed essere non-profit assicurava che lo sviluppo dell’AGI, ritenuta un’opportunità ma anche un grosso rischio, fosse portato avanti secondo criteri di sicurezza e non logiche di profitto.
Un intento decisamente nobile. Che non è poi un unicum perché anche altre aziende, come DeepMind e Anthropic hanno strutture di governance in cui si cerca di anteporre la sicurezza al profitto.
Poi, nel 2019, dato che sviluppare l’IA ha un costo non indifferente, OpenAI ha previsto una sotto sezione for-profit per attrarre maggiori investimenti, ma comunque sempre sotto il controllo del board originario, quello non-profit. In ogni caso, si precisava che tutti i guadagni di questa nuova sezione sarebbero andati a quella non-profit per finanziare la ricerca. Ed è così che, negli anni, sono arrivati i 13 miliardi in finanziamenti di Microsoft, che hanno permesso a OpenAI di diventare quello che è oggi.
La non poco complessa struttura di governance di OpenAI. Il focus deve essere sul “Board of Directors” in alto e su "OpenAI Global” in basso
------------------------------------------------------------------------
Il caos-caso Altman degli ultimi giorni si origina, probabilmente, qui. Progressivamente, infatti, all’interno della società si sviluppano due fazioni:
1. Una estremamente preoccupata per l’evoluzione dell’IA, e che la vuole sviluppare con cautela per evitare che distrugga l’umanità (no, non è una battuta); qui ci stanno soprattutto i rappresentanti del “Board of Directors” che hanno fatto fuori Altman;
2. Una che considera l’IA uno strumento trasformativo, capace di aprire una nuova era di prosperità, e quindi più orientata al profitto; e qui c’è in prima fila Altman, che ha tentato (ed è riuscito) di trasformare OpenAI in una tech company come le altre;
E l’equilibrio tra le due non era affatto facile. Soprattutto nell’ultimo anno, quando ChatGPT guadagna una popolarità incredibile e gli investimenti si moltiplicano, l’appetito per una crescita repentina mette a dura prova il tentativo di rallentare l’IA per ragioni di sicurezza.
------------------------------------------------------------------------
Date queste premesse, l’evoluzione della vicenda Altman e le implicazioni per il futuro si fanno particolarmente interessanti. Con una idea, essenziale, da tenere in mente: benché si tratti di una società privata, le dinamiche interne ad OpenAI ci riguardano e, soprattutto, riguardano come i governi cercheranno di regolamentare l’IA.
Per questo, oggi Artifacts vedrà come è cambiata OpenAI, ma soprattutto perché il futuro prossimo conta più di quello remoto, perché è ancora meno “Open” di prima e cosa, invece, dovrebbe essere più “open”.
> ### Il Titolo
In OpenAI non è solo tornato Sam Altman, ma è cambiato quasi tutto il Board of Directors, ossia gli stessi che avevano cacciato Altman.
Senza avventurarci nei nomi, il risultato chiave è: ha vinto il Team Capitalismo, ha perso il Team Leviatano. O meglio, ha vinto il Team di chi vuole sviluppare l’IA per ragioni di profitto e ha perso il Team di quelli fortemente preoccupati dello sviluppo dell’IA e dei rischi per l’umanità.
Attenzione, però: non ci sono buoni o cattivi.
Da un lato, molti del board appartenevano al “lungotermismo”, una “filosofia” controversa che mira a massimizzare i benefici del genere umano nel lungo periodo, e per tale fine, pronta a giustificare qualsiasi “sfruttamento, manipolazione e trasformazione della natura in nome di un presunto e lontanissimo avvenire utopico”. Insomma, attenti ai rischi dell’IA, ma sempre in un futuro molto remoto più che nell’oggi. Conta diversi esponenti di valore nelle sue fila, ma sta anche ricevendo notevoli critiche, come quella del prof. Ghani, per il quale questo schiacciamento sul futuro “distrae totalmente dai rischi reali e concreti che si stanno verificando ora”.
Dall’altro, quelli del nuovo board sembrano essere più trasparenti: sviluppare l’IA per fare profitto e accelerare ulteriormente. Tuttavia, ancora è poco chiara la direzione ed esiste un elemento non di poco conto: ad oggi, nessuna donna fa parte del board. Cosa che, se stai costruendo una tecnologia trasformativa per il genere umano, non può non far storcere il naso.
------------------------------------------------------------------------
Chi, indubbiamente, da questa vicenda esce vincitore è Satya Nadella, CEO di Microsoft, che ha fatto di tutto per far riassumere Altman in OpenAI, persino assumerlo in Microsoft per qualche ora.
La ragione? Basta guardare questo grafico
Microsoft bets big on OpenAI: oltre metà di tutti gli investimenti nel settore Generative AI dell’ultimo anno sono soldi che Microsoft ha dato all’azienda di Altman. Tra le due c’è un rapporto di dipendenza assoluta: senza i soldi di Microsoft, OpenAI non potrebbe fare tutto quello che fa, ma Microsoft senza OpenAI vedrebbe saltare in aria i suoi tool di IA, che sono 100% abilitati da OpenAI. Insomma, anche qui, follow the money.
Tra l’altro, non si esclude che Microsoft ora possa avere un posto nel Board, sempre non-profit, che controlla OpenAI. D’altronde, immaginate investire 13 miliardi in un’azienda e non poter dire una parola su come viene gestita.
Tuttavia, una conseguenza è lampante: un’altra volta, lo sviluppo della tecnologia gravita attorno agli stessi giganti. Se l’IA può sembrare portata avanti da delle start-up, alla fine dei conti tutte dipendono dalle risorse e dai mezzi delle BigTech, con un mercato sempre molto concentrato. Che - sia chiaro - non è un bene o un male, ma un elemento da non ignorare.
------------------------------------------------------------------------
Ma soprattutto, alzando lo sguardo da OpenAI, questa settimana rende chiaro che una manciata di persone in Silicon Valley ha il potere di decidere il futuro della tecnologia e, in questo caso, dell’IA. E, se davvero l’IA, come sostiene anche Sam Altman ha bisogno urgente di regolamentazione, questo scenario non è dei migliori.
Il nocciolo della questione, insomma, non è se un giorno l’IA arriverà a comandarci. Scenario che, a onor del vero, è inverosimile secondo molti. Piuttosto, è che oggi, e non in futuro, un potere enorme sull’IA è esercitato da pochi con conseguenze su tutti. Dinamica già vista, ma particolarmente pericolosa se davvero l’IA porta tutti i rischi descritti dagli stessi che hanno potere su di essa.
Una dimensione essenziale, allora, è quella temporale. A chi ha potere sull’IA conviene descrivere scenari futuri apocalittici per posizionarsi, de facto, come salvatore dell’umanità. Ma l’urgenza è qui ed oggi, con dei rischi (e delle opportunità, ovviamente), come l’impatto sul lavoro o sulla formazione - non l’estinzione dell’umanità - che sono già concreti.
E, di conseguenza, che molte delle conversazioni sull’IA avvengano a porte chiuse, e scatenino terremoti come quello di Altman senza grande trasparenza, è ciò che dovrebbe preoccuparci maggiormente.
Soprattutto, dovrebbe preoccupare le istituzioni che cercano di mettere delle regole all’IA. Al di là di OpenAI, quello che serve è la capacità “to open AI”, ossia di ascoltare e capire chi guida l’innovazione, come le aziende della Silicon Valley, ma non lasciare che siano loro, a porte chiuse, a decidere come deve procedere questa storia dell’Intelligenza Artificiale.
Ci sono tante, molte altre, voci da ascoltare e, soprattutto, la necessità che le dinamiche di profitto e mercato, essenziali perché ci sia innovazione (!), siano bilanciate e frenate da uno sviluppo sicuro. Non ce l’ha fatta, pare, la complessa struttura di governance di OpenAI, ma possono farcela i governments.
Lascia un commento
> ### Rassegna (Stampa)
AI Act, ancora, non nel suo momento migliore. Continuano le negoziazioni. Un appello, interessante, di alcuni esperti.
Ma l’Europa cosa impara da questa storia di OpenAI?
Ricordi la storia dei social a pagamento? Noyb attacca Meta sul GDPR
13 e 14 dicembre l’Italia vota online, ma per spendere dei soldi che andavano spesi.
Ho scritto il paper “Artificial intelligence: Europe needs to start dreaming again”. Se non per il testo, da aprire per vedere meglio la copertina cla-mo-ro-sa creata con l’AI!
> ### Lo Scaffale
A proposito di governance e governments, “The Digital Republic” di Jamie Susskind è uno dei must-read su come governare la tecnologia ma anche su come usarla per governare. Ok, è un mattone, ma scorre. Giuro.
> ### Nerding
Immagina una vetrina della tua vita digitale con i tuoi social, la tua newsletter, il tuo YouTube, i tuoi podcast e le tue foto. Una sorta di biglietto da visita del te online. Ecco, Bento ti permette di farlo con una User Interface semplice ma stra-intuitiva. In settimana faccio la mia Bento Box anche io ;)
P.S. Lo avevo in lista ma lo avevo dimenticato, è qui grazie a Giovanni Pernazza, amico e lettore di Artifacts :)
La non poco complessa struttura di governance di OpenAI. Il focus deve essere sul “Board of Directors” in alto e su "OpenAI Global” in basso
------------------------------------------------------------------------
Il caos-caso Altman degli ultimi giorni si origina, probabilmente, qui. Progressivamente, infatti, all’interno della società si sviluppano due fazioni:
1. Una estremamente preoccupata per l’evoluzione dell’IA, e che la vuole sviluppare con cautela per evitare che distrugga l’umanità (no, non è una battuta); qui ci stanno soprattutto i rappresentanti del “Board of Directors” che hanno fatto fuori Altman;
2. Una che considera l’IA uno strumento trasformativo, capace di aprire una nuova era di prosperità, e quindi più orientata al profitto; e qui c’è in prima fila Altman, che ha tentato (ed è riuscito) di trasformare OpenAI in una tech company come le altre;
E l’equilibrio tra le due non era affatto facile. Soprattutto nell’ultimo anno, quando ChatGPT guadagna una popolarità incredibile e gli investimenti si moltiplicano, l’appetito per una crescita repentina mette a dura prova il tentativo di rallentare l’IA per ragioni di sicurezza.
------------------------------------------------------------------------
Date queste premesse, l’evoluzione della vicenda Altman e le implicazioni per il futuro si fanno particolarmente interessanti. Con una idea, essenziale, da tenere in mente: benché si tratti di una società privata, le dinamiche interne ad OpenAI ci riguardano e, soprattutto, riguardano come i governi cercheranno di regolamentare l’IA.
Per questo, oggi Artifacts vedrà come è cambiata OpenAI, ma soprattutto perché il futuro prossimo conta più di quello remoto, perché è ancora meno “Open” di prima e cosa, invece, dovrebbe essere più “open”.
> ### Il Titolo
In OpenAI non è solo tornato Sam Altman, ma è cambiato quasi tutto il Board of Directors, ossia gli stessi che avevano cacciato Altman.
Senza avventurarci nei nomi, il risultato chiave è: ha vinto il Team Capitalismo, ha perso il Team Leviatano. O meglio, ha vinto il Team di chi vuole sviluppare l’IA per ragioni di profitto e ha perso il Team di quelli fortemente preoccupati dello sviluppo dell’IA e dei rischi per l’umanità.
Attenzione, però: non ci sono buoni o cattivi.
Da un lato, molti del board appartenevano al “lungotermismo”, una “filosofia” controversa che mira a massimizzare i benefici del genere umano nel lungo periodo, e per tale fine, pronta a giustificare qualsiasi “sfruttamento, manipolazione e trasformazione della natura in nome di un presunto e lontanissimo avvenire utopico”. Insomma, attenti ai rischi dell’IA, ma sempre in un futuro molto remoto più che nell’oggi. Conta diversi esponenti di valore nelle sue fila, ma sta anche ricevendo notevoli critiche, come quella del prof. Ghani, per il quale questo schiacciamento sul futuro “distrae totalmente dai rischi reali e concreti che si stanno verificando ora”.
Dall’altro, quelli del nuovo board sembrano essere più trasparenti: sviluppare l’IA per fare profitto e accelerare ulteriormente. Tuttavia, ancora è poco chiara la direzione ed esiste un elemento non di poco conto: ad oggi, nessuna donna fa parte del board. Cosa che, se stai costruendo una tecnologia trasformativa per il genere umano, non può non far storcere il naso.
------------------------------------------------------------------------
Chi, indubbiamente, da questa vicenda esce vincitore è Satya Nadella, CEO di Microsoft, che ha fatto di tutto per far riassumere Altman in OpenAI, persino assumerlo in Microsoft per qualche ora.
La ragione? Basta guardare questo grafico
Microsoft bets big on OpenAI: oltre metà di tutti gli investimenti nel settore Generative AI dell’ultimo anno sono soldi che Microsoft ha dato all’azienda di Altman. Tra le due c’è un rapporto di dipendenza assoluta: senza i soldi di Microsoft, OpenAI non potrebbe fare tutto quello che fa, ma Microsoft senza OpenAI vedrebbe saltare in aria i suoi tool di IA, che sono 100% abilitati da OpenAI. Insomma, anche qui, follow the money.
Tra l’altro, non si esclude che Microsoft ora possa avere un posto nel Board, sempre non-profit, che controlla OpenAI. D’altronde, immaginate investire 13 miliardi in un’azienda e non poter dire una parola su come viene gestita.
Tuttavia, una conseguenza è lampante: un’altra volta, lo sviluppo della tecnologia gravita attorno agli stessi giganti. Se l’IA può sembrare portata avanti da delle start-up, alla fine dei conti tutte dipendono dalle risorse e dai mezzi delle BigTech, con un mercato sempre molto concentrato. Che - sia chiaro - non è un bene o un male, ma un elemento da non ignorare.
------------------------------------------------------------------------
Ma soprattutto, alzando lo sguardo da OpenAI, questa settimana rende chiaro che una manciata di persone in Silicon Valley ha il potere di decidere il futuro della tecnologia e, in questo caso, dell’IA. E, se davvero l’IA, come sostiene anche Sam Altman ha bisogno urgente di regolamentazione, questo scenario non è dei migliori.
Il nocciolo della questione, insomma, non è se un giorno l’IA arriverà a comandarci. Scenario che, a onor del vero, è inverosimile secondo molti. Piuttosto, è che oggi, e non in futuro, un potere enorme sull’IA è esercitato da pochi con conseguenze su tutti. Dinamica già vista, ma particolarmente pericolosa se davvero l’IA porta tutti i rischi descritti dagli stessi che hanno potere su di essa.
Una dimensione essenziale, allora, è quella temporale. A chi ha potere sull’IA conviene descrivere scenari futuri apocalittici per posizionarsi, de facto, come salvatore dell’umanità. Ma l’urgenza è qui ed oggi, con dei rischi (e delle opportunità, ovviamente), come l’impatto sul lavoro o sulla formazione - non l’estinzione dell’umanità - che sono già concreti.
E, di conseguenza, che molte delle conversazioni sull’IA avvengano a porte chiuse, e scatenino terremoti come quello di Altman senza grande trasparenza, è ciò che dovrebbe preoccuparci maggiormente.
Soprattutto, dovrebbe preoccupare le istituzioni che cercano di mettere delle regole all’IA. Al di là di OpenAI, quello che serve è la capacità “to open AI”, ossia di ascoltare e capire chi guida l’innovazione, come le aziende della Silicon Valley, ma non lasciare che siano loro, a porte chiuse, a decidere come deve procedere questa storia dell’Intelligenza Artificiale.
Ci sono tante, molte altre, voci da ascoltare e, soprattutto, la necessità che le dinamiche di profitto e mercato, essenziali perché ci sia innovazione (!), siano bilanciate e frenate da uno sviluppo sicuro. Non ce l’ha fatta, pare, la complessa struttura di governance di OpenAI, ma possono farcela i governments.
Lascia un commento
> ### Rassegna (Stampa)
AI Act, ancora, non nel suo momento migliore. Continuano le negoziazioni. Un appello, interessante, di alcuni esperti.
Ma l’Europa cosa impara da questa storia di OpenAI?
Ricordi la storia dei social a pagamento? Noyb attacca Meta sul GDPR
13 e 14 dicembre l’Italia vota online, ma per spendere dei soldi che andavano spesi.
Ho scritto il paper “Artificial intelligence: Europe needs to start dreaming again”. Se non per il testo, da aprire per vedere meglio la copertina cla-mo-ro-sa creata con l’AI!
A proposito di governance e governments, “The Digital Republic” di Jamie Susskind è uno dei must-read su come governare la tecnologia ma anche su come usarla per governare. Ok, è un mattone, ma scorre. Giuro.
> ### Nerding
Immagina una vetrina della tua vita digitale con i tuoi social, la tua newsletter, il tuo YouTube, i tuoi podcast e le tue foto. Una sorta di biglietto da visita del te online. Ecco, Bento ti permette di farlo con una User Interface semplice ma stra-intuitiva. In settimana faccio la mia Bento Box anche io ;)
P.S. Lo avevo in lista ma lo avevo dimenticato, è qui grazie a Giovanni Pernazza, amico e lettore di Artifacts :)