Questo articolo è stato postato sul blog di Sam Altman, fondatore e CEO di OpenAI
La nostra missione è garantire che l’AGI (Intelligenza Generale Artificiale) porti benefici a tutta l’umanità.
I sistemi che iniziano a puntare all’AGI stanno emergendo, e quindi riteniamo importante comprendere il momento in cui ci troviamo. L’AGI è un termine definito in modo debole, ma in generale intendiamo un sistema in grado di affrontare problemi sempre più complessi, a livello umano, in molti campi.
Le persone sono costruttori di strumenti con una spinta intrinseca a comprendere e creare, il che porta a un mondo migliore per tutti noi. Ogni nuova generazione costruisce sulle scoperte delle generazioni precedenti per creare strumenti ancora più capaci—l’elettricità, il transistor, il computer, internet e presto l’AGI.
Nel tempo, a singhiozzo, la marcia costante dell’innovazione umana ha portato livelli di prosperità e miglioramenti precedentemente inimmaginabili in quasi ogni aspetto della vita delle persone.
In un certo senso, l’AGI è solo un altro strumento in questo sempre più alto impalcatura del progresso umano che stiamo costruendo insieme. In un altro senso, è l’inizio di qualcosa per cui è difficile non dire “questa volta è diverso”; la crescita economica che ci attende sembra straordinaria, e possiamo ora immaginare un mondo in cui curiamo tutte le malattie, abbiamo molto più tempo da dedicare alle nostre famiglie e possiamo realizzare appieno il nostro potenziale creativo.
Tra un decennio, forse ogni persona sulla Terra sarà in grado di realizzare più di quanto possa fare oggi la persona più influente.
Continuiamo a vedere rapidi progressi nello sviluppo dell’AI. Ecco tre osservazioni sull’economia dell’AI:
1. L’intelligenza di un modello di AI è approssimativamente uguale al logaritmo delle risorse utilizzate per addestrarlo e farlo funzionare. Queste risorse sono principalmente il calcolo di addestramento, i dati e il calcolo di inferenza. Sembra che si possano spendere quantità arbitrarie di denaro e ottenere guadagni continui e prevedibili; le leggi di scala che prevedono questo sono accurate su molti ordini di grandezza.
2. Il costo per utilizzare un determinato livello di AI diminuisce di circa 10 volte ogni 12 mesi, e prezzi più bassi portano a un uso molto maggiore. Puoi vederlo nel costo dei token da GPT-4 all’inizio del 2023 a GPT-4o a metà del 2024, dove il prezzo per token è diminuito di circa 150 volte in quel periodo. La legge di Moore ha cambiato il mondo con un raddoppio ogni 18 mesi; questo è incredibilmente più forte.
3. Il valore socioeconomico di un’intelligenza che aumenta linearmente è di natura super-esponenziale. Una conseguenza di ciò è che non vediamo ragioni per cui l’investimento esponenzialmente crescente si fermerà nel prossimo futuro.
Se queste tre osservazioni continueranno a essere vere, gli impatti sulla società saranno significativi.
Stiamo iniziando a distribuire agenti di AI, che alla fine sembreranno colleghi virtuali.
Immaginiamo il caso di un agente di ingegneria del software, che è un agente che ci aspettiamo sia particolarmente importante. Immagina che questo agente alla fine sarà in grado di fare la maggior parte delle cose che un ingegnere del software in una società di punta con alcuni anni di esperienza potrebbe fare, per compiti fino a un paio di giorni. Non avrà le idee più grandi, richiederà molta supervisione e direzione umana, e sarà bravo in alcune cose ma sorprendentemente scarso in altre.
Tuttavia, immaginalo come un collega virtuale reale ma relativamente junior. Ora immagina 1.000 di loro. O 1 milione di loro. Ora immagina tali agenti in ogni campo del lavoro intellettuale.
In qualche modo, l’AI potrebbe rivelarsi economicamente simile al transistor—una grande scoperta scientifica che si scala bene e che si insinua in quasi ogni angolo dell’economia. Non pensiamo molto ai transistor, o alle società di transistor, e i guadagni sono molto ampiamente distribuiti. Ma ci aspettiamo che i nostri computer, TV, auto, giocattoli e altro ancora compiano miracoli.
Il mondo non cambierà tutto in una volta; non lo fa mai. La vita continuerà per lo più uguale nel breve termine, e le persone nel 2025 passeranno il loro tempo per lo più nello stesso modo in cui lo facevano nel 2024. Ci innamoreremo ancora, creeremo famiglie, litigheremo online, faremo escursioni nella natura, ecc.
Ma il futuro arriverà in un modo impossibile da ignorare, e i cambiamenti a lungo termine per la nostra società e economia saranno enormi. Troveremo nuove cose da fare, nuovi modi per essere utili gli uni agli altri e nuovi modi per competere, ma potrebbero non assomigliare molto ai lavori di oggi.
L’agency, la volontà e la determinazione saranno probabilmente estremamente preziose. Decidere correttamente cosa fare e capire come navigare in un mondo in continua evoluzione avrà un enorme valore; la resilienza e l’adattabilità saranno abilità utili da coltivare. L’AGI sarà la leva più grande mai vista sulla volontà umana e permetterà alle persone di avere un impatto maggiore che mai, non minore.
Ci aspettiamo che l’impatto dell’AGI sia disomogeneo. Sebbene alcune industrie cambieranno molto poco, il progresso scientifico sarà probabilmente molto più veloce di quanto non sia oggi; questo impatto dell’AGI potrebbe superare tutto il resto.
Il prezzo di molti beni alla fine diminuirà drasticamente (in questo momento, il costo dell’intelligenza e il costo dell’energia limitano molte cose), e il prezzo dei beni di lusso e di alcune risorse intrinsecamente limitate come la terra potrebbe aumentare ancora più drasticamente.
Tecnicamente parlando, la strada davanti a noi sembra abbastanza chiara. Ma la politica pubblica e l’opinione collettiva su come dovremmo integrare l’AGI nella società contano molto; una delle nostre ragioni per lanciare prodotti presto e spesso è dare alla società e alla tecnologia il tempo di co-evolvere.
L’AI si insinuerà in tutte le aree dell’economia e della società; ci aspettiamo che tutto sia intelligente. Molti di noi si aspettano di dover dare alle persone più controllo sulla tecnologia di quanto non abbiamo fatto storicamente, incluso l’open-source di più, e accettare che ci sia un equilibrio tra sicurezza e empowerment individuale che richiederà compromessi.
Anche se non vogliamo mai essere avventati e ci saranno probabilmente alcune decisioni e limitazioni importanti relative alla sicurezza dell’AGI che saranno impopolari, in linea di massima, man mano che ci avviciniamo al raggiungimento dell’AGI, crediamo che tendere maggiormente verso l’empowerment individuale sia importante; l’altro percorso probabile che possiamo vedere è l’AI utilizzata da governi autoritari per controllare la loro popolazione attraverso la sorveglianza di massa e la perdita di autonomia.
Garantire che i benefici dell’AGI siano ampiamente distribuiti è fondamentale. L’impatto storico del progresso tecnologico suggerisce che la maggior parte delle metriche a cui teniamo (risultati sanitari, prosperità economica, ecc.) migliorano in media e a lungo termine, ma l’aumento dell’uguaglianza non sembra determinato tecnologicamente e ottenere questo risultato potrebbe richiedere nuove idee.
In particolare, sembra che l’equilibrio di potere tra capitale e lavoro potrebbe facilmente essere sconvolto, e questo potrebbe richiedere un intervento precoce. Siamo aperti a idee che suonano strane come dare un “budget di calcolo” per consentire a tutti sulla Terra di utilizzare molta AI, ma possiamo anche vedere molti modi in cui semplicemente spingere il costo dell’intelligenza il più basso possibile ha l’effetto desiderato.
Chiunque nel 2035 dovrebbe essere in grado di mobilitare una capacità intellettuale equivalente a tutti nel 2025; tutti dovrebbero avere accesso a un genio illimitato da dirigere come possono immaginare. C’è un grande talento in questo momento senza le risorse per esprimersi appieno, e se cambiamo questo, il risultato creativo del mondo porterà enormi benefici per tutti noi.
—–
Grazie soprattutto a Josh Achiam, Boaz Barak e Aleksander Madry per aver revisionato le bozze di questo.
*Utilizzando il termine AGI qui, miriamo a comunicare chiaramente e non intendiamo alterare o interpretare le definizioni e i processi che definiscono la nostra relazione con Microsoft. Ci aspettiamo pienamente di essere partner di Microsoft a lungo termine. Questa nota a piè di pagina sembra sciocca, ma d’altra parte sappiamo che alcuni giornalisti cercheranno di ottenere clic scrivendo qualcosa di sciocco, quindi eccoci qui a prevenire la sciocchezza…