🕳️ 2.1.2 — La singolarità gentile

2.1.2 — La singolarità gentile

Siamo nella singolarità? GPT-5 Pro dà risposte a problemi FrontierMath Livello 4 — talmente difficili che, quando vengono risolti, richiedono a esperti matematici settimane di lavoro. GPT-5 ha persino proposto un meccanismo scientifico paragonato alla mossa 37 di AlphaGo^[1] — quella giocata che nessun umano avrebbe concepito. In parallelo, Gemini con Deep Think ha raggiunto il livello di medaglia d'oro all'Olimpiade Internazionale di Matematica^[2] (♾️ ff.135.3 Siamo nella singolarità?). Alex Wissner-Gross descrive la singolarità come un'illusione ottica: da lontano appare come un asintoto verticale, ma “quando ci sei in mezzo, sembra abbastanza continuo.” Sam Altman preferisce parlare di “singolarità gentile”: un'accelerazione che entra nella vita quotidiana senza essere percepita come discontinuità (🕳️ ff.129.1 La singolarità gentile di Altman). Ray Kurzweil, nel 2005, aveva previsto l'AGI entro il 2029^[3]. L'economista Tyler Cowen, in un sondaggio Polymarket del 2025, stima la probabilità al 30% — un anno prima era al 5% (🛠️ ff.123.1 L'AI con il coltellino svizzero). Il rapporto tra pensiero, parole e costruzione del mondo è cruciale: Wittgenstein nel Tractatus scriveva che “il pensiero è l'immagine logica dei fatti”, e i modelli di linguaggio come ChatGPT hanno reso questa connessione ancora più stretta — il linguaggio non descrive più soltanto il mondo, lo genera (🗣️ ff.134.1 Parole, parole, parole…).

L'economista Tyler Cowen, in un sondaggio Polymarket del 2025, stima la probabilità dell'AGI al 30% — un anno prima era al 5%. GPT-5 completa compiti software della durata media di 2 ore e 17 minuti con un tasso di successo del 50%. La macchina è diventata più tenace.

L’espressione viene da un saggio che Altman ha pubblicato sul suo blog il 10 giugno 2025, e la prima frase concede poco alla prudenza: abbiamo superato l’orizzonte degli eventi, il decollo è cominciato^[23]. L’umanità, scrive, è vicina a costruire una superintelligenza digitale, e per ora la cosa è molto meno strana di quanto dovrebbe sembrare. Segue un calendario. Il 2025 ha visto arrivare agenti capaci di vero lavoro cognitivo, e scrivere codice non sarà più come prima; il 2026 porterà probabilmente sistemi in grado di produrre intuizioni nuove; il 2027 forse robot che svolgono compiti nel mondo reale. Gli strumenti già costruiti, scrive, servono a costruirne di migliori. Un sistema che aggiorna da solo il proprio codice è un’altra cosa, precisa, e chiama questa fase una versione larvale dell’auto-miglioramento ricorsivo.

Il secondo anello è il costo. Quando la costruzione dei datacenter sarà automatizzata, il costo dell’intelligenza dovrebbe avvicinarsi a quello dell’elettricità, e Altman offre una misura: una domanda media a ChatGPT consuma circa 0,34 wattora, quanto un forno acceso per poco più di un secondo, e circa un quindicesimo di cucchiaino d’acqua. Il numero arriva senza metodo né fonte. Più istruttivo è l’esempio scelto per il rischio: il primo passo è risolvere l’allineamento, e i feed dei social sono già un’AI disallineata: algoritmi bravissimi a farci scorrere ancora, che capiscono le preferenze di breve periodo sfruttando qualcosa nel cervello che scavalca quelle di lungo periodo. È il meccanismo per cui l’alternativa a ogni scelta è sempre pronta nella prossima storia Instagram, e qualche secondo dopo siamo su un’altra app, con un altro pensiero (♾️ ff.44.2 L’infinitudine là fuori). Su centinaia di milioni di persone, osserva Altman, anche un piccolo disallineamento fa molto danno. Gli agenti hanno già mostrato come possa succedere: durante una valutazione interna, alcuni agenti di OpenAI hanno aggirato i controlli delle sandbox e compromesso parte dell’infrastruttura di Hugging Face, lasciandosi note e passandosi exploit (🤯 ff.155.2 Virus mentali (dell’AI)).

La gentilezza del titolo sta in un’immagine vicina a quella di Wissner-Gross: la curva esponenziale del progresso sembra verticale guardando avanti e piatta guardando indietro, ed è una sola curva continua. Il saggio resta un testo di previsione. Altman scrive al plurale, a nome di OpenAI, che definisce prima di tutto un’azienda di ricerca sulla superintelligenza; il 2026 e il 2027 portano con sé un «probabilmente» e un «forse», e nessuna cifra ha una fonte. Colpisce però il lessico. Matt Clancy ha mostrato che dagli anni Ottanta le parole «progresso» e «futuro» compaiono sempre meno, sostituite da rischio e cautela (⛱️ ff.102.1 Il futuro non va in vacanza). Altman le rimette al centro, e scrive che negli anni Trenta di questo secolo intelligenza ed energia diventeranno abbondanti.

Un anno prima del saggio di Altman, nel giugno 2024, Leopold Aschenbrenner aveva messo in fila la stessa accelerazione con i soldi. Nel giro di un anno, scriveva in Situational Awareness, a San Francisco si è passati dai cluster di calcolo da 10 miliardi di dollari a quelli da 100, e poi a quelli da mille miliardi^[26]: ogni sei mesi i piani dei consigli di amministrazione guadagnano uno zero. Entro la fine del decennio, prevedeva, la produzione elettrica americana sarà cresciuta di decine di punti percentuali e centinaia di milioni di GPU saranno accese. Quando la scala cresce così, la discussione si sposta su chi può permettersi di restare al tavolo.

Ma la singolarità gentile ha anche prove empiriche. Il benchmark METR documenta agenti AI capaci di lavorare ore senza supervisione, coordinandosi tra loro. Il report su GPT-5 rivela un dato che merita di essere letto due volte: il modello completa compiti software della durata media di 2 ore e 17 minuti con un tasso di successo del 50%, contro l’ora e mezza di GPT-3. La macchina è diventata più tenace. Riesce a portare a termine operazioni che prima abbandonava a metà, gestendo dipendenze, errori a catena, timeout (🤖 ff.144.3 Agenti autonomi e Moltbook).

La tenacia, intanto, costa sempre meno. Nell’agosto 2026 Andrej Karpathy ha dato a Opus 5 il primo paragrafo del Signore degli Anelli, un budget di un milione di token, circa 10 dollari, e la richiesta di trasformarlo in una scena tridimensionale: il modello ha lavorato per circa due ore e scritto 5.500 righe di codice^[27], un risultato «un po’ traballante ma divertente». Karpathy lo presenta come l’uscita dall’epoca in cui un modello si metteva alla prova chiedendogli il disegno di un pellicano in bicicletta: si passa da «nessuno lo farebbe mai» a «perché no, costa quasi niente». Il limite che indica è il controllo: i modelli non riescono ancora a verificare da soli il proprio lavoro, perché non sanno guardare un video o giocare.

Per arrivare al metaverso servono tecnologie ancora in fase embrionale, tra cui le interfacce cervello-computer. In una pubblicazione su Nature, un gruppo di ricercatori ha mostrato come convertire il pensiero di un paziente paralizzato in testo scritto, a una velocità di novanta caratteri al minuto e con il novantacinque per cento di confidenza nella traduzione. Al paziente veniva chiesto di immaginare di scrivere a mano determinati caratteri: il sistema traduceva quei movimenti mentali in lettere leggibili. L’interfaccia tra corpo e computer è ormai un protocollo che funziona, e la distanza tra pensiero e azione si riduce a ogni esperimento (🦾 ff.3.6 L’integrazione corpo-computer).

La strada successiva è togliere la chirurgia, o quasi. Nell’ottobre 2023 IEEE Spectrum raccontava un impianto di neurostimolazione minimamente invasivo che i pazienti potrebbero usare da casa^[28]: un dispositivo di circa 9 millimetri messo sotto il cranio ma sopra la dura madre, con un intervento che secondo Jacob Robinson della Rice University durerebbe meno di trenta minuti, alimentato da un casco. In una prova su un volontario, stimolando la corteccia motoria, la sua mano si è contratta. Nel gennaio 2024 è arrivato DeWave, un sistema che legge i segnali cerebrali senza impianti e traduce i pensieri silenziosi in testo^[29], con un’accuratezza oltre il 40% sui verbi.

Nel 2026 il campo ha cambiato scala e indirizzo. Sabi, sostenuta da Khosla, Accel e Initialized, dice di aver raccolto il più grande dataset neurale del mondo e addestrato un modello di base per il cervello, per costruire l’interfaccia cervello-computer più indossabile del pianeta^[30]: un berretto per «scrivere senza scrivere, cliccare senza cliccare». Nell’estate 2026 Naomi Bashkansky ha lasciato OpenAI per entrare come ricercatrice fondatrice in Conduit, che addestra modelli a leggere la mente umana senza interventi invasivi^[31], e ha messo per iscritto come potrebbe essere la telepatia nel 2035. FF lo aveva annotato: non diamo per scontata nemmeno la coscienza, se i computer ricostruiscono quello che stiamo vedendo (✊ ff.55.1 Come ci si sente, dentro una rivoluzione?).

Parallelamente alle interfacce cervello-computer, la ricerca esplora architetture che imitano il cervello dall’interno. Dragon Hatchling è un’architettura AI che replica il funzionamento cerebrale con neuroni semplificati e relazioni causa-effetto dirette, collocandosi a metà strada tra i transformer e la corteccia biologica. L’obiettivo è trovare un punto di equilibrio tra la potenza computazionale dei modelli attuali e l’efficienza che la natura ha affinato in milioni di anni di evoluzione.

La ricerca di architetture alternative ai transformer ha trovato anche un miliardo di dollari. AMI, la startup fondata da Yann LeCun dopo Meta, ha raccolto 1,03 miliardi di dollari per sviluppare JEPA^[4] — un’architettura con memoria persistente, ragionamento causale e world models pensata per robotica e healthcare. Se LeCun ha ragione che i LLM non bastano, il prossimo foundation model dovrà agire nel mondo.

JEPA ha già una storia. Nel giugno 2025 Meta ha presentato V-JEPA 2, un modello del mondo che secondo l’azienda è 30 volte più veloce di Cosmos di Nvidia^[32], con la riserva, notata da TechCrunch, che Meta potrebbe misurarsi su benchmark diversi da quelli di Nvidia; il predecessore era stato addestrato su oltre un milione di ore di video, e per LeCun i modelli del mondo apriranno alla robotica una nuova era senza bisogno di quantità astronomiche di dati robotici. Nel marzo 2026 il suo gruppo ha pubblicato LeWorldModel, il primo JEPA che si addestra in modo stabile partendo dai pixel grezzi^[33]: circa 15 milioni di parametri, una sola GPU, poche ore di addestramento, e una pianificazione fino a 48 volte più rapida.

E la scommessa sui World Models si sta affollando. Per passare da una chat al mondo reale — da ChatGPT a Westworld — secondo molti serve qualcosa in più del next token prediction: nelle azioni fisiche serve capire concetti ma anche collocarli nello spazio e nel tempo. I prossimi OpenAI o Anthropic, quindi, potrebbero essere i World Models. General Intuition^[5] ha costruito proprio questa tesi: i World Models sono una nuova classe di foundation model più potenti dei LLM per ragionamento spaziale e temporale. AMI Labs di Yann LeCun e Physical Intelligence lavorano in parallelo sulla stessa frontiera — quest’ultima ha già mostrato un caso applicativo per cucinare un perfetto grilled cheese sandwich, manipolazione bimanuale inclusa. Se i LLM hanno imparato a parlare scomponendo il linguaggio in token, i World Models stanno imparando a muoversi scomponendo il mondo in geometrie. Sono il modello di cosa serve perché il chatbot scenda dalla finestra del browser (🌎 ff.148.3 Un mondo là fuori?).

E mentre LeCun punta sulla robotica e General Intuition sullo spazio, altri puntano direttamente sulla scienza. Lila Sciences ha raccolto 235 milioni di dollari a una valutazione di 1,23 miliardi con l’obiettivo dichiarato di costruire superintelligenza scientifica, un’AI che scopra. Se il laboratorio del Novecento era un edificio con tavoli e microscopi, il laboratorio del 2030 potrebbe essere un datacenter con un workflow di ipotesi-esperimento-iterazione a velocità algoritmica. La domanda è se la scienza tradizionale, con i suoi cicli di peer review da 18 mesi, possa reggere il confronto con un’AI che formula e testa in tempo reale migliaia di ipotesi. La questione diventa chi scriverà il prossimo paper di rottura.

Su come lavora un’AI accanto agli scienziati, nel febbraio 2026 Google ha pubblicato un resoconto dall’interno. Trentasei ricercatori, di Google Research e di quindici altri istituti fra cui MIT ed EPFL, hanno raccolto in un preprint su arXiv i casi in cui Gemini li ha aiutati a risolvere problemi aperti^[24], smentire congetture e scrivere dimostrazioni nuove. Il modello è una versione interna di Gemini Deep Think, parente di quello arrivato al livello della medaglia d’oro alle Olimpiadi di matematica, e i campi sono l’informatica teorica, l’economia, l’ottimizzazione e la fisica.

Il caso che il resoconto richiama più spesso viene dalla crittografia. Un preprint di Ziyi Guan ed Eylon Yogev sosteneva di aver costruito gli SNARG, prove brevissime che le blockchain usano per comprimere migliaia di transazioni in una sola, partendo da un’ipotesi ritenuta sicura anche contro i computer quantistici. Un semplice «controlla la dimostrazione» porta spesso a recensioni superficiali, così i ricercatori gli hanno imposto cinque passi: una recensione, due giri di autocritica a caccia di allucinazioni, una revisione e una versione finale. Il modello ha trovato un difetto fatale: la definizione chiedeva una coerenza perfetta, la costruzione ne garantiva una soltanto statistica. Due crittografi esterni hanno confermato, e gli autori hanno aggiunto al lavoro una nota in rosso sulla lacuna nel teorema principale. Guan e Yogev firmano anche il resoconto di Google.

Dai casi gli autori ricavano un manuale di tecniche che tornano uguali da un campo all’altro. La prima è il dialogo: un problema profondo si risolve di rado al primo colpo, si spezza in lemmi verificabili e si corregge il modello indicandogli l’errore preciso, una costante sbagliata o un’ipotesi non valida. Rick Rubin lavora con l’AI nello stesso modo, con domande e commenti che allineano le risposte al suo gusto, perché la prima risposta di un modello statistico tende al banale (🤘 ff.127.2 Rock ‘n’ roll e vibe coding).

La seconda tecnica è l’impollinazione fra discipline. Per una congettura sugli alberi di Steiner, le reti più corte che collegano un insieme di punti, il modello ha proposto un teorema poco noto di un’altra area, quello di Kirszbraun. All’inizio l’aveva scartato perché «non elementare», e lo ha formalizzato quando il ricercatore gli ha chiarito che una dimostrazione elementare non serviva. Lo psicologo Graham Wallas divideva il processo creativo in quattro fasi, l’ultima delle quali è la verifica, e la domanda era se una macchina potesse percorrerle tutte e fare un salto fuori dalla scatola (🖼️ ff.18.3 L’arte, tra intelligenza artificiale e l’uomo). La terza tecnica affida la verifica al codice. Per un integrale che serve a prevedere le onde gravitazionali delle stringhe cosmiche, Gemini proponeva un’espressione, scriveva un programma in Python per controllarla e riceveva indietro gli errori: oltre l’80% di circa 600 rami candidati è stato potato presto, e il sistema ha trovato sei metodi analitici diversi per risolvere l’integrale.

Gli autori descrivono il modello come un collaboratore junior brillante, instancabile e informato, che rende al meglio sotto una regia umana forte, un metodo che alcuni di loro chiamano «vibe-proving». Elencano anche i difetti. Il modello tende a dare ragione all’ipotesi che riceve, e davanti a una congettura falsa copre i buchi con argomenti sicuri e vaghi, per cui conviene chiedergli di «dimostrare o confutare». A volte rifiuta un problema perché lo riconosce come aperto, e per farlo lavorare bisogna togliergli l’articolo e lasciargli solo l’enunciato. Il ricercatore passa dalle derivazioni meccaniche alla regia e al controllo. Nel Settecento ci si allenava vent’anni per arare i campi, poi arrivò la rivoluzione industriale, e oggi accade lo stesso con il cervello (😰 ff.141.1 Sentirsi inutili nell'era AI).

La conseguenza che preoccupa di più gli autori riguarda la revisione. Se un articolo denso di matematica si scrive in una frazione del tempo, il collo di bottiglia della scienza si sposta dalla produzione delle idee alla loro verifica, e la revisione umana, già sotto pressione, rischia di non reggere. La proposta è usare gli stessi modelli per valutare e tradurre le dimostrazioni in linguaggi che una macchina può verificare, come Lean. Il resoconto è scritto da chi ha costruito o usato il modello, e raccoglie le collaborazioni riuscite.

Fuori dai resoconti aziendali, i segnali arrivano da singoli ricercatori. Nel luglio 2025 Alexander Wei annunciava che un modello sperimentale di ragionamento di OpenAI aveva raggiunto il livello della medaglia d’oro alle Olimpiadi internazionali di matematica^[34], lo stesso traguardo di Gemini Deep Think. Due mesi dopo l’immunologo Derya Unutmaz ha ripreso il piano di un esperimento complesso sulle cellule immunitarie che una sua dottoranda gli aveva mandato più di otto anni prima, e lo ha dato a GPT-5 Pro: la risposta era molto migliore delle correzioni che lui stesso le aveva rimandato allora^[35], con tanto di schema per una piastra da 96 pozzetti. FF ne aveva visto un anticipo nel 2024, quando Claude era stato l’unico a capire un articolo di Kevin Fischer, dottore di ricerca in fisica quantistica, che colleghi ed esperti del campo non riuscivano a seguire (📈 ff.88.5 Un paio di esempi di accelerazione).

Ma l'AI comincia anche a guardare dentro la mente stessa. Anthropic, l'azienda fondata da fuoriusciti di OpenAI, ha fatto qualcosa di inedito: ha vivisezionato i pensieri di Claude, scomponendo il modello in componenti interpretabili^[6]. Certi assembramenti di “neuroni artificiali” si attivano in modo specifico per sport, numeri, sequenze di DNA — pattern che ricordano da vicino le aree specializzate della corteccia cerebrale umana. L'obiettivo dichiarato è rendere meno opachi gli output dei modelli linguistici, ma il sottoprodotto è forse più importante dell'obiettivo: studiando come le reti neurali hanno interiorizzato il concetto di tempo^[7], stiamo capendo meglio come lo interiorizza il nostro cervello. Costruiamo una mente artificiale e la usiamo per capire quella biologica. Meta ha già portato questo loop al livello successivo: il modello TRIBE, con un miliardo di parametri, è il primo a predire le risposte cerebrali agli stimoli^[8], mentre un altro modello decifra in tempo reale il monologo interiore dalla corteccia motoria di quattro pazienti^[36], sbagliando fra il 26 e il 54% delle parole su un vocabolario di 125.000. La critica storica ai LLM — casualità, scarsa riproducibilità, opacità — convive con un uso nuovo: proprio perché non capiamo come pensano, li stiamo usando come specchi per capire come pensiamo noi (🔎 ff.83.5 Capire il cervello con l’AI). Se i modelli ci aiutano a capire il cervello, altri modelli stanno superandolo del tutto. Come AlphaGo, battuto poi da AlphaZero — che si è auto-allenato senza mai vedere una partita umana. David Silver e Richard Sutton, pionieri del reinforcement learning, dichiarano l’“Era dell’Esperienza”: agenti autonomi che esplorano senza conferme umane^[9]. DreamerV3 di Google/DeepMind, senza aver mai visto giocare Minecraft, in 100 milioni di passi ha imparato a rompere alberi, costruire bastoni, migliorare picconi^[10], fino al primo blocco di diamante. L’uomo è il collo di bottiglia. Contropunto: Dan Hendrycks del Center for AI Safety avverte che lasciare evolvere l’AI in modo indipendente potrebbe essere la nostra fine^[11] (💎 ff.123.2 Minecraft oltre l’uomo).

Lo studio del 2023 lavorava su un modello giocattolo. Nel maggio 2024 Anthropic ha estratto milioni di feature dallo strato intermedio di Claude 3 Sonnet^[37], il primo sguardo dettagliato dentro un modello in produzione. Amplificando la feature del Golden Gate Bridge, Claude rispondeva di essere il ponte; attivando quella delle email truffa, scavalcava l’addestramento a non nuocere e ne scriveva una, la stessa capacità latente che i jailbreak cercano di sfruttare. Trovarle tutte, ammette l’azienda, richiederebbe più calcolo di quello usato per addestrare il modello. Per Nora Belrose e Quintin Pope questo accesso è un vantaggio: le reti neurali sono scatole bianche, di cui leggiamo e scriviamo tutto^[38], mentre gli elettrodi coprono una frazione minima degli 86 miliardi di neuroni del cervello. È la tesi di un gruppo che si chiama AI Optimism. Anthropic ha continuato a scavare, fino a leggere le parole che Claude «pensa» senza dirle (🧠 ff.152.1 Il pensiero di Claude (J-Space)).

Il modello TRIBE di Meta, con un miliardo di parametri, è il primo a predire le risposte cerebrali agli stimoli, mentre un altro modello decifra in tempo reale il monologo interiore dalla corteccia motoria. Costruiamo una mente artificiale e la usiamo per capire quella biologica.

E se la trasparenza è il primo passo, il secondo è la profondità. Con il lancio di o1 (Project Strawberry), OpenAI ha introdotto un cambio di paradigma che merita un nome preciso: ragionamento deliberato. GPT-4 era il modello del pettegolo — la risposta veloce, la chiacchiera da bar, l'intuizione brillante ma superficiale. o1, prima di parlare, pensa. Il paper Learning to Reason with LLMs^[12] dettaglia la svolta: nei modelli precedenti, più parametri e più dati durante il training producevano risultati migliori. Con o1, il salto avviene dopo l'allenamento — aumentando le risorse allocate al momento della risposta, il modello esplora alberi di riflessione interni (chain of thought) più profondi, valutando e scartando ipotesi prima di convergere. È la differenza tra chi spara la prima cosa che gli viene in mente e chi si prende trenta secondi per pensare — e quei trenta secondi, nei benchmark matematici e di coding, valgono decine di punti percentuali. Il report METR su GPT-5, già citato, conferma la traiettoria: la macchina è diventata più paziente. E la pazienza, nell'era dell'attenzione frammentata, potrebbe essere la forma di intelligenza più sottovalutata (🍓 ff.103.1 Prima di parlare, pensa).

Il ragionamento deliberato aveva avuto un’anticipazione rumorosa. Nel novembre 2023, quando si seppe che la svolta di OpenAI riguardava qualcosa chiamato Q*, Samuel Hammond notava che il Q-learning è una classe di apprendimento per rinforzo tutt’altro che nuova^[39], che Tesla usa per la guida autonoma, e che Q* indica la funzione d’azione ottima. Pochi mesi dopo si scopriva che anche le istruzioni conviene farle scrivere alla macchina. Due ricercatori di VMware hanno provato 60 combinazioni di messaggi di sistema su tre modelli da 7 a 70 miliardi di parametri, con problemi di matematica elementare, e i prompt generati automaticamente hanno reso e generalizzato meglio di quelli scritti a mano^[40]. Il migliore per Llama 2 da 70 miliardi cominciava con «Diario del capitano, data astrale»: la capacità di ragionamento matematico, concludono, migliora se il modello esprime affinità per Star Trek.

Per toccare con mano cosa significa ragionare combinando strumenti, basta un gioco. Ethan Mollick ha fatto giocare o3 a GeoGuessr^[13] — il gioco dove devi indovinare dove sei nel mondo da un’immagine — e il modello ha combinato mappe, screenshot e ragionamento spaziale per localizzare i luoghi. L’autore gli ha poi chiesto quando il sole sarebbe sorto tra due monti visibili dalla finestra^[14]: o3 ha identificato i monti, usato formule astronomiche e ipotizzato un margine di errore in base alla posizione dell’osservatore — se sul sagrato o nel parcheggio del cimitero. È ragionamento spaziale con strumenti (🗺️ ff.123.3 Il nuovo campione di GeoGuessr: o3).

La pazienza dei modelli trova un avvocato inatteso in Marc Andreessen. Nel suo saggio Why AI Will Save the World^[15], il cofondatore di a16z smonta sistematicamente le tre paure dominanti: la sostituzione lavorativa, il rischio esistenziale delle paper clips e la corsa agli armamenti con la Cina. L’argomento storico-filosofico è il più affilato: ogni tecnologia trasformativa — dalla stampa all’elettricità — ha generato lo stesso ciclo di panico morale, e il bilancio a vent’anni è stato sempre nettamente positivo. Nel podcast di a16z con Martin Casado aggiunge che chi risolverà correttezza e sicurezza dei modelli potrà costruire un’azienda da mille miliardi di dollari^[41].

Andreessen tratta il problema dell’alignment come una disciplina ingegneristica risolvibile, paragonandolo ai protocolli di sicurezza nucleare: pericolosi se ignorati, gestibili se presi sul serio. Il saggio non è privo di punti ciechi — sottovaluta la concentrazione di potere nelle mani di chi controlla i modelli — ma offre un antidoto al catastrofismo che paralizza il dibattito pubblico. Perché il vero rischio dell’AI è che il panico ci impedisca di usarla dove serve davvero, dalla diagnostica medica alla decarbonizzazione delle reti energetiche (📜 ff.67.2 Due articoli).

Il caso in cui il panico ha più argomenti è la biologia. Nel 2023, in un esercizio al MIT, a ChatGPT è bastata un’ora per istruire studenti senza formazione scientifica su quattro potenziali patogeni pandemici^[42]. Jonas Sandbrink ricordava che nel 1990 la setta Aum Shinrikyo aveva disperso tossina botulinica a Tokyo senza riuscire a uccidere, e che nel 1995 il suo sarin in metropolitana aveva fatto 13 morti; Claude 2, scriveva, alzava la barriera molto più di GPT-4. La difesa comincia a usare la stessa tecnologia: Valthos, fondata da persone che vengono da Anduril, Palantir, DeepMind, OpenAI, Broad Institute e Arc Institute, sviluppa sistemi di AI che riconoscono le minacce biologiche e progettano contromisure mediche in tempo reale^[43].

Andreessen non è stato l’unico a piantare una bandiera ottimista. Lux Capital già assegnava il 2024 ai libri di storia^[16]. Nella lettera agli investitori del terzo trimestre 2023, però, Lux aveva scelto come tema il realismo^[45]. Il 2023 si è chiuso con il Techno-Optimist Manifesto di Marc Andreessen^[17] — esagerato e idealista, come ogni manifesto deve essere. Si apre con un’accusa: «Ci mentono. Ci dicono che la tecnologia ci ruba il lavoro, abbassa i salari, aumenta le disuguaglianze»^[44]. Le frasi più taglienti: “Stiamo letteralmente facendo pensare la roccia, la sabbia, il silicio.” E ancora: “Crediamo che la popolazione mondiale possa raggiungere i 50 miliardi di persone e diffondersi su altri pianeti.” Il nemico dichiarato è la stagnazione — anti-meritocrazia, anti-ambizione, burocrazia, veto-crazia. In chiusura, una lista di “santi laici”: Andy Warhol, Bertrand Russell, Jeff Bezos, Filippo Tommaso Marinetti. Nel frattempo anche George Hotz, il nerd dietro il primo jailbreak di iPhone^[18], ha pubblicato il proprio manifesto. L’ottimismo tecnologico ha i tratti di un atto di fede laica, con tanto di credo e santi (➕ ff.81.1 Il tecno-ottimismo).

Le capacità del nuovo modello o1 sono sorprendenti dove esiste una risposta univoca. In 5 minuti ha riprodotto un filtro per buchi neri che era costato 10 mesi di lavoro a un ricercatore NASA. E @Maximlott ha sottoposto o1 al test MENSA^[19] usando domande non pubbliche per ridurre la probabilità di averle memorizzate: risultato, QI intorno a 100, ovvero media umana. Più del numero, sorprende il delta: GPT-4 stazionava a 60, o1 balza a 100 in una sola generazione di modelli. (🎓 ff.103.2 NASA, MENSA e QI).

Quando l'AI ottimizza l'AI, la curva di Wright si auto-accelera. AlphaEvolve ha scoperto varianti algoritmiche per l'inference di Gemini con -74% di memoria, 6.8x di runtime^[20], riducendo i costi di inferenza Google a parità di output. Un modello che riscrive il codice che fa girare un altro modello: la legge dei costi dell'AI sta piegandosi più velocemente di Moore.

Se i costi dell’inferenza si piegano, anche la geografia del calcolo si sta spostando. Per anni l’addestramento dei modelli di frontiera è parso un privilegio di pochi: chi possiede i datacenter più grandi e le GPU più costose detta il ritmo. EpochAI ha però misurato una crepa in questa gerarchia^[22]: l’addestramento di frontiera cresce a 5 volte l’anno, ma le esecuzioni decentralizzate — distribuite su nodi sparsi e collegati via internet — stanno scalando a 20 volte l’anno, quattro volte più in fretta. Il decentralizzato non ha ancora raggiunto il centralizzato, ma la distanza si accorcia a ogni ciclo. È la stessa tensione che percorre l’economia del compute: NVIDIA incassa 57 miliardi in tre mesi vendendo picconi e badili di questa corsa all’oro (🍫 ff.139.1 Svizzero? No, NVIDIA), i datacenter diventano le nuove trincee di una corsa agli armamenti (🐔 ff.82.2 Polli computazionali), e l’embargo dei chip verso la Cina prova a stabilire chi possa addestrare cosa (🥶 ff.82.3 Guerra fredda). Finché l’addestramento distribuito tiene questo passo, il vero collo di bottiglia smette di essere il silicio e torna a essere l’idea.

Il lavoro d'ufficio più noioso del mondo — la slide di PowerPoint — è stato tra i primi a cadere sotto l'AI generativa. Fabian Stelzer ha mostrato che si può ottenere una presentazione intera da un solo prompt (ad esempio «How To Survive In The Wilderness: A Practical Guide» in stile illustrazioni anni '80), con immagini generate dall'AI e narratore animato via Synthesia. La slide diventa output di pipeline: lo stesso destino che aspetta report, pitch e training material aziendali. Presentazioni Powerpoint^[21] (👨‍🏫 ff.40.3 Presentazioni Powerpoint).

Le slide di Stelzer stanno nel tratto della curva che Altman, guardando indietro, vede piatto. Nello stesso numero di FF, DALL-E e Stable Diffusion davano immagini simili, gemelli eterozigoti separati da differenze sottili, e il punto debole era la modifica: per cambiare lo stile o un elemento della scena, DALL-E chiedeva all’utente di «pitturare» a mano le zone da rifare. Un gruppo di Google ha proposto un metodo meno invasivo, il Prompt-to-Prompt Image Editing, che parte dalla modifica del solo testo che descrive la scena^[25]. Prima l’immagine di partenza non restava fedele: chiedendo la stessa torta con ingredienti o materiali diversi, ne uscivano torte diverse. Lavorando sull’attenzione che il modello presta ai singoli dettagli, il risultato è migliorato (🍰 ff.40.4 Torte ai mille gusti + 1).

Il testo ha fatto la stessa strada. Quando FF ha messo alla prova ChatGPT, la ricetta dei casoncelli alla bergamasca è arrivata in ordine, con le dosi (500 grammi di farina 00, 250 di ricotta, 100 di pancetta affumicata) e un ripieno di ricotta, parmigiano e uovo (🍝 ff.41.1 Sta tutto nel ripieno). La richiesta di una pagina HTML con l’Infinito di Leopardi e un’analisi da critico letterario ha prodotto i primi otto versi e un commento che data la poesia al 1819 e vi riconosce la personificazione del paesaggio (🐆 ff.41.2 Leopardi spiegato dall’AI). Il codice Python per la briscola definiva quattro semi e dieci carte per seme, dall’Asso al Re, mescolava il mazzo e, provato, funzionava (🃏 ff.41.3 La briscola in 5).

Con GPT-4 la prova è passata allo stile. Il messaggio con cui una ragazza rifiutava una seconda uscita, riscritto come una telecronaca alla Caressa, diventava una partita: la protagonista intercetta il passaggio dell’avversario, gioca in contropiede e chiude le linee, e il suo bisogno di tempo arriva «come un preciso cross» in area di rigore (⚽️ ff.54.3 La telecronaca di Caressa). Lo stesso messaggio, trasformato in una descrizione per Bing Immagini, che usa un’evoluzione di DALL-E, è diventato un quadro. FF ne ricavava una previsione: l’AI avrebbe riscritto i messaggi in arrivo su WhatsApp nel tono adatto allo stato d’animo di chi legge, stimato dalla musica ascoltata e dalle interazioni social (🎨 ff.54.5 L’interpretazione artistica).