“Stanno giocando con le nostre vite”: il dilemma della corsa all’AI

Jacob Coxon ha 27 anni e negli ultimi tre ha lavorato sul pretraining dei modelli prima in OpenAI e poi in Anthropic. Martedì ha lasciato il suo incarico con un messaggio molto difficile da ignorare. “Nessuna delle due aziende si sta comportando in modo responsabile”, ha scritto. Secondo Coxon, OpenAI e Anthropic stanno correndo verso sistemi di intelligenza artificiale capaci di migliorare sé stessi e stanno “giocando con le nostre vite”. Non è una frase estrapolata da un’intervista o trasformata in titolo per attirare click. È il senso del messaggio con cui ha annunciato le dimissioni. Associated Press e Financial Times hanno confermato la sua uscita, mentre Wired lo ha intervistato nelle ore successive. Coxon sostiene che dentro i laboratori AI la possibilità di perdere il controllo di sistemi molto più capaci di quelli attuali venga presa sul serio. A Wired ha definito il prossimo anno o due “crunch time for humanity”. Axios ha riportato anche un particolare non secondario: avrebbe lasciato Anthropic circa due mesi prima della maturazione della propria equity. Possiamo considerare queste previsioni eccessive. Possiamo discutere per giorni sulla probabilità reale che una superintelligenza provochi una catastrofe. Personalmente, però, trovo più interessante un’altra parte della storia. Se queste aziende pensassero davvero che sia necessario rallentare, potrebbero permetterselo?

Guardiamo la situazione dall’alto

Negli ultimi anni abbiamo investito somme enormi sull’idea che l’intelligenza artificiale continuerà a diventare più capace. Non parlo soltanto degli investimenti nelle startup o delle valutazioni di OpenAI e Anthropic. Dietro la corsa ai modelli ci sono GPU, data center, reti elettriche, contratti cloud, chip personalizzati e infrastrutture che devono essere costruite anni prima di sapere esattamente quanto renderanno. La Bank for International Settlements stima che i cinque maggiori gruppi tecnologici globali possano superare complessivamente il trilione di dollari di investimenti in infrastruttura AI nel solo biennio 2025-2026. Gli investimenti complessivi legati all’AI potrebbero arrivare a 4 trilioni di dollari entro il 2030. Reuters, analizzando Microsoft, Alphabet, Amazon, Meta e Oracle, ha calcolato che entro il 2027 il loro capex complessivo potrebbe persino superare il free cash flow. Per ogni dollaro aggiuntivo di operating cash flow previsto tra il 2025 e il 2027, la spesa per investimenti potrebbe crescere di 1,57 dollari. Questi numeri mi sembrano molto più utili per capire il problema di qualunque discussione astratta sull’etica.

Più denaro investi sulla promessa che i modelli continueranno a migliorare, più diventa difficile alzare la mano e dire: “Forse per un anno sarebbe meglio fermarci”.

Perché a quel punto devi spiegare agli investitori cosa succede ai capitali già impegnati. Devi rivedere le roadmap. Devi accettare che migliaia di GPU rimangano meno produttive del previsto. E, soprattutto, devi sperare che i concorrenti facciano la stessa cosa.

Il problema vero è chi rallenta per primo

Qui arriviamo al punto che trovo più difficile da risolvere: supponiamo che domani Anthropic decida che i rischi sono diventati troppo alti e congeli per dodici mesi il training di modelli più potenti. OpenAI si ferma? Google si ferma? Meta, xAI e i laboratori cinesi si fermano? Se la risposta è no, Anthropic avrebbe sostenuto da sola il costo della prudenza. Dodici mesi dopo potrebbe ritrovarsi indietro nella qualità dei modelli, nella ricerca, nel recruiting e nei contratti enterprise. La stessa logica vale per OpenAI. E vale per Google: non serve immaginare CEO irresponsabili o ricercatori senza scrupoli. Basta guardare gli incentivi. Se rallentare comporta un costo e continuare a correre può portare un vantaggio competitivo, l’etica individuale deve combattere contro una struttura economica che spinge nella direzione opposta. È per questo che fatico a credere che la soluzione possa essere semplicemente: “Le aziende dovrebbero comportarsi meglio”.

Fermarsi, però, non è impossibile

C’è un dato che complica questa lettura, ed è giusto riconoscerlo: OpenAI ha già rallentato. Il 18 agosto, infatti, l’azienda ha dichiarato di aver temporaneamente ridotto il ritmo dello scaling dopo l’incidente OpenAI-Hugging Face e dopo i primi segnali secondo cui Astra avrebbe potuto raggiungere la soglia “Critical” per le capacità di cybersecurity prevista dal Preparedness Framework. OpenAI dice di aver usato quella pausa per rafforzare monitoring, alignment e containment. Anche Anthropic ha una Responsible Scaling Policy che collega lo sviluppo dei sistemi più potenti alla capacità dell’azienda di gestirne i rischi. La policy è stata aggiornata più volte nel corso del 2026 e prevede procedure specifiche per i modelli che superano determinate soglie di capacità. Quindi sì, rallentare si può, ma c’è una differenza enorme tra prendersi una pausa tecnica di qualche settimana e decidere unilateralmente di restare fermi un anno mentre il resto del mercato continua ad addestrare modelli.

Abbiamo costruito un sistema che premia chi corre

Ed è qui che le dimissioni di Coxon, al di là delle sue previsioni più estreme, secondo me meritano attenzione. Abbiamo costruito un mercato che premia chi arriva prima. Chi sviluppa il modello migliore può conquistare utenti, sviluppatori, aziende, talenti e capitale. La pressione non viene soltanto dagli azionisti. Arriva dai concorrenti. Poi chiediamo alle stesse aziende di capire autonomamente quando è arrivato il momento di frenare. C’è una contraddizione difficile da ignorare. Non sto dicendo che OpenAI, Anthropic o Google non abbiano alcun margine di scelta. Lo hanno, e le pause già adottate lo dimostrano. Ma aspettarsi che un singolo laboratorio accetti volontariamente un forte svantaggio competitivo confidando che tutti gli altri facciano lo stesso mi sembra poco realistico. Se un giorno servirà davvero rallentare, probabilmente non basterà la decisione di un CEO o la coscienza di un gruppo di ricercatori. Serviranno regole che facciano sì che frenare non equivalga automaticamente a perdere la gara. Perché la domanda che mi rimane dopo aver letto le parole di Coxon non è se abbia ragione sulla fine del mondo. È molto più semplice: se domani OpenAI o Anthropic decidessero davvero che per sicurezza bisogna fermarsi un anno, chi garantirebbe loro che gli altri faranno lo stesso?