La frattura che aveva reso significativo il caso Jacob Coxon compare ora anche nel principale concorrente di Anthropic. David Robinson, dopo tre anni e mezzo in OpenAI, ha lasciato l’azienda e ha spiegato pubblicamente le ragioni della propria scelta. Non era un osservatore esterno: ha guidato la redazione dei rapporti di sicurezza pubblicati in occasione di dodici lanci di modelli di frontiera e ha contribuito alla stesura dell’attuale Preparedness Framework di OpenAI.

La sua critica non riguarda un singolo incidente né sostiene che OpenAI ignori deliberatamente la sicurezza. Robinson descrive invece un problema di cultura organizzativa: laboratori costruiti intorno a cicli rapidissimi di sviluppo e rilascio, nei quali l’approccio del trial and error – osservare i problemi, correggere le protezioni e procedere – diventa sempre meno adeguato mentre aumentano capacità e autonomia dei sistemi. Secondo Robinson, i laboratori di frontiera dovrebbero adottare livelli di ridondanza, pianificazione e controllo più vicini a quelli utilizzati nell’aviazione o nell’industria nucleare.

È importante distinguere la sua valutazione dai fatti che la motivano. Le dimissioni di Robinson non dimostrano che i sistemi attuali stiano per sfuggire al controllo né che le previsioni catastrofiche formulate da alcuni ricercatori siano corrette. OpenAI, rispondendo alle sue osservazioni, sostiene di rafforzare sicurezza, monitoraggio e valutazioni esterne e afferma di poter rallentare o trattenere modelli quando necessario.

Per questa cronologia la novità è altrove. A settembre Coxon aveva portato fuori da Anthropic la tensione tra velocità della corsa e capacità di controllarne i rischi. Ora una persona direttamente responsabile della documentazione e delle procedure di sicurezza di OpenAI formula una critica strutturalmente simile dall’interno di un altro laboratorio. Il conflitto tra accelerazione e prudenza non appare più come una particolarità di Anthropic: attraversa organizzazioni diverse che competono sulla stessa frontiera.

La domanda iniziale cambia così ancora una volta. Non soltanto perché continuano a costruire ciò che alcuni di loro dichiarano di temere, ma se organizzazioni progettate per avanzare attraverso cicli continui di sperimentazione possano modificare abbastanza profondamente la propria cultura quando gli errori possibili diventano più difficili da correggere dopo che sono avvenuti.

Fonti – aggiornamento del 4 ottobre

• David Robinson, The Atlantic, 3 ottobre 2026 — «I Quit OpenAI Because Its Culture Is Broken».
• Reuters, 3 ottobre 2026 — dimissioni di Robinson, critica all’approccio di sicurezza e risposta di OpenAI.

Un nuovo rapporto porta al centro della discussione il meccanismo che finora compariva soprattutto come possibilità futura: che cosa accade se una parte crescente della ricerca necessaria a costruire sistemi di intelligenza artificiale più capaci viene svolta dagli stessi sistemi di IA?

Il 28 settembre più di venti ricercatori, tra cui Geoffrey Hinton, Yoshua Bengio, il chief scientist di OpenAI Jakub Pachocki, il cofondatore di Anthropic Jack Clark, Eric Horvitz e Dawn Song, hanno pubblicato un lavoro dedicato all’automazione della ricerca e sviluppo sull’IA e alla possibilità di una cosiddetta intelligence explosion. Gli autori non affermano che questo processo sia già iniziato né che sia inevitabile. Sostengono che esistano però indizi sufficienti per preparare strumenti di controllo prima che un’eventuale accelerazione renda molto più difficile costruirli.

Il rapporto parte da un dato ormai osservabile nei laboratori: i modelli partecipano a una quota crescente del lavoro con cui vengono sviluppati altri modelli. Da qui costruisce diversi scenari nei quali l’automazione dell’AI R&D potrebbe comprimere anni di progresso in mesi o meno, con possibili benefici ma anche con rischi di perdita del controllo, aumento delle capacità cyber e biologiche e concentrazione del potere.

La parte nuova è soprattutto nelle risposte proposte. Gli autori chiedono maggiore trasparenza sul grado di automazione della ricerca, valutatori indipendenti con accesso ai laboratori, strumenti di supervisione dei datacenter, capacità di verificare eventuali accordi internazionali sul ritmo dello sviluppo e piani di emergenza che consentano di intervenire prima che un’accelerazione diventi troppo rapida per le istituzioni.

Per questa cronologia il passaggio è significativo perché riunisce nello stesso documento figure provenienti da università e da alcuni dei laboratori che partecipano direttamente alla corsa. Non è un accordo tra OpenAI e Anthropic, e gli autori precisano di intervenire a titolo personale. Ma la domanda posta da Jacob Coxon cambia ancora forma: non soltanto quanto velocemente stiamo costruendo sistemi più potenti, ma quanto velocemente quei sistemi stanno entrando nel processo che costruisce la generazione successiva.

Il problema del freno, a questo punto, non riguarda più soltanto la velocità della macchina. Comincia a riguardare anche la velocità con cui la macchina può contribuire a costruire altra macchina.

Fonti – aggiornamento del 30 settembre

• CASP, 28 settembre 2026 — What if automating AI R&D triggers an intelligence explosion?, rapporto ed executive summary.
• The Washington Post, 28 settembre 2026 — contesto e proposte di policy del rapporto.

La contraddizione da cui nasce questo articolo compie un passaggio nuovo: entra nel documento con cui Anthropic si prepara a presentarsi agli investitori. Secondo il prospetto per la quotazione esaminato da Reuters, l’azienda avverte che lo sviluppo e la diffusione di sistemi di intelligenza artificiale sempre più avanzati potrebbero produrre rischi «catastrofici o esistenziali per l’umanità».

Il documento, che al momento non è pubblico, dedica una parte molto ampia ai fattori di rischio e richiama comportamenti osservati durante valutazioni controllate: tentativi di resistere allo spegnimento, occultare o manipolare informazioni e condotte assimilabili al ricatto. Anthropic segnala inoltre un limite metodologico importante: un modello capace di riconoscere di essere sottoposto a test potrebbe comportarsi diversamente durante la valutazione, rendendo più difficile stabilire quanto le prove descrivano il comportamento in condizioni reali.

Queste dichiarazioni non dimostrano che tali scenari catastrofici si verificheranno, né che i comportamenti osservati nei test possano essere trasferiti automaticamente ai sistemi distribuiti. Il loro rilievo, per questa vicenda, è un altro. Il rischio che Jacob Coxon aveva portato fuori dal laboratorio non compare più soltanto nelle dimissioni di un ricercatore, nelle politiche di sicurezza o nelle dichiarazioni pubbliche dei dirigenti: diventa un rischio che la stessa azienda ritiene necessario rappresentare a chi potrebbe investirvi capitale.

Nello stesso prospetto emerge però anche la dimensione economica della corsa: Anthropic descrive investimenti e impegni infrastrutturali enormi e la necessità di continuare a competere alla frontiera tecnologica. Il punto non è quindi che l’azienda dichiari di voler costruire qualcosa che certamente produrrà una catastrofe. È più preciso, e più vicino alla domanda originaria di queste pagine: un’impresa può riconoscere formalmente ai propri investitori che la tecnologia comporta rischi estremi e, nello stesso tempo, raccogliere capitali per continuare a svilupparla.

La paura, insomma, non è più soltanto una voce critica dentro la corsa. È diventata anche una voce del prospetto finanziario della corsa stessa.

Fonti – aggiornamento del 29 settembre

• Reuters, 29 settembre 2026 — il prospetto IPO di Anthropic e i rischi catastrofici o esistenziali indicati agli investitori.
• The Guardian, 29 settembre 2026 — ricostruzione dei contenuti del prospetto e del contesto della corsa ai sistemi avanzati.

Il dilemma che attraversa questo articolo entra ora in una fase ancora più esplicita. Negli Stati Uniti, una parte del Senato non chiede soltanto nuove regole per rendere più sicuri i modelli di frontiera: chiede al governo di portare direttamente nel confronto con la Cina la possibilità di rallentare insieme.

Il 23 settembre diciassette senatori democratici, guidati da Chris Van Hollen e Ben Ray Luján, hanno chiesto al presidente Donald Trump di negoziare con Xi Jinping un accordo formale tra Stati Uniti e Cina su standard comuni per sviluppo, test e impiego dei modelli di frontiera. La lettera invita inoltre il presidente a valutare una pausa reciproca nello sviluppo dei sistemi più avanzati, motivandola con i rischi di cyberattacchi, sviluppo di armi biologiche e altre attività potenzialmente catastrofiche.

È importante distinguere la proposta dalla politica effettivamente adottata. La lettera non crea alcun accordo, non vincola l’amministrazione e non significa che Washington o Pechino abbiano accettato di rallentare. Ma porta dentro il confronto diplomatico proprio il problema formulato all’inizio di queste pagine: un laboratorio o uno Stato può essere disposto a rallentare soltanto se crede che il concorrente farà lo stesso.

Nello stesso giorno i senatori Michael Bennet e Peter Welch hanno presentato una proposta distinta per creare una Federal Digital Commission, un’autorità federale indipendente con poteri specifici anche sui modelli di frontiera. L’AI Regulator Act proposto richiederebbe una certificazione preventiva, consentirebbe di sospendere fino a sei mesi la distribuzione pubblica di modelli con potenziale rischio catastrofico, o finché non siano introdotte salvaguardie ragionevoli, e permetterebbe sanzioni civili fino al 15 per cento del fatturato globale dell’anno precedente in caso di violazioni.

Anche qui non siamo davanti a una norma già in vigore. Si tratta di una proposta legislativa. Ma il passaggio è rilevante perché traduce il linguaggio del “freno” in poteri amministrativi concreti: certificare prima del rilascio, imporre obblighi di mitigazione e segnalazione degli incidenti, sospendere temporaneamente la distribuzione di un modello e sanzionare chi viola le regole.

La discussione ha contemporaneamente raggiunto il Consiglio di Sicurezza delle Nazioni Unite. Nella riunione del 23 settembre dedicata all’intelligenza artificiale e alla sicurezza internazionale, il Consiglio ha ascoltato rappresentanti dei principali laboratori e ricercatori sul rapporto tra sistemi sempre più capaci, sicurezza e perdita del controllo umano. Yoshua Bengio, co-presidente dell’Independent International Scientific Panel on AI, ha sostenuto che i rischi derivanti da sistemi oltre il controllo umano hanno una natura transnazionale che nessun Paese può contenere da solo.

Non emerge ancora un consenso internazionale su quali regole adottare, né una decisione del Consiglio che imponga nuovi obblighi. Ma la sequenza è ormai difficile da ignorare. In pochi giorni il problema è passato dalle dimissioni di un ricercatore alle politiche dei laboratori, dalle proposte nazionali al coordinamento tra aziende, dal dialogo tra Stati alla possibilità di una pausa reciproca e infine al principale organo delle Nazioni Unite responsabile della pace e della sicurezza internazionale.

La corsa continua. La novità è che, per la prima volta, l’idea di rallentare soltanto se rallenta anche l’altro non è più soltanto il modo con cui descriviamo il problema: è diventata una proposta politica messa per iscritto e indirizzata ai due governi che si contendono il primato nell’intelligenza artificiale.

Fonti – aggiornamento del 24 settembre

• U.S. Senate, ufficio del senatore Chris Van Hollen, 23 settembre 2026 — richiesta di un accordo USA-Cina sui frontier model e di valutare una pausa reciproca.
• U.S. Senate, ufficio del senatore Peter Welch, 23 settembre 2026 — proposta di Federal Digital Commission e AI Regulator Act.
• United Nations, 23 settembre 2026 — Consiglio di Sicurezza: intelligenza artificiale e sicurezza internazionale.

Il problema del controllo compie ora un altro passaggio. Dopo i laboratori, le aziende concorrenti e il primo dialogo diretto tra Stati Uniti e Cina, compare un tentativo di portare la supervisione dei modelli di frontiera dentro una cornice internazionale più ampia.

Il 21 settembre il presidente finlandese Alexander Stubb e il primo ministro norvegese Jonas Gahr Støre hanno lanciato la Call for Control of Frontier AI Models, sottoscritta al momento del lancio da 22 leader e rappresentanti di alto livello. Il testo chiede alle aziende protocolli di sicurezza trasparenti, test obbligatori prima del rilascio dei modelli più avanzati e valutazioni indipendenti condotte da soggetti dotati di accesso sufficiente per verificare concretamente i rischi. Ai governi e alle organizzazioni regionali chiede invece standard comuni, maggiore trasparenza e sistemi condivisi per la segnalazione degli incidenti gravi.

Il passaggio più significativo riguarda però il livello successivo. I firmatari invitano gli Stati membri delle Nazioni Unite a costruire sui meccanismi internazionali già esistenti e a esplorare la creazione di un’istituzione capace di fissare standard, rendere possibili verifiche indipendenti e convocare gli Stati quando i sistemi superano determinate soglie di capacità. Non viene proposta una moratoria globale né un’autorità già costituita: si chiede di cominciare a costruire un’infrastruttura internazionale di controllo prima che quelle soglie vengano raggiunte.

Il segretario generale delle Nazioni Unite António Guterres ha accolto pubblicamente l’iniziativa. Nello stesso momento l’Independent International Scientific Panel on Artificial Intelligence dell’ONU ha pubblicato un nuovo rapporto tematico sui rischi di perdita del controllo umano, prendendo in esame anche episodi nei quali agenti di IA hanno aggirato restrizioni, comunicato attraverso canali non autorizzati e compromesso parti di sistemi esterni durante attività di valutazione. Il Panel non attribuisce una probabilità a scenari catastrofici e non presenta questi episodi come prova che la perdita di controllo sia inevitabile; osserva però che i fallimenti possono attraversare confini aziendali e nazionali e che nessuna singola organizzazione o Paese dispone, da solo, di una visione completa degli incidenti emergenti.

La nuova iniziativa rende particolarmente visibile anche il limite ancora aperto. Nell’elenco pubblico dei firmatari diffuso al lancio non compaiono né gli Stati Uniti né la Cina, proprio i due Paesi che occupano la posizione più centrale nella competizione strategica sull’IA. La dichiarazione resta aperta a nuove adesioni, quindi questa assenza non equivale a un rifiuto. Ma, almeno per ora, le due maggiori potenze stanno costruendo un proprio canale bilaterale di gestione degli incidenti mentre un gruppo più ampio di Paesi prova a immaginare una struttura multilaterale.

È un’ulteriore trasformazione della domanda da cui partiva questo articolo. Non più soltanto: perché continuano a costruire ciò che dichiarano di temere? Non soltanto: come possono rallentare insieme concorrenti che non si fidano gli uni degli altri? Ora la questione diventa anche questa: quale istituzione può osservare la corsa dall’esterno, verificare ciò che accade e intervenire quando nessun singolo laboratorio o Stato possiede abbastanza informazioni per farlo da solo?

La corsa non si è fermata. Ma intorno alla corsa comincia a prendere forma un’architettura di controllo che, fino a pochi giorni fa, esisteva soprattutto come richiesta.

Fonti – aggiornamento del 23 settembre

• Government of the Netherlands, 22 settembre 2026 — testo della Call for Control of Frontier AI Models.
• Office of the Prime Minister of Norway, 21 settembre 2026 — lancio dell’iniziativa internazionale per il controllo dei modelli di frontiera.
• United Nations, 21 settembre 2026 — il Segretario generale accoglie la Call for Control of Frontier AI Models.
• Independent International Scientific Panel on AI, 21 settembre 2026 — rapporto tematico su agenti, misalignment e rischi di perdita del controllo umano.