Nota editoriale. Questo articolo è stato pubblicato originariamente il 10 settembre 2026. Il testo storico viene riproposto senza riscritture; in fondo alla pagina sono raccolti gli sviluppi successivi della vicenda.
Le dimissioni di Jacob Coxon da Anthropic hanno prodotto qualcosa di più di un nuovo allarme sull’intelligenza artificiale. Alcuni dei ricercatori che lavorano sui sistemi più avanzati dichiarano apertamente di temerne le conseguenze, mentre le aziende continuano ad accelerare. Il problema, allora, non è soltanto quanto possa diventare potente l’IA. È capire perché una corsa giudicata pericolosa dai suoi stessi protagonisti continui a sembrare razionale.
Jacob Coxon non ha lasciato Anthropic sostenendo di aver scoperto improvvisamente che l’intelligenza artificiale può essere pericolosa. Ha fatto qualcosa di più difficile da liquidare: ha raccontato che quella preoccupazione esiste già dentro i laboratori che stanno costruendo i sistemi più avanzati.
Coxon ha lavorato per circa tre anni nella ricerca sul pretraining, prima in OpenAI e poi in Anthropic. L’8 settembre ha annunciato le proprie dimissioni accusando entrambe le aziende di correre verso sistemi sempre più potenti e potenzialmente capaci di migliorare le proprie capacità, senza che esistano garanzie sufficienti sul loro controllo. Il suo messaggio ha raggiunto in poche ore oltre cento milioni di visualizzazioni.
La parte più spettacolare della sua denuncia è anche quella che ha occupato più rapidamente i titoli: secondo Coxon, persone impegnate direttamente nello sviluppo dell’IA ritengono possibile che sistemi futuri possano arrivare a minacciare l’esistenza stessa dell’umanità entro la fine del decennio.
È una previsione enorme. E proprio per questo rischia di oscurare la parte più interessante della vicenda.
Non sappiamo se una superintelligenza capace di auto-migliorarsi esisterà nel 2030. Non sappiamo se arriverà più tardi, se assumerà forme molto diverse da quelle immaginate oggi o se alcuni degli ostacoli tecnologici attuali si dimostreranno molto più resistenti del previsto. Attribuire una percentuale alla possibilità dell’estinzione umana non trasforma una previsione in un fatto.
Ma possiamo osservare qualcosa che sta accadendo adesso.
Chi lavora alla costruzione di questi sistemi dichiara di avere paura delle conseguenze. E continua a costruirli.
La reazione dall’interno
Se Coxon fosse rimasto solo, sarebbe stato relativamente semplice classificare la sua uscita come la posizione estrema di un singolo ricercatore. È accaduto quasi immediatamente il contrario.
Evan Hubinger, responsabile della ricerca sull’allineamento in Anthropic, ha pubblicamente sostenuto il nucleo dell’avvertimento di Coxon. Ha dichiarato di attribuire personalmente più del dieci per cento di probabilità, nel prossimo decennio, a un esito esistenziale provocato dall’IA e, soprattutto, ha riconosciuto che Anthropic non dispone ancora di una soluzione definita per l’allineamento di un’eventuale superintelligenza. Samuel Marks, responsabile dello scalable oversight, ha aggiunto che preoccupazioni molto gravi sulle conseguenze dei sistemi avanzati non sarebbero affatto eccezionali tra gli sviluppatori.
Non significa che dentro Anthropic esista un consenso sulla probabilità della catastrofe. Significa qualcosa di più limitato, ma ugualmente difficile da ignorare: il rischio esistenziale non è soltanto una narrazione prodotta da critici esterni all’industria. Viene discusso e considerato plausibile anche da persone incaricate precisamente di studiare come mantenere sotto controllo i sistemi futuri.
La stessa Anthropic non ha costruito la propria posizione pubblica negando questi rischi. La sua Responsible Scaling Policy parte esplicitamente dall’idea che modelli sempre più potenti possano generare nuovi pericoli e che le misure di sicurezza debbano crescere insieme alle loro capacità. La versione più recente della politica è stata aggiornata nell’agosto 2026 e l’azienda continua a sviluppare una propria roadmap di sicurezza per i modelli di frontiera.
Il paradosso, dunque, non nasce dalla contrapposizione tra chi crede nel rischio e chi lo nega.
Nasce quando chi riconosce il rischio continua contemporaneamente ad aumentare la potenza della tecnologia che lo produce.
Se rallento io, accelera l’altro
Coxon descrive il comportamento dei laboratori come una corsa. OpenAI vuole precedere Anthropic, Anthropic non vuole lasciare il campo a OpenAI, entrambe guardano ai concorrenti statunitensi e cinesi, mentre enormi investimenti e prospettive finanziarie rendono il rallentamento sempre più costoso.
Associated Press descrive OpenAI e Anthropic come aziende contemporaneamente impegnate nella competizione reciproca, nella corsa contro i laboratori cinesi e nella preparazione di operazioni finanziarie di enorme valore. Reuters segnala la stessa tensione tra crescita rapidissima delle capacità, interessi economici e preoccupazioni sulla possibilità di mantenere sotto controllo sistemi sempre più autonomi.
È qui che il problema smette di essere esclusivamente tecnologico.
Supponiamo che un laboratorio ritenga davvero pericoloso procedere troppo rapidamente. Fermarsi sarebbe, in teoria, la decisione coerente. Ma se pensa che il concorrente continuerà comunque, rallentare significa soltanto lasciargli un vantaggio. Se invece continua la corsa, può convincersi di avere almeno una possibilità di arrivare per primo e sviluppare il sistema secondo criteri che considera più sicuri.
Il concorrente può fare esattamente lo stesso ragionamento.
Alla fine tutti possono preferire collettivamente un mondo nel quale lo sviluppo procede con maggiore cautela e, nello stesso tempo, avere individualmente un incentivo ad accelerare.
Non occorre attribuire a nessuno cattive intenzioni. È sufficiente che ciascun attore consideri razionale non fidarsi degli altri.
Il risultato assomiglia molto a uno dei problemi più antichi della cooperazione: una decisione sensata presa individualmente può produrre un esito che nessuno avrebbe scelto collettivamente.
La corsa all’IA rischia così di diventare una macchina che non necessita di qualcuno al comando. Ognuno accelera perché vede accelerare gli altri.
La sicurezza come vantaggio competitivo
Anthropic occupa una posizione particolarmente interessante in questo quadro perché ha costruito una parte importante della propria identità sulla sicurezza. L’azienda nasce anche dalla separazione di ricercatori provenienti da OpenAI e continua a presentarsi come uno dei laboratori più attenti ai rischi dei sistemi di frontiera. Associated Press ricorda che Anthropic ha recentemente ribadito l’intenzione di privilegiare la sicurezza rispetto alla velocità quando le due entrano realmente in conflitto.
Proprio per questo le dimissioni di Coxon pesano più di quanto avrebbero pesato altrove.
Il problema non è dimostrare che Anthropic sia incoerente o che le sue politiche di sicurezza siano inutili. Sarebbe una conclusione troppo semplice. Il problema è capire se un singolo laboratorio possa davvero applicare fino in fondo una politica di rallentamento quando il suo stesso futuro dipende dalla capacità di restare competitivo.
Una politica volontaria funziona finché il costo del rispetto delle regole resta sopportabile. Diventa molto più difficile quando rispettarle può significare perdere il primato tecnologico, investitori, clienti o capacità strategica.
Ed è precisamente allora che scopriamo la differenza tra avere principi e avere istituzioni capaci di renderli praticabili.
Poi arriva la politica
La denuncia di Coxon ha rapidamente oltrepassato i laboratori.
Negli Stati Uniti Bernie Sanders ha ripreso pubblicamente le sue preoccupazioni e annunciato iniziative per fermare lo sviluppo della superintelligenza; Ted Cruz ha definito allarmanti le dichiarazioni dei ricercatori; Ted Lieu le ha utilizzate per sostenere la necessità di strumenti legislativi di emergenza, mentre altri parlamentari hanno chiesto al Congresso di intervenire.
È prevedibile che il dibattito politico semplifichi la questione. Una frase come «l’IA potrebbe ucciderci tutti» possiede una forza comunicativa che una discussione sui meccanismi di coordinamento internazionale non avrà mai.
Ma anche qui conviene separare due problemi.
Il primo riguarda la previsione: quanto è realmente probabile che un sistema di IA provochi una catastrofe esistenziale?
Il secondo riguarda la governance: quale livello di rischio siamo disposti ad accettare quando chi produce una tecnologia ammette di non poter escludere conseguenze estremamente gravi?
Non occorre credere a una probabilità del dieci, del venticinque o dell’uno per cento per affrontare la seconda domanda.
È sufficiente riconoscere che l’incertezza esiste.
Il numero che non possiamo conoscere
Il dibattito rischia ora di concentrarsi sulle percentuali.
Dieci per cento. Venticinque per cento. Un decennio. Due anni. 2030.
Sono numeri che producono titoli, ma possiedono un’apparenza di precisione superiore alla conoscenza disponibile.
Non abbiamo una statistica storica delle superintelligenze fuori controllo. Non possediamo una popolazione di eventi comparabili dalla quale ricavare probabilità affidabili. Quelle percentuali rappresentano giudizi informati, modelli mentali e valutazioni personali di ricercatori molto vicini alla tecnologia. Sono interessanti proprio per questo, ma non sono misurazioni sperimentali.
Prenderle sul serio non significa trasformarle in profezie.
E respingerle perché non sono dimostrabili significa commettere l’errore opposto.
La parte osservabile non è il futuro che descrivono. È il comportamento presente di chi quel futuro sta tentando di costruire.
Il gesto di Coxon
C’è infine un particolare che non dimostra la correttezza delle sue previsioni, ma rende più difficile liquidarne le motivazioni.
Coxon ha raccontato di avere lasciato Anthropic circa due mesi prima che maturasse la propria partecipazione azionaria. Ad Axios ha spiegato che, uscendo in quel momento, non avrebbe tratto beneficio dall’eventuale aumento della valutazione della società.
Rinunciare a un interesse economico non rende automaticamente vera una tesi. Dimostra soltanto che l’ipotesi più comoda — un allarme costruito per guadagnare attenzione o denaro — non basta a spiegare il gesto.
Possiamo ritenere Coxon eccessivamente pessimista e prendere comunque sul serio il problema che indica.
Anzi, forse è proprio ciò che dovremmo fare.
La domanda sbagliata
Da anni chiediamo che cosa farà l’intelligenza artificiale quando diventerà abbastanza potente.
Potrebbe sostituire lavoratori? Potrebbe manipolare le persone? Potrebbe progettare armi? Potrebbe ingannare i propri controllori? Potrebbe migliorare se stessa?
Sono domande legittime. Ma il caso Coxon ne suggerisce una precedente.
Che cosa fanno gli esseri umani quando costruiscono qualcosa che essi stessi dichiarano di temere?
Per ora la risposta sembra essere: continuano.
Continuano perché esistono concorrenti. Perché esistono investimenti. Perché esistono governi interessati al primato tecnologico. Perché rallentare unilateralmente può sembrare più pericoloso che accelerare. E perché ciascuno può convincersi che il proprio sistema sarà più controllabile di quello che costruirebbe qualcun altro.
In questa storia la superintelligenza non esiste ancora.
La corsa sì.
Ed è forse questo il dato più concreto che abbiamo davanti: mentre discutiamo di un futuro nel quale potremmo perdere il controllo delle macchine, abbiamo già costruito un sistema nel quale sembra sempre più difficile controllare gli incentivi degli uomini che le costruiscono.
Prima di domandarci se sapremo fermare un’intelligenza artificiale, potrebbe quindi valere la pena rispondere a una domanda molto meno futuristica.
Siamo ancora capaci di fermare noi stessi?