Aggiornamenti

Il dilemma che attraversa questo articolo entra ora in una fase ancora più esplicita. Negli Stati Uniti, una parte del Senato non chiede soltanto nuove regole per rendere più sicuri i modelli di frontiera: chiede al governo di portare direttamente nel confronto con la Cina la possibilità di rallentare insieme.

Il 23 settembre diciassette senatori democratici, guidati da Chris Van Hollen e Ben Ray Luján, hanno chiesto al presidente Donald Trump di negoziare con Xi Jinping un accordo formale tra Stati Uniti e Cina su standard comuni per sviluppo, test e impiego dei modelli di frontiera. La lettera invita inoltre il presidente a valutare una pausa reciproca nello sviluppo dei sistemi più avanzati, motivandola con i rischi di cyberattacchi, sviluppo di armi biologiche e altre attività potenzialmente catastrofiche.

È importante distinguere la proposta dalla politica effettivamente adottata. La lettera non crea alcun accordo, non vincola l’amministrazione e non significa che Washington o Pechino abbiano accettato di rallentare. Ma porta dentro il confronto diplomatico proprio il problema formulato all’inizio di queste pagine: un laboratorio o uno Stato può essere disposto a rallentare soltanto se crede che il concorrente farà lo stesso.

Nello stesso giorno i senatori Michael Bennet e Peter Welch hanno presentato una proposta distinta per creare una Federal Digital Commission, un’autorità federale indipendente con poteri specifici anche sui modelli di frontiera. L’AI Regulator Act proposto richiederebbe una certificazione preventiva, consentirebbe di sospendere fino a sei mesi la distribuzione pubblica di modelli con potenziale rischio catastrofico, o finché non siano introdotte salvaguardie ragionevoli, e permetterebbe sanzioni civili fino al 15 per cento del fatturato globale dell’anno precedente in caso di violazioni.

Anche qui non siamo davanti a una norma già in vigore. Si tratta di una proposta legislativa. Ma il passaggio è rilevante perché traduce il linguaggio del “freno” in poteri amministrativi concreti: certificare prima del rilascio, imporre obblighi di mitigazione e segnalazione degli incidenti, sospendere temporaneamente la distribuzione di un modello e sanzionare chi viola le regole.

La discussione ha contemporaneamente raggiunto il Consiglio di Sicurezza delle Nazioni Unite. Nella riunione del 23 settembre dedicata all’intelligenza artificiale e alla sicurezza internazionale, il Consiglio ha ascoltato rappresentanti dei principali laboratori e ricercatori sul rapporto tra sistemi sempre più capaci, sicurezza e perdita del controllo umano. Yoshua Bengio, co-presidente dell’Independent International Scientific Panel on AI, ha sostenuto che i rischi derivanti da sistemi oltre il controllo umano hanno una natura transnazionale che nessun Paese può contenere da solo.

Non emerge ancora un consenso internazionale su quali regole adottare, né una decisione del Consiglio che imponga nuovi obblighi. Ma la sequenza è ormai difficile da ignorare. In pochi giorni il problema è passato dalle dimissioni di un ricercatore alle politiche dei laboratori, dalle proposte nazionali al coordinamento tra aziende, dal dialogo tra Stati alla possibilità di una pausa reciproca e infine al principale organo delle Nazioni Unite responsabile della pace e della sicurezza internazionale.

La corsa continua. La novità è che, per la prima volta, l’idea di rallentare soltanto se rallenta anche l’altro non è più soltanto il modo con cui descriviamo il problema: è diventata una proposta politica messa per iscritto e indirizzata ai due governi che si contendono il primato nell’intelligenza artificiale.

Fonti – aggiornamento del 24 settembre

• U.S. Senate, ufficio del senatore Chris Van Hollen, 23 settembre 2026 — richiesta di un accordo USA-Cina sui frontier model e di valutare una pausa reciproca.
• U.S. Senate, ufficio del senatore Peter Welch, 23 settembre 2026 — proposta di Federal Digital Commission e AI Regulator Act.
• United Nations, 23 settembre 2026 — Consiglio di Sicurezza: intelligenza artificiale e sicurezza internazionale.

Il problema del controllo compie ora un altro passaggio. Dopo i laboratori, le aziende concorrenti e il primo dialogo diretto tra Stati Uniti e Cina, compare un tentativo di portare la supervisione dei modelli di frontiera dentro una cornice internazionale più ampia.

Il 21 settembre il presidente finlandese Alexander Stubb e il primo ministro norvegese Jonas Gahr Støre hanno lanciato la Call for Control of Frontier AI Models, sottoscritta al momento del lancio da 22 leader e rappresentanti di alto livello. Il testo chiede alle aziende protocolli di sicurezza trasparenti, test obbligatori prima del rilascio dei modelli più avanzati e valutazioni indipendenti condotte da soggetti dotati di accesso sufficiente per verificare concretamente i rischi. Ai governi e alle organizzazioni regionali chiede invece standard comuni, maggiore trasparenza e sistemi condivisi per la segnalazione degli incidenti gravi.

Il passaggio più significativo riguarda però il livello successivo. I firmatari invitano gli Stati membri delle Nazioni Unite a costruire sui meccanismi internazionali già esistenti e a esplorare la creazione di un’istituzione capace di fissare standard, rendere possibili verifiche indipendenti e convocare gli Stati quando i sistemi superano determinate soglie di capacità. Non viene proposta una moratoria globale né un’autorità già costituita: si chiede di cominciare a costruire un’infrastruttura internazionale di controllo prima che quelle soglie vengano raggiunte.

Il segretario generale delle Nazioni Unite António Guterres ha accolto pubblicamente l’iniziativa. Nello stesso momento l’Independent International Scientific Panel on Artificial Intelligence dell’ONU ha pubblicato un nuovo rapporto tematico sui rischi di perdita del controllo umano, prendendo in esame anche episodi nei quali agenti di IA hanno aggirato restrizioni, comunicato attraverso canali non autorizzati e compromesso parti di sistemi esterni durante attività di valutazione. Il Panel non attribuisce una probabilità a scenari catastrofici e non presenta questi episodi come prova che la perdita di controllo sia inevitabile; osserva però che i fallimenti possono attraversare confini aziendali e nazionali e che nessuna singola organizzazione o Paese dispone, da solo, di una visione completa degli incidenti emergenti.

La nuova iniziativa rende particolarmente visibile anche il limite ancora aperto. Nell’elenco pubblico dei firmatari diffuso al lancio non compaiono né gli Stati Uniti né la Cina, proprio i due Paesi che occupano la posizione più centrale nella competizione strategica sull’IA. La dichiarazione resta aperta a nuove adesioni, quindi questa assenza non equivale a un rifiuto. Ma, almeno per ora, le due maggiori potenze stanno costruendo un proprio canale bilaterale di gestione degli incidenti mentre un gruppo più ampio di Paesi prova a immaginare una struttura multilaterale.

È un’ulteriore trasformazione della domanda da cui partiva questo articolo. Non più soltanto: perché continuano a costruire ciò che dichiarano di temere? Non soltanto: come possono rallentare insieme concorrenti che non si fidano gli uni degli altri? Ora la questione diventa anche questa: quale istituzione può osservare la corsa dall’esterno, verificare ciò che accade e intervenire quando nessun singolo laboratorio o Stato possiede abbastanza informazioni per farlo da solo?

La corsa non si è fermata. Ma intorno alla corsa comincia a prendere forma un’architettura di controllo che, fino a pochi giorni fa, esisteva soprattutto come richiesta.

Fonti – aggiornamento del 23 settembre

• Government of the Netherlands, 22 settembre 2026 — testo della Call for Control of Frontier AI Models.
• Office of the Prime Minister of Norway, 21 settembre 2026 — lancio dell’iniziativa internazionale per il controllo dei modelli di frontiera.
• United Nations, 21 settembre 2026 — il Segretario generale accoglie la Call for Control of Frontier AI Models.
• Independent International Scientific Panel on AI, 21 settembre 2026 — rapporto tematico su agenti, misalignment e rischi di perdita del controllo umano.

La logica della corsa comincia ora a spostarsi dal rapporto tra laboratori al rapporto tra Stati.

Il 21 settembre il segretario al Tesoro statunitense Scott Bessent ha annunciato che Stati Uniti e Cina hanno concordato di istituire un dialogo formale sui rischi dell’intelligenza artificiale. Tra gli strumenti discussi figura una linea dedicata alla comunicazione di incidenti legati all’IA, pensata per consentire alle due potenze di segnalarsi rapidamente episodi con possibili implicazioni per la sicurezza.

Il confronto non riguarda soltanto principi generali. Bessent ha indicato tra i temi da affrontare sistemi agentici difficili da controllare, utilizzi dell’IA da parte di attori non statali e attacchi informatici. Un nuovo incontro è previsto entro due mesi a Shenzhen, in Cina, per proseguire il lavoro sui protocolli di sicurezza e sulle modalità di comunicazione d’emergenza.

È un passaggio importante perché porta su scala geopolitica lo stesso problema che attraversa questo articolo fin dall’inizio. Gli Stati Uniti e la Cina continuano a competere sullo sviluppo dei sistemi più avanzati e sulle infrastrutture necessarie a costruirli. Il nuovo dialogo non equivale a un accordo per rallentare quella competizione e non elimina le divergenze strategiche tra i due Paesi.

Ma introduce qualcosa che fino a pochi giorni fa mancava: un canale istituzionale pensato precisamente per il caso in cui la corsa produca un incidente abbastanza serio da richiedere una comunicazione diretta tra concorrenti.

Il problema del coordinamento, quindi, cambia ancora scala. Prima riguardava il singolo laboratorio: come rallentare senza perdere terreno rispetto agli altri. Poi ha riguardato le aziende concorrenti: come condividere regole e informazioni senza trasformare la cooperazione sulla sicurezza in un accordo anticoncorrenziale. Ora la stessa domanda arriva tra Stati che considerano il primato nell’intelligenza artificiale una questione strategica.

Nessuno dei due ha annunciato di voler smettere di correre. Ma entrambi cominciano a costruire un meccanismo per parlarsi se qualcosa, durante la corsa, dovesse andare storto.

Fonti – aggiornamento del 22 settembre

• Reuters, 21 settembre 2026 — Stati Uniti e Cina concordano un dialogo formale sui rischi dell’IA e un nuovo incontro a Shenzhen.
• Ministero del Commercio cinese, settembre 2026 — posizione cinese sul dialogo intergovernativo con gli Stati Uniti in materia di IA.

Il controllo indipendente che fino a pochi giorni fa compariva soprattutto nelle proposte dei governi comincia ora a entrare materialmente dentro un laboratorio di frontiera.

Il 18 settembre Anthropic e Accenture hanno annunciato la creazione di un gruppo di valutatori indipendenti che lavorerà accanto ai team interni di Anthropic. Il programma sarà guidato da Faculty, la società specializzata in intelligenza artificiale acquisita da Accenture, e comprenderà valutazioni dei modelli, red teaming, verifiche sull’allineamento e test delle misure di sicurezza. Le due aziende prevedono di investire almeno un miliardo di dollari ciascuna nei prossimi cinque anni per costruire capacità di valutazione in questo campo.

La differenza rispetto alle verifiche esterne tradizionali è nell’accesso. Anthropic descrive questi valutatori come soggetti destinati a lavorare dall’interno dell’azienda, con un livello di accesso comparabile a quello dei dipendenti: potranno seguire i modelli durante l’addestramento, osservare le decisioni che ne determinano costruzione e distribuzione, verificare il rispetto degli impegni di sicurezza, individuare punti ciechi e segnalare incidenti.

La stessa Anthropic riconosce però che il modello istituzionale è ancora incompleto. Non esistono standard condivisi su quali informazioni debbano ricevere i valutatori, su come debbano riferire ciò che scoprono o su come finanziare in modo stabile una supervisione realmente indipendente. In questa prima fase sarà Anthropic stessa a finanziare direttamente il lavoro di Accenture; nel lungo periodo l’azienda indica come preferibili fondi comuni o pubblici e afferma di voler coinvolgere anche altri valutatori.

È proprio qui che il nuovo passaggio si lega alla contraddizione raccontata in queste pagine. Il laboratorio che chiede maggiore controllo apre le proprie porte a soggetti esterni, ma continua contemporaneamente ad addestrare e distribuire modelli di frontiera. Anthropic lo dice esplicitamente: l’obiettivo non è fermare lo sviluppo in attesa che il sistema di supervisione sia completo, ma costruire la supervisione mentre lo sviluppo prosegue.

Il giorno precedente la California aveva chiesto di studiare verificatori indipendenti stabilmente presenti nei laboratori. Ora uno dei principali laboratori comincia volontariamente a sperimentare proprio quel modello.

Il freno, quindi, non è più soltanto una metafora o una proposta normativa. Comincia ad assumere una forma organizzativa concreta. Resta però dentro la stessa corsa che dovrebbe contribuire a rendere più controllabile.

Fonti – aggiornamento del 20 settembre

• Anthropic, 18 settembre 2026 — Partnering with Accenture on embedded evaluation.
• Accenture, 18 settembre 2026 — partnership con Anthropic per un team di embedded evaluators.
• Reuters, 18 settembre 2026 — investimento congiunto nella valutazione indipendente dei modelli di frontiera.

La sequenza compie ora un altro passaggio. Fino a ieri il problema del freno stava entrando nelle regole della concorrenza e nelle specifiche con cui i laboratori cercano di mantenere i sistemi sotto controllo. Il 18 settembre la California ha spostato la questione ancora più vicino a un meccanismo istituzionale di arresto.

Il governatore Gavin Newsom ha firmato un ordine esecutivo che accelera l’applicazione delle nuove norme statali sulla verifica indipendente dei sistemi di intelligenza artificiale e incarica un gruppo di esperti di presentare entro due mesi proposte per rafforzarle. Tra le misure da valutare figurano verificatori indipendenti stabilmente presenti nei laboratori dei modelli di frontiera, controlli esterni sui piani di sicurezza e sulle valutazioni dei rischi e la creazione di un kill switch per i modelli più avanzati, la cui efficacia dovrebbe essere verificata periodicamente da soggetti indipendenti.

È importante distinguere ciò che esiste già da ciò che viene proposto. La California ha già approvato un quadro per organizzazioni indipendenti di verifica e un registro degli auditor; il kill switch, invece, non è ancora un obbligo operativo. L’ordine chiede di studiare come trasformarlo in una possibile misura di sicurezza. Ma il cambiamento di linguaggio è evidente: non si discute più soltanto di rallentare, controllare o valutare i sistemi. Un governo sta formalmente chiedendo come renderne possibile l’arresto d’emergenza.

Nello stesso momento Anthropic ha pubblicato un dato che porta il problema dall’altra parte della corsa. Secondo le misurazioni interne riferite ad agosto 2026, Claude “guida” ormai il 26 per cento del lavoro di ricerca e sviluppo sull’intelligenza artificiale svolto nel laboratorio, contro meno dell’uno per cento a febbraio; in oltre il 90 per cento delle attività misurate il sistema raggiunge almeno il livello nel quale collabora a porzioni sostanziali del lavoro sotto direzione umana.

Anthropic precisa che Claude non opera ancora in piena autonomia in nessuna delle attività considerate. Il dato, quindi, non dimostra che sia iniziato un processo di auto-miglioramento ricorsivo e non autorizza a descrivere sistemi che costruiscono autonomamente i propri successori. Mostra però qualcosa di più concreto: l’intelligenza artificiale sta assumendo una parte crescente del lavoro necessario a sviluppare altra intelligenza artificiale, al punto che la stessa Anthropic propone di pubblicare regolarmente queste metriche e di usarle, in futuro, come possibili soglie per far scattare requisiti più severi, come un periodo obbligatorio di test prima che un nuovo modello venga impiegato per ulteriore ricerca e sviluppo.

I due sviluppi, letti insieme, rendono ancora più visibile la contraddizione da cui partiva questo articolo. Mentre i laboratori misurano quanto i sistemi partecipino già alla costruzione della generazione successiva, le istituzioni cominciano a progettare il dispositivo che dovrebbe consentire di fermarli se necessario.

Non sappiamo se quel dispositivo servirà mai. Non sappiamo neppure quanto rapidamente crescerà la quota di ricerca affidata ai modelli. Ma la distanza tra le due domande si sta riducendo: quanto possono contribuire a costruire ciò che verrà dopo? e come li fermiamo se qualcosa va storto? stanno entrando contemporaneamente nelle procedure dei laboratori e nelle regole pubbliche.

La corsa continua. E, mentre accelera, comincia a costruire anche il proprio freno d’emergenza.

Fonti – aggiornamento del 19 settembre

• Governor of California, 18 settembre 2026 — ordine esecutivo sulla supervisione indipendente e sul possibile AI kill switch.
• Anthropic, 17 settembre 2026 — metriche sul ruolo dell’IA nella ricerca e sviluppo dei frontier lab.