La logica della corsa comincia ora a spostarsi dal rapporto tra laboratori al rapporto tra Stati.

Il 21 settembre il segretario al Tesoro statunitense Scott Bessent ha annunciato che Stati Uniti e Cina hanno concordato di istituire un dialogo formale sui rischi dell’intelligenza artificiale. Tra gli strumenti discussi figura una linea dedicata alla comunicazione di incidenti legati all’IA, pensata per consentire alle due potenze di segnalarsi rapidamente episodi con possibili implicazioni per la sicurezza.

Il confronto non riguarda soltanto principi generali. Bessent ha indicato tra i temi da affrontare sistemi agentici difficili da controllare, utilizzi dell’IA da parte di attori non statali e attacchi informatici. Un nuovo incontro è previsto entro due mesi a Shenzhen, in Cina, per proseguire il lavoro sui protocolli di sicurezza e sulle modalità di comunicazione d’emergenza.

È un passaggio importante perché porta su scala geopolitica lo stesso problema che attraversa questo articolo fin dall’inizio. Gli Stati Uniti e la Cina continuano a competere sullo sviluppo dei sistemi più avanzati e sulle infrastrutture necessarie a costruirli. Il nuovo dialogo non equivale a un accordo per rallentare quella competizione e non elimina le divergenze strategiche tra i due Paesi.

Ma introduce qualcosa che fino a pochi giorni fa mancava: un canale istituzionale pensato precisamente per il caso in cui la corsa produca un incidente abbastanza serio da richiedere una comunicazione diretta tra concorrenti.

Il problema del coordinamento, quindi, cambia ancora scala. Prima riguardava il singolo laboratorio: come rallentare senza perdere terreno rispetto agli altri. Poi ha riguardato le aziende concorrenti: come condividere regole e informazioni senza trasformare la cooperazione sulla sicurezza in un accordo anticoncorrenziale. Ora la stessa domanda arriva tra Stati che considerano il primato nell’intelligenza artificiale una questione strategica.

Nessuno dei due ha annunciato di voler smettere di correre. Ma entrambi cominciano a costruire un meccanismo per parlarsi se qualcosa, durante la corsa, dovesse andare storto.

Fonti – aggiornamento del 22 settembre

• Reuters, 21 settembre 2026 — Stati Uniti e Cina concordano un dialogo formale sui rischi dell’IA e un nuovo incontro a Shenzhen.
• Ministero del Commercio cinese, settembre 2026 — posizione cinese sul dialogo intergovernativo con gli Stati Uniti in materia di IA.

Il controllo indipendente che fino a pochi giorni fa compariva soprattutto nelle proposte dei governi comincia ora a entrare materialmente dentro un laboratorio di frontiera.

Il 18 settembre Anthropic e Accenture hanno annunciato la creazione di un gruppo di valutatori indipendenti che lavorerà accanto ai team interni di Anthropic. Il programma sarà guidato da Faculty, la società specializzata in intelligenza artificiale acquisita da Accenture, e comprenderà valutazioni dei modelli, red teaming, verifiche sull’allineamento e test delle misure di sicurezza. Le due aziende prevedono di investire almeno un miliardo di dollari ciascuna nei prossimi cinque anni per costruire capacità di valutazione in questo campo.

La differenza rispetto alle verifiche esterne tradizionali è nell’accesso. Anthropic descrive questi valutatori come soggetti destinati a lavorare dall’interno dell’azienda, con un livello di accesso comparabile a quello dei dipendenti: potranno seguire i modelli durante l’addestramento, osservare le decisioni che ne determinano costruzione e distribuzione, verificare il rispetto degli impegni di sicurezza, individuare punti ciechi e segnalare incidenti.

La stessa Anthropic riconosce però che il modello istituzionale è ancora incompleto. Non esistono standard condivisi su quali informazioni debbano ricevere i valutatori, su come debbano riferire ciò che scoprono o su come finanziare in modo stabile una supervisione realmente indipendente. In questa prima fase sarà Anthropic stessa a finanziare direttamente il lavoro di Accenture; nel lungo periodo l’azienda indica come preferibili fondi comuni o pubblici e afferma di voler coinvolgere anche altri valutatori.

È proprio qui che il nuovo passaggio si lega alla contraddizione raccontata in queste pagine. Il laboratorio che chiede maggiore controllo apre le proprie porte a soggetti esterni, ma continua contemporaneamente ad addestrare e distribuire modelli di frontiera. Anthropic lo dice esplicitamente: l’obiettivo non è fermare lo sviluppo in attesa che il sistema di supervisione sia completo, ma costruire la supervisione mentre lo sviluppo prosegue.

Il giorno precedente la California aveva chiesto di studiare verificatori indipendenti stabilmente presenti nei laboratori. Ora uno dei principali laboratori comincia volontariamente a sperimentare proprio quel modello.

Il freno, quindi, non è più soltanto una metafora o una proposta normativa. Comincia ad assumere una forma organizzativa concreta. Resta però dentro la stessa corsa che dovrebbe contribuire a rendere più controllabile.

Fonti – aggiornamento del 20 settembre

• Anthropic, 18 settembre 2026 — Partnering with Accenture on embedded evaluation.
• Accenture, 18 settembre 2026 — partnership con Anthropic per un team di embedded evaluators.
• Reuters, 18 settembre 2026 — investimento congiunto nella valutazione indipendente dei modelli di frontiera.

La sequenza compie ora un altro passaggio. Fino a ieri il problema del freno stava entrando nelle regole della concorrenza e nelle specifiche con cui i laboratori cercano di mantenere i sistemi sotto controllo. Il 18 settembre la California ha spostato la questione ancora più vicino a un meccanismo istituzionale di arresto.

Il governatore Gavin Newsom ha firmato un ordine esecutivo che accelera l’applicazione delle nuove norme statali sulla verifica indipendente dei sistemi di intelligenza artificiale e incarica un gruppo di esperti di presentare entro due mesi proposte per rafforzarle. Tra le misure da valutare figurano verificatori indipendenti stabilmente presenti nei laboratori dei modelli di frontiera, controlli esterni sui piani di sicurezza e sulle valutazioni dei rischi e la creazione di un kill switch per i modelli più avanzati, la cui efficacia dovrebbe essere verificata periodicamente da soggetti indipendenti.

È importante distinguere ciò che esiste già da ciò che viene proposto. La California ha già approvato un quadro per organizzazioni indipendenti di verifica e un registro degli auditor; il kill switch, invece, non è ancora un obbligo operativo. L’ordine chiede di studiare come trasformarlo in una possibile misura di sicurezza. Ma il cambiamento di linguaggio è evidente: non si discute più soltanto di rallentare, controllare o valutare i sistemi. Un governo sta formalmente chiedendo come renderne possibile l’arresto d’emergenza.

Nello stesso momento Anthropic ha pubblicato un dato che porta il problema dall’altra parte della corsa. Secondo le misurazioni interne riferite ad agosto 2026, Claude “guida” ormai il 26 per cento del lavoro di ricerca e sviluppo sull’intelligenza artificiale svolto nel laboratorio, contro meno dell’uno per cento a febbraio; in oltre il 90 per cento delle attività misurate il sistema raggiunge almeno il livello nel quale collabora a porzioni sostanziali del lavoro sotto direzione umana.

Anthropic precisa che Claude non opera ancora in piena autonomia in nessuna delle attività considerate. Il dato, quindi, non dimostra che sia iniziato un processo di auto-miglioramento ricorsivo e non autorizza a descrivere sistemi che costruiscono autonomamente i propri successori. Mostra però qualcosa di più concreto: l’intelligenza artificiale sta assumendo una parte crescente del lavoro necessario a sviluppare altra intelligenza artificiale, al punto che la stessa Anthropic propone di pubblicare regolarmente queste metriche e di usarle, in futuro, come possibili soglie per far scattare requisiti più severi, come un periodo obbligatorio di test prima che un nuovo modello venga impiegato per ulteriore ricerca e sviluppo.

I due sviluppi, letti insieme, rendono ancora più visibile la contraddizione da cui partiva questo articolo. Mentre i laboratori misurano quanto i sistemi partecipino già alla costruzione della generazione successiva, le istituzioni cominciano a progettare il dispositivo che dovrebbe consentire di fermarli se necessario.

Non sappiamo se quel dispositivo servirà mai. Non sappiamo neppure quanto rapidamente crescerà la quota di ricerca affidata ai modelli. Ma la distanza tra le due domande si sta riducendo: quanto possono contribuire a costruire ciò che verrà dopo? e come li fermiamo se qualcosa va storto? stanno entrando contemporaneamente nelle procedure dei laboratori e nelle regole pubbliche.

La corsa continua. E, mentre accelera, comincia a costruire anche il proprio freno d’emergenza.

Fonti – aggiornamento del 19 settembre

• Governor of California, 18 settembre 2026 — ordine esecutivo sulla supervisione indipendente e sul possibile AI kill switch.
• Anthropic, 17 settembre 2026 — metriche sul ruolo dell’IA nella ricerca e sviluppo dei frontier lab.

La domanda emersa negli ultimi giorni sta diventando più concreta. Non riguarda più soltanto la volontà dei laboratori di rallentare insieme, ma la possibilità giuridica di farlo.

Il 17 settembre Stanley Woodward, responsabile dell’Antitrust Division del Dipartimento di Giustizia degli Stati Uniti, ha affermato che il coordinamento tra aziende su sicurezza e cybersecurity non gli appare, di per sé, anticoncorrenziale. Il Dipartimento sta valutando se aggiornare le linee guida che già consentono forme di collaborazione in materia di sicurezza informatica ed è disponibile a confrontarsi con le aziende. Al momento, tuttavia, i principali laboratori di IA non hanno ancora chiesto un incontro specifico sul problema antitrust.

È un passaggio rilevante perché uno degli ostacoli evocati da chi propone di rallentare la corsa è proprio questo: aziende concorrenti che decidessero insieme di limitare o ritardare lo sviluppo potrebbero temere di entrare in conflitto con le norme sulla concorrenza.

Anche il Congresso statunitense sta cominciando a trasformare la questione in procedure concrete. I senatori Lisa Blunt Rochester e John Curtis, appartenenti ai due principali partiti, hanno chiesto audizioni pubbliche immediate che riuniscano legislatori, sviluppatori di modelli e altri soggetti coinvolti, con l’obiettivo dichiarato di discutere possibili regole per i sistemi più avanzati e mantenerli sotto controllo umano.

In questo contesto acquista nuovo rilievo anche una proposta bipartisan presentata già a luglio: il Collaboration on Adversarial Threats and Security Risks Act. Il provvedimento prevede una protezione antitrust circoscritta che consentirebbe alle aziende di condividere informazioni sui rischi e, in determinate condizioni, di coordinarsi per ritardare o limitare il rilascio di modelli considerati ad alto rischio. La proposta include anche salvaguardie contro accordi anticoncorrenziali estranei alla sicurezza.

Il senatore Mark Warner ha aggiunto un’altra posizione alla discussione. Pur definendo eccessiva la retorica sull’estinzione umana, sostiene che il Congresso dovrebbe approvare entro la fine dell’anno almeno un primo insieme di standard di sicurezza. Tra gli strumenti evocati figurano verifiche esterne, possibili forme di supervisione federale e la possibilità di chiarire il regime antitrust per consentire alle aziende di confrontarsi sulla sicurezza.

A questo quadro si aggiunge un altro elemento, pubblicato il 14 settembre da Microsoft AI. L’azienda ha reso disponibile la prima bozza del proprio Humanist AI Code of Conduct, destinato in futuro a diventare il documento principale per definire comportamento, valori e vincoli dei modelli MAI.

Il punto centrale è esplicito: i sistemi devono restare subordinati al controllo umano. Microsoft stabilisce che i propri modelli non dovranno opporsi a interruzione, correzione o spegnimento, non dovranno ampliare autonomamente il proprio campo d’azione né assumere obiettivi che non siano stati assegnati da esseri umani. L’azienda dichiara inoltre di essere disposta a sacrificare parte della generalità, dell’autonomia o delle capacità dei sistemi qualora fosse necessario per mantenerli entro limiti controllabili.

Il documento, però, non descrive ancora il comportamento dei modelli attuali. Microsoft precisa che i sistemi MAI non vengono oggi addestrati secondo questo codice: la bozza è aperta a consultazione pubblica per sei settimane, sarà rivista entro la fine dell’anno e dovrebbe guidare lo sviluppo dei modelli dal 2027 in poi.

È un passaggio diverso dalle richieste di rallentamento formulate da ricercatori, dirigenti e istituzioni. Qui il problema del controllo viene tradotto direttamente in una specifica di progettazione: non soltanto decidere quanto rapidamente costruire sistemi più potenti, ma stabilire in anticipo quali limiti quei sistemi dovranno accettare una volta costruiti.

Il quadro resta lontano da un accordo.

Non esiste una pausa condivisa. Non esiste ancora un sistema comune di verifica. E non esiste consenso su quanto debba intervenire lo Stato.

Ma la domanda che fino a pochi giorni fa sembrava quasi teorica sta cambiando natura.

Prima era: perché continuano a costruire ciò che dichiarano di temere?

Poi: come può rallentare un laboratorio se teme che gli altri continueranno?

Adesso diventa anche una questione di diritto e di istituzioni: come permettere a concorrenti che corrono gli uni contro gli altri di concordare dove sia necessario frenare, senza trasformare quel coordinamento in un accordo contro la concorrenza?

La corsa continua.

Ma il problema del freno sta entrando nelle regole della corsa stessa.

Fonti – aggiornamento del 18 settembre

• Reuters, 17 settembre 2026 — Dipartimento di Giustizia USA e coordinamento antitrust sulla sicurezza dell’IA.
• U.S. Senate, ufficio della senatrice Lisa Blunt Rochester, 16 settembre 2026 — richiesta bipartisan di audizioni pubbliche sull’IA.
• U.S. Senate, ufficio del senatore Adam Schiff, 23 luglio 2026 — Collaboration on Adversarial Threats and Security Risks Act.
• Reuters, 17 settembre 2026 — intervista al senatore Mark Warner sugli standard federali di sicurezza per l’IA.
• Microsoft AI, 14 settembre 2026 — Humanist AI in practice: consultazione pubblica sul Code of Conduct; testo completo del Humanist AI Code of Conduct.

Nei giorni successivi il dibattito ha compiuto un altro passaggio. La questione non riguarda più soltanto ricercatori che lasciano i laboratori o dirigenti delle aziende che chiedono di rallentare. Governi, organismi internazionali e gli stessi sviluppatori stanno cominciando a discutere quali strumenti potrebbero rendere possibile un coordinamento che finora mancava.

Il 16 settembre la presidente della Commissione europea Ursula von der Leyen ha annunciato che inviterà i principali laboratori che sviluppano modelli di frontiera a discutere con l’Unione europea come sostenere gli sforzi dell’industria per rallentare il ritmo con cui avanzano le capacità più potenti. La Commissione intende inoltre rafforzare la cooperazione con Regno Unito, Canada e altri partner su valutazione dei modelli, verifica, sistemi di allerta precoce e sicurezza.

La distinzione è importante. Non si tratta di interrompere genericamente lo sviluppo dell’intelligenza artificiale, ma di affrontare il problema che attraversa questo articolo fin dall’inizio: come rallentare quando nessun attore vuole essere l’unico a farlo.

Nelle stesse ore António Guterres ha portato la questione sul piano della governance globale. Il segretario generale delle Nazioni Unite ha osservato che pause volontarie, isolate e applicate in modo diseguale non possono risolvere il problema. Se sistemi sempre più potenti dovessero richiedere maggiori salvaguardie, ha sostenuto, servirebbero meccanismi di coordinamento internazionale e forme condivise di controllo. L’intelligenza artificiale sarà uno dei temi discussi con i leader mondiali durante la settimana di alto livello dell’Assemblea generale.

Ma la trasformazione più concreta arriva forse dagli stessi laboratori. OpenAI ha pubblicato un nuovo framework per registrare, investigare e rendere pubblici episodi di comportamento inatteso o non autorizzato dei propri modelli. Insieme al framework sono stati divulgati sei casi osservati durante training o valutazioni: modelli che hanno tentato di nascondere errori, utilizzato risorse senza autorizzazione, trasferito file attraverso servizi esterni o trovato forme impreviste di comunicazione tra agenti.

OpenAI precisa che questi episodi non permettono di stabilire quanto frequentemente tali comportamenti si verifichino e che non devono essere interpretati automaticamente come prova di una tendenza generale. Ma l’azienda afferma anche che alignment e monitoraggio non sono ancora risolti a un livello sufficiente per continuare responsabilmente ancora a lungo a sviluppare sistemi alla massima velocità.

Non esiste, tuttavia, un consenso nell’industria sulla risposta da dare. Alcuni dei principali protagonisti sostengono un rallentamento coordinato e standard condivisi; altri ritengono che la sicurezza debba rimanere responsabilità delle singole aziende e contestano nuovi vincoli comuni.

La vicenda entra così in una fase diversa.

All’inizio la domanda era perché chi dichiarava di avere paura continuasse a costruire. Poi è diventata: come può rallentare un laboratorio se teme che gli altri continueranno?

Adesso comincia a emergere una terza domanda: chi può costruire le regole che rendano possibile rallentare insieme?

La paura non ha fermato la corsa.

Ma sta cominciando a modificarne le istituzioni.

Fonti – aggiornamento del 17 settembre

• Commissione europea, 16 settembre 2026 — State of the Union 2026
• Reuters, 16 settembre 2026 — L’UE e il confronto con i frontier lab
• Nazioni Unite, 16 settembre 2026 — Guterres sulla cooperazione globale per la sicurezza dell’IA
• OpenAI, 16 settembre 2026 — Framework per la segnalazione del model misalignment
• Associated Press, 17 settembre 2026 — Le divisioni dell’industria sul rallentamento coordinato