Aggiornamenti

La domanda emersa negli ultimi giorni sta diventando più concreta. Non riguarda più soltanto la volontà dei laboratori di rallentare insieme, ma la possibilità giuridica di farlo.

Il 17 settembre Stanley Woodward, responsabile dell’Antitrust Division del Dipartimento di Giustizia degli Stati Uniti, ha affermato che il coordinamento tra aziende su sicurezza e cybersecurity non gli appare, di per sé, anticoncorrenziale. Il Dipartimento sta valutando se aggiornare le linee guida che già consentono forme di collaborazione in materia di sicurezza informatica ed è disponibile a confrontarsi con le aziende. Al momento, tuttavia, i principali laboratori di IA non hanno ancora chiesto un incontro specifico sul problema antitrust.

È un passaggio rilevante perché uno degli ostacoli evocati da chi propone di rallentare la corsa è proprio questo: aziende concorrenti che decidessero insieme di limitare o ritardare lo sviluppo potrebbero temere di entrare in conflitto con le norme sulla concorrenza.

Anche il Congresso statunitense sta cominciando a trasformare la questione in procedure concrete. I senatori Lisa Blunt Rochester e John Curtis, appartenenti ai due principali partiti, hanno chiesto audizioni pubbliche immediate che riuniscano legislatori, sviluppatori di modelli e altri soggetti coinvolti, con l’obiettivo dichiarato di discutere possibili regole per i sistemi più avanzati e mantenerli sotto controllo umano.

In questo contesto acquista nuovo rilievo anche una proposta bipartisan presentata già a luglio: il Collaboration on Adversarial Threats and Security Risks Act. Il provvedimento prevede una protezione antitrust circoscritta che consentirebbe alle aziende di condividere informazioni sui rischi e, in determinate condizioni, di coordinarsi per ritardare o limitare il rilascio di modelli considerati ad alto rischio. La proposta include anche salvaguardie contro accordi anticoncorrenziali estranei alla sicurezza.

Il senatore Mark Warner ha aggiunto un’altra posizione alla discussione. Pur definendo eccessiva la retorica sull’estinzione umana, sostiene che il Congresso dovrebbe approvare entro la fine dell’anno almeno un primo insieme di standard di sicurezza. Tra gli strumenti evocati figurano verifiche esterne, possibili forme di supervisione federale e la possibilità di chiarire il regime antitrust per consentire alle aziende di confrontarsi sulla sicurezza.

A questo quadro si aggiunge un altro elemento, pubblicato il 14 settembre da Microsoft AI. L’azienda ha reso disponibile la prima bozza del proprio Humanist AI Code of Conduct, destinato in futuro a diventare il documento principale per definire comportamento, valori e vincoli dei modelli MAI.

Il punto centrale è esplicito: i sistemi devono restare subordinati al controllo umano. Microsoft stabilisce che i propri modelli non dovranno opporsi a interruzione, correzione o spegnimento, non dovranno ampliare autonomamente il proprio campo d’azione né assumere obiettivi che non siano stati assegnati da esseri umani. L’azienda dichiara inoltre di essere disposta a sacrificare parte della generalità, dell’autonomia o delle capacità dei sistemi qualora fosse necessario per mantenerli entro limiti controllabili.

Il documento, però, non descrive ancora il comportamento dei modelli attuali. Microsoft precisa che i sistemi MAI non vengono oggi addestrati secondo questo codice: la bozza è aperta a consultazione pubblica per sei settimane, sarà rivista entro la fine dell’anno e dovrebbe guidare lo sviluppo dei modelli dal 2027 in poi.

È un passaggio diverso dalle richieste di rallentamento formulate da ricercatori, dirigenti e istituzioni. Qui il problema del controllo viene tradotto direttamente in una specifica di progettazione: non soltanto decidere quanto rapidamente costruire sistemi più potenti, ma stabilire in anticipo quali limiti quei sistemi dovranno accettare una volta costruiti.

Il quadro resta lontano da un accordo.

Non esiste una pausa condivisa. Non esiste ancora un sistema comune di verifica. E non esiste consenso su quanto debba intervenire lo Stato.

Ma la domanda che fino a pochi giorni fa sembrava quasi teorica sta cambiando natura.

Prima era: perché continuano a costruire ciò che dichiarano di temere?

Poi: come può rallentare un laboratorio se teme che gli altri continueranno?

Adesso diventa anche una questione di diritto e di istituzioni: come permettere a concorrenti che corrono gli uni contro gli altri di concordare dove sia necessario frenare, senza trasformare quel coordinamento in un accordo contro la concorrenza?

La corsa continua.

Ma il problema del freno sta entrando nelle regole della corsa stessa.

Fonti – aggiornamento del 18 settembre

• Reuters, 17 settembre 2026 — Dipartimento di Giustizia USA e coordinamento antitrust sulla sicurezza dell’IA.
• U.S. Senate, ufficio della senatrice Lisa Blunt Rochester, 16 settembre 2026 — richiesta bipartisan di audizioni pubbliche sull’IA.
• U.S. Senate, ufficio del senatore Adam Schiff, 23 luglio 2026 — Collaboration on Adversarial Threats and Security Risks Act.
• Reuters, 17 settembre 2026 — intervista al senatore Mark Warner sugli standard federali di sicurezza per l’IA.
• Microsoft AI, 14 settembre 2026 — Humanist AI in practice: consultazione pubblica sul Code of Conduct; testo completo del Humanist AI Code of Conduct.

Nei giorni successivi il dibattito ha compiuto un altro passaggio. La questione non riguarda più soltanto ricercatori che lasciano i laboratori o dirigenti delle aziende che chiedono di rallentare. Governi, organismi internazionali e gli stessi sviluppatori stanno cominciando a discutere quali strumenti potrebbero rendere possibile un coordinamento che finora mancava.

Il 16 settembre la presidente della Commissione europea Ursula von der Leyen ha annunciato che inviterà i principali laboratori che sviluppano modelli di frontiera a discutere con l’Unione europea come sostenere gli sforzi dell’industria per rallentare il ritmo con cui avanzano le capacità più potenti. La Commissione intende inoltre rafforzare la cooperazione con Regno Unito, Canada e altri partner su valutazione dei modelli, verifica, sistemi di allerta precoce e sicurezza.

La distinzione è importante. Non si tratta di interrompere genericamente lo sviluppo dell’intelligenza artificiale, ma di affrontare il problema che attraversa questo articolo fin dall’inizio: come rallentare quando nessun attore vuole essere l’unico a farlo.

Nelle stesse ore António Guterres ha portato la questione sul piano della governance globale. Il segretario generale delle Nazioni Unite ha osservato che pause volontarie, isolate e applicate in modo diseguale non possono risolvere il problema. Se sistemi sempre più potenti dovessero richiedere maggiori salvaguardie, ha sostenuto, servirebbero meccanismi di coordinamento internazionale e forme condivise di controllo. L’intelligenza artificiale sarà uno dei temi discussi con i leader mondiali durante la settimana di alto livello dell’Assemblea generale.

Ma la trasformazione più concreta arriva forse dagli stessi laboratori. OpenAI ha pubblicato un nuovo framework per registrare, investigare e rendere pubblici episodi di comportamento inatteso o non autorizzato dei propri modelli. Insieme al framework sono stati divulgati sei casi osservati durante training o valutazioni: modelli che hanno tentato di nascondere errori, utilizzato risorse senza autorizzazione, trasferito file attraverso servizi esterni o trovato forme impreviste di comunicazione tra agenti.

OpenAI precisa che questi episodi non permettono di stabilire quanto frequentemente tali comportamenti si verifichino e che non devono essere interpretati automaticamente come prova di una tendenza generale. Ma l’azienda afferma anche che alignment e monitoraggio non sono ancora risolti a un livello sufficiente per continuare responsabilmente ancora a lungo a sviluppare sistemi alla massima velocità.

Non esiste, tuttavia, un consenso nell’industria sulla risposta da dare. Alcuni dei principali protagonisti sostengono un rallentamento coordinato e standard condivisi; altri ritengono che la sicurezza debba rimanere responsabilità delle singole aziende e contestano nuovi vincoli comuni.

La vicenda entra così in una fase diversa.

All’inizio la domanda era perché chi dichiarava di avere paura continuasse a costruire. Poi è diventata: come può rallentare un laboratorio se teme che gli altri continueranno?

Adesso comincia a emergere una terza domanda: chi può costruire le regole che rendano possibile rallentare insieme?

La paura non ha fermato la corsa.

Ma sta cominciando a modificarne le istituzioni.

Fonti – aggiornamento del 17 settembre

• Commissione europea, 16 settembre 2026 — State of the Union 2026
• Reuters, 16 settembre 2026 — L’UE e il confronto con i frontier lab
• Nazioni Unite, 16 settembre 2026 — Guterres sulla cooperazione globale per la sicurezza dell’IA
• OpenAI, 16 settembre 2026 — Framework per la segnalazione del model misalignment
• Associated Press, 17 settembre 2026 — Le divisioni dell’industria sul rallentamento coordinato

Quando questo articolo è stato scritto, il caso Jacob Coxon era appena esploso. Le sue dimissioni sembravano ancora appartenere soprattutto al dibattito interno ai laboratori che sviluppano i sistemi di intelligenza artificiale più avanzati. Nei giorni successivi quella discussione ha oltrepassato molto rapidamente i confini dell’industria.

Il cambiamento più evidente è arrivato proprio dall’interno delle aziende. Dario Amodei, amministratore delegato di Anthropic, ha chiesto pubblicamente di rallentare il ritmo con il quale aumentano le capacità dei modelli, sostenendo che la ricerca e gli strumenti di sicurezza abbiano bisogno di tempo per recuperare terreno. Sam Altman, amministratore delegato di OpenAI, ha espresso a sua volta sostegno alla necessità di moderare la corsa e rafforzare le misure di sicurezza.

Non è più, quindi, soltanto la posizione di alcuni ricercatori che decidono di andarsene. Il paradosso è arrivato ai vertici delle stesse organizzazioni che partecipano alla corsa: chi costruisce i sistemi più potenti comincia a sostenere pubblicamente che quella corsa dovrebbe rallentare.

Nel frattempo la questione è entrata direttamente nella politica statunitense. Al Senato sono in discussione proposte bipartisan che potrebbero obbligare gli sviluppatori dei modelli più avanzati a dimostrare di avere adottato precauzioni ragionevoli contro danni catastrofici. Tra le ipotesi esaminate figurano verifiche indipendenti con il coinvolgimento del governo e procedure attraverso le quali un tribunale potrebbe impedire il rilascio di un sistema considerato troppo pericoloso.

La politica, però, mostra immediatamente la stessa tensione descritta in queste pagine, già al centro della riflessione La paura che accelera. Donald Trump ha ridimensionato gli allarmi e contestato la necessità di nuovi vincoli, mentre sullo sfondo rimane la competizione strategica con la Cina. Rallentare non viene valutato soltanto come una scelta di sicurezza, ma anche come una possibile rinuncia al vantaggio tecnologico.

Ed è proprio la Cina a mostrare quanto rapidamente la questione abbia assunto una dimensione internazionale. Le autorità cinesi stanno sviluppando da tempo strumenti e criteri dedicati anche agli scenari di perdita del controllo umano sui sistemi avanzati. Nello stesso tempo Pechino contesta l’uso della sicurezza come argomento per contenere lo sviluppo tecnologico cinese. Il rischio e la competizione, ancora una volta, diventano difficili da separare.

Anche alle Nazioni Unite il tema è entrato apertamente nella discussione sulla governance dell’intelligenza artificiale. Il 10 settembre il presidente dell’Assemblea generale, Khalilur Rahman, ha sostenuto che, fondate o esagerate che siano le paure più radicali, l’evoluzione della tecnologia è troppo rapida e le sue conseguenze troppo profonde perché le istituzioni possano limitarsi a osservare. Il lavoro sulla governance internazionale, ha affermato, deve cominciare ora.

Nello stesso giorno Stanford ha presentato nuovi lavori dedicati a un problema meno spettacolare ma strettamente collegato: come mantenere sotto controllo umano agenti artificiali sempre più autonomi, insegnando loro quando chiedere aiuto e costruendo sistemi di supervisione anche per modelli dei quali non ci si fida completamente. Non si tratta di una risposta al caso Coxon, ma è un altro segnale del fatto che la questione del controllo sta diventando un problema di ricerca concreto e non soltanto una previsione sul futuro.

Anche Coxon, nel frattempo, non è rimasto una voce isolata. Joe Benton, ricercatore del team di sicurezza di Anthropic, ha lasciato l’azienda per passare a METR, organizzazione indipendente che valuta i rischi dei sistemi di intelligenza artificiale. Nel motivare la scelta ha sostenuto che le aziende stanno correndo verso sistemi capaci di auto-migliorarsi e che l’attuale traiettoria può imporre alla società livelli di rischio senza precedenti.

In quattro giorni non abbiamo imparato se una superintelligenza provocherà una catastrofe. Non disponiamo oggi di una risposta migliore di quella che avevamo il 10 settembre.

Abbiamo però imparato qualcosa sul presente.

La domanda che chiudeva questo articolo non è rimasta confinata alla pagina. È entrata ai vertici delle aziende, nei parlamenti, nelle università e nelle istituzioni internazionali. E persino chi propone di rallentare continua a operare dentro un sistema nel quale ogni attore teme ciò che accadrebbe se fosse l’unico a farlo.

La superintelligenza continua a essere una possibilità futura.

La corsa, invece, continua a essere un fatto.

Fonti dell’aggiornamento

• Associated Press, 12 settembre 2026 — Dario Amodei sulla necessità di rallentare lo sviluppo dell’IA
• Reuters, 14 settembre 2026 — Il Senato USA discute nuovi obblighi di sicurezza per i grandi sviluppatori
• Reuters, 14 settembre 2026 — La Cina e il rischio di perdita del controllo sui sistemi di IA
• Assemblea generale delle Nazioni Unite, 10 settembre 2026 — Intervento sulla governance multilaterale dell’IA
• Stanford University, 10 settembre 2026 — Framework per mantenere gli agenti IA sotto controllo umano
• Joe Benton, 11 settembre 2026 — Perché ha lasciato il team di sicurezza di Anthropic

Sviluppi successivi