1. Avere paura e continuare
C’è qualcosa che, osservato da lontano, sembra difficile da spiegare. Da una parte discutiamo continuamente dei rischi dell’intelligenza artificiale, della possibilità che sistemi sempre più capaci diventino difficili da controllare, delle conseguenze sul lavoro, sull’informazione, sulla sicurezza, perfino sull’equilibrio fra gli Stati. Dall’altra continuiamo a costruirli, ad addestrarli, ad aumentarne le capacità e ad accelerare la loro diffusione. Non lo fanno soltanto quelli che considerano queste preoccupazioni esagerate: qualche volta sono proprio le persone che parlano dei rischi con maggiore convinzione a continuare a lavorare perché quei sistemi diventino più potenti.
La prima spiegazione che viene in mente è abbastanza semplice: potrebbero non credere davvero a ciò che dicono. Può accadere, naturalmente. La paura può essere utilizzata per attirare attenzione, giustificare investimenti, ottenere regole favorevoli o presentare come straordinario qualcosa che si vuole vendere. Ma sarebbe troppo facile spiegare tutto in questo modo, perché dovremmo immaginare una quantità enorme di persone impegnate nella stessa finzione e, soprattutto, dovremmo ignorare una possibilità molto più interessante: qualcuno può avere davvero paura di ciò che sta costruendo e continuare ugualmente a costruirlo.
A quel punto la contraddizione non scompare, ma cambia. La domanda non è più soltanto perché non ci fermiamo davanti a qualcosa che consideriamo pericoloso. Diventa necessario chiedersi che cosa, per noi, potrebbe essere ancora più pericoloso del continuare.
2. Se mi fermo io
Immaginiamo per un momento che esista un solo laboratorio al mondo capace di sviluppare sistemi di intelligenza artificiale molto avanzati. Nessun concorrente, nessun altro Stato interessato alla stessa tecnologia, nessuno pronto ad approfittare di un rallentamento. Se quel laboratorio arrivasse alla conclusione che sta procedendo troppo velocemente, potrebbe decidere di fermarsi per sei mesi, un anno, forse più. Avrebbe certamente dei costi, ma non perderebbe terreno rispetto a nessuno perché non esisterebbe nessun altro terreno da perdere.
Il mondo reale non somiglia affatto a questo esempio. Ogni soggetto che rallenta sa che altri potrebbero continuare. Un’impresa che dedica più tempo ai controlli può vedere un concorrente arrivare prima sul mercato. Un laboratorio che rinuncia temporaneamente a sviluppare una capacità potrebbe scoprire che un altro l’ha raggiunta. Uno Stato che decide di procedere con maggiore cautela può temere che un altro utilizzi quella cautela come occasione per guadagnare vantaggio.
È qui che la paura comincia a comportarsi in un modo meno intuitivo. Se temo soltanto ciò che sto costruendo, ho una ragione per rallentare; se temo anche ciò che potrebbe accadere qualora fosse qualcun altro a costruirlo per primo, improvvisamente ho anche una ragione per accelerare. Le due paure riguardano la stessa tecnologia, ma tirano in direzioni opposte.
E non è difficile immaginare quale possa diventare più forte quando entra in gioco la competizione. Il rischio prodotto da un sistema futuro è spesso incerto, difficile da misurare e lontano nel tempo; il rischio di perdere una posizione, un mercato, una capacità strategica o semplicemente il ruolo di chi guida lo sviluppo può apparire molto più vicino. Fra un pericolo possibile domani e uno svantaggio visibile oggi, l’essere umano non sceglie sempre il primo.
3. La prudenza degli altri
C’è però un problema ancora più sottile. Non basta essere prudenti: bisogna poter credere che lo saranno anche gli altri.
Supponiamo che due soggetti arrivino entrambi alla conclusione che sarebbe meglio rallentare. Se ciascuno fosse certo che anche l’altro lo farà, la decisione potrebbe essere relativamente semplice. Ma quella certezza è proprio ciò che manca. Ognuno deve domandarsi se l’altro manterrà la promessa, se non continuerà di nascosto, se non interpreterà in modo diverso ciò che significa rallentare, se non cambierà idea appena intravede un vantaggio.
È una situazione strana, perché due persone possono desiderare lo stesso risultato e tuttavia comportarsi entrambe in modo da impedirlo. Non serve che una delle due sia particolarmente aggressiva o irresponsabile; basta che nessuna voglia essere l’unica ingenua.
A quel punto la prudenza smette di dipendere soltanto da ciò che pensiamo sia giusto fare e comincia a dipendere da ciò che crediamo faranno gli altri. Se penso che tu continuerai, la mia decisione di fermarmi assume un significato diverso. Non sto soltanto riducendo un rischio: sto concedendoti un vantaggio. E più considero importante ciò che stiamo costruendo, più quel vantaggio mi sembrerà difficile da accettare.
È così che una scelta sensata, presa da sola, può diventare quasi impossibile quando deve essere presa insieme ad altri che non controlliamo.
4. Non serve voler vincere
Quando parliamo di una corsa immaginiamo spesso qualcuno ossessionato dalla vittoria. È un’immagine comoda: chi corre troppo lo fa perché vuole arrivare primo, conquistare il mercato, diventare più potente degli altri. In questo modo il problema sembra appartenere soprattutto all’ambizione.
Ma non è necessario voler vincere per continuare a correre. Può bastare non voler perdere, e questa differenza cambia molto. Chi desidera vincere corre verso qualcosa; chi teme di perdere corre via da qualcosa. Il comportamento può essere identico, mentre la ragione è opposta. Nel primo caso l’accelerazione nasce dal desiderio, nel secondo dalla paura.
Questo rende la situazione più difficile da affrontare, perché è relativamente semplice criticare chi vuole sempre di più, mentre è molto più complicato discutere con qualcuno che dice di correre per proteggersi. Un’impresa può sostenere di dover sviluppare sistemi più potenti perché altrimenti lo farà un concorrente meno responsabile. Uno Stato può spiegare che deve investire perché non può lasciare una tecnologia strategica nelle mani di altri. Un laboratorio può convincersi che, proprio perché conosce i rischi, sia meglio che continui lui piuttosto che lasciare il campo a chi li considera meno importanti.
Il ragionamento può essere sincero, ed è proprio questo che dovrebbe preoccuparci più della semplice ipocrisia, perché un comportamento fondato sulla paura può continuare anche quando tutti coloro che lo adottano preferirebbero, almeno in teoria, un mondo nel quale nessuno fosse costretto a farlo.
5. La macchina non ha fretta
Parliamo spesso della velocità dell’intelligenza artificiale come se appartenesse all’intelligenza artificiale stessa. Diciamo che l’IA avanza, che corre, che si sviluppa a un ritmo impressionante, e naturalmente sappiamo che sono modi di dire. Eppure i modi di dire qualche volta nascondono il soggetto della frase meglio di quanto immaginiamo.
Un modello non decide che sia necessario uscire sei mesi prima, non teme che un concorrente guadagni quote di mercato, non sceglie di investire miliardi in nuovi data center, non stabilisce quanti ricercatori assumere e non decide quali capacità mettere a disposizione del pubblico. Tutte queste decisioni appartengono ancora agli esseri umani e alle organizzazioni che essi hanno costruito.
Dire che l’intelligenza artificiale accelera descrive ciò che vediamo; dire che stiamo accelerando lo sviluppo dell’intelligenza artificiale descrive anche ciò che facciamo. Non è una differenza da poco, perché nel primo caso la velocità sembra quasi una caratteristica naturale del fenomeno, come quella di una valanga che ormai scende lungo il pendio, mentre nel secondo torna immediatamente una domanda: perché stiamo accelerando?
La risposta più comoda è che non possiamo fare altrimenti. La tecnologia esiste, altri la svilupperanno comunque, il progresso non può essere fermato. Sono affermazioni che contengono certamente una parte di realtà, ma possiedono anche una qualità molto particolare: trasformano una somma di decisioni in qualcosa che somiglia al destino, e il destino, per definizione, non ha responsabili.
6. Costruire l’inevitabile
Quando diciamo che qualcosa è inevitabile possiamo intendere due cose molto diverse. Possiamo constatare che non esiste realisticamente alcun modo per impedirla, oppure possiamo contribuire a renderla inevitabile proprio perché siamo convinti che lo sia.
Se penso che tutti continueranno a correre, correrò anch’io. Il mio comportamento diventerà così una delle ragioni per cui qualcun altro penserà che tutti continueranno a correre. Lui farà lo stesso, confermando la mia previsione, e alla fine potremo guardarci attorno e constatare che avevamo ragione: nessuno si è fermato.
Ma ciò che è accaduto non dimostra necessariamente che nessuno avrebbe potuto fermarsi. Dimostra anche che ciascuno ha preso la decisione di non farlo sapendo che gli altri probabilmente avrebbero fatto altrettanto. Esistono processi umani che diventano difficili da interrompere proprio perché ogni partecipante considera inutile interromperli da solo. Non è necessario che qualcuno li abbia progettati in quel modo; basta che, una volta iniziati, producano incentivi abbastanza forti da mantenersi.
La corsa può allora apparire come qualcosa che nessuno ha scelto e che tuttavia è composta interamente da scelte. È uno degli aspetti più curiosi della nostra capacità di costruire sistemi: riusciamo a creare situazioni nelle quali, dopo un certo tempo, possiamo sinceramente affermare di sentirci prigionieri di ciò che abbiamo costruito noi stessi.
7. La paura che cambia direzione
Torniamo al punto di partenza. Se una tecnologia ci fa paura, perché la rendiamo più potente?
La paura non ci dice soltanto di allontanarci da ciò che consideriamo pericoloso. Qualche volta ci dice di impossessarcene prima che possa farlo qualcun altro. Non è una reazione nuova. L’essere umano ha spesso risposto a una minaccia aumentando la propria capacità di produrre la stessa minaccia: più armi perché gli altri possiedono armi, più controllo perché temiamo di perderlo, più capacità perché temiamo la capacità altrui. Non significa che l’intelligenza artificiale debba essere considerata semplicemente un’arma o che ogni suo sviluppo segua la stessa storia. Significa soltanto che conosciamo già il meccanismo attraverso il quale la paura può spingerci verso ciò da cui pensavamo avrebbe dovuto allontanarci.
Ed è proprio qui che il circuito diventa interessante. Se temiamo che sistemi molto potenti possano produrre conseguenze che non sappiamo controllare, potremmo desiderare maggiore prudenza; ma se temiamo contemporaneamente che altri raggiungano per primi quelle capacità, possiamo considerare necessario svilupparle ancora più rapidamente. Lo sviluppo aumenta le capacità, le capacità rendono più concrete alcune delle preoccupazioni iniziali e quelle nuove preoccupazioni aumentano il valore attribuito alla possibilità di controllare la tecnologia prima degli altri.
La paura, a quel punto, non arriva più soltanto dopo il progresso per giudicarne le conseguenze, ma comincia a partecipare alla sua produzione.
8. Il primo a frenare
È qui che compare la frase che governa silenziosamente tutto il problema: il primo a frenare perde.
Non è necessario che qualcuno la pronunci. È sufficiente che agisca come se fosse vera, e non è neppure detto che lo sia. Rallentare potrebbe produrre vantaggi, una maggiore sicurezza potrebbe rendere migliori i sistemi, la fiducia costruita nel tempo potrebbe valere più di qualche mese di anticipo. Potrebbe anche darsi che molti dei vantaggi attribuiti alla velocità siano sovrastimati o che la corsa stessa venga raccontata in modo più drammatico di quanto sia realmente.
Ma non è indispensabile che una convinzione sia vera per produrre conseguenze. Deve soltanto essere creduta abbastanza. Se chi decide pensa che fermarsi significhi perdere, la prudenza diventa qualcosa che ci si può permettere soltanto quando si è abbastanza avanti. Chi è indietro sentirà il bisogno di accelerare; chi è avanti continuerà perché sa che chi è indietro sta accelerando. Ognuno troverà nel comportamento dell’altro la conferma della propria scelta.
Così la paura non appartiene più a un singolo soggetto, ma comincia a circolare e, mentre circola, modifica il comportamento di tutti.
9. Ciò che costruiamo per difenderci
A questo punto potremmo ancora pensare che il problema riguardi soprattutto l’intelligenza artificiale: quanto velocemente debba essere sviluppata, quali regole applicarle, quali capacità evitare, chi dovrebbe controllarla. Sono domande importanti, ma stiamo già incontrando qualcosa che va oltre la tecnologia, perché stiamo osservando che cosa accade agli esseri umani quando ritengono di trovarsi davanti a una minaccia che nessuno può affrontare da solo.
Possiamo diventare più prudenti, ma possiamo anche diventare più sospettosi. Possiamo chiedere cooperazione e contemporaneamente prepararci al fallimento della cooperazione. Possiamo desiderare limiti comuni e temere che gli altri li rispettino meno di noi. Possiamo costruire strumenti per proteggerci da ciò che ci spaventa e, nel farlo, aumentare proprio la forza di ciò da cui volevamo proteggerci.
Questo non significa che ogni accelerazione sia prodotta dalla paura o che ogni timore verso l’intelligenza artificiale sia destinato ad aumentare il rischio. Sarebbe una conclusione troppo semplice e, soprattutto, ci impedirebbe di vedere le differenze. Significa però che la paura non è sempre una forza che frena e che, in determinate condizioni, può cambiare chi la prova prima ancora di cambiare ciò che viene temuto.
È da qui che conviene continuare, perché se davanti a qualcosa che consideriamo pericoloso possiamo arrivare a comportarci in modo da renderlo ancora più potente, la domanda successiva non riguarda più soltanto ciò che stiamo costruendo.
Riguarda noi: che cosa diventiamo quando abbiamo paura?
Fonti e riferimenti
Ethan Bueno de Mesquita, Wioletta Dziuda, Mattias Polborn, The AGI Race and Existential Risk, NBER Working Paper 35276, 2026. Utile per il rapporto tra competizione, velocità di sviluppo e investimenti in sicurezza.
Elias Fernández Domingos, The Anh Han, Falling Behind Drives Unsafe Development in an Idealised AI Race Experiment, 2026. Mostra sperimentalmente come il trovarsi indietro in una corsa possa aumentare la propensione a scegliere strategie meno sicure.
Charles I. Jones, The A.I. Dilemma: Growth versus Existential Risk, NBER Working Paper 31837, 2023. Offre una cornice economica più generale sul conflitto tra avanzamento dell’IA, benefici attesi e rischio.