1. Una paura privata può diventare una regola pubblica
Finché la paura appartiene a una persona, possiamo osservarla nelle sue scelte. Può farla correre, restringere ciò che considera possibile, spingerla a cercare più controllo o ad affidarsi a strumenti che la aiutino a sentirsi più sicura. Ma una società non prova paura nello stesso modo in cui la prova un individuo. Non ha un corpo che reagisce, non perde il sonno e non sente il cuore accelerare. Eppure può cominciare a comportarsi come se una minaccia fosse diventata il punto attorno al quale organizzare le proprie decisioni.
Questo accade quando una preoccupazione smette di essere soltanto una delle cose di cui discutiamo e diventa il criterio attraverso cui giudichiamo molte altre cose. Una tecnologia può essere osservata per ciò che permette, per ciò che cambia, per i problemi che risolve e per quelli che crea; ma quando viene percepita soprattutto come minaccia, la domanda principale tende a diventare un’altra: come impediamo che faccia danni? È una domanda necessaria, ma può modificare profondamente tutto ciò che viene dopo, perché una società che si organizza per evitare un pericolo non sceglie soltanto nuove regole: decide anche quali comportamenti controllare, quali informazioni raccogliere, quali attività considerare sospette e quanto spazio lasciare all’incertezza.
Nel caso dell’intelligenza artificiale questo passaggio è particolarmente delicato perché non abbiamo davanti un oggetto facilmente circoscrivibile. L’IA entra nella ricerca scientifica, nell’amministrazione, nella comunicazione, nel lavoro, nella scuola, nella sicurezza, nella produzione culturale. Governare “il rischio dell’IA” può quindi significare intervenire in molti ambiti diversi della vita sociale, e più ampia diventa la definizione del pericolo, più ampio può diventare anche ciò che riteniamo necessario osservare per proteggerci.
2. Quando l’emergenza non finisce
Le società sono capaci di accettare limitazioni straordinarie quando riconoscono una minaccia straordinaria. È comprensibile: durante un incendio nessuno pretende che le procedure restino identiche a quelle di una giornata normale. Alcune decisioni devono essere prese più rapidamente, alcune libertà di movimento possono essere temporaneamente limitate, alcune priorità cambiano perché il pericolo impone un ordine differente.
Il problema comincia quando non è facile stabilire quando l’incendio sia finito. Con l’intelligenza artificiale la promessa della prossima trasformazione è quasi permanente. Ogni nuova generazione di modelli annuncia capacità maggiori, ogni capacità apre nuovi usi, ogni uso può generare nuovi rischi. È difficile indicare un momento nel quale possiamo dire che il fenomeno si è stabilizzato abbastanza da smettere di considerarci in una fase eccezionale. Il futuro sembra continuamente sul punto di arrivare, e questa sensazione può rendere normale governare come se non ci fosse mai abbastanza tempo.
Quando l’urgenza diventa stabile, cambia anche il modo in cui valutiamo la prudenza. Discutere più a lungo può sembrare irresponsabile perché la tecnologia continua ad avanzare; aspettare più dati può apparire pericoloso perché nel frattempo il danno potrebbe già essersi prodotto; introdurre una regola provvisoria diventa più facile perché potremo sempre correggerla successivamente. Il problema non è che queste decisioni siano necessariamente sbagliate, ma che una società può abituarsi poco alla volta a prendere decisioni importanti sotto la pressione di un futuro che viene continuamente descritto come imminente.
3. Il linguaggio del pericolo
Una società governa anche attraverso le parole con cui descrive ciò che sta accadendo. Parlare di rischio, minaccia, sicurezza, controllo, vulnerabilità o pericolo non significa soltanto nominare la realtà; significa stabilire quale tipo di risposta appare ragionevole.
Se descriviamo un problema come economico, penseremo probabilmente a incentivi, investimenti e distribuzione delle risorse. Se lo descriviamo come educativo, penseremo a competenze e formazione. Se lo descriviamo come una minaccia alla sicurezza, diventano immediatamente plausibili strumenti differenti: restrizioni, verifiche, sorveglianza, autorizzazioni, divieti, obblighi di segnalazione.
Nessuna di queste parole è sbagliata in sé. Alcuni usi dell’intelligenza artificiale riguardano davvero la sicurezza e possono richiedere controlli severi. Ma quando il linguaggio della minaccia si estende, può trascinare con sé anche il tipo di risposta che consideriamo normale. Un problema che avremmo affrontato chiedendoci come utilizzare meglio una tecnologia può trasformarsi in un problema nel quale la prima domanda diventa chi debba essere autorizzato a utilizzarla.
La differenza non riguarda soltanto la regolazione. Cambia anche il modo in cui guardiamo gli altri. Una persona che sperimenta una tecnologia può diventare qualcuno da controllare; un’impresa che sviluppa un modello può essere osservata soprattutto attraverso ciò che potrebbe fare di pericoloso; un contenuto può diventare sospetto perché potrebbe essere artificiale prima ancora che qualcuno valuti se ciò che contiene sia vero, falso, utile o dannoso. La paura non decide necessariamente quale regola verrà adottata, ma può decidere molto prima quale tipo di domanda sembra legittimo porre.
4. Proteggere tutti significa osservare qualcuno
Ogni sistema di protezione deve distinguere ciò che considera normale da ciò che considera pericoloso. Per impedire un abuso dobbiamo riconoscerlo; per riconoscerlo dobbiamo osservare comportamenti, contenuti o risultati; per osservare dobbiamo raccogliere informazioni. Questa catena è così comune che quasi non la notiamo.
Nel caso dell’intelligenza artificiale può diventare particolarmente estesa. Se vogliamo sapere quando un contenuto è stato generato artificialmente, dobbiamo trovare un modo per identificarlo; se vogliamo impedire che determinati modelli vengano utilizzati per attività proibite, dobbiamo controllarne almeno in parte l’uso; se vogliamo verificare che sistemi ad alto rischio rispettino determinate regole, dobbiamo conoscere dati, procedure, prestazioni e incidenti. Tutto questo può essere perfettamente giustificato, ma modifica il rapporto fra protezione e osservazione.
Una società che teme abbastanza una tecnologia può essere disposta ad accettare livelli di controllo che, in assenza di quella paura, avrebbe guardato con maggiore sospetto. Non perché abbia improvvisamente smesso di attribuire valore alla libertà o alla riservatezza, ma perché il rischio modifica ciò che siamo disposti a sacrificare per sentirci protetti. Il problema non può essere risolto semplicemente scegliendo tra controllo e libertà, perché entrambe possono essere necessarie; diventa più importante chiedersi quanto controllo stiamo rendendo permanente per affrontare una minaccia che potrebbe cambiare molto più rapidamente delle strutture costruite per contenerla.
5. Chi mette in dubbio la paura
Quando una minaccia diventa abbastanza importante, anche il dissenso può cambiare significato. In una discussione normale qualcuno può dire che un rischio è stato sopravvalutato, che una misura è eccessiva o che una previsione non è sufficientemente fondata. Quando la posta in gioco viene percepita come molto alta, però, la stessa posizione può essere interpretata diversamente: non più come una valutazione alternativa, ma come mancanza di responsabilità.
È facile capire perché. Se crediamo che un errore possa produrre conseguenze gravissime, chi propone di correre quel rischio ci sembra naturalmente più difficile da ascoltare. Ma proprio per questo una società governata dalla paura corre un pericolo particolare: può diventare molto brava a discutere su come affrontare la minaccia e molto meno disponibile a discutere sulla definizione stessa della minaccia.
Nel dibattito sull’intelligenza artificiale possiamo vedere posizioni estremamente diverse sui rischi futuri, sulle probabilità di scenari estremi, sul ritmo con cui le capacità potrebbero crescere. Questa incertezza non significa che dovremmo ignorare i rischi; significa che proprio perché non sappiamo abbastanza, il dissenso dovrebbe conservare un valore particolare. Se invece la preoccupazione diventa il requisito necessario per essere considerati prudenti, il dibattito comincia a restringersi prima ancora che qualcuno abbia imposto una censura.
Una società può così finire per confondere la prudenza con l’accordo e l’incertezza con l’irresponsabilità, perdendo proprio quella capacità di correggersi che dovrebbe renderla più sicura.
6. Regolare ciò che ancora non conosciamo
Governare l’intelligenza artificiale contiene una difficoltà che non può essere eliminata: dobbiamo prendere decisioni prima di conoscere completamente ciò su cui stiamo decidendo.
Aspettare di avere ogni certezza sarebbe impossibile, perché molte conseguenze diventano visibili soltanto quando una tecnologia viene utilizzata. Ma anche intervenire troppo presto può produrre regole costruite intorno a problemi che cambieranno forma o che avevamo compreso soltanto in parte.
È qui che la paura può diventare particolarmente influente. L’incertezza può essere interpretata come una ragione per aspettare, ma anche come una ragione per intervenire prima. Se non sappiamo quanto grave potrebbe essere un danno, qualcuno dirà che dobbiamo essere cauti prima che sia troppo tardi; qualcun altro dirà che proprio perché non lo sappiamo non dovremmo introdurre limitazioni sproporzionate. Entrambe le posizioni possono chiamarsi prudenza, ed è difficile stabilire in anticipo quale delle due lo sia davvero.
Una società che governa attraverso la paura tende però ad avere meno pazienza verso il secondo tipo di incertezza. Il danno che avrebbe potuto impedire pesa più del beneficio che avrebbe potuto permettere, perché un rischio evitato può essere invisibile mentre un incidente accaduto resta perfettamente visibile. Di conseguenza possiamo costruire regole che vengono giudicate soprattutto in base alla capacità di impedire ciò che temiamo e molto meno in base alle possibilità che rendono più difficili.
Il problema non sta nel principio di precauzione, che può essere indispensabile quando le conseguenze di un errore sono molto grandi. Sta nel rischio che la precauzione diventi un principio senza limite, perché se l’assenza di certezza è sempre una ragione sufficiente per restringere una possibilità, ogni tecnologia nuova arriverà necessariamente accompagnata da ragioni per limitarla.
7. Una società che impara ad avere paura
Le paure collettive non restano ferme: vengono insegnate, raccontate, ripetute e trasformate in abitudini. Se per anni descriviamo l’intelligenza artificiale soprattutto attraverso ciò che potrebbe andare storto, una generazione può imparare a incontrarla già dentro quel vocabolario. Non avrà bisogno di aver sperimentato personalmente il rischio: saprà già quali domande dovrebbe farsi, quali possibilità considerare sospette e quali comportamenti interpretare come imprudenti.
Questo non significa che la paura sia stata inventata. Una società può trasmettere correttamente la consapevolezza di rischi reali; è uno dei modi attraverso cui accumula esperienza e impedisce di ripetere gli stessi errori. Ma ogni educazione al pericolo contiene anche una selezione: insegna ciò che bisogna osservare e, indirettamente, ciò che possiamo permetterci di osservare meno.
Nel tempo può accadere che alcune precauzioni non vengano più percepite come risposte a una paura, ma semplicemente come il modo normale in cui si fanno le cose. Una procedura nata per un’emergenza diventa un requisito ordinario; un controllo introdotto perché una tecnologia era nuova resta anche quando la tecnologia cambia; una distinzione creata per identificare un rischio diventa una categoria con cui giudichiamo comportamenti che non avevano nulla a che fare con il problema iniziale.
È così che una società può essere trasformata dalla paura senza vivere necessariamente in uno stato di panico. Non servono persone terrorizzate; bastano istituzioni, abitudini e regole costruite nel tempo attorno alla necessità di evitare ciò che abbiamo imparato a temere.
8. Quando la sicurezza diventa il criterio principale
Ogni società deve decidere quanta sicurezza vuole ottenere e quale prezzo è disposta a pagare per ottenerla. Non esiste una risposta valida una volta per tutte, perché vivere insieme significa accettare continuamente rischi che potremmo ridurre soltanto rinunciando a qualcosa che consideriamo altrettanto importante.
L’intelligenza artificiale rende questa scelta più difficile perché molti dei suoi benefici e dei suoi rischi non sono ancora completamente conosciuti. Possiamo ridurre alcuni pericoli limitando determinate capacità, ma potremmo limitare contemporaneamente usi che avrebbero prodotto benefici. Possiamo permettere maggiore sperimentazione e scoprire soluzioni nuove, ma possiamo anche incontrare problemi che avremmo preferito prevenire. Non esiste un punto nel quale ogni valore smette di entrare in conflitto con gli altri.
Una società governata principalmente dalla paura tende a risolvere questi conflitti facendo della sicurezza il criterio che prevale quasi automaticamente. Una società che ignorasse la paura farebbe l’errore opposto, trattando ogni rischio come un ostacolo fastidioso al progresso. Fra questi due estremi c’è però uno spazio molto più difficile da abitare, perché richiede di riconoscere contemporaneamente che qualcosa può essere pericoloso e che non tutto ciò che riduce il pericolo rende necessariamente migliore la società.
Ed è proprio quello spazio che rischia di restringersi quando la paura diventa il linguaggio dominante del governo. Non perché la sicurezza non conti, ma perché può arrivare un momento nel quale smettiamo di chiederci che cosa vogliamo costruire e cominciamo soprattutto a chiederci che cosa vogliamo impedire.
9. Che cosa diventa una società?
Possiamo allora tornare alla domanda da cui siamo partiti: che cosa diventa una società quando governa attraverso la paura dell’intelligenza artificiale?
Non necessariamente una società autoritaria, immobile o ostile alla tecnologia. Potrebbe essere una società molto innovativa, dotata di regolazioni sofisticate, sistemi di controllo efficienti e istituzioni sinceramente impegnate a ridurre i rischi. Il cambiamento potrebbe essere molto più sottile: potrebbe diventare una società abituata a considerare normale l’urgenza, naturale la sorveglianza, prudente il controllo e sospetta l’incertezza.
Potrebbe diventare anche una società nella quale molte decisioni vengono prese non in base a ciò che desideriamo ottenere, ma in base a ciò che temiamo possa accadere se non interveniamo. È una differenza importante, perché governare per costruire qualcosa e governare per impedire qualcosa non producono necessariamente lo stesso futuro. La seconda forma può essere indispensabile davanti a un pericolo reale, ma se diventa permanente rischia di permettere alla minaccia di continuare a determinare le nostre scelte anche quando crediamo di averla messa sotto controllo.
Arrivati a questo punto, però, sarebbe troppo facile concludere che la paura sia il problema e che dovremmo semplicemente liberarci di essa. Senza paura potremmo essere imprudenti, ignorare segnali importanti e procedere verso rischi che avremmo potuto riconoscere in tempo. La paura ci ha accompagnati fin qui mostrandoci effetti molto diversi: può accelerare, restringere, spingerci a cercare controllo, produrre soluzioni che generano nuove preoccupazioni e modificare perfino il modo in cui una società governa.
Resta allora una domanda più difficile: esiste un modo di avere paura che ci renda più prudenti senza permettere alla paura di decidere al posto nostro?
Fonti e riferimenti
Ulrich Beck, Risk Society: Towards a New Modernity, Sage, 1992, edizione inglese dell’opera pubblicata originariamente in tedesco nel 1986. Beck analizza società nelle quali la gestione dei rischi prodotti dallo stesso sviluppo tecnologico e industriale diventa una componente centrale della vita politica e sociale.
Barry Buzan, Ole Wæver, Jaap de Wilde, Security: A New Framework for Analysis, Lynne Rienner Publishers, 1998. Il volume sviluppa il concetto di “securitizzazione”, utile per comprendere come la definizione di un fenomeno come minaccia alla sicurezza possa modificare il tipo di interventi considerati legittimi.
Cass R. Sunstein, Laws of Fear: Beyond the Precautionary Principle, Cambridge University Press, 2005. Sunstein discute i problemi che possono nascere quando la regolazione viene costruita soprattutto intorno alla paura di conseguenze future e mostra le difficoltà di applicare il principio di precauzione quando ogni scelta, compresa quella di non intervenire, comporta rischi.
UNESCO, Recommendation on the Ethics of Artificial Intelligence, 2021. La raccomandazione offre un esempio concreto di governance dell’IA che cerca di bilanciare protezione dai rischi, diritti fondamentali, supervisione umana, trasparenza e possibilità di beneficiare della tecnologia, mostrando come la questione non possa essere ridotta alla semplice eliminazione del rischio.
Unione europea, AI Act, Regolamento (UE) 2024/1689. L’impostazione basata su diversi livelli di rischio costituisce uno degli esempi più rilevanti di come una società possa trasformare la valutazione del pericolo in una struttura normativa differenziata, evitando almeno nelle intenzioni di trattare ogni applicazione dell’intelligenza artificiale come ugualmente problematica.