La paura può ancora essere prudenza?

1. Quando avere paura serve

Dopo aver seguito la paura mentre accelera la corsa, restringe ciò che riusciamo a vedere, alimenta il bisogno di controllo, produce soluzioni che generano nuove inquietudini e finisce perfino per entrare nel modo in cui una società governa, sarebbe facile arrivare alla conclusione che il problema sia semplicemente la paura stessa. Sarebbe anche una conclusione comoda, perché ci permetterebbe di separare facilmente due atteggiamenti: da una parte chi ragiona, dall’altra chi ha paura. Ma non è così che funzionano né gli esseri umani né i pericoli reali.

Ci sono situazioni nelle quali avere paura è precisamente ciò che ci impedisce di essere imprudenti. Se riconosciamo una possibilità di danno prima che il danno si produca, non stiamo necessariamente cedendo all’irrazionalità: stiamo utilizzando una capacità che ci permette di reagire a qualcosa che non è ancora accaduto. La paura può farci rallentare davanti a una situazione che non comprendiamo abbastanza, può costringerci a cercare informazioni che avremmo ignorato, può rendere visibile un rischio che l’entusiasmo, l’abitudine o l’interesse ci avevano fatto sottovalutare. In questo senso non è l’opposto della ragione; può essere il segnale che invita la ragione a occuparsi di qualcosa.

Il problema nasce perché lo stesso segnale che ci rende più attenti può continuare a funzionare anche dopo aver ottenuto la nostra attenzione. Una volta visto il rischio dobbiamo decidere che cosa farne, e da quel momento la paura può restare una delle informazioni disponibili oppure diventare il criterio con cui giudichiamo tutte le altre. È probabilmente qui che passa la differenza più importante: non fra chi ha paura e chi non ne ha, ma fra una paura che apre una domanda e una paura che pretende già di possedere la risposta.

2. Un avvertimento non è una decisione

Un allarme ha una funzione semplice: ci dice che qualcosa merita attenzione. Non ci dice necessariamente che cosa dobbiamo fare dopo. Se un sensore segnala del fumo, la prima cosa sensata è verificare se esista davvero un incendio, dove si trovi, quanto sia esteso e quali strumenti siano necessari per affrontarlo. L’allarme è importante proprio perché modifica le nostre priorità, ma non sarebbe ragionevole lasciare che decida da solo se evacuare un edificio, spegnere un impianto o chiamare i vigili del fuoco senza sapere che cosa stia accadendo.

Con l’intelligenza artificiale la distinzione è meno evidente perché molti dei rischi di cui discutiamo non sono eventi facilmente osservabili. Parliamo di capacità future, trasformazioni del lavoro, perdita di controllo, concentrazione di potere, manipolazione dell’informazione, usi militari, conseguenze che potrebbero emergere soltanto quando sistemi oggi sperimentali saranno diffusi su larga scala. In questi casi la paura non può aspettare sempre la prova definitiva, perché quando quella prova arriva potrebbe essere troppo tardi per intervenire. Ma proprio perché dobbiamo prendere sul serio anche rischi incompleti o incerti, diventa ancora più importante distinguere l’avvertimento dalla decisione che segue.

Una paura prudente può dirci che non sappiamo abbastanza e che conviene procedere con cautela. Una paura che ha cominciato a guidare può trasformare la stessa incertezza in una prova: non sappiamo abbastanza, dunque dobbiamo assumere lo scenario peggiore; non possiamo escludere un pericolo, dunque dobbiamo comportarci come se fosse probabile; non siamo sicuri che una misura sia necessaria, dunque è più sicuro adottarla comunque. Il passaggio può sembrare piccolo, ma cambia completamente il ruolo dell’incertezza: da ragione per investigare diventa ragione per concludere.

3. La paura che accetta di essere smentita

Un buon segnale di prudenza è la capacità di cambiare quando cambiano i fatti. Se temiamo una conseguenza e le evidenze successive mostrano che il rischio è minore del previsto, dovremmo essere disposti a ridimensionare la nostra preoccupazione. Se invece scopriamo che il rischio è maggiore, dovremmo aumentarla. Sembra ovvio, ma non è sempre facile, perché una paura intorno alla quale abbiamo già costruito comportamenti, regole e identità può diventare resistente alle informazioni che la mettono in discussione.

Nel dibattito sull’intelligenza artificiale questo problema può assumere forme opposte. Chi considera i rischi esagerati può ignorare segnali che meriterebbero maggiore attenzione perché non vuole abbandonare un’immagine rassicurante della tecnologia; chi li considera enormi può interpretare ogni nuova capacità come conferma di una previsione già formulata e ogni miglioramento della sicurezza come prova del fatto che la preoccupazione iniziale fosse comunque necessaria. In entrambi i casi il problema non è quanto si abbia paura, ma quanto quella paura sia ancora disponibile a farsi correggere.

Una paura che funziona come prudenza mantiene quindi una caratteristica essenziale: non pretende immunità dalla verifica. Può essere forte, può chiedere misure importanti e può perfino suggerire di non procedere finché non sappiamo di più, ma dovrebbe conservare la possibilità di diminuire, cambiare oggetto o riconoscere che una previsione non si è realizzata come immaginavamo. Quando invece ogni informazione può essere reinterpretata in modo da confermare comunque la stessa paura, non stiamo più utilizzando un segnale per conoscere meglio il mondo; stiamo iniziando a usare il mondo per conservare il segnale.

4. La prudenza lascia più di una strada

C’è un’altra differenza che possiamo osservare. La prudenza tende a chiedersi come ridurre un rischio mantenendo aperte più possibilità; la paura che guida tende invece a ridurre rapidamente il numero delle alternative considerate accettabili.

Se una tecnologia presenta un problema, possiamo affrontarlo in molti modi: modificare il sistema, limitarne alcuni usi, aumentare la supervisione, migliorare la formazione, introdurre responsabilità più chiare, rendere obbligatori determinati controlli, aspettare prima di applicarla in contesti delicati. Non tutte le soluzioni saranno equivalenti, ma il fatto stesso di confrontarle ci costringe a distinguere il rischio dalle risposte possibili.

Quando la paura prende il comando, questa distinzione diventa più difficile. Una soluzione può apparire necessaria non perché abbiamo dimostrato che sia migliore delle altre, ma perché sembra la più capace di ridurre immediatamente ciò che ci preoccupa. In quel momento la domanda “quale misura funziona meglio?” può trasformarsi in “come possiamo permetterci di non fare questa cosa?”. È un cambiamento sottile, perché entrambe le frasi possono nascere da intenzioni prudenti, ma soltanto la prima lascia davvero spazio al confronto.

Questo criterio non ci offre una regola automatica. Ci saranno situazioni in cui una sola risposta sarà realisticamente possibile e casi nei quali il tempo per discutere sarà poco. Ma se l’emergenza diventa la condizione abituale e ogni alternativa diversa viene percepita come irresponsabile prima ancora di essere valutata, possiamo almeno sospettare che la paura abbia iniziato a restringere il mondo che avrebbe dovuto aiutarci a proteggere.

5. Quando il costo della protezione smette di essere una domanda

Ogni protezione ha un costo, anche quando è necessaria. Può essere economico, può riguardare il tempo, la libertà, la privacy, l’innovazione, la complessità delle procedure o semplicemente l’attenzione che sottraiamo ad altri problemi. Avere paura di qualcosa non rende automaticamente accettabile qualsiasi prezzo pur di evitarla.

Questo diventa particolarmente evidente quando il rischio è difficile da quantificare. Se una conseguenza viene descritta come abbastanza grave, la tentazione è pensare che qualunque misura sia giustificata purché ne riduca anche di poco la probabilità. Ma una società non decide mai su un solo rischio alla volta. Ridurre un pericolo può aumentarne un altro, impedire un danno può avere conseguenze proprie, rallentare una tecnologia può evitare alcuni problemi e ritardare benefici che non conosciamo ancora.

La prudenza dovrebbe quindi conservare la capacità di chiedere non soltanto “quanto è grave ciò che temiamo?”, ma anche “che cosa stiamo costruendo per evitarlo e quale prezzo siamo disposti a pagare?”. Non per trasformare tutto in un calcolo perfetto, che spesso sarebbe impossibile, ma per impedire che la gravità della paura renda invisibili le conseguenze della risposta.

Quando queste domande diventano fastidiose, quando discutere il costo di una misura viene interpretato come mancanza di sensibilità verso il pericolo, può essere un segnale che qualcosa è cambiato. La paura non sta più soltanto chiedendo protezione; sta cominciando a stabilire quali costi non possano più essere discussi.

6. Avere paura senza avere fretta

Uno dei fili che attraversano tutto il percorso è la velocità. Nel primo movimento abbiamo visto come la paura possa accelerare proprio quando sembrerebbe suggerire prudenza: corriamo perché temiamo che qualcun altro corra più di noi. Nei movimenti successivi la stessa urgenza è comparsa sotto altre forme: bisogna controllare prima che sia troppo tardi, regolare prima che il danno si produca, costruire sistemi capaci di intervenire prima che un rischio diventi incontrollabile.

Eppure non tutte le paure richiedono la stessa velocità. Un pericolo immediato può imporre una risposta immediata. Un rischio possibile fra anni richiede invece un’altra forma di attenzione: ricerca, verifica, confronto, capacità di aggiornare le previsioni. Trattare entrambi come emergenze produce l’illusione che la rapidità sia sempre una misura della responsabilità.

Una paura prudente dovrebbe poter sopportare anche il tempo necessario a capire. Questo non significa aspettare indefinitamente o utilizzare l’incertezza come scusa per non agire, ma riconoscere che talvolta rallentare una decisione è precisamente ciò che permette di prenderla meglio. Se la paura rende impossibile qualsiasi attesa, se ogni giorno senza una nuova misura viene vissuto come un rischio aggiuntivo e se ogni dubbio sembra una perdita di tempo, potremmo trovarci nella situazione paradossale in cui la paura del futuro ci impedisce di utilizzare il presente per comprenderlo.

7. Chi decide quando il rischio è abbastanza grande?

Finché parliamo della paura come esperienza individuale possiamo immaginare che ciascuno valuti il proprio rischio. Quando però le conseguenze riguardano intere società, qualcuno deve trasformare quelle valutazioni in decisioni che valgono anche per altri.

Chi stabilisce allora quale rischio sia abbastanza grande da giustificare una limitazione? Chi decide quali scenari siano abbastanza plausibili da meritare attenzione? Quanto peso dobbiamo attribuire agli esperti che conoscono meglio la tecnologia, e quanto a coloro che subiranno le conseguenze delle decisioni prese? Quanto spazio lasciare a chi ritiene che il pericolo sia stato sopravvalutato?

Non esiste una risposta semplice, e probabilmente non dovrebbe esistere. Se affidassimo queste decisioni soltanto a chi sviluppa la tecnologia, potremmo sottovalutare interessi e conflitti evidenti; se le affidassimo soltanto a chi teme gli scenari peggiori, potremmo costruire un sistema nel quale la previsione più grave finisce per avere sempre diritto di precedenza. La prudenza collettiva richiede quindi qualcosa di più difficile della semplice presenza di esperti: richiede istituzioni capaci di mantenere aperto il conflitto fra valutazioni differenti senza confondere il disaccordo con l’irresponsabilità.

È probabilmente uno dei punti in cui possiamo riconoscere meglio se la paura sta ancora avvertendo o ha iniziato a governare. Quando una società continua a permettere che la definizione stessa del rischio venga discussa, verificata e modificata, la paura rimane una voce importante fra altre. Quando invece alcune domande diventano impronunciabili perché porle viene già interpretato come una minaccia alla sicurezza, il problema non riguarda più soltanto ciò di cui abbiamo paura, ma il modo in cui abbiamo deciso che cosa possiamo ancora discutere.

8. La prudenza non promette sicurezza

C’è infine qualcosa che la paura fatica naturalmente ad accettare: nessuna decisione ci garantirà un futuro completamente sicuro.

Possiamo migliorare i sistemi, imporre controlli, limitare capacità, preparare istituzioni e costruire procedure più robuste, ma resterà sempre una parte di ciò che non sappiamo. Eliminare tutta l’incertezza richiederebbe spesso eliminare anche molte delle possibilità dalle quali potrebbero nascere cose che oggi non siamo capaci di prevedere.

La prudenza, allora, non può significare raggiungere il punto nel quale non esiste più nulla da temere. Deve significare imparare a decidere anche quando una parte del rischio rimane. Questo è probabilmente il compito più difficile, perché la paura tende naturalmente a chiedere una garanzia in più, un controllo in più, un livello ulteriore di protezione. Qualche volta sarà giusto concederglielo; altre volte dovremo accettare che la sicurezza aggiuntiva abbia un prezzo superiore al beneficio che produce.

Non esiste una formula capace di dirci esattamente dove si trovi quel limite. Ed è importante che non esista, perché se questo percorso finisse con una regola pronta avremmo fatto esattamente ciò che abbiamo criticato: avremmo trasformato una domanda complessa in una risposta abbastanza semplice da non doverci più pensare.

9. Lasciare alla paura il suo posto

Possiamo però riconoscere alcuni segnali. La paura continua a essere prudenza quando ci costringe a guardare ciò che preferiremmo ignorare ma accetta di essere corretta dai fatti; quando ci invita a rallentare senza trasformare ogni esitazione in colpa; quando ci fa cercare protezioni mantenendo visibili i costi di quelle protezioni; quando lascia aperte alternative e permette di discutere non soltanto come affrontare un rischio, ma anche quanto quel rischio sia realmente grande.

Comincia invece a costruire il mondo al posto nostro quando ogni nuova informazione viene assorbita nella stessa previsione, quando l’urgenza diventa permanente, quando il costo della protezione smette di poter essere discusso, quando la possibilità di un danno diventa sufficiente a escludere qualsiasi alternativa e quando chi mette in dubbio una risposta viene confuso con chi nega l’esistenza del problema.

Non sono confini netti. Una stessa decisione può contenere prudenza e paura, una misura necessaria oggi può diventare eccessiva domani, una preoccupazione apparentemente sproporzionata può essere confermata da ciò che accadrà in seguito. Sarebbe rassicurante possedere un criterio che separi sempre le due cose, ma proprio la mancanza di quella certezza ci obbliga a conservare qualcosa che la paura tende spesso a ridurre: la capacità di tornare sulle nostre decisioni.

Ed è qui che il percorso può fermarsi senza chiudersi davvero. Non abbiamo scoperto che la paura dell’intelligenza artificiale sia infondata, né che sia necessariamente saggia. Abbiamo visto che può produrre conseguenze molto prima che ciò che temiamo accada: può farci accelerare, restringere ciò che vediamo, spingerci verso nuovi strumenti di controllo, creare soluzioni che generano nuove inquietudini e modificare il modo in cui decidiamo insieme.

La questione quindi non è liberarci della paura. Una società incapace di averne potrebbe diventare molto più pericolosa di una società che ne ha troppa, perché non riconoscerebbe in tempo ciò che merita cautela. Ma se la paura deve restare con noi, dobbiamo decidere quale posto darle, e questa decisione non può essere affidata alla paura stessa.

Rimane allora la domanda con cui vale la pena lasciare il lettore, non perché possieda una risposta definitiva, ma perché probabilmente dovremo continuare a farcela ogni volta che una nuova capacità dell’intelligenza artificiale ci costringerà a scegliere fra ciò che temiamo e ciò che vogliamo ancora rendere possibile:

come conservare la capacità di avere paura senza consegnarle il diritto di decidere tutto?

Fonti e riferimenti

Hans Jonas, Il principio responsabilità. Un’etica per la civiltà tecnologica, 1979. Jonas attribuisce alla capacità di anticipare conseguenze negative una funzione importante nella responsabilità verso il futuro, soprattutto quando la potenza della tecnologia rende possibili danni difficili da correggere. La sua “euristica della paura” offre un riferimento utile proprio perché non chiede di consegnarsi alla paura, ma di utilizzarla per rendere visibili conseguenze che l’entusiasmo tecnologico potrebbe ignorare.

Paul Slovic, Perception of Risk, Science, 1987. Il lavoro mostra come la percezione del rischio non dipenda soltanto da probabilità numeriche, ma anche da caratteristiche come familiarità, controllabilità, volontarietà e gravità delle conseguenze, aiutando a comprendere perché rischi diversi producano reazioni molto differenti anche quando non sappiamo misurarli con precisione.

Cass R. Sunstein, Laws of Fear: Beyond the Precautionary Principle, Cambridge University Press, 2005. Sunstein analizza le difficoltà che sorgono quando la precauzione viene utilizzata come criterio assoluto, osservando che anche le misure adottate per evitare un rischio possono produrne altri e che non intervenire non è l’unica scelta capace di avere conseguenze.

Daniel Kahneman, Paul Slovic, Amos Tversky, a cura di, Judgment under Uncertainty: Heuristics and Biases, Cambridge University Press, 1982. I contributi raccolti nel volume mostrano come gli esseri umani valutino probabilità e rischi attraverso scorciatoie cognitive che possono essere utili ma anche produrre errori sistematici, offrendo una base per distinguere l’allarme che richiama correttamente l’attenzione dalla valutazione che dovrebbe seguirlo.

Ulrich Beck, Risk Society: Towards a New Modernity, Sage, 1992. Già utile nel movimento precedente, Beck diventa qui un riferimento per comprendere una società che deve prendere decisioni collettive su rischi prodotti dallo stesso sviluppo tecnologico, spesso prima di poter conoscere completamente le loro conseguenze.