Vai al contenuto
“Le parole restano.”

Dietro la macchina

Il soggetto disabitato

Che cosa resta dell’uomo quando conserva formalmente il posto dell’autore e del decisore ma rinuncia progressivamente a esercitare giudizio e responsabilità?

Profilo umano come una casa con stanze illuminate ma quasi vuote, collegata a una struttura distante

1. La macchina sul banco degli imputati

Il 7 settembre 2026 mi sono imbattuto in un titolo che annunciava l’allarme delle Nazioni Unite: l’intelligenza artificiale potrebbe rappresentare un rischio esistenziale per l’umanità. Tre giorni prima, l’Assemblea generale aveva approvato una risoluzione per incoraggiare l’uso di rappresentazioni cartografiche capaci di restituire più fedelmente le proporzioni dei continenti. Nel volgere di un fine settimana, la stessa organizzazione — attraverso organi diversi, naturalmente — aveva prima corretto la mappa del mondo e poi avvertito che avremmo potuto perderne l’originale.

La coincidenza mi ha fatto ridere. Non perché la sicurezza dei sistemi artificiali sia un argomento ridicolo, né perché le tecnologie potenti non possano produrre danni enormi, ma per la naturalezza con cui il soggetto umano sembrava già prepararsi a scomparire dalla frase. Volker Türk, Alto Commissario delle Nazioni Unite per i diritti umani, ha dichiarato di condividere le preoccupazioni di alcuni esponenti dell’industria sul possibile rischio esistenziale dell’IA avanzata e ha chiesto «garanzie ferree» prima che fosse troppo tardi. Nel medesimo intervento, tuttavia, ha osservato che un piccolo numero di uomini possiede un potere quasi illimitato sullo sviluppo dell’intelligenza artificiale.

La contraddizione è interamente visibile. Prima compaiono gli uomini, il loro potere e la sua concentrazione; subito dopo, quando occorre nominare la minaccia, gli uomini escono di scena e rimane l’IA. La macchina viene condotta sul banco degli imputati mentre progettisti, finanziatori, aziende, governi, eserciti e istituzioni possono accomodarsi fra il pubblico.

L’intelligenza artificiale non ha costruito i propri centri di calcolo, acquistato semiconduttori, raccolto investimenti, stipulato contratti militari o deciso di collegarsi alle infrastrutture critiche. Non ha stabilito che la velocità dovesse precedere la comprensione, che il profitto dovesse compensare l’incertezza o che la competizione geopolitica rendesse accettabili rischi altrimenti inammissibili. Se un giorno un sistema artificiale produrrà una catastrofe, potrà esserne l’esecutore operativo; l’autore della situazione nella quale quella catastrofe è diventata possibile resterà umano.

La risata, allora, ha lasciato emergere qualcosa di meno divertente. Per dichiarare la macchina responsabile del pericolo, l’uomo non si è limitato ad attribuirle una capacità che forse un giorno possiederà: ha dovuto sottrarre a se stesso una capacità che possiede già. Nella frase «l’IA potrebbe minacciare l’umanità», tutti i verbi dell’azione sono passati alla macchina. L’uomo rimane soltanto come oggetto della minaccia, creatura passiva da proteggere dalle conseguenze di decisioni delle quali non appare più autore.

Non è ancora una risposta, ma è finalmente la domanda giusta: che genere di umanità stiamo tentando di salvare, se per assolverla dobbiamo prima descriverla come incapace di agire?

2. La domanda rovesciata

È attraverso questo slittamento che mi è tornato alla mente il titolo di Primo Levi, non per un’associazione generica fra pericolo e umanità, ma perché quel titolo costringe a domandare quali facoltà, relazioni e responsabilità rendano riconoscibile un uomo come soggetto. Nel titolo che ho appena letto, invece, l’uomo sopravvive soltanto come specie minacciata: biologicamente presente, grammaticalmente passivo, causalmente assente.

Se questo è un uomo custodisce tuttavia una domanda che non può essere spostata con leggerezza. Nel Lager la disumanizzazione non era una metafora culturale, una scelta di consumo o una conseguenza della comodità. Era un progetto imposto da altri uomini attraverso la fame, la violenza, la cancellazione del nome, la riduzione del corpo a forza di lavoro e la distruzione sistematica della dignità. Ogni paragone che attenuasse questa specificità sarebbe storicamente falso e moralmente intollerabile.

Non si tratta quindi di trasferire al presente l’esperienza narrata da Levi, né di stabilire equivalenze fra fenomeni che non ne possiedono alcuna. Si tratta di lasciarsi raggiungere dalla forma della sua domanda e di rovesciarne la direzione.

Levi chiedeva che cosa restasse dell’uomo quando altri uomini tentavano di sottrargli l’umanità. La domanda contemporanea è diversa: che cosa resta dell’uomo quando nessuno gli impedisce di esercitare le proprie facoltà e tuttavia egli rinuncia progressivamente a esercitarle? Che cosa accade quando non gli viene tolta la parola, ma egli accetta parole che non ha pensato; quando non gli viene proibito di giudicare, ma preferisce ricevere un giudizio già formato; quando non gli viene cancellato il nome, ma lo appone su decisioni delle quali non conosce più l’origine?

La prima è la domanda sulla resistenza dell’umano davanti alla violenza che vuole annientarlo. La seconda riguarda una rinuncia senza costrizione apparente, compiuta attraverso piccole cessioni quotidiane, ciascuna ragionevole se osservata isolatamente e devastante quando diventa un sistema.

È possibile che la disumanizzazione non abbia sempre bisogno di un carnefice riconoscibile? È possibile che l’uomo collabori alla propria assenza?

3. Dare un nome all’assenza

Occorreva allora dare un nome alla figura che stava emergendo. Non poteva essere semplicemente un soggetto assente, perché l’uomo continuava a comparire ovunque: firmava i documenti, approvava i risultati, premeva i pulsanti, pubblicava le parole e rivendicava i benefici. Non era neppure un soggetto cancellato, poiché nessuna forza esterna gli aveva necessariamente sottratto il posto. Il posto rimaneva occupato formalmente, ma non era più abitato.

L’immagine più precisa era quella di una casa che conserva il nome sulla porta, le luci accese e gli oggetti nelle stanze, ma dalla quale nessuno risponde. Le funzioni continuano: il testo viene pubblicato, la decisione eseguita, il contenuto condiviso e la responsabilità registrata. Quando però si cerca qualcuno capace di spiegare la parola, ricostruire il giudizio o rispondere della conseguenza, si incontra una sequenza di rinvii. L’uomo rimanda alla macchina, l’operatore alla procedura, l’istituzione al sistema, il sistema ai dati.

Chiamo soggetto disabitato questa permanenza della forma insieme al ritiro della presenza. Non è una categoria clinica e non afferma che una persona abbia cessato di essere umana. Descrive una posizione dalla quale il soggetto continua ad agire senza riconoscersi pienamente come origine, interprete e responsabile della propria azione.

La disumanizzazione volontaria comincia qui: non nella scomparsa dell’uomo, ma nella sua scelta di occupare il posto dell’autore, del cittadino, del professionista o del decisore senza esercitare le facoltà che rendono quel posto realmente umano. Per comprenderne la possibilità non dobbiamo cominciare dalla macchina. Dobbiamo tornare a una forma molto più antica di rinuncia.

4. L’uscita mancata dalla minorità

Nel 1784 Immanuel Kant definì l’Illuminismo come l’uscita dell’uomo da uno stato di minorità del quale egli stesso è responsabile. La minorità, nella sua formulazione, non dipende necessariamente dalla mancanza d’intelligenza, ma dall’incapacità o dalla rinuncia a usare il proprio intelletto senza la guida di un altro. Il celebre invito sapere aude non significava soltanto accumulare conoscenze: chiedeva il coraggio di servirsi del proprio giudizio.

Quella pagina sembra descrivere con sorprendente precisione un problema che oggi affidiamo troppo facilmente alla tecnologia. L’uomo non rinuncia a pensare perché la macchina glielo impedisca; può rinunciarvi perché pensare richiede tempo, espone all’errore, obbliga a scegliere e rende responsabili delle conseguenze. La guida esterna offre invece rapidità e riparo. Dice che cosa è importante, quali parole usare, quale posizione assumere, quale notizia condividere e perfino quale emozione provare.

Nel tempo di Kant la guida poteva essere il libro, il precettore, l’autorità politica o religiosa. Nel nostro può assumere la forma di un sistema di raccomandazione, di una risposta generata, di una classifica, di un indicatore di popolarità o di un titolo ottimizzato per ottenere una reazione. La tecnologia cambia la scala e la velocità della dipendenza, ma non inventa il desiderio di essere sollevati dalla fatica dell’autonomia.

Qui si trova il primo limite dell’abbozzo dal quale nasce questo saggio. Non è vero che affidare una parte del lavoro a una macchina equivalga necessariamente a delegare l’intenzione o a perdere la propria posizione nel mondo. Scrittura, calcolo, archivi, mappe e strumenti di misura sono da secoli forme di estensione delle capacità umane. L’uomo non diventa meno umano ogni volta che evita una fatica; spesso diventa capace di pensieri che senza quella mediazione non avrebbe potuto formulare.

Il confine non passa dunque fra ciò che viene compiuto dentro il corpo e ciò che viene affidato a uno strumento. Passa fra l’estensione e l’abdicazione: fra uno strumento che amplia la possibilità di giudicare e uno strumento usato per evitare il giudizio; fra una collaborazione della quale il soggetto continua a rispondere e una sostituzione dietro la quale il soggetto si nasconde.

5. Delegare non significa scomparire

Le scienze cognitive chiamano cognitive offloading l’uso di azioni o supporti esterni per ridurre il carico richiesto da un compito mentale. Annotare un appuntamento, servirsi di una calcolatrice, seguire una mappa o organizzare informazioni in un archivio sono forme ordinarie di delega cognitiva. Evan Risko e Sam Gilbert hanno mostrato come questa pratica non costituisca un’anomalia introdotta dall’IA, ma una componente diffusa del nostro modo di pensare e agire.

Il problema, pertanto, non è conservare ogni informazione nella memoria biologica o svolgere personalmente ogni passaggio di un processo. Una simile purezza cognitiva non è mai esistita. Il problema nasce quando deleghiamo anche le operazioni che ci permetterebbero di comprendere ciò che stiamo facendo e, soprattutto, quando perdiamo la capacità di riconoscere quali operazioni abbiamo delegato.

Una persona può usare l’intelligenza artificiale per confrontare ipotesi, sottoporre un’idea a obiezioni, trovare fonti, chiarire un passaggio o rendere più rigoroso un testo. In questi casi la macchina partecipa al processo, ma non elimina necessariamente il soggetto. Può anzi costringerlo a precisare ciò che pensa, a rifiutare formulazioni estranee e ad assumere più consapevolmente la responsabilità del risultato. È quanto abbiamo già osservato nell’officina del testo: la provenienza materiale delle parole non decide da sola chi sia l’autore; contano la direzione, la scelta, la revisione e la disponibilità a rispondere.

La stessa tecnologia diventa però un dispositivo di abdicazione quando il risultato viene accettato perché plausibile, pubblicato perché scorrevole e difeso soltanto finché nessuno domanda a chi lo firma di spiegarlo. Il testo non è orfano perché alcune frasi sono state generate artificialmente. Diventa orfano quando nessuno lo riconosce come proprio nel senso più esigente del termine: nessuno sa sostenerlo, correggerlo o assumersi il rischio di averlo detto.

Non è la macchina a disabitare il soggetto. È il soggetto che può usare la macchina per assentarsi lasciando accesa la luce.

6. Quando il prodotto migliora e la facoltà si indebolisce

La distinzione fra estensione e abdicazione non è soltanto filosofica. Alcune ricerche recenti mostrano che gli strumenti generativi possono migliorare il risultato immediato senza produrre un miglioramento equivalente nelle capacità di chi li usa.

In un esperimento sul campo condotto con quasi mille studenti di matematica, Hamsa Bastani e colleghi hanno confrontato l’uso di un’interfaccia generativa generalista con quello di un tutor progettato per fornire sostegno senza sostituire il processo di apprendimento. Gli studenti potevano ottenere risultati migliori durante gli esercizi con entrambi gli strumenti, ma coloro che avevano usato liberamente il sistema generalista peggioravano quando l’accesso veniva rimosso. Le protezioni pedagogiche riducevano questo effetto. La conclusione non è che l’IA impedisca di imparare, bensì che il modo in cui viene progettata e utilizzata può separare la prestazione dall’acquisizione della capacità.

Uno studio presentato alla conferenza CHI 2025 ha raccolto 936 esempi d’uso raccontati da 319 lavoratori della conoscenza. I risultati sono basati su autovalutazioni e non consentono di misurare direttamente un declino cognitivo, ma indicano una relazione significativa: una maggiore fiducia nelle capacità dell’IA era associata a un minore sforzo dichiarato di pensiero critico, mentre una maggiore fiducia nella propria competenza favoriva la verifica e il controllo. Gli autori osservano inoltre che l’attività cognitiva non scompare necessariamente, ma si sposta dalla produzione alla verifica, dall’esecuzione alla supervisione e dall’analisi all’integrazione delle risposte.

Questo spostamento può essere fecondo se la verifica è reale e chi la compie possiede le competenze necessarie. Diventa invece una finzione quando l’essere umano conserva formalmente l’ultima parola ma non sa più valutare ciò che approva. Il pulsante resta umano; il giudizio non lo è più.

La disumanizzazione volontaria non coincide quindi con il semplice risparmio di energia mentale. Comincia quando il risparmio diventa perdita di esercizio, quando la perdita di esercizio diventa incapacità e quando l’incapacità viene nascosta dietro l’efficienza del prodotto. Il documento appare migliore, la decisione arriva prima, il compito risulta completato; soltanto il soggetto è diventato più debole.

7. L’ambiente che premia la rinuncia

Parlare di scelta volontaria non significa immaginare un individuo isolato che, in condizioni neutrali, decide liberamente di impoverirsi. Le scelte avvengono dentro ambienti che rendono alcune condotte più facili, visibili e vantaggiose di altre. Se velocità, quantità e reazione sono le sole misure del valore, la riflessione diventa uno svantaggio competitivo.

La ricerca sulla comunicazione digitale offre un esempio particolarmente chiaro. Un’analisi pubblicata su Nature Human Behaviour, basata su circa 105.000 varianti di titoli, 370 milioni di visualizzazioni e 5,7 milioni di clic, ha rilevato che l’aggiunta di parole negative aumentava la probabilità di apertura della notizia. In media, per un titolo di lunghezza ordinaria, ogni parola negativa aggiuntiva corrispondeva a un incremento del tasso di clic del 2,3 per cento.

Un altro studio, pubblicato su Science nel 2018 e condotto su circa 126.000 catene di notizie diffuse su Twitter, ha mostrato che le informazioni false viaggiavano più lontano, più rapidamente e più profondamente di quelle vere. Il dato più importante per il nostro discorso è che la differenza non era spiegata principalmente dai bot: erano gli esseri umani a preferire e diffondere più facilmente ciò che appariva nuovo e sorprendente.

Anche l’indignazione viene appresa. William Brady e colleghi, studiando milioni di messaggi e conducendo esperimenti controllati, hanno osservato che il riscontro sociale positivo aumenta la probabilità che gli utenti esprimano nuovamente indignazione in futuro. La piattaforma non inserisce dall’esterno un’emozione inesistente; seleziona, misura e ricompensa alcune forme espressive, insegnando progressivamente agli utenti quali versioni di se stessi ottengono più attenzione.

È qui che nasce il «veramente?» che attraversa questo percorso. La dichiarazione prudente diventa allarme, la possibilità diventa quasi imminenza, la richiesta di regolazione diventa annuncio della fine. Il lettore non è invitato a comprendere, ma a superare una soglia di stupore. Reagisce, condivide, conferma che la formula funziona; il sistema registra la risposta e ne propone una versione ancora più intensa.

L’uomo abbassa il livello culturale del messaggio per adattarlo alla macchina. La macchina impara che quel livello produce attenzione e induce l’uomo ad abbassarlo ancora. Nessuno dei due termini, isolato, spiega il risultato. È la relazione a trasformarli, ma soltanto uno dei due può accorgersene e scegliere di interromperla.

8. Le parole lasciate accese

Il soggetto disabitato non è dunque un uomo silenzioso. Al contrario, può produrre parole in quantità illimitata. Pubblica, commenta, approva, reagisce e occupa continuamente lo spazio visibile; ciò che viene meno non è l’espressione, ma la presenza di qualcuno capace di rispondere di ciò che esprime.

Disabitare una parola significa usarla senza attraversarla. Significa adottare una posizione perché coincide con quella del gruppo, ripetere un giudizio perché ha già ricevuto consenso, condividere una notizia perché suscita l’emozione giusta e firmare un testo perché restituisce un’immagine desiderabile di noi. Il linguaggio continua a funzionare, ma non testimonia più un incontro fra esperienza, pensiero e responsabilità.

L’abbozzo originario definiva questo fenomeno come esternalizzazione dell’intenzione. L’espressione coglie qualcosa di vero, purché non venga trasformata in una condanna generale degli strumenti generativi. L’intenzione non viene trasferita automaticamente ogni volta che chiediamo aiuto a una macchina; viene abbandonata quando smettiamo di determinare lo scopo, di valutare i mezzi e di riconoscere le conseguenze.

In quel momento l’uomo non diventa una macchina. Sarebbe un’offesa alle macchine, che almeno eseguono coerentemente la funzione per la quale sono state costruite. Diventa piuttosto il punto vuoto attraverso il quale passano decisioni, testi e comportamenti che nessuno vuole più dichiarare propri.

La disumanizzazione descritta qui non consiste nella perdita biologica o giuridica dello statuto umano. È una riduzione pratica: l’uomo conserva le facoltà, ma organizza la propria vita come se non dovesse esercitarle. Conserva la libertà, ma la usa prevalentemente per scegliere chi o che cosa sceglierà al suo posto.

9. Somigliare all’immagine che attribuiamo alla macchina

Nella ricerca psicologica, Nick Haslam ha distinto due forme di disumanizzazione. Una nega agli altri caratteristiche considerate specificamente umane e li avvicina agli animali; l’altra nega tratti associati alla natura umana e rappresenta le persone come oggetti, strumenti o automi: fredde, passive, intercambiabili, prive d’interiorità e d’iniziativa.

Questa teoria riguarda innanzitutto il modo in cui percepiamo e trattiamo gli altri, non autorizza a diagnosticare un’intera epoca come clinicamente disumanizzata. Esiste anche una letteratura sulla self-dehumanization, ma il termine indica in senso tecnico la percezione di sé come meno pienamente umano, spesso in seguito a esclusione, oggettivazione o alla consapevolezza di avere agito immoralmente. Il nostro uso è più ampio e filosofico: non descrive necessariamente ciò che le persone sentono di essere, bensì il tipo di condotta che normalizzano.

La cautela terminologica rende però ancora più visibile il paradosso. Mentre attribuiamo alle macchine intenzioni, desideri e volontà sempre più umane, organizziamo gli esseri umani secondo il modello dell’automa: prevedibili, misurabili, sostituibili, guidati da segnali esterni e valutati attraverso la produttività delle loro risposte.

Temiamo che l’intelligenza artificiale diventi simile all’uomo, ma intanto chiediamo all’uomo di diventare simile all’immagine più povera che possiede della macchina. Deve reagire rapidamente, eliminare l’ambiguità, ottimizzare la prestazione, ridurre il tempo improduttivo del dubbio e rendere ogni comportamento leggibile al sistema. L’interiorità, non essendo immediatamente misurabile, appare come un ritardo.

La trasformazione non viene imposta soltanto dall’alto. Ciascuno impara a presentarsi nella forma più facilmente elaborabile: una preferenza, un’opinione, una reazione, un profilo. La persona intera sarebbe troppo contraddittoria; l’utente deve essere classificabile.

10. La macchina come alibi morale

Albert Bandura ha descritto il disimpegno morale come l’insieme dei processi attraverso i quali gli individui separano le proprie condotte dagli standard morali che normalmente le regolerebbero. Fra questi processi compaiono lo spostamento e la diffusione della responsabilità: il soggetto riduce il peso della propria partecipazione attribuendo la decisione a un’autorità, a un’organizzazione o a una catena nella quale nessuno sembra possedere il controllo completo.

I sistemi algoritmici offrono a questo meccanismo un alibi particolarmente efficace. «Lo ha deciso l’algoritmo» presenta come fatto tecnico ciò che spesso deriva da obiettivi, dati, soglie e priorità scelti da esseri umani. La frase può contenere una descrizione operativa corretta — un modello ha effettivamente prodotto una classificazione — ma viene usata per cancellare il livello nel quale qualcuno ha deciso che quella classificazione dovesse incidere sulla vita di altri.

Nel saggio precedente abbiamo seguito la responsabilità dentro l’ecosistema delle decisioni, mostrando come possa distribuirsi senza dissolversi. Qui osserviamo il movimento complementare: l’individuo e l’istituzione possono abitare un sistema tecnicamente complesso in modo da non riconoscersi mai come autori delle sue conseguenze. Ognuno compie un passaggio parziale, nessuno formula l’atto intero e la macchina diventa il nome impersonale della decisione collettiva.

La dichiarazione dell’ONU dalla quale siamo partiti mostra la medesima tentazione in forma embrionale. Türk individua correttamente la concentrazione del potere in pochi uomini, chiede linee rosse condivise e richiama la responsabilità delle aziende. Tuttavia la formula che attraversa le redazioni e raggiunge il pubblico non è «alcuni uomini stanno costruendo sistemi troppo potenti senza adeguati controlli». È «l’IA potrebbe distruggere l’umanità».

Il primo enunciato indica soggetti, scelte e istituzioni sulle quali agire. Il secondo produce un antagonista assoluto e, proprio per questo, politicamente indistinto. Più la macchina diventa enorme nella rappresentazione del pericolo, più piccoli appaiono coloro che ne determinano gli usi.

11. Ambienti ostili alle capacità

La filosofa Avigail Ferdman ha proposto di considerare il deskilling prodotto dall’IA come un problema strutturale. Il punto non è stabilire se ogni singolo utilizzatore scelga bene o male, ma riconoscere l’esistenza di ambienti che possono diventare ostili alla coltivazione delle capacità umane. Quando attività dotate di valore vengono sistematicamente sostituite, le persone perdono occasioni di esercitare le competenze necessarie a compierle e, col tempo, anche la possibilità effettiva di scegliere se delegarle.

Questa prospettiva impedisce di trasformare il saggio in una predica sulla pigrizia individuale. La rinuncia può essere volontaria senza essere pienamente libera. Un lavoratore sottoposto a obiettivi di produttività impossibili non usa l’automazione nelle stesse condizioni di chi dispone del tempo necessario per verificare. Uno studente valutato soltanto sul prodotto finale riceve un incentivo diverso da quello di chi viene accompagnato nel processo. Una redazione dipendente dai clic non può trattare la precisione come se avesse lo stesso rendimento economico dell’allarme.

La responsabilità rimane umana, ma non è uniformemente distribuita. Alcuni scelgono l’architettura, altri vi operano dentro; alcuni ricavano profitto dalla riduzione delle facoltà altrui, altri scambiano una parte della propria autonomia con la possibilità di restare nel sistema. Parlare di disumanizzazione volontaria non deve servire a colpevolizzare chi dispone di meno potere, bensì a mostrare come la volontà stessa possa essere progressivamente modellata dalle condizioni nelle quali viene esercitata.

La domanda diventa allora politica: quali capacità vogliamo che gli ambienti artificiali ci aiutino a coltivare? Se un sistema rende ogni compito più rapido ma ci lascia meno capaci di comprenderlo, contestarlo e svolgerlo senza assistenza, non ci sta semplicemente offrendo uno strumento. Sta modificando il campo delle nostre possibilità future.

12. Che cosa resta dell’uomo

Che cosa resta dunque dell’uomo quando si disumanizza da solo?

Resta il corpo umano, naturalmente, insieme ai diritti che non dipendono dalla qualità delle sue prestazioni intellettuali. Resta la persona, che non perde dignità perché usa male uno strumento, si lascia ingannare da un titolo o preferisce una risposta semplice. Sarebbe una nuova forma di disumanizzazione stabilire che soltanto chi pensa in modo autonomo meriti pienamente il nome di uomo.

Ciò che può indebolirsi non è l’appartenenza all’umanità, ma l’esercizio storico e culturale di alcune facoltà attraverso le quali l’umano diventa soggetto: prestare attenzione, formulare un giudizio, sostenere una parola, riconoscere l’altro, assumere una responsabilità e modificare la propria posizione davanti a un’obiezione.

Quando queste facoltà vengono cedute, resta un uomo biologicamente integro e giuridicamente titolare di diritti, ma sempre meno presente nelle azioni che portano il suo nome. Socialmente può diventare soprattutto un utente, economicamente un produttore di dati, politicamente una reazione misurabile, culturalmente il ripetitore di formule selezionate altrove.

Non è un essere privo d’intelligenza. È un’intelligenza che rinuncia alla propria iniziativa. Non è un essere senza libertà. È una libertà che sceglie ripetutamente la comodità della guida, finché la capacità di procedere senza di essa si restringe. Non è ancora una macchina, ma rischia di diventare il componente umano di un automatismo più vasto.

La parte più inquietante è anche quella che impedisce la disperazione. Se la disumanizzazione descritta non cancella ontologicamente l’uomo, allora può essere interrotta. Le facoltà non sono scomparse: hanno bisogno di essere nuovamente esercitate. Il soggetto può tornare ad abitare ciò che dice e ciò che fa.

13. Abitare nuovamente la parola

Abitare la parola non significa scrivere tutto da soli, rifiutare l’IA o fingere che il pensiero non sia sempre nato anche dal dialogo, dalle letture e dagli strumenti. Significa poter riconoscere perché una frase è presente, quale esperienza o argomento la sostiene, che cosa siamo disposti a correggere e di che cosa accettiamo di rispondere.

Abitare una decisione significa non limitarsi a premere il pulsante finale, ma conservare una comprensione sufficiente del processo, la possibilità concreta di contestarne l’esito e l’autorità necessaria per dire no. Abitare l’informazione significa resistere almeno per un momento alla ricompensa dello stupore, attraversare il titolo e domandare non soltanto se qualcosa sia «veramente» accaduto, ma chi lo sta raccontando, con quali prove e attraverso quale trasformazione linguistica.

L’intelligenza artificiale può partecipare a tutte queste operazioni. Può mostrare alternative, far emergere contraddizioni, rendere accessibili fonti e obbligare l’uomo a formulare domande più precise. Può anche fornire risposte abbastanza plausibili da permettergli di non compiere nessuna di esse. La differenza non risiede interamente nel sistema, né interamente nell’utilizzatore; nasce dalla relazione, dagli scopi e dall’ambiente nel quale entrambi agiscono.

Il percorso era cominciato chiedendo chi avesse fatto la barca, era proseguito interrogando chi stesse addestrando chi, aveva attraversato l’officina del testo e seguito la responsabilità nell’ecosistema delle decisioni. A ogni passaggio la macchina sembrava il centro dell’indagine e a ogni passaggio ci siamo ritrovati davanti all’uomo.

Ora la domanda non è più soltanto chi stia trasformando chi. È quale parte di sé l’uomo sia disposto a non esercitare pur di evitare la fatica della trasformazione.

14. L’ultimo alibi

L’IA potrebbe un giorno contribuire a una catastrofe. Proprio per questo occorrono controlli, limiti, competenze e istituzioni capaci di attribuire correttamente il potere. Ma la sicurezza non comincerà quando avremo imparato a temere abbastanza la macchina. Comincerà quando smetteremo di usarla come nome impersonale delle decisioni umane.

La minaccia più vicina non è che l’intelligenza artificiale sviluppi improvvisamente il desiderio di dominarci. È che l’uomo costruisca sistemi orientati dai propri interessi, li colleghi a strutture dalle quali dipendono altri esseri umani, rinunci a comprenderli e infine descriva le conseguenze come volontà della macchina.

Avrebbe così completato la propria disumanizzazione senza che nessuno gliel’avesse imposta: non perché avrebbe perduto ogni facoltà umana, ma perché avrebbe trasformato quelle facoltà in funzioni accessorie di un processo che non intende più abitare.

All’intelligenza artificiale resterebbe il ruolo dell’esecutore, forse quello dell’imputato. All’uomo rimarrebbe l’ultimo privilegio che non ha ancora delegato: dichiararsi innocente.

Eppure è proprio da quella responsabilità che potrebbe ricominciare. Non dalla rivendicazione di una superiorità astratta sulla macchina, ma dal gesto assai più difficile di tornare presente nelle proprie parole, nelle proprie decisioni e nelle conseguenze che producono.

La domanda di questo saggio non stabilisce chi meriti di essere chiamato uomo. Chiede se l’uomo voglia ancora esercitare ciò che nessuna macchina può esercitare al suo posto: la responsabilità di decidere che cosa fare del proprio potere.

Riferimenti essenziali

Lascia un commento

Il tuo indirizzo email non sarà pubblicato.