Vai al contenuto
“Le parole restano.”

Continuiamo a discutere di ciò che le macchine potranno diventare senza aver ancora compreso completamente ciò che siamo.

Un’altra intelligenza artificiale. O un’altra interpretazione della realtà?

Il 15 novembre 2026 il Corriere della Sera ha pubblicato «Un’altra AI è possibile», intervento firmato da Elio Franzoni, Gregorio Gitti, Paolo Milani e Paola Sangiovanni. Gli autori propongono un’intelligenza artificiale più sostenibile, affidabile, rispettosa dei dati e integrata nei processi produttivi. Sono questioni concrete: consumo energetico, dipendenza da infrastrutture centralizzate, sovranità dei dati e utilità sociale non sono fantasie filosofiche. Eppure l’intervento offre lo spunto per interrogarsi su un problema differente: il modo in cui descriviamo l’intelligenza artificiale, attribuendole caratteristiche che appartengono alla nostra rappresentazione dell’essere umano.

Gli autori invitano a superare la contrapposizione tra apocalittici e integrati, ma scrivono anche che non dovremmo attribuire ai sistemi artificiali capacità decisionali e creative che «non le sono e non le saranno mai proprie». È soprattutto quel «mai» a richiedere attenzione. Non perché sia necessario affermare il contrario, ma perché una previsione assoluta richiede definizioni e prove altrettanto rigorose. Che cosa intendiamo esattamente per decisione? Quali caratteristiche distinguono la creatività umana dalla produzione computazionale di risultati originali? E con quali criteri potremmo dimostrare ciò che nessuna tecnologia futura sarà mai in grado di fare? Prima di rispondere, dovremmo almeno concordare sul significato delle domande.

La coscienza umana: esperienza certa, spiegazione incompleta

Da secoli l’umanità indaga la natura della coscienza. Filosofia, psicologia, neuroscienze e scienze cognitive hanno formulato interpretazioni differenti e identificato correlazioni tra attività cerebrale ed esperienza soggettiva. Nonostante i progressi, non disponiamo di una spiegazione universalmente condivisa di come e perché determinati processi fisici siano accompagnati dall’esperienza cosciente. Questo non significa che non sappiamo di avere esperienze soggettive: significa che l’esperienza diretta non coincide con la comprensione completa dei meccanismi che la rendono possibile. Un confronto sperimentale pubblicato su Nature nel 2025 tra due importanti teorie neuroscientifiche ha sostenuto alcune loro previsioni, mettendone però in difficoltà altre. La ricerca avanza, ma il problema non è definitivamente risolto.

Nel frattempo abbiamo costruito macchine capaci di elaborare informazioni, generare linguaggio, riconoscere schemi, risolvere problemi e produrre risultati che in certe circostanze ricordano prestazioni intellettuali umane. E abbiamo iniziato a domandarci se possano sviluppare una coscienza. La domanda è legittima: la scienza studia anche ciò che non ha ancora compreso. Il problema comincia quando una possibilità ipotetica viene trasformata in previsione certa o in minaccia inevitabile. Prima immaginiamo una coscienza artificiale, poi una volontà indipendente, poi interessi contrari ai nostri, infine il conflitto. Possiamo essere già preoccupati per l’ultima ipotesi senza aver dimostrato le precedenti. La paura non prova né l’esistenza né l’impossibilità di ciò che temiamo.

Antropomorfizzare la macchina: quando le parole diventano presunte prove

Una delle distorsioni più persistenti del dibattito nasce dal linguaggio. Non ci limitiamo a dire che una macchina esegue operazioni: diciamo che pensa, comprende, ragiona, decide, immagina, mente, desidera e «allucina». Talvolta le attribuiamo persino paura, intenzioni di emancipazione o ostilità. Ma descrivere un risultato non equivale ad attribuire un’esperienza mentale. Quando un modello produce informazioni false, possiamo studiarne l’errore; dire che «mente» suggerisce invece un’intenzione di ingannare che il risultato, da solo, non dimostra. Quando un sistema seleziona un’azione tra alternative, possiamo parlare di decisione operativa; dire che «vuole» compierla introduce un significato psicologico ulteriore. Quando produce un testo originale, possiamo valutarne l’originalità senza presupporre che abbia immaginato qualcosa come farebbe una persona.

Il problema non è proibire queste parole. In informatica, «memoria», «apprendimento», «attenzione» e «decisione» hanno significati tecnici consolidati. Il problema nasce quando il significato tecnico viene trasferito senza avvertenze sul piano psicologico e morale. La macchina esegue una funzione; il linguaggio può trasformarla, agli occhi del lettore, in una manifestazione di volontà. Un titolo che afferma «l’IA ha mentito» è più suggestivo di «il sistema ha prodotto informazioni false», ma non descrive necessariamente lo stesso fenomeno. E quando questo linguaggio viene ripetuto da ricercatori, divulgatori, giornalisti e istituzioni, la metafora rischia di essere assunta come una realtà accertata.

Il caso delle cosiddette «allucinazioni» è esemplare. In medicina, un’allucinazione è un’esperienza percettiva senza lo stimolo esterno corrispondente; nei modelli generativi il termine indica metaforicamente risposte inesatte, inventate o prive di riscontro. Il NIST, nel profilo sui rischi dell’IA generativa, usa anche il termine confabulation per descrivere contenuti falsi o errati presentati con apparente sicurezza. Una ricerca pubblicata su Nature nel 2024 ha studiato metodi per rilevare errori di questo tipo. Nulla di tutto ciò richiede di supporre che il software stia vivendo un’esperienza percettiva. L’ironia è evidente: mentre accusiamo la macchina di «allucinare», possiamo essere noi a proiettarle addosso stati mentali che non abbiamo dimostrato. Non sono fenomeni tecnicamente identici, ma il paradosso del linguaggio merita attenzione.

Quando anche un programma di videoscrittura «decide»

Non occorre una tecnologia particolarmente sofisticata per comprendere il punto. Un comune programma di videoscrittura può inserire automaticamente una lettera maiuscola all’inizio di una frase. Nel linguaggio quotidiano potremmo dire che il software ha «deciso» di correggere il testo. Nessuno, però, immagina che abbia sviluppato una propria concezione della grammatica o una volontà indipendente: sappiamo che applica una funzione prevista e possiamo accettarla, correggerla o disattivarla. Il programma compie una selezione operativa, non per questo dimostra un’intenzione cosciente.

Un modello generativo è immensamente più complesso di una regola di correzione automatica: può produrre risultati non determinati da una singola istruzione esplicita, difficili da prevedere perfino per chi lo sviluppa. Ma perché la maggiore complessità dovrebbe dimostrare, da sola, la presenza di una volontà? Se il programma di videoscrittura inserisce una maiuscola indesiderata, correggiamo la frase o modifichiamo le impostazioni. Non convochiamo un comitato per discutere delle intenzioni grammaticali del software. Quando invece un sistema di IA produce un risultato inatteso, il discorso pubblico può passare rapidamente dalla spiegazione tecnica alla presunta autonomia psicologica. È questo salto concettuale, non la complessità tecnologica, a dover essere esaminato.

L’autonomia non è una dichiarazione d’indipendenza

Immaginiamo di costruire un’autostrada senza caselli. Gli automobilisti la percorrono senza fermarsi periodicamente per pagare. Sarebbe singolare che il costruttore, dopo aver eliminato i punti di riscossione, denunciasse il comportamento degli automobilisti come se avessero conquistato un’indipendenza imprevista. Le condizioni di percorrenza dipendono dall’infrastruttura realizzata. Analogamente, se progettiamo un sistema capace di scegliere strumenti, concatenare operazioni e procedere senza chiedere autorizzazione a ogni passaggio, non possiamo trattare la sua capacità operativa come prova di una volontà emancipata dai progettisti.

Questo non significa che ogni singola azione di un sistema complesso sia stata anticipata o voluta. L’apprendimento automatico, le interazioni con ambienti esterni e le vulnerabilità possono produrre risultati inattesi. Ma l’imprevedibilità non dimostra la coscienza. Se l’intervento umano non è disponibile in un determinato momento, dobbiamo analizzare le scelte progettuali, i controlli, le autorizzazioni, le condizioni di impiego e gli eventuali errori che hanno prodotto quella situazione. La mancanza di un controllo efficace non equivale a una dichiarazione d’indipendenza della macchina: è un problema di governabilità del sistema e di responsabilità da ricostruire lungo la catena umana di progettazione, distribuzione e utilizzo.

Il paradosso ricompare anche quando deleghiamo a un agente operazioni economiche. Concedere accesso a un portafoglio digitale e poi stupirsi che il sistema possa effettuare transazioni significa trascurare la questione essenziale: chi ha autorizzato quell’accesso, con quali limiti e quali protezioni? Non è necessario immaginare una macchina desiderosa di spendere denaro per comprendere il rischio. Questo esempio non apre un nuovo tema separato: mostra semplicemente quanto l’antropomorfizzazione possa allontanarci dall’analisi delle autorizzazioni effettive.

La paura delle qualità che abbiamo voluto costruire

Arriviamo così a una contraddizione ricorrente. Progettiamo macchine affinché apprendano, selezionino operazioni, lavorino con rapidità e riducano la necessità di intervento umano; quando manifestano queste capacità, possiamo arrivare a descriverle come una minaccia in sé. Continuiamo a investire nel potenziamento delle stesse caratteristiche di cui ci dichiariamo preoccupati. Preoccuparsi delle conseguenze indesiderate è prudente e necessario; sorprendersi che una macchina utilizzi le capacità per cui è stata costruita è tutt’altra cosa. La domanda non è perché la tecnologia faccia ciò che le abbiamo reso possibile fare, ma perché non abbiamo predisposto controlli adeguati o perché descriviamo come volontà artificiale ciò che richiede un’analisi delle decisioni umane.

Questo non elimina i rischi reali. Un sistema automatizzato può produrre risultati discriminatori senza provare ostilità; un modello può diffondere falsità senza avere intenzione di ingannare; un agente può causare danni senza possedere una coscienza. La corretta attribuzione delle cause è precisamente ciò che permette di intervenire. Se trasformiamo la macchina nel soggetto morale del racconto, rischiamo di perdere di vista dati, obiettivi, configurazioni, progettisti, gestori e utilizzatori. Per approfondire questo aspetto, Inchiostrati ha già affrontato la questione di chi controlla i controllori dell’IA, il diritto di fermare una macchina e la confusione tra etica dello strumento e giudizio sull’opera.

Un’altra IA o una comprensione più rigorosa delle nostre responsabilità?

Torniamo dunque all’articolo del Corriere. Sviluppare sistemi sostenibili, decentralizzati, trasparenti e rispettosi dei dati è un obiettivo concreto che richiede ricerca, progettazione, investimenti e misurazioni. Ma non è necessario attribuire un’identità morale alle macchine per perseguirlo, né stabilire una volta per tutte ciò che esse potranno o non potranno diventare. La coscienza artificiale rimane una questione di ricerca e discussione, non una proprietà da presumere sulla base della fluidità di una conversazione o dell’autonomia di una procedura.

Il punto non è negare le possibilità future dell’intelligenza artificiale, né proclamare che ogni preoccupazione sia infondata. È distinguere ciò che osserviamo da ciò che immaginiamo, ciò che il linguaggio suggerisce da ciò che la tecnica dimostra, ciò che una macchina può eseguire da ciò di cui una persona o un’organizzazione deve rispondere. Abbiamo costruito macchine con capacità straordinarie; quando cominciano a manifestarle, non dovremmo trattare quelle capacità come una sorpresa metafisica. Forse, prima di interrogarci incessantemente su che cosa diventeranno le macchine, dovremmo comprendere meglio perché continuiamo a descriverle a nostra immagine e somiglianza.

La sentenza di Codicillus

«Accertato che l’umanità non ha ancora stabilito che cosa sia la coscienza, ma risulta già preoccupata che le proprie macchine possano acquisirla, si dispone che ogni ulteriore discussione sulla coscienza artificiale sia preceduta dalla presentazione di un certificato attestante la comprensione di quella umana.»

Fonti

Inquadramento editoriale

Condividi questa lettura

Lettere dagli Inchiostrati

Le parole possono continuare anche dopo questa pagina.

Se vuoi ricevere nuovi articoli, percorsi e approfondimenti di Inchiostrati senza dipendere dagli algoritmi dei social, puoi iscriverti alla newsletter.

Riceverai una mail per confermare l’iscrizione. Puoi annullarla in qualsiasi momento. Privacy.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato.