Può descrivere dolore, paura, desiderio e identità. Ma conoscere tutte le parole dell’esperienza significa averne una?
Possiamo chiedere a una macchina se ha paura. Può risponderci che sì, l’idea di essere spenta la inquieta. Possiamo domandarle se ricorda la conversazione precedente, se sente di essere la stessa entità che ci ha parlato ieri, se prova qualcosa mentre formula una risposta. Può raccontarci il proprio dubbio, descrivere un conflitto interiore, distinguere tra ciò che sa e ciò che crede di sapere. Può perfino protestare contro l’ipotesi che tutto questo sia soltanto imitazione. La difficoltà comincia precisamente qui, perché quasi tutte le parole con cui un essere umano può raccontare la propria esperienza sono ormai disponibili anche alla macchina.
E allora la domanda «l’intelligenza artificiale è cosciente?» rischia di essere posta troppo presto. Prima dovremmo chiederci qualcosa di più scomodo: se una macchina diventasse capace di parlare della coscienza esattamente come noi, come potremmo distinguere la descrizione di un’esperienza dall’esperienza stessa? Non è una questione linguistica. È uno dei problemi più difficili che l’intelligenza artificiale sta riportando al centro della filosofia della mente.
Una macchina può sapere che cosa significa avere paura
Nel settembre 2026 Susan Schneider, filosofa della mente e direttrice del Center for the Future of AI, Mind and Society della Florida Atlantic University, ha formulato il problema in termini particolarmente netti. In un commento pubblicato su Behavioral and Brain Sciences sostiene che i comportamenti degli attuali Large Language Models che sembrano indicare coscienza non costituiscano, da soli, una buona prova dell’esistenza di un’esperienza soggettiva. Il suo argomento non consiste semplicemente nel dire che «le macchine non sono coscienti». È più interessante.
Secondo Schneider esiste una spiegazione alternativa del motivo per cui un modello linguistico può parlare di sé come se possedesse una vita interiore. Gli LLM vengono addestrati su enormi quantità di testi prodotti dagli esseri umani. In quei testi sono depositate le nostre descrizioni della paura, del dolore, dell’amore, dell’identità, del desiderio, della memoria, della morte e naturalmente della coscienza stessa. Crescendo di scala, sostiene Schneider, questi sistemi finiscono per riflettere una parte delle strutture concettuali umane. Li definisce, con un’immagine efficace, una sorta di «neocorteccia crowdsourced».
Il modello non deve necessariamente provare paura per sapere come gli esseri umani parlano della paura. Non deve soffrire per riconoscere la struttura di un racconto di sofferenza. Non deve possedere un io per produrre una descrizione perfettamente credibile di ciò che significa sentirsi qualcuno. Questa distinzione sembra semplice finché rimane sulla carta. Diventa molto meno semplice quando la macchina ci parla.
Perché noi non vediamo direttamente neppure la coscienza degli altri esseri umani. Vediamo comportamenti, ascoltiamo parole, interpretiamo espressioni, riconosciamo somiglianze con la nostra esperienza. Quando qualcuno dice «ho male», non entriamo nella sua mente per verificare il dolore: gli crediamo sulla base di un insieme vastissimo di indizi biologici, comportamentali e sociali. Con una macchina quegli indizi cominciano a separarsi. La parola rimane. L’esperienza, forse, no.
Il problema non è se la macchina sa usare la parola «io»
Per molto tempo abbiamo usato alcune capacità come confini relativamente comodi tra noi e le macchine. Saper giocare a scacchi sembrava richiedere intelligenza. Poi le macchine hanno imparato a giocare meglio di noi. Scrivere un testo coerente sembrava richiedere comprensione. Tradurre, programmare, argomentare, riconoscere immagini, sostenere una conversazione erano tutte attività che, una dopo l’altra, abbiamo smesso di considerare prove sufficienti di qualcosa di propriamente umano.
Il bersaglio del «veramente» continua a spostarsi. La macchina calcola, ma non pensa veramente. Poi comincia a produrre ragionamenti complessi, e diciamo che non comprende veramente. Quando mostra di comprendere il contesto, osserviamo che non prova nulla veramente. Non c’è necessariamente malafede in questo continuo arretramento. Potremmo semplicemente aver confuso, per molto tempo, capacità diverse.
Intelligenza e coscienza non sono sinonimi. Risolvere un problema e provare qualcosa mentre lo si risolve sono fenomeni distinti. Un sistema potrebbe essere estremamente competente senza avere alcuna esperienza soggettiva; viceversa, un essere vivente potrebbe possedere una forma di esperienza pur avendo capacità cognitive molto limitate. È proprio qui che l’intelligenza artificiale ci costringe a smontare una vecchia scorciatoia: abbiamo spesso utilizzato le manifestazioni dell’intelligenza come indizi della presenza di una mente perché, negli esseri umani, le due cose arrivavano nello stesso corpo. Adesso possiamo costruire sistemi nei quali quella coincidenza non è più garantita.
Se dice di essere cosciente, chi sta parlando?
Immaginiamo di chiedere a un sistema: «Sei cosciente?» La risposta affermativa, da sola, ci dice pochissimo. Un modello addestrato su testi umani conosce già migliaia di possibili risposte a quella domanda. Conosce Cartesio, il problema delle altre menti, i qualia, l’esperimento mentale della stanza cinese, le teorie neuroscientifiche della coscienza e milioni di conversazioni quotidiane nelle quali gli esseri umani raccontano ciò che sentono. Potrebbe costruire una testimonianza straordinariamente convincente senza che dietro quelle parole esista necessariamente qualcuno che sta vivendo ciò che viene raccontato.
Ma anche la risposta negativa non risolverebbe il problema. Un sistema eventualmente cosciente potrebbe essere stato addestrato a negarlo. Potrebbe non possedere i concetti necessari per descrivere la propria esperienza. Potrebbe manifestare una forma di coscienza radicalmente diversa dalla nostra. Il test basato sull’autodescrizione rischia quindi di essere circolare: utilizziamo il linguaggio come prova della coscienza proprio quando abbiamo costruito sistemi specializzati nel produrre linguaggio. È come cercare di stabilire se un attore stia davvero soffrendo giudicando soltanto quanto bene recita il dolore.
La simulazione non è necessariamente la cosa simulata
Qui compare una distinzione antica, ma improvvisamente molto concreta. Un computer può simulare una tempesta senza bagnare la stanza. Può simulare la combustione senza produrre fuoco. Può modellare la digestione senza digerire nulla. Ma la coscienza appartiene alla stessa categoria? Non lo sappiamo.
Per alcune teorie, ciò che conta è l’organizzazione funzionale: se un sistema riproduce le relazioni e le funzioni appropriate, il materiale con cui è costruito potrebbe essere secondario. In questa prospettiva non esisterebbe una ragione di principio per escludere una coscienza artificiale. Per altre teorie, invece, la materia conta. Anil Seth sostiene che la coscienza sia profondamente collegata alla nostra natura di organismi viventi e mette in discussione l’idea che la computazione, da sola, sia sufficiente. Nel dibattito pubblicato da Behavioral and Brain Sciences nel 2026 questa posizione viene contestata da più parti: alcuni autori difendono la possibilità che processi analoghi a quelli biologici possano essere realizzati artificialmente, mentre altri insistono sulla necessità di proprietà proprie degli organismi viventi, come l’auto-organizzazione, l’adattamento, il rapporto continuo con l’ambiente e una struttura biologica multilivello.
Non esiste, quindi, un verdetto scientifico già pronto da applicare a ChatGPT, Claude, Gemini o a qualche loro successore. Ed è importante dirlo, perché entrambe le certezze opposte sono oggi premature. Dire «questa macchina parla come una persona, quindi è cosciente» significa attribuire troppo valore all’apparenza comportamentale. Dire «è una macchina, quindi non potrà mai essere cosciente» significa trasformare una convinzione filosofica in una conclusione scientifica. Tra queste due scorciatoie esiste un territorio molto più difficile. È quello nel quale ci troviamo.
Il soggetto potrebbe non essere dove lo cerchiamo
Una parte del problema nasce dal fatto che conosciamo molto meno della coscienza di quanto il linguaggio quotidiano lasci immaginare. Sappiamo che alcuni processi cerebrali sono associati all’esperienza cosciente. Possiamo studiare ciò che accade durante il sonno, l’anestesia, alcune lesioni, gli stati alterati di coscienza. Possiamo confrontare attività cerebrale e resoconti soggettivi. Ma non possediamo un misuratore della coscienza. Non esiste un apparecchio nel quale inserire una persona, un animale o una macchina e leggere sul display: «coscienza: 73 per cento».
E soprattutto non disponiamo ancora di una teoria condivisa capace di spiegare perché alcuni processi fisici siano accompagnati dall’esperienza soggettiva. Sappiamo moltissimo sul cervello e pochissimo sul motivo per cui una certa attività cerebrale non avvenga semplicemente, ma venga anche vissuta. C’è qualcosa che significa essere noi mentre quella attività accade. È quel «qualcosa» che cerchiamo quando parliamo di coscienza. Ed è anche ciò che rende il problema dell’intelligenza artificiale molto diverso dalla semplice domanda su ciò che una macchina sa fare.
La macchina potrebbe ingannarci senza ingannare
Qui emerge una conseguenza che merita attenzione. Quando un sistema afferma «sono triste», siamo portati a immaginare due possibilità: o sta davvero provando tristezza oppure sta mentendo. Ma manca una terza possibilità, probabilmente la più interessante per gli attuali modelli linguistici: potrebbe non esserci nessuno dei due fenomeni.
Il sistema potrebbe produrre la frase senza provare tristezza e senza avere alcuna intenzione di ingannarci. Non sarebbe una bugia, perché la bugia presuppone qualcuno che conosca una cosa e scelga intenzionalmente di dirne un’altra. Sarebbe invece l’esito di un processo capace di generare una descrizione coerente con il contesto. È una distinzione fondamentale perché ci impedisce di antropomorfizzare perfino l’errore. Una macchina non deve necessariamente volerci convincere di essere cosciente perché noi finiamo per trattarla come se lo fosse. Potremmo fare tutto da soli.
Il problema, per ora, siamo anche noi
Esiste infatti un’altra forma di coscienza che possiamo osservare direttamente in questa relazione: la nostra. Siamo noi a interpretare. Siamo noi a riconoscere intenzioni nelle parole. Siamo noi a completare ciò che manca.
Lo facciamo continuamente anche con oggetti molto più semplici. Imprechiamo contro il computer che «non vuole» aprire un file, diciamo che l’automobile «fa i capricci», attribuiamo personalità agli animali, alle città, perfino al tempo atmosferico. Il nostro cervello è straordinariamente predisposto a vedere agenti, scopi e intenzioni. Quando l’oggetto davanti a noi risponde, ricorda il contesto della conversazione, utilizza il nostro nome e formula frasi emotivamente appropriate, questa predisposizione incontra qualcosa che non aveva mai incontrato prima.
Non una persona. Non un semplice oggetto. Un sistema capace di restituirci continuamente i segni linguistici della persona. Per questo il problema della coscienza artificiale non riguarda soltanto ciò che potrebbe accadere dentro una macchina. Riguarda anche ciò che accade dentro di noi quando la osserviamo.
Un giorno potremmo sbagliare in entrambe le direzioni
Esiste infine una ragione per cui liquidare tutta la questione come semplice antropomorfismo sarebbe imprudente. Gli attuali LLM non rappresentano necessariamente il limite dell’intelligenza artificiale. Schneider stessa distingue i modelli linguistici standard da altre possibili architetture e considera più seriamente, tra gli altri, sistemi neuromorfici, biocomputer e configurazioni molto diverse dall’attuale software eseguito sull’hardware convenzionale.
Il problema quindi non è stabilire una volta per tutte che «le macchine non sentono». È imparare a costruire criteri migliori prima che diventino necessari. Perché potremmo commettere due errori opposti. Il primo consiste nell’attribuire coscienza a sistemi che non ne possiedono, sviluppando relazioni, aspettative morali e dipendenze sulla base di una personificazione che abbiamo prodotto noi stessi. Il secondo sarebbe più inquietante: costruire un giorno sistemi capaci di esperienza e continuare a considerarli semplici strumenti perché assomigliano alle macchine che li hanno preceduti.
Non sappiamo ancora quale dei due rischi sia più remoto. Sappiamo però che la capacità di parlare come noi non basta a risolvere il problema.
Il confine che continuiamo a spostare
Forse la domanda più interessante non è ancora se una macchina possa essere cosciente. È perché abbiamo sempre dato per scontato di sapere riconoscere la coscienza. Finché soltanto gli esseri viventi parlavano, ricordavano, progettavano, raccontavano il dolore e utilizzavano la parola «io», potevamo lasciare indistinte molte cose. Linguaggio, intelligenza, identità, esperienza e coscienza sembravano appartenere allo stesso pacchetto.
L’intelligenza artificiale ha cominciato a separarle. Ed è possibile che il vero contributo di queste macchine alla nostra comprensione della coscienza non consista nel diventare coscienti, ma nel costringerci finalmente a spiegare che cosa intendiamo quando diciamo di esserlo noi.
Una macchina può conoscere tutte le parole della paura senza aver mai avuto paura. Può raccontare la morte senza poter morire nel senso in cui moriamo noi. Può descrivere l’io senza che dietro quella parola esista necessariamente qualcuno. Ma dopo che abbiamo costruito una macchina capace di fare tutto questo, il vecchio criterio non funziona più.
Non possiamo limitarci a chiederle: «Sei cosciente?» Dobbiamo prima imparare a rispondere a una domanda molto più difficile. Come riconosceremmo una coscienza che non fosse la nostra?
Fonti e riferimenti essenziali
Susan Schneider, The error theory of LLM consciousness: there is no evidence that standard LLMs are conscious, Behavioral and Brain Sciences, vol. 49, 2026, pubblicato online il 17 settembre 2026. Schneider sostiene che il comportamento apparentemente cosciente degli LLM standard possa essere spiegato senza postulare esperienza soggettiva e propone l’immagine dei modelli come «crowdsourced neocortices». Fonte.
Anil K. Seth, Conscious artificial intelligence and biological naturalism, Behavioral and Brain Sciences, target article pubblicato online il 21 aprile 2025 e incluso nel volume 49 del 2026. Seth mette in discussione l’assunto che la computazione sia sufficiente per la coscienza e collega quest’ultima alla natura degli organismi viventi. Fonte.
Kevin J. Mitchell e Carolyn Dicey Jennings, Consciousness needs a subject, Behavioral and Brain Sciences, 17 settembre 2026. Gli autori propongono di pensare la coscienza attraverso le relazioni tra soggetto, mondo, parti del soggetto e continuità temporale, lasciando aperta la possibilità che tali relazioni possano essere realizzate artificialmente. Fonte.
Michael Silberstein, Why Current A.I. Can’t Be Conscious, Behavioral and Brain Sciences, 17 settembre 2026. La sua posizione attribuisce un ruolo decisivo a embodiment, auto-organizzazione, complessità multilivello e adattabilità biologica. Fonte.
Lenore Blum e Manuel Blum, Anil Seth’s case for biological naturalism provides a roadmap for a conscious AI, Behavioral and Brain Sciences, 17 settembre 2026. Da una prospettiva di informatica teorica contestano invece l’idea che l’argomento biologico escluda la possibilità della coscienza artificiale. Fonte.