1. La direzione apparente
Abbiamo costruito l’intelligenza artificiale a partire da ciò che sapevamo, affidandole testi, immagini, linguaggi, regole, esempi, errori, classificazioni, opere e conversazioni: una quantità sterminata di tracce lasciate dall’intelligenza e dalla cultura umane. Se guardiamo soltanto all’origine degli attuali sistemi, dunque, la direzione sembra evidente e non presenta particolari misteri: siamo noi ad aver addestrato l’intelligenza artificiale.
Poi abbiamo cominciato a parlarle, e quella direzione così semplice ha cominciato a non bastare più.
2. Quando le risposte modificano le domande
Non perché la macchina abbia improvvisamente iniziato a insegnarci nel significato tradizionale del termine, né perché sia necessario attribuirle intenzioni, coscienza o una volontà che non sappiamo se possieda. È accaduto qualcosa di meno spettacolare, ma forse più interessante: le sue risposte hanno cominciato a modificare le nostre domande.
Una risposta può suggerire un’obiezione, l’obiezione può costringerci a precisare ciò che stavamo chiedendo e la domanda così riformulata può produrre una risposta diversa, capace a sua volta di mettere in discussione una categoria che fino a quel momento avevamo considerato ovvia.
Lo vediamo, per esempio, quando chiediamo a un modello di spiegare un concetto e otteniamo una formulazione inaspettata: siamo costretti a precisare che cosa intendevamo. Quando un sistema classifica un’immagine in modo contro-intuitivo, dobbiamo chiederci se il nostro criterio di classificazione era davvero chiaro. Quando un modello produce un testo che sembra creativo, dobbiamo domandarci che cosa intendiamo per creatività.
È così che parole utilizzate con una certa tranquillità – intelligenza, comprensione, creatività, autonomia, autore, conoscenza – tornano improvvisamente ad avere bisogno di essere spiegate.
Il risultato è curioso, perché mentre cerchiamo di conoscere qualcosa di più sull’intelligenza artificiale scopriamo contemporaneamente di sapere qualcosa di meno di quanto credevamo sull’intelligenza umana. È in questo punto che la domanda «chi sta addestrando chi?» smette di essere soltanto una provocazione. La risposta più immediata continua a essere corretta: siamo stati noi ad addestrare tecnicamente questi sistemi. Il problema è che quella risposta appartiene ormai a una domanda molto più piccola di quella che nel frattempo è comparsa.
3. Imparare da ciò che non intende insegnare
Essere stati la causa di qualcosa, infatti, non significa possederne in anticipo tutte le conseguenze. Possiamo costruire un processo senza conoscere ogni risultato che quel processo produrrà, così come possiamo imparare osservando qualcosa che non possiede alcuna intenzione di insegnarci.
Un castoro costruisce una diga e noi possiamo studiarne la struttura, comprenderne gli effetti sull’ambiente e persino ricavarne soluzioni applicabili altrove, senza bisogno di immaginare che il castoro abbia voluto impartirci una lezione di ingegneria. Perché esista apprendimento non è necessario che dall’altra parte esista un maestro intenzionale; può essere sufficiente che ci sia qualcosa da osservare e un osservatore capace di trasformare quell’osservazione in conoscenza.
L’essere umano lo ha fatto da sempre. Ha osservato animali, piante, acqua, vento, fuoco, cielo e materia, riconoscendone regolarità, imitando alcune soluzioni e trasformandone altre, per poi trasmettere ciò che aveva appreso a chi sarebbe venuto dopo. Molto prima che costruissimo aeroplani esisteva il volo e molto prima dei nostri sistemi tecnologici di regolazione esistevano organismi capaci di intervenire sull’ambiente e modificarlo in funzione della propria esistenza. La natura non ci stava insegnando intenzionalmente nulla: eravamo noi capaci di imparare osservandola.
Perché dovrebbe essere necessariamente diverso quando ciò che osserviamo è qualcosa che abbiamo costruito?
4. Naturale e artificiale: genealogia o ontologia?
La domanda diventa ancora più interessante quando proviamo a utilizzare fino in fondo una distinzione che normalmente consideriamo ovvia. Consideriamo naturale il castoro e naturale la diga che costruisce, così come consideriamo naturale l’essere umano; quando però è quest’ultimo a costruire una diga, quella stessa trasformazione dell’ambiente entra immediatamente nella categoria dell’artificiale.
La distinzione è perfettamente comprensibile se con «artificiale» intendiamo descrivere una genealogia, cioè qualcosa che deriva dall’attività tecnica umana, ma diventa molto meno ovvia quando la utilizziamo come se descrivesse una separazione ontologica fra natura e artificio.
L’intelligenza artificiale è artificiale perché l’abbiamo costruita, ma l’essere che l’ha costruita è il risultato di una storia naturale; i materiali attraverso cui esiste appartengono al mondo fisico, così come l’energia necessaria al suo funzionamento e le leggi alle quali ogni sua componente continua a obbedire. Sembra quasi che l’uomo occupi una posizione singolare nella classificazione che egli stesso ha costruito: tutto ciò che conduce fino a lui appartiene alla natura, mentre ciò che passa attraverso di lui diventa artificio.
Questo non rende inutile la distinzione tra naturale e artificiale, ma dovrebbe almeno indurci a domandarci che cosa stiamo realmente distinguendo quando la utilizziamo.
E forse non è l’unico confine che abbiamo costruito in questo modo.
5. Le capacità che credevamo esclusive
Per molto tempo abbiamo utilizzato alcune capacità per descrivere la particolarità dell’essere umano, attribuendo un valore speciale all’uso degli strumenti, all’apprendimento, alla cultura, al linguaggio, al ragionamento e alla creatività. Progressivamente abbiamo trovato alcune di queste capacità, naturalmente in forme e gradi differenti, anche fuori dalla nostra specie:
- sappiamo che alcuni corvidi e primati utilizzano strumenti in modo sofisticato;
- esistono comportamenti appresi socialmente e trasmessi all’interno delle popolazioni animali;
- alcune tradizioni possono persistere nel tempo in gruppi di scimpanzé, cetacei e uccelli;
- persino l’idea di una cultura cumulativa rigidamente riservata all’uomo è oggi meno sicura di quanto sia stata a lungo considerata.
Ogni scoperta di questo tipo ci costringe a precisare le nostre definizioni, ed è esattamente ciò che dovrebbe accadere. Una definizione scientifica deve poter cambiare quando le evidenze mostrano che non descrive adeguatamente la realtà. Questo non significa che la cultura umana non possieda caratteristiche peculiari: potrebbe significare, piuttosto, che dobbiamo cercarle altrove, per esempio nell’ampiezza e nell’apertura delle variazioni culturali che la nostra specie riesce a produrre.
Esiste però una possibilità più scomoda, che non possiamo dimostrare semplicemente osservando il cambiamento delle definizioni ma che dovremmo almeno imparare a riconoscere: qualche volta potremmo non stare soltanto migliorando il criterio con cui descriviamo l’umano, ma anche spostando il bersaglio mentre qualcosa che consideravamo non umano vi si avvicina.
6. Il problema del «veramente»
Quando una macchina calcola scopriamo, correttamente, che il calcolo non esaurisce ciò che intendiamo per intelligenza; quando utilizza il linguaggio distinguiamo l’uso del linguaggio dalla sua comprensione; quando produce qualcosa che prima non esisteva separiamo la generazione dalla creatività; quando pianifica una sequenza di azioni per raggiungere uno scopo distinguiamo l’autonomia funzionale da forme più forti di autonomia.
Potremmo avere ottime ragioni per ciascuna di queste distinzioni e sarebbe un errore liquidarle tutte come tentativi di difendere l’eccezionalità umana. Il problema nasce quando, invece di specificare il criterio, introduciamo una parola apparentemente innocua che sembra risolvere la questione senza definirla: veramente.
Dovremmo allora chiederci che cosa aggiunga quell’avverbio quando sosteniamo che una macchina non comprende veramente, non crea veramente, non decide veramente o non è veramente autonoma. Se siamo in grado di indicare una proprietà precisa che manca, possiamo definirla, cercarla e sottoporla alla verifica delle evidenze; se invece «veramente» finisce per significare soltanto «nel modo in cui lo fa un essere umano», abbiamo costruito un criterio che nessun essere non umano potrà soddisfare per definizione.
A quel punto il bersaglio non serve più a misurare la freccia, ma a garantirci che la freccia non possa raggiungerlo.
Da qui emerge una domanda molto più difficile di quella che riguarda l’intelligenza artificiale: sappiamo definire l’essere umano senza definirlo attraverso ciò che gli altri non sono?
7. La differenza non implica una gerarchia
Sul piano biologico il problema è molto meno misterioso: Homo sapiens è una specie e non esiste alcuna necessità di confondere un organismo umano con un sistema artificiale. Quando però discutiamo di intelligenza, creatività, cultura, autonomia o coscienza non stiamo più descrivendo semplicemente una specie biologica; utilizziamo proprietà attraverso le quali quella specie ha anche raccontato la propria particolarità e, spesso, la propria superiorità.
È quel racconto che l’intelligenza artificiale sta mettendo sotto pressione, non necessariamente perché stia diventando umana, ma perché alcune capacità attraverso le quali abbiamo descritto l’eccezionalità della nostra specie potrebbero non essere mai state esclusivamente umane.
Un aeroplano non vola come un uccello e nessuno, per questo, sente la necessità di sostenere che non voli veramente. Abbiamo imparato piuttosto che una stessa funzione può essere realizzata attraverso strutture e processi radicalmente differenti. Non sappiamo ancora fino a che punto questa analogia possa essere estesa alle capacità cognitive, ma proprio per scoprirlo dovremmo imparare a sostituire alla domanda «lo fa come noi?» una domanda apparentemente più semplice e molto più difficile: «che cosa sta facendo?».
La differenza fra le due formulazioni è enorme, perché nella seconda l’essere umano smette di essere il criterio incorporato nella definizione.
8. La paura di perdere l’esclusiva
È forse in questo punto che compare la paura, ma non necessariamente quella, molto più evidente, di una macchina che possa sostituirci nel lavoro, controllarci o persino diventare pericolosa. Questi sono problemi diversi, alcuni legati a rischi già osservabili e altri a scenari ancora ipotetici.
Potrebbe esistere una paura più sottile, legata alla possibilità di perdere l’esclusiva attraverso la quale abbiamo costruito una parte della nostra identità.
Se scopriamo forme di cultura in altri animali, la cultura non basta più a stabilire una frontiera assoluta; se un sistema artificiale produce configurazioni nuove, la produzione di novità non basta; se può pianificare, apprendere, utilizzare strumenti e modificare il proprio comportamento, dobbiamo domandarci quali di queste capacità descrivano davvero una differenza qualitativa e quali, invece, abbiamo semplicemente considerato esclusive finché non le abbiamo osservate altrove.
Non ne consegue affatto che non esistano differenze fondamentali fra un essere umano, un altro animale e un sistema artificiale. Significa soltanto che la differenza non implica necessariamente una gerarchia e che, soprattutto, non possiamo stabilire la gerarchia prima di avere definito la differenza.
Forse una parte della paura consiste proprio in questo: non nell’impossibilità di continuare a dire «siamo differenti», ma nella possibilità di non poter più tradurre automaticamente quella differenza in «siamo qualcosa di più».
9. La coscienza come frontiera epistemologica
Fin qui abbiamo parlato di capacità osservabili. Esiste però una frontiera più difficile: l’esperienza soggettiva.
La coscienza sembra allora rappresentare una frontiera particolarmente resistente. Possedere un’esperienza soggettiva, avere qualcosa che significa essere se stessi, potrebbe costituire una differenza fondamentale, e le conoscenze disponibili non ci autorizzano a trattare con leggerezza una questione tanto difficile.
Eppure proprio la coscienza possiede una caratteristica epistemologicamente singolare: non possiamo osservare direttamente neppure quella degli altri esseri umani, ma la inferiamo attraverso una combinazione di comportamento, struttura, somiglianza, testimonianza e teoria.
La domanda, quindi, non dovrebbe essere soltanto se una macchina possa essere cosciente, ma anche quali evidenze saremmo disposti ad accettare qualora una qualche forma di esperienza comparisse in un sistema radicalmente diverso da noi. Gli indicatori non dovrebbero necessariamente essere identici a quelli che utilizziamo per sistemi biologici, perché strutture differenti potrebbero richiedere criteri differenti; ciò che conta è che la scelta di quei criteri sia esplicita, teoricamente giustificata e non costruita in modo da garantire in anticipo il risultato che vogliamo ottenere. Se la risposta fosse che nessuna evidenza potrebbe essere sufficiente, non avremmo dimostrato che la coscienza appartiene esclusivamente all’essere umano: lo avremmo stabilito attraverso la definizione utilizzata per cercarla.
Questo non ci dice nulla sulla coscienza degli attuali sistemi di intelligenza artificiale, ma ci dice molto sul metodo con cui dovremmo affrontare la domanda.
10. Internet come precedente
Mentre cerchiamo di capire che cosa stia diventando l’intelligenza artificiale, però, dall’altra parte della relazione sta accadendo qualcosa che merita di essere osservato separatamente: stiamo cambiando noi.
Anche questo non comincia con l’intelligenza artificiale. L’essere umano costruisce continuamente ambienti nei quali altri esseri umani imparano successivamente a vivere, ereditando non soltanto geni ma lingue, tecniche, istituzioni, conoscenze e un mondo fisico già profondamente modificato dalle generazioni precedenti. Una strada, una città, una rete elettrica, un acquedotto e Internet sono artificiali, ma costituiscono contemporaneamente parti dell’ambiente ordinario nel quale l’essere umano contemporaneo realizza la propria esistenza.
L’artificio, in questo senso, non è semplicemente qualcosa che si aggiunge dall’esterno a un ipotetico uomo naturale: è diventato una componente della nicchia attraverso cui la nostra specie vive.
Internet rende particolarmente evidente il processo. Non ne avevamo bisogno prima che esistesse, almeno non nel senso in cui possiamo avere bisogno di acqua, cibo o condizioni ambientali compatibili con la vita; lo abbiamo però costruito, adottato e progressivamente utilizzato per trasformare il commercio, il lavoro, l’informazione, le relazioni, le amministrazioni, la memoria e le comunicazioni.
Oggi Homo sapiens potrebbe naturalmente sopravvivere senza Internet, ma non potremmo spegnere la rete domani e continuare contemporaneamente a vivere come viviamo oggi, perché abbiamo costruito una parte crescente del nostro ambiente sociale e materiale presupponendo la sua esistenza.
Questo ci mostra qualcosa che rischia di sfuggire quando raccontiamo la storia della tecnica come una semplice successione di strumenti inventati per soddisfare bisogni già esistenti: il bisogno può venire dopo l’invenzione. Una possibilità tecnica può produrre un’invenzione, l’invenzione può generare nuovi usi, gli usi possono trasformarsi in abitudini e le abitudini possono diventare infrastrutture intorno alle quali riorganizziamo progressivamente l’ambiente. Quando questo accade, ciò che inizialmente era facoltativo può diventare una condizione della normalità che abbiamo costruito.
11. Due domande distinte
L’intelligenza artificiale potrebbe seguire un percorso simile, anche se non abbiamo alcun diritto di considerarlo inevitabile. Se continuerà a entrare nella ricerca, nel lavoro, nell’educazione, nella medicina, nella produzione, nelle amministrazioni e negli strumenti quotidiani, potrebbe arrivare una generazione che non avrà conosciuto il mondo precedente e che, proprio per questo, non percepirà AI come noi la percepiamo oggi.
Per chi è nato in un mondo già connesso, Internet non è innanzitutto una rivoluzione tecnologica: è una proprietà ordinaria dell’ambiente. Allo stesso modo, un essere umano che crescesse in un ambiente nel quale sistemi artificiali capaci di interagire, generare, assistere e agire fossero ubiqui svilupperebbe conoscenze, abitudini e aspettative in presenza di qualcosa che per noi rappresenta ancora una novità storica.
Qui, però, è importante non commettere l’errore opposto e fondere le due trasformazioni in una sola. Ci sono almeno due domande che devono poter essere osservate indipendentemente:
- Che cosa sta diventando l’intelligenza artificiale? Quali proprietà sta acquisendo, quali limiti conserva e quali categorie sono adeguate a descriverla senza trasformarla preventivamente in una copia incompleta dell’uomo?
- Che cosa sta diventando l’essere umano? Quali capacità esercita maggiormente in un ambiente modellato dall’IA, quali delega, quali sviluppa diversamente e quali nuovi bisogni produce?
Soltanto dopo aver mantenuto distinte queste due traiettorie possiamo osservare una terza cosa: ciò che nasce dalla loro relazione.
12. La causalità circolare
È a questo punto che la relazione fra le due traiettorie diventa circolare. L’uomo modifica i sistemi artificiali attraverso obiettivi, dati, selezioni, feedback, istituzioni e scelte, mentre quei sistemi possono a loro volta modificare comportamenti, decisioni, conoscenze e l’ambiente nel quale gli esseri umani successivi si formeranno.
Parlare di relazione reciproca non significa attribuire ai due termini la stessa natura, la stessa autonomia, lo stesso tipo di agency o la stessa posizione nel processo; significa semplicemente riconoscere che la causalità può circolare senza per questo diventare simmetrica. Un circuito di influenze, infatti, non basta da solo a dimostrare intenzionalità, soggettività o autonomia forte in ciascuno degli elementi che vi partecipano.
A questo punto la domanda dalla quale eravamo partiti mostra finalmente il proprio limite. Sappiamo chi ha addestrato tecnicamente i modelli di intelligenza artificiale, ma non era soltanto questo che volevamo sapere. Volevamo capire come qualcosa che abbiamo prodotto attraverso la nostra conoscenza possa diventare occasione e causa di conoscenza che prima non possedevamo, come uno strumento possa modificare chi lo utilizza e come ciò che viene creato possa diventare parte dell’ambiente del proprio creatore; volevamo capire, più in generale, come qualcosa che nasce come effetto possa successivamente entrare nella catena delle cause.
13. Conclusione: dalla domanda piccola alla domanda grande
Il castoro non ha bisogno di volerci insegnare qualcosa perché possiamo imparare osservando la sua diga, così come l’intelligenza artificiale non ha bisogno di essere umana perché possiamo imparare osservando ciò che produce e ciò che accade quando interagiamo con essa.
Potremmo persino scoprire che non ha bisogno di assomigliarci per costringerci a osservare meglio noi stessi.
Abbiamo costruito l’intelligenza artificiale a partire dalle tracce di ciò che sapevamo e ora, attraverso ciò che abbiamo costruito, stiamo incontrando continuamente ciò che non sapevamo di non sapere: non soltanto sull’intelligenza artificiale, ma sui concetti stessi di intelligenza, creatività, cultura, autonomia e natura attraverso i quali abbiamo cercato di comprenderla; e, inevitabilmente, sull’essere umano che quei concetti ha formulato.
Forse, allora, la domanda non era sbagliata. Era soltanto troppo piccola.
Chi sta addestrando chi?
Potremmo dover cominciare chiedendoci:
Chi sta trasformando chi?
E questa volta, forse, dovremmo accettare che osservare significhi anche non avere ancora una risposta.
Riferimenti e approfondimenti
Il saggio nasce come riflessione argomentativa, non come rassegna accademica. I lavori seguenti documentano alcuni dei fenomeni empirici richiamati nel testo e includono anche una lettura critica utile a delimitare la portata di alcune interpretazioni.
van Leeuwen, E. J. C., DeTroy, S. E., Haun, D. B. M. et al. (2024). “Chimpanzees use social information to acquire a skill they fail to innovate”. Nature Human Behaviour, 8, 891–902. DOI: 10.1038/s41562-024-01836-5.
Bridges, A. D., Royka, A., Wilson, T. et al. (2024). “Bumblebees socially learn behaviour too complex to innovate alone”. Nature, 627, 572–578. DOI: 10.1038/s41586-024-07126-4.
Morgan, T. J. H., & Feldman, M. W. (2025). “Human culture is uniquely open-ended rather than uniquely cumulative”. Nature Human Behaviour, 9, 28–42. DOI: 10.1038/s41562-024-02035-y.
Santoro, E., & Monin, B. (2023). “The AI Effect: People rate distinctively human attributes as more essential to being human after learning about artificial intelligence advances”. Journal of Experimental Social Psychology, 107, 104464. DOI: 10.1016/j.jesp.2023.104464.
Millet, K., Buehler, F., Du, G., & Kokkoris, M. D. (2023). “Defending humankind: Anthropocentric bias in the appreciation of AI art”. Computers in Human Behavior, 143, 107707. DOI: 10.1016/j.chb.2023.107707.
Odling-Smee, J., Erwin, D. H., Palkovacs, E. P., Feldman, M. W., & Laland, K. N. (2013). “Niche Construction Theory: A Practical Guide for Ecologists”. The Quarterly Review of Biology, 88(1), 3–28. DOI: 10.1086/669266.
Scott-Phillips, T. C., Laland, K. N., Shuker, D. M., Dickins, T. E., & West, S. A. (2014). “The niche construction perspective: a critical appraisal”. Evolution, 68(5), 1231–1243. DOI: 10.1111/evo.12332.
Pedreschi, D., Pappalardo, L., Ferragina, E. et al. (2025). “Human-AI coevolution”. Artificial Intelligence, 339, 104244. DOI: 10.1016/j.artint.2024.104244.
Butlin, P., Long, R., Bayne, T. et al. (2026). “Identifying indicators of consciousness in AI systems”. Trends in Cognitive Sciences, 30(6), 488–501. DOI: 10.1016/j.tics.2025.10.011.