Dai manifesti etici all’AI Act: quando l’attenzione per l’intelligenza artificiale rischia di farci dimenticare ciò che produciamo e le responsabilità che abbiamo sempre avuto.
L’inutilità di reinventare ciò che già esiste
Abbiamo davvero bisogno di un manifesto etico per ricordarci che, quando scriviamo, dobbiamo verificare le informazioni, rispettare le persone, riconoscere i pregiudizi, evitare le falsificazioni e assumerci la responsabilità di ciò che pubblichiamo? La domanda nasce dalla lettura del Manifesto etico della scrittura con intelligenza artificiale, un documento che propone dieci principi per un utilizzo responsabile dei sistemi generativi nella produzione di testi. Principi ragionevoli, in larga misura condivisibili e, proprio per questo, capaci di sollevare un interrogativo: che cosa aggiungono all’etica della scrittura che conoscevamo prima dell’intelligenza artificiale?
Proviamo un esperimento semplice. Eliminiamo dal Manifesto ogni riferimento all’IA, ai prompt e ai sistemi generativi. Rimangono l’attendibilità delle fonti, il controllo dei fatti, la responsabilità dell’autore, l’attenzione al linguaggio, la tutela della riservatezza, il riconoscimento dei pregiudizi e il rispetto del lettore. Abbiamo ottenuto un manifesto etico della scrittura, non particolarmente nuovo, peraltro, perché quei principi accompagnano da tempo la deontologia giornalistica, la pratica editoriale e, più generalmente, qualsiasi attività intellettuale esercitata con responsabilità.
Questo non significa che ripetere un principio sia sempre inutile. Esistono circostanze nelle quali ricordare una regola conosciuta può essere necessario, ma il promemoria non deve essere confuso con una nuova elaborazione filosofica. Se cambiamo lo strumento e continuiamo a ripetere gli stessi doveri, forse non abbiamo scoperto un’etica nuova: abbiamo soltanto cambiato il contesto nel quale applicare quella esistente. Il problema comincia quando questa ripetizione viene presentata come una risposta particolarmente significativa alla comparsa dell’intelligenza artificiale, quasi che prima non fosse necessario comportarsi responsabilmente. Il risultato rischia di essere una moltiplicazione di dichiarazioni etiche che aggiungono poco alla conoscenza dei problemi reali.
La responsabilità esisteva anche prima
Un autore poteva pubblicare informazioni false prima dell’IA. Un fotografo poteva manipolare immagini, uno scrittore plagiare opere altrui, un giornalista diffondere accuse infondate e un editore pubblicare contenuti discriminatori. Nessuno di questi comportamenti ha dovuto attendere la nascita dei sistemi generativi per diventare moralmente discutibile o, nei casi previsti, giuridicamente rilevante. La tecnologia ha modificato le condizioni operative, riducendo i tempi necessari per svolgere alcune attività, ampliando le possibilità di produzione e rendendo accessibili risultati che prima richiedevano competenze specialistiche, investimenti considerevoli o la collaborazione di più persone. Ha inoltre introdotto problemi tecnici e organizzativi specifici, ma non ha inventato la menzogna, né la responsabilità di chi mente. Non ha creato il plagio, né il dovere di rispettare il lavoro altrui. Non ha introdotto i pregiudizi, né la necessità di riconoscerli.
È importante distinguere la novità delle possibilità tecnologiche dalla novità dei principi morali. Le prime possono richiedere procedure, competenze e garanzie differenti, mentre i secondi non devono necessariamente essere reinventati. Un comportamento irresponsabile non diventa tale perché viene compiuto mediante l’intelligenza artificiale: era irresponsabile anche quando richiedeva più tempo, più fatica e strumenti differenti. Eppure, osservando il dibattito pubblico, sembra spesso che l’arrivo dell’IA abbia reso improvvisamente necessaria una riflessione su doveri che avremmo dovuto conoscere e praticare da sempre.
Quando il manifesto diventa una credenziale
Esiste una conseguenza meno evidente della proliferazione di codici e dichiarazioni etiche. Immaginiamo un autore che utilizzi un sistema generativo per preparare un articolo su un argomento che conosce superficialmente. Il sistema produce un testo ordinato, convincente, grammaticalmente corretto e apparentemente documentato. L’autore lo pubblica, magari dopo qualche modifica, senza possedere le competenze necessarie per verificarne davvero il contenuto. Quell’autore potrebbe aver sottoscritto tutti i manifesti etici disponibili, potrebbe persino esporne i simboli sul proprio sito e dichiarare pubblicamente di rispettarne i principi. Ma che cosa avremmo dimostrato? Nulla sulla sua effettiva competenza, nulla sull’attendibilità delle informazioni e nulla sulla qualità del ragionamento.
L’adesione a un manifesto esprime una dichiarazione di intenzioni. Non costituisce una prova del comportamento tenuto, né tantomeno una certificazione delle capacità intellettuali di chi lo sottoscrive. Non occorre attribuire intenzioni opportunistiche ai promotori di queste iniziative per riconoscere il rischio che possano essere utilizzate in questo modo. Un principio formulato con le migliori intenzioni può trasformarsi in uno strumento di legittimazione formale, soprattutto quando la sua applicazione non viene verificata. A quel punto l’etica rischia di diventare una credenziale esibita anziché una responsabilità esercitata, perché la competenza non deriva dall’adesione a un documento e la responsabilità non si dimostra dichiarando di essere responsabili. Un manifesto etico non rende competente chi lo sottoscrive, ma può rendergli più facile convincersi di esserlo.
L’attenzione si sposta dall’opera allo strumento
Arriviamo così a una questione che riguarda direttamente il modo in cui valutiamo ciò che leggiamo, osserviamo e ascoltiamo. Per molto tempo, almeno come ideale della critica, il giudizio su un’opera si è concentrato sul suo contenuto, sulla qualità dell’esecuzione, sulla correttezza delle informazioni, sull’originalità delle idee e sulla capacità dell’autore di comunicarle. Naturalmente anche il processo produttivo poteva avere importanza, perché la provenienza di un documento, l’attribuzione di un’opera e l’autenticità di una testimonianza sono questioni tutt’altro che secondarie. Ma oggi, quando compare l’intelligenza artificiale, sembra prendere forma una domanda preliminare capace di condizionare tutte le altre: è stato fatto con l’IA?
Una domanda che può essere pertinente in alcuni contesti, ma che non dovrebbe diventare il criterio generale per attribuire valore a un risultato. Un articolo falso non diventa vero perché è stato scritto interamente da una persona. Un ragionamento corretto non diventa scorretto perché è stato elaborato con il contributo di un sistema generativo. Una fotografia documentaria autentica e un’immagine sintetica, invece, possono richiedere informazioni differenti sulla provenienza, proprio perché pretendono di rappresentare la realtà in modi diversi. Il criterio dovrebbe essere la rilevanza dell’informazione per il giudizio che siamo chiamati a formulare. Se vogliamo sapere se un’affermazione è vera, dobbiamo esaminare le prove. Se vogliamo sapere chi ha creato un’opera, dobbiamo ricostruirne la provenienza. Se vogliamo stabilire chi risponde di una pubblicazione, dobbiamo individuare la responsabilità editoriale.
Confondere queste domande significa spostare l’attenzione dal problema che intendiamo risolvere al mezzo utilizzato. Più attenzione concediamo allo strumento, meno rischiamo di assegnarne all’opera prodotta. E quando l’interesse per il procedimento diventa predominante, possiamo finire per discutere a lungo di come sia stato realizzato qualcosa senza averne ancora esaminato seriamente il contenuto.
L’articolo 50 dell’AI Act: la revisione che non possiamo vedere
Una parte di questa impostazione emerge anche nella normativa europea. L’articolo 50 del Regolamento (UE) 2024/1689 disciplina diversi obblighi di trasparenza relativi ai sistemi di intelligenza artificiale. Alcuni riguardano l’interazione diretta con sistemi artificiali, altri la marcatura tecnica dei contenuti sintetici e la comunicazione della natura artificiale di determinati materiali. Fra questi obblighi compare quello relativo ai testi generati o manipolati mediante IA e pubblicati per informare il pubblico su questioni di interesse generale. La disposizione prevede la dichiarazione dell’origine artificiale del testo, stabilendo però un’eccezione quando il contenuto sia stato sottoposto a revisione umana o controllo editoriale e una persona fisica o giuridica ne assuma la responsabilità editoriale.
È proprio questa eccezione a sollevare una questione che precede qualsiasi valutazione sulla qualità della revisione: come possiamo accertare che essa sia effettivamente avvenuta? Immaginiamo che una persona riceva da un sistema generativo un articolo completo, lo legga attentamente, ne valuti le affermazioni e decida di pubblicarlo senza modificare una parola. La revisione è realmente avvenuta, ma non ha prodotto alcuna traccia riconoscibile nel testo finale. Immaginiamo adesso che una seconda persona riceva lo stesso articolo e lo pubblichi immediatamente, senza neppure leggerlo. I due comportamenti sono differenti, ma il risultato è identico. Non soltanto il lettore non può distinguere le due situazioni: chiunque disponga esclusivamente del documento pubblicato si trova nella medesima condizione.
Non è sufficiente rispondere che la revisione potrebbe essere documentata attraverso un registro, una dichiarazione o una procedura di approvazione. Questi strumenti possono essere utilizzati da chi decide di adottarli, ma non rappresentano necessariamente il modo in cui una persona legge, valuta e approva un testo. Soprattutto, l’articolo 50 non introduce, per questa specifica eccezione, un obbligo generale di registrare ogni passaggio della revisione individuale. Pretendere una documentazione aggiuntiva significa ipotizzare un’attività ulteriore, distinta da quella che la disposizione considera rilevante. E anche l’esistenza di tale documentazione non renderebbe direttamente osservabile il giudizio intellettuale esercitato dall’autore.
Il problema non è trovare una formula attraverso cui dichiarare dimostrata la revisione. Il problema è comprendere come una distinzione normativa possa essere applicata quando il fatto che la determina non produce necessariamente alcun elemento esterno che consenta di riconoscerlo. Leggere un testo è un’attività che può svolgersi interamente nella sfera privata di una persona. Valutarne le affermazioni, comprenderne il significato e decidere consapevolmente di pubblicarlo sono operazioni intellettuali che non devono necessariamente tradursi in modifiche materiali. Nessuna caratteristica del prodotto finale consente, da sola, di stabilire se tali operazioni siano avvenute.
Il diritto può certamente accertare fatti non osservabili direttamente, ricorrendo a elementi indiretti e a strumenti probatori legalmente disponibili. Questo non significa però che tali elementi esistano in ogni situazione. Nel caso di un autore che abbia lavorato individualmente, senza documentare il proprio processo, una revisione autentica potrebbe risultare concretamente non accertabile. L’assenza di una traccia non dimostrerebbe che la revisione non sia avvenuta, così come l’esistenza di una semplice dichiarazione non basterebbe a dimostrare che sia stata effettivamente svolta. La norma attribuisce quindi rilevanza a una circostanza la cui esistenza, in determinate situazioni, non può essere stabilita sulla base degli elementi disponibili.
A questo punto emerge anche la questione della riservatezza. Per tentare di ricostruire il procedimento, un’autorità potrebbe cercare elementi ulteriori nelle attività private dell’autore: conversazioni, cronologie, documenti preparatori o comunicazioni. L’accesso a tali informazioni richiederebbe un fondamento giuridico e il rispetto delle garanzie applicabili. Non è corretto sostenere che qualunque accertamento comporterebbe necessariamente una violazione della privacy, ma sarebbe altrettanto scorretto considerare la vita intellettuale privata dell’autore come un archivio liberamente consultabile per risolvere una difficoltà di applicazione della norma.
La domanda, dunque, rimane aperta nella sua concretezza: se la revisione può avvenire senza lasciare alcuna traccia e senza che l’autore debba documentarla, come possiamo distinguerla dalla sua assenza nei casi in cui non esistano prove indipendenti? Non basta richiamare genericamente la possibilità di svolgere accertamenti, perché tale possibilità non garantisce l’esistenza degli elementi necessari. E non possiamo introdurre per via interpretativa una certificazione obbligatoria che il testo normativo non prevede, soltanto per rendere più agevole la dimostrazione di una condizione che abbiamo deciso di considerare rilevante.
Questo non comporta automaticamente l’inutilità di tutte le disposizioni dell’articolo 50. Gli obblighi relativi ai deepfake, alle interazioni con sistemi artificiali e alla marcatura dei contenuti affrontano questioni differenti. Ma la particolare eccezione relativa alla revisione umana dei testi presenta una criticità concreta: attribuisce conseguenze giuridiche a una distinzione che, nel singolo caso, può risultare impossibile da accertare. Ed è legittimo chiedersi quale efficacia pratica possa avere una distinzione quando il suo presupposto non è necessariamente verificabile.
Resta infine una questione che ci riporta al principio dell’intero ragionamento. I due autori del nostro esempio hanno pubblicato esattamente lo stesso testo. La differenza che interessa la disposizione riguarda ciò che sarebbe avvenuto prima della pubblicazione, non ciò che il lettore ha effettivamente ricevuto. La norma persegue un obiettivo di trasparenza sull’origine del contenuto, non una certificazione della sua veridicità. Ma proprio per questo occorre chiedersi quali informazioni siano concretamente utili al destinatario e quali, invece, rischino di concentrare l’attenzione su un procedimento difficilmente ricostruibile, lasciando invariata la necessità di valutare l’opera.
Una tecnologia destinata a perdere la propria eccezionalità
C’è infine una prospettiva che rischia di rendere rapidamente superata una parte dell’attuale dibattito. L’intelligenza artificiale si sta progressivamente integrando negli ambienti informatici, nei sistemi operativi, negli strumenti di ricerca, nelle applicazioni di scrittura, nei programmi grafici e nei servizi gestionali. Possiamo immaginare un futuro nel quale l’utilizzatore non debba più scegliere un’applicazione specifica per ogni attività, ma possa comunicare le proprie intenzioni a un’interfaccia capace di coordinare programmi, dati e funzioni differenti. Dietro quell’interfaccia continueranno probabilmente a esistere sistemi operativi, software specializzati e procedure tradizionali, ma per chi utilizza il computer potrebbero diventare componenti sempre meno visibili.
Accendere il dispositivo significherà entrare in un ambiente nel quale le funzioni di IA saranno parte ordinaria dell’esperienza informatica. A quel punto, che senso conserverà chiedere continuamente se un contenuto sia stato realizzato con l’intelligenza artificiale? La domanda potrà rimanere importante quando l’origine del contenuto sia essenziale per stabilirne la natura o l’autenticità, ma potrebbe diventare sostanzialmente ridondante quando descriva soltanto il normale funzionamento dell’ambiente di lavoro. Sarebbe come chiedere oggi a un autore se abbia utilizzato un computer per scrivere.
Non è possibile stabilire con certezza quando o quanto completamente avverrà questa integrazione. Ma la direzione tecnologica è abbastanza riconoscibile da imporre una riflessione sulla durata delle distinzioni che stiamo costruendo. Se i principi morali conservano significato indipendentemente dallo strumento, perché continuiamo a presentarli come se appartenessero esclusivamente alla tecnologia del momento? E se l’intelligenza artificiale diventerà parte ordinaria di ogni attività informatica, dovremo costruire nuovi manifesti per ogni singola operazione? Il manifesto etico dell’apertura di un documento, quello della selezione di un carattere tipografico, quello dell’invio di un messaggio oppure, più semplicemente, il manifesto etico dell’accensione del computer?
L’ironia è evidente, ma il problema che la produce è serio: possiamo moltiplicare all’infinito le dichiarazioni di principio senza aumentare minimamente la nostra capacità di applicarle.
Quando filosofeggiare diventa un sostituto del pensiero
Non sarebbe ragionevole negare l’utilità della filosofia o della riflessione etica. Sarebbe anzi contraddittorio farlo proprio mentre cerchiamo di esaminare criticamente il significato di determinate regole. Il problema non è pensare all’etica dell’intelligenza artificiale, ma utilizzare un linguaggio apparentemente filosofico per riproporre conclusioni già note senza aggiungere nulla alla loro comprensione. Una riflessione produce conoscenza quando chiarisce una distinzione, identifica un problema, mette alla prova un’ipotesi o consente di comprendere qualcosa che prima non era sufficientemente chiaro. Non basta chiamare algoretica l’applicazione di un principio morale a un algoritmo per aver prodotto un principio morale nuovo. È un interrogativo che abbiamo già affrontato nello studio Vogliamo insegnare l’etica alle macchine perché non vogliamo più esercitare la nostra?, al quale questa riflessione aggiunge il problema del giudizio sull’opera e della verificabilità delle procedure dichiarate.
La disciplina può essere importante quando affronta problemi concreti legati alla progettazione e all’utilizzo dei sistemi, alla distribuzione delle responsabilità e alle conseguenze delle decisioni automatizzate. Diventa invece culturalmente sterile quando il linguaggio della novità tecnologica serve soltanto a ripetere che bisogna essere onesti, rispettosi e responsabili. Forse una parte dell’attuale entusiasmo per manifesti, dichiarazioni e codici di condotta appartiene proprio alla fase nella quale una tecnologia è ancora percepita come eccezionale. La sua novità richiama attenzione e offre occasioni per pubblicare, discutere, distinguersi e acquisire autorevolezza.
Non possiamo dedurne che ogni promotore segua una moda o che ogni iniziativa sia priva di utilità. Possiamo però chiederci quanta conoscenza venga effettivamente prodotta e quanta attenzione venga assorbita dalla rappresentazione pubblica della responsabilità. Perché, mentre discutiamo continuamente dell’etica della macchina, rischiamo di trascurare la qualità delle opere e dei comportamenti umani che continuiamo a giudicare attraverso quella macchina.
L’intelligenza artificiale non ci ha dispensati dal pensare, non ci ha sottratti alla responsabilità e non ha reso improvvisamente necessari principi morali che prima potevamo ignorare. Ha cambiato le possibilità attraverso le quali possiamo agire. Il valore di ciò che facciamo continua a richiedere un giudizio sul risultato, sulle conseguenze e sulle responsabilità effettive, non soltanto sullo strumento utilizzato. Se tutto questo ci appare ancora insufficiente, possiamo sempre affidare la questione a qualcuno disposto a regolamentare anche il gesto che precede qualsiasi attività informatica. Qualcuno, per esempio, come il magistrato Codicillus.
Dall’archivio giurisprudenziale di Codicillus
TRIBUNALE SUPERIORE DI ETICA ALGORITMICA E ACCENSIONE CONSAPEVOLE
Sentenza n. 0001/AI — Dell’accensione consapevole
Il magistrato Codicillus,
accertato che l’imputato, in data imprecisata, procedeva all’accensione di un dispositivo informatico mediante pressione volontaria del relativo pulsante;
rilevato che non risultano documentati il percorso cognitivo precedente all’accensione, le motivazioni etiche della pressione esercitata e l’eventuale coinvolgimento di sistemi di intelligenza artificiale nella formazione della volontà;
considerato che l’imputato, interrogato sulle fonti della propria decisione, dichiarava testualmente: «Dovevo accendere il computer»;
ritenuto che tale dichiarazione non costituisca prova sufficiente dell’avvenuta valutazione etica, filosofica e anatomo-cognitiva del gesto;
DISPONE
il sequestro cautelare del pulsante di accensione, fino all’accertamento dell’effettiva autonomia del pensiero che ne ha determinato l’utilizzo.
Ordina altresì all’imputato di produrre un Manifesto etico dell’accensione consapevole, sottoscritto da almeno tre esperti di algoretica, due filosofi e un elettricista.
Quest’ultimo limitatamente alla verifica dell’avvenuta accensione.
STABILISCE INFINE
«È fatto obbligo al cittadino di conoscere le regole prima di accendere il computer.
È vietato accendere il computer per conoscere le regole».
Il procedimento è rinviato a data da destinarsi, previa dimostrazione dell’avvenuta lettura consapevole della presente sentenza.
Codicillus
Magistrato competente per le intenzioni non documentate e le responsabilità preventivamente dichiarate.
Fonti di riferimento
Manifesto etico della scrittura con intelligenza artificiale