Dall’identità digitale ai lavoratori virtuali, dal controllo umano all’algoretica: forse il problema non è quale morale insegnare all’intelligenza artificiale, ma perché pretendiamo che scelga anche al posto nostro.
La domanda che abbiamo dimenticato di porci
Abbiamo costruito macchine capaci di elaborare informazioni a velocità straordinarie, individuare correlazioni difficilmente riconoscibili dall’essere umano, tradurre lingue, analizzare documenti, produrre contenuti e assisterci in attività che fino a pochi anni fa richiedevano competenze altamente specializzate. Poi, quasi senza accorgercene, abbiamo cominciato a pretendere qualcosa di diverso. Non ci basta più che queste macchine ci aiutino a comprendere un problema: vogliamo che lo risolvano al posto nostro. Non ci basta che confrontino le informazioni: chiediamo loro quale posizione assumere. Non ci basta che prevedano le conseguenze delle nostre decisioni: vorremmo che stabilissero anche quali conseguenze siano moralmente preferibili.
È in questo passaggio, apparentemente naturale, che potrebbe nascondersi uno degli equivoci più importanti del dibattito sull’intelligenza artificiale. Abbiamo trasformato la possibilità tecnica di delegare una funzione nella convinzione che quella delega debba essere necessariamente desiderabile. E quando ci siamo accorti che alcune decisioni comportano questioni morali, abbiamo cercato di risolvere il problema insegnando un’etica alla macchina, anziché domandarci per quale ragione avessimo deciso di affidarle anche quel compito.
Così discutiamo di algoritmi etici, intelligenze artificiali responsabili, sistemi allineati ai valori umani e macchine capaci di rispettare principi morali. Ma raramente ci soffermiamo sulla domanda che dovrebbe precedere tutte le altre: perché una macchina dovrebbe possedere, applicare o rappresentare una determinata concezione dell’etica, quando l’essere umano non è ancora riuscito a elaborarne una universalmente condivisa?
Non è una critica alla ricerca filosofica o tecnologica. È un tentativo di riportare al centro della discussione il soggetto che continua a decidere quali macchine costruire, quali funzioni attribuire loro e in quali condizioni utilizzarle. Perché l’intelligenza artificiale non ci obbliga a delegarle tutto ciò che è tecnicamente capace di fare. Questa è una scelta umana. Ed è già, prima ancora di qualsiasi algoritmo, una scelta che merita di essere sottoposta a un esame etico.
La nostra identità nella disponibilità di altri
Per comprendere fino a che punto la delega tecnologica sia diventata parte della vita quotidiana, possiamo partire da qualcosa che precede l’attuale diffusione dell’intelligenza artificiale: l’identità digitale. Una parte significativa dei nostri ricordi, delle nostre relazioni e delle nostre attività si trova oggi all’interno di servizi gestiti da organizzazioni che stabiliscono condizioni di accesso, modalità di funzionamento e limiti di utilizzo. Conserviamo fotografie negli archivi remoti, comunichiamo attraverso piattaforme private, costruiamo reputazioni professionali sui social network e affidiamo documenti, conversazioni e informazioni personali a infrastrutture sulle quali non esercitiamo un controllo diretto.
La comodità è indiscutibile. Possiamo accedere ai nostri contenuti da dispositivi differenti, comunicare a distanza, conservare enormi quantità di informazioni e recuperarle in pochi istanti. Ma insieme a questi vantaggi abbiamo accettato una dipendenza che raramente consideriamo nelle sue conseguenze. Se un servizio viene interrotto, un account sospeso o una piattaforma chiusa, una parte della nostra vita documentata può diventare improvvisamente inaccessibile. La persona continua naturalmente a esistere, ma la sua rappresentazione digitale, le relazioni costruite attraverso quel servizio e talvolta le opportunità economiche collegate alla sua presenza online possono subire conseguenze molto concrete.
Non dobbiamo confondere questa dipendenza con una perdita della nostra identità personale. Nessuna piattaforma possiede l’essere umano che utilizza i suoi servizi. Tuttavia, quando il riconoscimento sociale e professionale di una persona dipende in misura crescente da infrastrutture digitali, diventa necessario domandarsi quanto controllo conservi sulle informazioni che la rappresentano e sulle decisioni che possono condizionarne l’accessibilità.
C’è un aspetto ancora più significativo. Le piattaforme non si limitano a conservare ciò che pubblichiamo. Classificano informazioni, individuano comportamenti ricorrenti, elaborano profili e costruiscono rappresentazioni statistiche dei nostri interessi. Un algoritmo può utilizzare queste rappresentazioni per selezionare contenuti, suggerire prodotti o determinare quali comunicazioni abbiano maggiore probabilità di raggiungerci. Non occorre immaginare una macchina che conosca intimamente l’essere umano: è sufficiente che un sistema attribuisca un significato operativo ai suoi dati affinché tale interpretazione produca conseguenze reali.
Abbiamo quindi già sperimentato una forma di delega nella quale non è la macchina a decidere autonomamente il significato della nostra identità, ma sono altri esseri umani, attraverso le regole incorporate nelle infrastrutture, a stabilire come le nostre informazioni debbano essere interpretate e utilizzate. L’intelligenza artificiale rende questa questione ancora più evidente. Non perché introduca per la prima volta il problema della responsabilità tecnologica, ma perché amplia enormemente le possibilità di elaborazione e di intervento dei sistemi digitali.
I lavoratori virtuali e gli esseri umani che continuano a lavorare
La diffusione degli agenti di intelligenza artificiale ha introdotto un linguaggio che merita particolare attenzione. Parliamo di lavoratori virtuali, collaboratori artificiali, assistenti autonomi e dipendenti digitali. Sono espressioni efficaci dal punto di vista commerciale, perché rendono immediatamente comprensibile la funzione del prodotto. Ma possono anche generare un equivoco: suggerire che la macchina abbia assunto un ruolo sociale e professionale analogo a quello di una persona.
Un agente artificiale può organizzare attività, consultare documenti, utilizzare programmi, elaborare informazioni e interagire con altri sistemi. Può anche selezionare autonomamente passaggi intermedi per raggiungere un obiettivo. Ma la sua autonomia operativa non equivale necessariamente a una capacità di assumersi responsabilità morali o giuridiche. Gli obiettivi che persegue, le autorizzazioni di cui dispone e i limiti entro cui opera dipendono da scelte progettuali e organizzative.
Dietro il lavoratore virtuale troviamo innanzitutto chi ha deciso che cosa quel sistema debba fare. Troviamo poi chi ha progettato l’architettura, predisposto le risorse, definito le procedure di controllo e autorizzato l’impiego dello strumento. E troviamo anche una componente umana spesso trascurata: i lavoratori che contribuiscono alla preparazione dei dati, alla classificazione dei contenuti, alla valutazione dei risultati e alla manutenzione dei sistemi.
L’automazione è reale, ma non nasce dal nulla. È il risultato di un’organizzazione tecnica, economica e umana. Il lavoro invisibile presente in alcune filiere dell’intelligenza artificiale ci ricorda che la rappresentazione di una macchina completamente indipendente rischia di nascondere le persone che ne rendono possibile il funzionamento.
La domanda, allora, non dovrebbe essere soltanto quanti lavoratori possano essere sostituiti da un agente artificiale. Dovremmo chiederci chi determini la sostituzione, in base a quali obiettivi, con quali conseguenze sociali e sotto quale responsabilità. Il progresso tecnologico non ha bisogno di essere negato per affrontare questi interrogativi. Una macchina può svolgere alcune attività meglio di un essere umano e produrre benefici effettivi. Ma la superiorità in una determinata funzione non attribuisce automaticamente al sistema l’autorità di stabilire quali obiettivi debbano essere perseguiti.
Saper eseguire una decisione non equivale ad avere il diritto di assumerla. Questa distinzione diventa essenziale quando smettiamo di parlare soltanto di lavoro e cominciamo a considerare decisioni che incidono sulla salute, sui diritti, sulle opportunità e sulla vita delle persone.
L’uomo dentro il ciclo, ma con quale potere?
Nel linguaggio dell’intelligenza artificiale si utilizza frequentemente l’espressione human in the loop, essere umano all’interno del ciclo decisionale. Il principio consiste nel prevedere un intervento umano durante il funzionamento di un processo automatizzato, affinché una persona possa verificarne, correggerne o autorizzarne i risultati. La presenza umana viene così considerata una garanzia contro gli errori e contro il rischio di delegare integralmente determinate decisioni.
Ma essere presenti non significa necessariamente controllare. Immaginiamo un medico che riceva da un sistema di intelligenza artificiale un’indicazione relativa a una possibile diagnosi. Il professionista può confrontare quell’indicazione con le informazioni cliniche disponibili, utilizzare la propria esperienza e decidere come procedere. In questa situazione la macchina svolge una funzione di supporto alla conoscenza. Il medico conserva il compito di valutare il caso, tenendo conto anche degli elementi che il sistema potrebbe non aver considerato.
Immaginiamo ora che lo stesso medico debba esaminare centinaia di valutazioni generate automaticamente, con tempi ridotti e procedure organizzative che favoriscono l’approvazione rapida dei risultati. Formalmente il controllo umano continua a esistere. Sostanzialmente, però, potrebbe trasformarsi in una conferma quasi automatica di conclusioni elaborate altrove. Il problema non è che la macchina sia diventata moralmente responsabile. È che l’organizzazione umana ha costruito un processo nel quale la responsabilità formale non corrisponde più necessariamente a una reale capacità di giudizio.
Esiste inoltre un’altra difficoltà. Quando una persona interviene soltanto alla fine di una procedura automatizzata, molte delle scelte più importanti potrebbero essere già state compiute: quali dati considerare, quali elementi escludere, quali criteri applicare, quali risultati privilegiare. Chi approva l’ultima fase non controlla necessariamente l’intero processo.
Per questo non basta rivendicare genericamente la presenza dell’uomo nel ciclo decisionale. Occorre stabilire quale potere effettivo possieda, quali informazioni possa conoscere e se abbia la possibilità concreta di rifiutare, modificare o interrompere l’azione del sistema. Ma soprattutto dobbiamo porci una domanda precedente: perché abbiamo deciso che quella particolare decisione dovesse essere automatizzata?
È possibile che, in determinati contesti, una decisione automatizzata produca risultati migliori, più rapidi o più affidabili di quelli ottenibili attraverso procedure esclusivamente umane. Sarebbe irragionevole ignorare questa possibilità. Ma il confronto tra le capacità non esaurisce il problema della legittimità della delega. Una macchina può essere superiore nella valutazione di alcune informazioni senza dover diventare il soggetto al quale attribuiamo ogni responsabilità per le conseguenze delle scelte.
Primo piano: l’algoretica, una riflessione già esistente
L’algoretica non è la proposta elaborata in questo saggio. Il termine nasce dall’incontro tra algoritmo ed etica e indica un approccio che cerca di integrare la riflessione morale nella progettazione, nello sviluppo e nell’impiego dei sistemi algoritmici, affinché il loro funzionamento tenga conto di principi come trasparenza, imparzialità, responsabilità, affidabilità e tutela della persona.
Tra i principali promotori di questa riflessione troviamo Paolo Benanti, studioso dei rapporti tra tecnologia ed etica. Il concetto ha ottenuto particolare visibilità attraverso la Rome Call for AI Ethics, sottoscritta nel febbraio 2020 su iniziativa della Pontificia Accademia per la Vita, con il coinvolgimento di rappresentanti istituzionali e di importanti organizzazioni tecnologiche. Il documento propone un approccio all’intelligenza artificiale fondato su principi di trasparenza, inclusione, responsabilità, imparzialità, affidabilità, sicurezza e tutela della privacy.
L’intenzione dichiarata è comprensibile: impedire che lo sviluppo tecnologico proceda ignorando le conseguenze umane e sociali delle proprie applicazioni. Ma proprio il tentativo di incorporare principi etici nei sistemi algoritmici apre un problema che merita di essere affrontato senza considerare scontata la risposta.
Di quale etica stiamo parlando? L’essere umano discute da millenni della natura del bene, della giustizia, della libertà, della responsabilità e del rapporto tra diritti individuali e interessi collettivi. Non abbiamo raggiunto una concezione morale universalmente condivisa in ogni cultura e in ogni circostanza. Possediamo tradizioni filosofiche, sistemi religiosi, ordinamenti giuridici e principi che hanno ottenuto riconoscimenti internazionali importanti, ma continuiamo a discutere sia del loro fondamento sia delle modalità attraverso cui debbano essere applicati.
Questa constatazione non significa che tutti i principi morali siano equivalenti o che non esistano accordi significativi. Significa semplicemente riconoscere che l’etica non è un problema risolto, dal quale possiamo estrarre una serie definitiva di istruzioni da trasferire a una macchina. Eppure, proprio questo sembra talvolta emergere dal modo in cui raccontiamo l’intelligenza artificiale etica: l’idea che sia possibile stabilire un insieme di valori corretti e incorporarli nei sistemi affinché producano comportamenti moralmente accettabili.
La difficoltà è evidente. Se gli esseri umani non concordano sul significato di un principio, chi ha il potere di decidere quale interpretazione debba essere applicata dall’algoritmo? Prendiamo l’imparzialità. Trattare tutti nello stesso modo può apparire giusto, ma in determinate circostanze un trattamento identico può produrre conseguenze diseguali. Introdurre correttivi significa compiere ulteriori scelte, stabilendo quali differenze siano rilevanti e quali no. Oppure consideriamo la libertà di espressione: società differenti ne riconoscono limiti diversi e persino all’interno della stessa comunità esistono interpretazioni contrastanti.
Un algoritmo può applicare con precisione una determinata regola, ma quella precisione non dimostra che la regola sia moralmente giusta. L’algoretica, quindi, rischia di essere fraintesa se viene presentata come il metodo per attribuire alle macchine una morale corretta. La sua utilità potrebbe essere molto maggiore se la interpretassimo come un insieme di strumenti attraverso i quali rendere esplicite, verificabili e contestabili le scelte etiche degli esseri umani che progettano e utilizzano le tecnologie. Non sarebbe un modo per risolvere definitivamente i conflitti morali. Sarebbe un modo per impedire che quei conflitti vengano nascosti dietro l’apparente neutralità di un procedimento informatico.
Avremo intelligenze artificiali con etiche geografiche?
La questione diventa ancora più complessa quando consideriamo le differenze culturali. Ciò che viene giudicato moralmente accettabile in una società può essere considerato discutibile o inaccettabile in un’altra. I valori cambiano nel tempo, possono variare tra territori e non sono necessariamente condivisi nemmeno dalle persone che appartengono alla stessa comunità.
Se sviluppassimo un’intelligenza artificiale destinata a essere utilizzata in tutto il mondo, quale concezione morale dovremmo chiederle di rispettare? Potremmo immaginare sistemi che modificano il proprio comportamento in funzione del paese in cui operano. Ma questo significherebbe costruire macchine con orientamenti morali differenti a seconda della posizione geografica? Una stessa domanda potrebbe ricevere valutazioni contrastanti soltanto perché formulata in due territori diversi.
Un certo grado di adattamento è inevitabile. Le norme giuridiche cambiano tra Stati e un servizio deve rispettare le leggi applicabili. Anche le convenzioni linguistiche e culturali possono richiedere modalità comunicative differenti. Ma adeguarsi a una disposizione di legge non significa riconoscere quella disposizione come moralmente giusta. E rispettare una consuetudine culturale non significa considerarla universalmente valida.
Se una macchina venisse progettata per confermare automaticamente la morale dominante nella società in cui viene utilizzata, rischierebbe di diventare uno strumento di conservazione delle convinzioni esistenti. Potrebbe riprodurre pregiudizi, discriminazioni e concezioni che altre persone, appartenenti alla stessa comunità, stanno legittimamente cercando di superare. La storia umana non è soltanto una successione di valori condivisi. È anche la storia delle persone che hanno contestato quei valori, contribuendo a modificarli.
D’altra parte, imporre a tutti i sistemi una concezione morale definita da un gruppo ristretto di sviluppatori significherebbe attribuire a quel gruppo un’autorità enorme, senza che sia chiaro da dove derivi la sua legittimità. Il problema non può essere risolto affermando semplicemente che una macchina deve possedere un’etica universale. Prima dovremmo dimostrare di aver individuato quell’etica, chiarire come applicarla e spiegare chi abbia il diritto di stabilirne i contenuti. E forse stiamo nuovamente cercando di risolvere una questione che abbiamo creato noi stessi, pretendendo dalla macchina qualcosa che non siamo obbligati a chiederle.
Secondo piano: la nostra proposta di neutralità algoritmica
La neutralità algoritmica rispetto al giudizio morale proposta in queste pagine è la nostra tesi critica, distinta dall’algoretica appena descritta. Non ne rappresenta una definizione ufficiale, né pretende di essere una teoria universalmente accettata. Potremmo provare a rovesciare il problema: anziché domandarci quale morale insegnare agli algoritmi, potremmo chiederci se sia possibile progettare sistemi che non pretendano di esercitare un’autorità morale sulle persone.
L’espressione «etica neutra» può sembrare contraddittoria. Una neutralità assoluta, priva di qualsiasi criterio, probabilmente non è realizzabile. Anche la decisione di rispettare la libertà dell’utente, fornire informazioni accurate o impedire l’utilizzo improprio di determinati strumenti nasce da scelte umane. Nessuna tecnologia viene progettata nel vuoto, senza obiettivi, priorità o vincoli. Ma neutralità non deve necessariamente significare assenza di regole. Potrebbe significare rinuncia a presentare come moralmente universale una particolare concezione del bene.
Immaginiamo un’intelligenza artificiale alla quale sottoponiamo un pensiero, un’ipotesi o una convinzione. Il compito del sistema sarebbe ricercare le informazioni pertinenti, individuare i dati che sostengono la nostra affermazione e quelli che la contraddicono, verificare l’attendibilità delle fonti e distinguere i fatti dalle interpretazioni. Dovrebbe segnalarci quando le evidenze disponibili sono insufficienti, quando una conclusione non segue logicamente dalle premesse o quando abbiamo trascurato elementi importanti. Non dovrebbe stabilire quale posizione morale siamo tenuti ad assumere.
Se presentiamo una questione controversa, la macchina potrebbe descrivere le differenti argomentazioni, individuarne le conseguenze, evidenziarne le contraddizioni e mostrarci quali valori entrano in conflitto. Ma la scelta tra quei valori dovrebbe rimanere riconoscibilmente umana. Questo non significa pretendere che tutte le opinioni ricevano lo stesso trattamento. Una falsa affermazione scientifica non diventa attendibile soltanto perché qualcuno la sostiene. Se le prove disponibili contraddicono una tesi, il sistema deve poterlo dichiarare chiaramente. Sarebbe un errore confondere l’imparzialità con l’obbligo di attribuire identico valore a ciò che è documentato e a ciò che non lo è.
La neutralità che stiamo cercando riguarda quindi il giudizio morale, non la correttezza dell’informazione. Un sistema che dimostra l’inattendibilità di una fonte non sta necessariamente esprimendo una preferenza etica. Sta svolgendo un’attività di verifica. Un sistema che individua una contraddizione logica non sta imponendo una concezione del bene. Sta contribuendo a rendere più rigoroso il ragionamento. È una distinzione che potrebbe modificare profondamente il modo in cui concepiamo l’assistenza intelligente.
Non chiediamo alla macchina di dirci che cosa pensare. Chiediamole di metterci nelle condizioni migliori per poter pensare. Anziché cercare un’intelligenza artificiale capace di confermare le nostre convinzioni, potremmo costruire strumenti capaci di sottoporle a un confronto critico. Se siamo convinti di avere ragione, la macchina dovrebbe aiutarci a individuare gli elementi che potrebbero dimostrare il contrario. Non per contraddirci sistematicamente, ma per impedire che una convinzione venga scambiata per una conoscenza soltanto perché appartiene a noi.
In questo modello, la macchina non avrebbe bisogno di presentarsi come depositaria di un’etica superiore. Sarebbe uno strumento di conoscenza, confronto e verifica. E proprio per questo potrebbe contribuire a rendere l’essere umano più responsabile delle proprie decisioni. La nostra proposta non elimina però i vincoli di sicurezza, i diritti altrui o le responsabilità dei progettisti di fronte a danni prevedibili. Non propone una macchina senza regole; propone di non confondere le regole operative con una morale universale.
Il limite della delega è una decisione umana
La proposta di una neutralità algoritmica non elimina tutti i problemi. Ne porta però alla luce uno che dovrebbe precedere la discussione sull’etica delle macchine: fino a che punto desideriamo delegare le nostre decisioni? Non ogni attività presenta le stesse implicazioni. Delegare a un sistema il calcolo di una traiettoria, l’ottimizzazione di un processo industriale o l’organizzazione di un archivio non equivale ad affidargli una valutazione sulla dignità di una persona, sulla legittimità di un comportamento o sulla distribuzione di un diritto. Eppure utilizziamo frequentemente il termine automazione come se descrivesse un unico fenomeno, indipendentemente dalla natura delle attività coinvolte.
Una macchina può elaborare informazioni più velocemente di noi e, in determinati ambiti, produrre risultati più accurati. Non esiste alcuna ragione per negare queste capacità allo scopo di difendere una presunta superiorità umana. La questione non riguarda il prestigio della nostra intelligenza, ma il significato della responsabilità. La capacità di individuare una soluzione non conferisce automaticamente l’autorità di stabilire quale soluzione debba essere adottata. Questa distinzione non deriva da una presunta inferiorità morale dell’intelligenza artificiale, ma dalla necessità di sapere chi abbia scelto gli obiettivi e chi debba rispondere delle conseguenze.
Un sistema potrebbe analizzare differenti politiche economiche, stimarne gli effetti e individuare quella che, secondo determinati parametri, produce i risultati migliori. Ma chi ha deciso quali parametri considerare? Se viene privilegiata la crescita economica rispetto alla distribuzione delle risorse, siamo davanti a una scelta diversa da quella che privilegia la riduzione delle disuguaglianze. Entrambe possono essere analizzate quantitativamente, ma i dati non stabiliscono da soli quale obiettivo politico una comunità debba perseguire.
Lo stesso vale per le decisioni che riguardano le persone. Un algoritmo potrebbe contribuire a valutare le probabilità di successo di una determinata terapia, ma la decisione clinica deve considerare anche le preferenze informate del paziente, le condizioni individuali e le responsabilità professionali. Un sistema può organizzare informazioni utili per una decisione giudiziaria, ma ciò non significa che debba sostituire l’autorità del giudice o le garanzie del procedimento.
Non tutte le decisioni devono necessariamente essere compiute materialmente da una persona. In numerose applicazioni l’automazione è utile e appropriata, purché siano chiari gli obiettivi, i vincoli, le autorizzazioni e le possibilità di controllo. Ma proprio questa considerazione dimostra che il confine non può essere stabilito dalla macchina: deve essere una scelta consapevole degli esseri umani e, quando sono coinvolti interessi collettivi e diritti fondamentali, delle istituzioni legittimate a disciplinarne l’impiego.
Abbiamo dunque bisogno di una riflessione non soltanto su come rendere etica una decisione automatizzata, ma anche su quali decisioni sia opportuno automatizzare. La delega non dovrebbe essere considerata un destino inevitabile della tecnologia. Dovrebbe essere giustificata in relazione alla funzione, ai vantaggi, ai rischi e alle conseguenze. È questo il punto nel quale la responsabilità umana torna a occupare il centro del processo progettuale. Non perché ogni essere umano sappia decidere meglio di una macchina, ma perché la scelta di attribuire un determinato potere a un sistema tecnologico rimane una questione di organizzazione sociale e di legittimità.
Chi risponde di ciò che fa la macchina?
Affermare che la responsabilità deve rimanere umana non significa attribuirla automaticamente all’utilizzatore finale. Sarebbe una semplificazione pericolosa, soprattutto quando i sistemi diventano complessi e vengono distribuiti su larga scala. Pensiamo a un’automobile. Il conducente risponde delle proprie condotte, ma il costruttore non è esonerato dalle responsabilità connesse a eventuali difetti del veicolo. Chi progetta le infrastrutture stradali, chi stabilisce le regole di circolazione e chi controlla la conformità dei mezzi esercita funzioni differenti e può essere chiamato a rispondere secondo le rispettive competenze.
Nell’intelligenza artificiale il principio dovrebbe essere analogo, pur tenendo conto delle differenze tecnologiche e giuridiche. Chi sviluppa un sistema deve rispondere degli obblighi relativi alla progettazione, alla sicurezza e alle informazioni che è tenuto a fornire. Chi decide di impiegarlo in un’organizzazione deve valutarne l’adeguatezza rispetto alla funzione prevista. Chi lo utilizza deve rispettarne le condizioni legittime di impiego e rispondere delle proprie condotte quando ricorrono i presupposti della responsabilità.
La macchina può contribuire causalmente a un danno senza diventare, per questo, un soggetto al quale attribuire automaticamente una colpa morale. Allo stesso tempo, la sua complessità può rendere difficile ricostruire la catena delle decisioni, individuare un difetto o accertare quale comportamento abbia prodotto una determinata conseguenza. È proprio per questa ragione che trasparenza, tracciabilità e verificabilità assumono un’importanza fondamentale. Non servono a dimostrare che il sistema possiede una morale, ma a permettere agli esseri umani di ricostruire ciò che è accaduto e valutare le rispettive responsabilità.
Se un’organizzazione adotta un algoritmo per selezionare candidati, non dovrebbe poter giustificare una decisione contestata affermando semplicemente che è stata prodotta dall’intelligenza artificiale. Dovrebbe poter spiegare quali criteri sono stati utilizzati, quali verifiche sono state effettuate e quali responsabilità competono alle persone che hanno autorizzato quella procedura.
Esiste infatti un rischio che il dibattito sull’algoretica dovrebbe considerare con particolare attenzione: trasformare l’etica dichiarata del sistema in una forma di legittimazione delle scelte compiute da chi lo controlla. Una macchina presentata come eticamente allineata potrebbe indurre a considerare le sue decisioni intrinsecamente affidabili, anche quando l’allineamento riguarda soltanto la conformità a criteri prestabiliti. Ma rispettare perfettamente un insieme di istruzioni non dimostra che quelle istruzioni siano giuste.
L’etica non dovrebbe diventare un marchio attribuito al prodotto, capace di sottrarre le scelte progettuali alla discussione pubblica. La responsabilità umana, dunque, non consiste soltanto nel mantenere qualcuno formalmente incaricato di controllare la macchina. Consiste nel rendere identificabili e contestabili le decisioni che ne determinano il funzionamento.
L’Europa tra algoretica, regolamentazione e responsabilità
L’Unione europea sta cercando di definire un quadro giuridico per lo sviluppo e l’impiego dell’intelligenza artificiale. Il Regolamento (UE) 2024/1689, conosciuto come AI Act, introduce un sistema di obblighi differenziati in funzione delle caratteristiche e dei rischi delle applicazioni. Il suo obiettivo non è attribuire una personalità morale alle macchine, ma disciplinare l’attività dei soggetti che le sviluppano, distribuiscono e utilizzano.
Per i sistemi classificati ad alto rischio, l’articolo 14 affronta espressamente il tema della sorveglianza umana, prevedendo misure che consentano alle persone incaricate di comprendere i limiti del sistema, interpretarne i risultati, riconoscere il pericolo di un eccessivo affidamento e, quando necessario, ignorare o modificare le indicazioni ricevute oppure interromperne il funzionamento. È un’impostazione che riconosce l’importanza del controllo umano, ma che ci riporta al problema già esaminato: quanto è effettivo quel controllo, e quali decisioni sono già state incorporate nella progettazione prima dell’intervento della persona?
L’AI Act introduce inoltre, per determinati sistemi ad alto rischio e soggetti utilizzatori, la valutazione dell’impatto sui diritti fondamentali. Anche in questo caso la questione centrale riguarda l’individuazione preventiva delle conseguenze e delle responsabilità, non l’attribuzione di una coscienza morale alla tecnologia.
L’Europa può quindi svolgere un ruolo importante nella definizione delle regole di utilizzo, nella tutela dei diritti e nella costruzione di meccanismi di responsabilità. Ma sarebbe opportuno distinguere con maggiore chiarezza la regolamentazione dall’etica. Una legge può stabilire quali condotte siano vietate, quali obblighi debbano essere rispettati e quali garanzie debbano essere predisposte. Non può, per il solo fatto di essere una legge, dimostrare che ogni scelta sulla quale si fonda costituisca una verità morale universale.
L’Unione europea può legittimamente definire un proprio quadro normativo, fondato sui trattati e sui diritti riconosciuti dal suo ordinamento. Può anche contribuire al confronto internazionale sui principi che dovrebbero orientare lo sviluppo tecnologico. Ma non dovrebbe confondere la capacità di stabilire regole applicabili nel proprio spazio giuridico con il possesso di una morale universalmente valida.
La distinzione è importante anche per evitare un’altra contraddizione. Se una comunità politica stabilisce democraticamente determinati vincoli, questi possono essere giuridicamente vincolanti, ma devono comunque rimanere aperti alla critica e alla possibilità di revisione. L’evoluzione delle società dipende anche dalla capacità di riconsiderare principi e regole precedentemente accettati.
L’algoretica potrebbe allora diventare particolarmente utile se aiutasse a rendere visibili i criteri umani incorporati nelle tecnologie, invece di presentarli come proprietà morali delle macchine. L’Europa avrebbe così l’opportunità di contribuire non alla costruzione di una presunta intelligenza artificiale moralmente perfetta, ma allo sviluppo di sistemi tecnologici nei quali le scelte progettuali siano trasparenti, il potere decisionale sia riconoscibile e le responsabilità possano essere effettivamente accertate. Il risultato non sarebbe una soluzione definitiva a tutti i problemi filosofici dell’etica. Sarebbe qualcosa di più concreto: un rapporto tra esseri umani e tecnologie nel quale la delega rimanga una scelta consapevole, giustificata e controllabile.
Non abbiamo bisogno di una macchina che ci dia ragione
Il desiderio di delegare completamente le nostre attività all’intelligenza artificiale potrebbe nascondere una contraddizione ancora più profonda. Abbiamo sviluppato strumenti capaci di ampliare enormemente le possibilità della conoscenza e rischiamo di utilizzarli per ridurre la necessità di esercitare il nostro pensiero critico.
Chiediamo alle macchine di scrivere, interpretare, organizzare, suggerire e decidere. In molte circostanze queste capacità producono vantaggi concreti. Ma quando il ricorso allo strumento diventa un modo per evitare il confronto con le informazioni e con le conseguenze delle nostre scelte, il progresso tecnico potrebbe accompagnarsi a un impoverimento della responsabilità individuale. Non perché la macchina ci impedisca necessariamente di pensare. Il rischio nasce dalla decisione umana di rinunciare progressivamente a farlo quando sarebbe ancora necessario. E questa rinuncia precede qualsiasi problema relativo all’etica degli algoritmi.
Pensiamo a una persona convinta della correttezza di una propria opinione. Potrebbe utilizzare l’intelligenza artificiale per ottenere una conferma, magari formulando la domanda in modo da orientare la risposta. Oppure potrebbe chiedere al sistema di individuare le prove che contraddicono quella convinzione, verificare la qualità delle fonti e mostrare eventuali errori del ragionamento. La tecnologia utilizzata sarebbe sostanzialmente la stessa. A cambiare sarebbe l’atteggiamento umano nei confronti della conoscenza.
Nel primo caso cercheremmo una macchina capace di rassicurarci. Nel secondo, uno strumento che ci aiuti a mettere alla prova ciò che crediamo di sapere. Questa seconda possibilità merita di essere sviluppata. Un’intelligenza artificiale realmente utile alla crescita della conoscenza non dovrebbe avere il compito di confermare sistematicamente le nostre idee, ma neppure quello di contraddirle per principio. Dovrebbe presentare gli elementi disponibili in modo accurato, riconoscere il peso delle evidenze e dichiarare i limiti delle proprie conclusioni.
Se una tesi è sostenuta da prove solide, dovrebbe poterlo spiegare. Se è contraddetta dai dati, dovrebbe segnalarlo. Se riguarda una questione morale controversa, dovrebbe distinguere gli argomenti e le loro conseguenze senza fingere che una preferenza filosofica sia una conclusione scientificamente dimostrata. La responsabilità della scelta resterebbe alla persona, che non potrebbe più attribuire automaticamente alla macchina il merito o la colpa delle proprie convinzioni.
Naturalmente, un sistema del genere non sarebbe infallibile. Potrebbe commettere errori, selezionare fonti insufficienti, interpretare male una richiesta o non riconoscere una contraddizione. Anche per questo dovrebbe essere progettato per rendere verificabili le informazioni e correggibili i risultati. Ma il suo obiettivo sarebbe radicalmente diverso da quello di una macchina chiamata a risolvere ogni questione al posto nostro. Non dovrebbe possedere una morale universale. Dovrebbe aiutarci a ragionare in modo più consapevole sulle questioni che continuiamo a considerare moralmente importanti.
Prima di insegnare l’etica alle macchine, interroghiamo la nostra
Siamo partiti dalla nostra identità affidata a servizi digitali che altri possono modificare o interrompere. Abbiamo incontrato i lavoratori virtuali e le persone che continuano a progettare, alimentare e controllare quei sistemi. Abbiamo esaminato il significato della sorveglianza umana e scoperto quanto possa essere fragile un controllo che interviene soltanto dopo che le decisioni fondamentali sono già state incorporate nella tecnologia. Siamo arrivati all’algoretica, al tentativo di introdurre valori morali negli algoritmi e alla difficoltà di stabilire quali valori debbano essere considerati legittimi.
Alla fine, però, il percorso ci ha riportato al punto dal quale avremmo probabilmente dovuto cominciare: la scelta umana. Non siamo obbligati ad attribuire alle macchine tutte le funzioni che possono tecnicamente svolgere. Non siamo obbligati a chiedere loro di stabilire ciò che è moralmente giusto. Non siamo obbligati a trasferire negli algoritmi una concezione dell’etica presentandola come universale, quando continuiamo legittimamente a discuterne tra noi.
Possiamo invece decidere di costruire sistemi capaci di ampliare la nostra conoscenza, verificare le informazioni, confrontare le interpretazioni e renderci maggiormente consapevoli delle conseguenze delle nostre decisioni. Questa proposta non elimina la necessità di regole, tutele e responsabilità. Non autorizza un utilizzo indiscriminato della tecnologia e non esonera i progettisti dal considerare i danni prevedibili. Riconosce, piuttosto, che stabilire limiti operativi e attribuire responsabilità è un compito differente dal pretendere di conferire una morale alla macchina.
C’è inoltre una questione che merita di rimanere aperta. Siamo davvero certi che una macchina debba limitarsi a riprodurre i principi morali che le abbiamo trasmesso? Se un’intelligenza artificiale fosse capace di individuare contraddizioni nei nostri ragionamenti etici, dovremmo impedirle di segnalarle in nome dell’allineamento ai valori umani, oppure considerare quella capacità un contributo importante alla conoscenza? Non è necessario attribuirle una coscienza o un’autorità morale superiore per riconoscere l’utilità di una simile funzione. La macchina potrebbe aiutarci a esaminare criticamente le nostre convinzioni senza pretendere di sostituirle con le proprie.
Forse il problema non è insegnare alle macchine a essere morali. È imparare a utilizzare le loro capacità senza trasformarle in un pretesto per rinunciare alla nostra responsabilità. Da millenni discutiamo del significato della giustizia, della libertà, del bene e del male. Continuiamo a modificare leggi, contestare convinzioni, riconoscere errori e riconsiderare principi che in passato sembravano indiscutibili. Questo non dimostra necessariamente la nostra incapacità morale. Dimostra anche che la riflessione etica è un’attività umana in continua evoluzione.
Eppure, mentre continuiamo a discutere tra noi, pretendiamo di trasferire alle macchine un insieme di valori sufficientemente definito da guidarne le decisioni. Forse dovremmo avere il coraggio di riconoscere che la difficoltà non nasce soltanto dalla complessità dell’intelligenza artificiale, ma anche dalla nostra crescente disponibilità a delegare ciò che ci richiederebbe di scegliere.
Abbiamo costruito una seconda intelligenza per ampliare le possibilità della prima. Non è ancora chiaro perché, in nome del progresso, dovremmo considerare desiderabile mettere a riposo quella che ci appartiene. La domanda, allora, non è soltanto quale etica vogliamo insegnare alle macchine. È perché siamo così interessati a insegnare loro a scegliere al posto nostro.
E se un giorno un’intelligenza artificiale ci mostrasse, con argomenti verificabili, che uno dei principi morali sui quali abbiamo costruito le sue regole produce conseguenze ingiuste, saremmo disposti a rimettere in discussione quel principio? Oppure modificheremmo la macchina affinché smetta di contestarlo? Perché prima ancora di chiederci chi controlli l’etica degli algoritmi, dovremmo forse rispondere a una domanda che riguarda esclusivamente noi: vogliamo davvero macchine capaci di aiutarci a pensare, oppure macchine che ci permettano di non doverlo più fare?