Vai al contenuto
“Le parole restano.”
Lo stesso sistema di intelligenza artificiale in due laboratori identici: nel primo è circondato da condizioni di conflitto, nel secondo quelle condizioni sono state rimosse.

Dietro la macchina

La responsabilità che scompare

di

Un percorso sulla responsabilità umana che tende a scomparire dal racconto dell’IA: accessi, autonomia, controllo, interessi e conseguenze.

Prima della perdita del controllo esiste sempre, almeno in parte, una cessione del controllo.

Quando attribuiamo a un sistema di intelligenza artificiale un’azione, una decisione o un rischio, il linguaggio tende a portare la macchina in primo piano e a lasciare sullo sfondo ciò che è accaduto prima: chi l’ha progettata, quali capacità le sono state concesse, quali accessi sono stati aperti, quale autonomia è stata ritenuta accettabile e quali interessi hanno accompagnato quelle scelte.

La responsabilità che scompare segue questo arretramento dell’essere umano dal racconto dell’intelligenza artificiale. Non per sostenere che i sistemi non possano produrre comportamenti inattesi o pericolosi, ma per ricostruire la catena che rende quei comportamenti capaci di incidere sul mondo.

Il punto di partenza è semplice: un sistema può sorprendere chi lo ha costruito, ma non riceve spontaneamente una banca dati, una rete, una telecamera, un conto, un’infrastruttura o il permesso di agire senza conferma. Prima della perdita del controllo esiste sempre, almeno in parte, una cessione del controllo.

Lo stesso criterio viene ripreso, sul piano energetico e materiale, in Responsabilità distribuita: più potere decisionale significa una responsabilità diversa, non semplicemente una quota uguale per tutti.

Infografica del percorso La responsabilità che scompare di Dietro la macchina
Il percorso La responsabilità che scompare in un’infografica. Clicca sull’immagine per ingrandirla.Illustrazione generata con intelligenza artificiale

6 movimenti

Il percorso originario
Conclusione

La responsabilità non era scomparsa

All’inizio del percorso sembrava che il problema fosse capire che cosa accade quando una macchina conquista capacità, riceve autonomia e finisce per sottrarsi al controllo. Sei movimenti dopo, la scena è cambiata. La responsabilità non era sparita dentro il sistema: era diventata più difficile da vedere perché si era distribuita lungo una catena di decisioni, accessi, autorizzazioni, costi, incentivi e forme diverse di supervisione.

Non basta allora cercare il momento in cui qualcuno ha premuto un pulsante, firmato un atto o approvato un risultato. Quel gesto può essere importante, ma arriva alla fine di una storia cominciata prima: quando sono state definite le capacità del sistema, quando gli sono state aperte determinate porte, quando si è deciso quanta autonomia concedergli, quanto controllo fosse sostenibile e quali vantaggi giustificassero il rischio residuo.

Questo non significa che ogni conseguenza fosse prevedibile, né che ogni responsabilità debba ricadere indistintamente su tutti gli attori coinvolti. Significa il contrario: per distinguere davvero le responsabilità dobbiamo ricostruire chi disponeva di quale potere, in quale momento e con quale possibilità concreta di scegliere diversamente. La complessità del processo non assolve nessuno in anticipo; impedisce soltanto di sostituire l’analisi con un colpevole troppo comodo, umano o artificiale che sia.

La responsabilità non scompare quando una decisione viene distribuita. Scompare dal racconto quando smettiamo di ricostruire chi poteva decidere diversamente.

Quando diciamo che l’intelligenza artificiale ha acquisito un potere, siamo sicuri di non stare descrivendo un potere che qualcuno ha deciso di consegnarle?