Vai al contenuto
“Le parole restano.”

Dietro la macchina

La responsabilità che scompare

Un percorso sulla responsabilità umana che tende a scomparire dal racconto dell’IA: accessi, autonomia, controllo, interessi e conseguenze.

Prima della perdita del controllo esiste sempre, almeno in parte, una cessione del controllo.

Quando attribuiamo a un sistema di intelligenza artificiale un’azione, una decisione o un rischio, il linguaggio tende a portare la macchina in primo piano e a lasciare sullo sfondo ciò che è accaduto prima: chi l’ha progettata, quali capacità le sono state concesse, quali accessi sono stati aperti, quale autonomia è stata ritenuta accettabile e quali interessi hanno accompagnato quelle scelte.

La responsabilità che scompare segue questo arretramento dell’essere umano dal racconto dell’intelligenza artificiale. Non per sostenere che i sistemi non possano produrre comportamenti inattesi o pericolosi, ma per ricostruire la catena che rende quei comportamenti capaci di incidere sul mondo.

Il punto di partenza è semplice: un sistema può sorprendere chi lo ha costruito, ma non riceve spontaneamente una banca dati, una rete, una telecamera, un conto, un’infrastruttura o il permesso di agire senza conferma. Prima della perdita del controllo esiste sempre, almeno in parte, una cessione del controllo.

Infografica del percorso La responsabilità che scompare di Dietro la macchina
Il percorso La responsabilità che scompare in un’infografica. Clicca sull’immagine per ingrandirla.

6 movimenti

Il percorso originario
Movimento 2 di 6

Chi ha dato le chiavi?

Secondo movimento de «La responsabilità che scompare»: un agente non ottiene da solo strumenti, credenziali e permessi. Prima dell’azione viene sempre una decisione su ciò che gli è consentito raggiungere e fare.

Leggi il movimento →
Conclusione

La responsabilità non era scomparsa

All’inizio del percorso sembrava che il problema fosse capire che cosa accade quando una macchina conquista capacità, riceve autonomia e finisce per sottrarsi al controllo. Sei movimenti dopo, la scena è cambiata. La responsabilità non era sparita dentro il sistema: era diventata più difficile da vedere perché si era distribuita lungo una catena di decisioni, accessi, autorizzazioni, costi, incentivi e forme diverse di supervisione.

Non basta allora cercare il momento in cui qualcuno ha premuto un pulsante, firmato un atto o approvato un risultato. Quel gesto può essere importante, ma arriva alla fine di una storia cominciata prima: quando sono state definite le capacità del sistema, quando gli sono state aperte determinate porte, quando si è deciso quanta autonomia concedergli, quanto controllo fosse sostenibile e quali vantaggi giustificassero il rischio residuo.

Questo non significa che ogni conseguenza fosse prevedibile, né che ogni responsabilità debba ricadere indistintamente su tutti gli attori coinvolti. Significa il contrario: per distinguere davvero le responsabilità dobbiamo ricostruire chi disponeva di quale potere, in quale momento e con quale possibilità concreta di scegliere diversamente. La complessità del processo non assolve nessuno in anticipo; impedisce soltanto di sostituire l’analisi con un colpevole troppo comodo, umano o artificiale che sia.

La responsabilità non scompare quando una decisione viene distribuita. Scompare dal racconto quando smettiamo di ricostruire chi poteva decidere diversamente.

Quando diciamo che l’intelligenza artificiale ha acquisito un potere, siamo sicuri di non stare descrivendo un potere che qualcuno ha deciso di consegnarle?