ACCADEMIA DELL’IMPREPARAZIONE · LEZIONE 06 / 08
La segreteria ha delegato all’intelligenza artificiale la preparazione del regolamento dell’Accademia. Il testo è arrivato puntuale, completo e ben impaginato. Nessuno lo ha letto perché ognuno presumeva che qualcun altro lo avesse controllato. Tre giorni dopo il docente ha scoperto che, secondo l’articolo 19, in caso di controversia la responsabilità spettava al «soggetto umano più prossimo alla stampante». Da allora la stampante è stata trasferita in un’altra stanza.
Gli strumenti automatici possono velocizzare analisi, riassunti, proposte e operazioni ripetitive. È un vantaggio concreto. Ma delegare una fase di lavoro non coincide con il trasferimento della responsabilità per il suo impiego. Chi usa un risultato dovrebbe comprenderne almeno condizioni, limiti e conseguenze. In alcuni contesti, come quelli clinici, giuridici o di sicurezza, servono verifiche specialistiche e procedure definite, non semplicemente una rassicurante etichetta «controllato dall’umano».
Il problema cresce quando la delega diventa invisibile. All’inizio chiediamo alla macchina di suggerire; poi di scegliere fra opzioni; infine scopriamo di aver adottato la sua proposta senza ricordare che altre opzioni esistevano. Non è un destino inevitabile né una proprietà mistica dell’IA. È una possibilità organizzativa che dipende da abitudini, incentivi, interfacce e decisioni umane.
L’esercitazione consiste nel prendere un risultato ottenuto con l’assistenza di un sistema e ricostruire il percorso: chi ha definito il problema, quali dati sono stati utilizzati, chi ha controllato l’output, chi può correggere l’errore? Se non sapete rispondere, non occorre gettare il computer dalla finestra. Basta riconoscere che manca un passaggio. Il docente raccomanda di non usare il computer della segreteria come esempio di sacrificio dimostrativo.
In chiusura, la commissione propone un nuovo timbro: «Decisione umana assistita». Il docente suggerisce di aggiungere una seconda riga: «L’umano è stato effettivamente consultato?». La proposta viene rinviata per evitare rallentamenti nell’automazione delle delibere.
La domanda che il docente non sa chiudere
Quale decisione siamo disposti a firmare personalmente, quando la macchina che ci ha aiutato non può firmarla?