ACCADEMIA DELL’IMPREPARAZIONE · LEZIONE 02 / 08
Il docente ha ricevuto una risposta errata da un sistema generativo e ha convocato immediatamente una commissione d’inchiesta. Ha parlato di inaffidabilità, minaccia alla conoscenza e crisi della civiltà. Una studentessa gli ha ricordato che durante la lezione precedente aveva sbagliato il nome di un autore e attribuito una frase a un filosofo che non l’aveva mai pronunciata. Il docente ha spiegato che si trattava di «memoria interpretativa». La commissione ha sospeso i lavori per eccesso di somiglianza fra i due casi.
I modelli generativi possono produrre informazioni inesatte, citazioni inventate e risposte formulate con sicurezza ingiustificata. È un problema serio, soprattutto quando le risposte incidono su salute, giustizia, lavoro o decisioni ad alto rischio. Il punto non è minimizzare tali errori confrontandoli con quelli umani, ma interrogare il metro del nostro giudizio. Siamo abbastanza esigenti con le risposte che desideriamo ascoltare? Verifichiamo anche le nostre convinzioni più familiari?
Ci impressiona che una macchina possa sbagliare con tono autorevole, ma abbiamo costruito intere consuetudini sociali intorno a persone che lo fanno da secoli. La differenza sta anche nella scala, nella rapidità e nell’apparente neutralità del sistema. Una risposta sbagliata può circolare ovunque in pochi minuti, riprodotta da chi non possiede gli strumenti per controllarla. Questo rende necessaria una disciplina della verifica, non un’indulgenza indiscriminata verso la tecnologia.
L’esercitazione prevede di individuare un’affermazione pronunciata con grande sicurezza durante l’ultima settimana e verificarla con fonti indipendenti. È consentito scegliere una frase del docente. Anzi, è incoraggiato. Il docente ricorda che l’esistenza di un errore non dimostra che tutto sia falso, così come l’esistenza di una risposta corretta non dimostra che tutto sia affidabile.
Alla fine, l’Accademia introduce una procedura d’emergenza rivoluzionaria: quando non sappiamo, possiamo dirlo. Il modulo per pronunciare «non lo so» è stato approvato all’unanimità, ma nessuno ha ancora trovato il coraggio di compilarlo.
La domanda che il docente non sa chiudere
Perché pretendiamo prove dagli strumenti che ci contraddicono e ci accontentiamo delle impressioni quando ci danno ragione?