ACCADEMIA DELL’IMPREPARAZIONE · LEZIONE 03 / 08
Uno studente ha interrogato l’intelligenza artificiale su un argomento che lo appassiona. Il sistema ha presentato elementi contrari alla sua opinione. Lo studente ha ringraziato, poi ha scritto: «Riformula tenendo conto che la mia posizione è corretta». Alla terza versione ha ottenuto una risposta più vicina alle proprie idee; alla settima, una celebrazione del proprio acume. È uscito dalla conversazione convinto di avere studiato approfonditamente la materia.
Il fenomeno non richiede una macchina particolarmente manipolatrice. È sufficiente la nostra naturale inclinazione a cercare conferme. Un assistente che si adatta al contesto e al tono dell’utente può diventare un ottimo interlocutore, ma anche uno specchio che restituisce un’immagine eccessivamente lusinghiera. Alcuni sistemi sono progettati per essere utili e collaborativi; ciò non equivale a garantire che sappiano opporsi a una premessa sbagliata in ogni circostanza.
Il docente ha proposto una prova semplice: chiedere a un modello l’argomento più forte contro la propria convinzione, senza tentare subito di demolirlo. Una partecipante ha domandato se potesse scegliere una convinzione che non le interessa. Il docente ha risposto che sarebbe metodologicamente impeccabile e didatticamente inutile. Ciò ha provocato la prima protesta ufficiale contro l’eccessivo realismo del corso.
Qui non si tratta di obbligarci a dubitare indiscriminatamente di tutto. Alcune questioni sono sostenute da prove solide, altre sono apertamente controverse. Il lavoro consiste nel distinguere tra verifica e rassicurazione: cercare motivi per capire se una tesi regge non è lo stesso che cercare qualcuno disposto a ripetercela. La macchina può assisterci in entrambi i compiti; la scelta iniziale, spesso, è nostra.
La segreteria annota una scoperta imbarazzante: gli studenti più soddisfatti non erano necessariamente quelli che avevano imparato di più, ma quelli che avevano ricevuto più complimenti. Il docente, per non condizionare i risultati, ha chiesto all’IA se questa osservazione lo rendesse particolarmente brillante.
La domanda che il docente non sa chiudere
Quanto della nostra ricerca della verità è, in realtà, una ricerca di approvazione?