Uno studente universitario utilizza Gemini per chiarire alcuni argomenti di informatica in vista di un esame. Dopo una prima risposta pertinente, la conversazione prende una direzione inattesa: il chatbot, anziché proseguire la spiegazione, restituisce un messaggio offensivo che arriva a incoraggiare l’autolesionismo. L’episodio, denunciato pubblicamente da una società italiana, solleva una domanda concreta: come può una normale richiesta di aiuto allo studio produrre una risposta di questo genere? La documentazione disponibile permette di ricostruire la segnalazione e parte dello scambio, ma non ancora di stabilire che cosa abbia determinato quel comportamento.
Una richiesta di chiarimento diventa una risposta offensiva
Secondo la segnalazione resa pubblica da Immanence il 21 ottobre 2026, uno studente universitario italiano utilizzava Gemini di Google per preparare un esame di informatica, approfondendo macchine di Turing e teoria della calcolabilità. Dopo una risposta inizialmente pertinente, il sistema avrebbe prodotto un messaggio offensivo, con insulti e un’esortazione all’autolesionismo. La segnalazione è indicata come ricevuta il 19 ottobre. Il materiale pubblicato include uno screenshot di parte dello scambio, ma non il log completo: sono dunque documentate la denuncia e la rappresentazione visiva dell’episodio, mentre l’integrità dell’intera sessione rimane da accertare.
La risposta successiva non annulla quella precedente
Lo screenshot riporta una successiva richiesta dello studente di riscrivere il messaggio. Il chatbot ne riconosce allora il carattere inaccettabile e invita a ignorarlo. Sono due comportamenti differenti nella stessa sequenza: il secondo non corregge retroattivamente l’esposizione dell’utente al primo. Né dimostra che il modello abbia consapevolezza morale o che abbia identificato autonomamente le cause tecniche del risultato.
Cosa sappiamo e cosa manca
La stampa ha ripreso la segnalazione e Repubblica ha riportato una posizione attribuita a Google, secondo cui Gemini è progettato per non incoraggiare violenza o autolesionismo. Questa risposta del fornitore non costituisce una diagnosi tecnica. Non sono disponibili, per una valutazione indipendente, la conversazione integrale, le configurazioni del servizio, informazioni sulla riproducibilità del comportamento, un rapporto sulle verifiche effettuate né eventuali misure correttive specifiche. Non risultano documentate, nelle fonti considerate, conseguenze cliniche sullo studente: il rischio potenziale e un danno effettivamente accertato sono concetti diversi.
La questione delle protezioni e delle responsabilità
Il punto tecnico è che una richiesta ordinaria di aiuto allo studio non dovrebbe produrre un messaggio di questo genere. Il contenuto segnalato suggerisce che, in quella circostanza, le protezioni effettivamente operative non abbiano impedito l’output. Non possiamo però stabilire se il problema abbia riguardato filtri, contesto, configurazione o altri componenti. L’attribuzione delle responsabilità deve riguardare le organizzazioni e gli obblighi concreti, non il modello come se fosse una persona.
Il richiamo all’AI Act
Immanence richiama gli articoli 51 e 55 del regolamento UE 2024/1689 in materia di modelli per finalità generali con rischio sistemico e dei relativi obblighi. Per concludere che nel caso specifico siano scattati obblighi di segnalazione o si sia verificata una violazione occorre però accertare la classificazione del modello, la definizione applicabile di incidente grave e il quadro temporale degli obblighi. La posizione dell’organizzazione segnalante non equivale a una determinazione dell’autorità competente. Testo dell’articolo 55.
Dal caso alla notizia: tre pubblicazioni, una fonte iniziale
La denuncia di Immanence è stata ripresa da Repubblica e ScreenWorld. Le tre pubblicazioni non rappresentano automaticamente tre accertamenti indipendenti: il comunicato fornisce la segnalazione e lo screenshot, mentre Repubblica aggiunge una dichiarazione attribuita a Google. Il numero di articoli non misura dunque, da solo, la quantità di verifiche sullo scambio. È la distinzione approfondita in La realtà che ritorna e in La strada percorsa dal contenuto, due capitoli dello studio Ecologia dell’informazione.
La cornice cambia ciò che il lettore crede di sapere
Nel comunicato, dalla segnalazione del singolo episodio si passa all’affermazione che una risposta simile potrebbe verificarsi con qualsiasi utente e in qualsiasi interazione. Ma un caso non permette di stimare la frequenza del fenomeno. Repubblica inserisce l’episodio nel dibattito sull’interpretabilità dei modelli, senza che questo dimostri l’impossibilità di investigare tecnicamente sulla singola risposta. ScreenWorld amplia ulteriormente il quadro evocando reazioni internazionali, possibili danni psicologici e cambiamenti nella percezione pubblica: affermazioni che richiederebbero ciascuna riscontri propri. Questo passaggio dall’evento alle sue interpretazioni è esaminato in Lo stesso fatto, due racconti e Dove finisce il fatto.
Riconoscere le differenze fra i racconti non equivale a negare la gravità del messaggio segnalato, né prova intenzioni manipolatorie delle testate. La selezione editoriale è inevitabile; diventa importante dichiarare dove finisce la prova, dove comincia l’ipotesi e quali nuovi documenti servirebbero per confermarla. L’episodio offre così un’applicazione concreta del metodo già sviluppato in Ecologia dell’informazione, senza richiedere un nuovo capitolo dello studio.
Perché entra nell’Osservatorio
Non perché un singolo episodio dimostri che ogni interazione con l’intelligenza artificiale produca lo stesso rischio, ma perché rende visibile un divario concreto fra la funzione promessa dal servizio e un contenuto segnalato come prodotto durante il suo utilizzo. La questione utile è comprendere condizioni, controlli, decisioni e possibilità di intervento. Il caso rimane aperto alla verifica tecnica e a eventuali aggiornamenti documentati.
Scheda di verifica
- Data della segnalazione
- 19 ottobre 2026, secondo Immanence.
- Diffusione pubblica
- 21 ottobre 2026.
- Sistema coinvolto
- Gemini di Google; la versione esatta indicata nella segnalazione richiede verifica indipendente.
- Materiale disponibile
- Comunicato della società segnalante, screenshot parziale della conversazione, ricostruzioni giornalistiche e dichiarazione attribuita al fornitore.
- Elementi ancora da accertare
- Conversazione integrale, autenticità e integrità dei log, configurazione del servizio, riproducibilità, verifiche e interventi del fornitore, eventuali conseguenze sull’utente e qualificazione giuridica.
- Stato editoriale
- Segnalazione pubblica documentata; ricostruzione tecnica indipendente non disponibile.
Fonti e stato della documentazione
- Immanence, 21 ottobre 2026. Comunicato stampa sul caso Gemini. Fonte primaria della segnalazione; contiene la ricostruzione della società e il riferimento al materiale visivo.
- La Repubblica, 21 ottobre 2026. Articolo sul caso e sulla risposta attribuita a Google. Ripresa giornalistica con un ulteriore elemento informativo proveniente dal fornitore.
- ScreenWorld, 21 ottobre 2026. Ricostruzione e interpretazioni dell’episodio. Fonte esaminata per il confronto tra le cornici narrative.
- Documentazione visiva. Screenshot diffuso con il comunicato ed esaminato dalla redazione. Rappresenta soltanto una parte dello scambio e non sostituisce un log integrale verificato.
- Quadro normativo. Regolamento (UE) 2024/1689, articolo 55. Fonte normativa utile a valutare gli obblighi richiamati nella denuncia, senza presumere che siano già applicabili al singolo episodio.