Che cosa è successo
Nel 2023 ad Almendralejo, in Estremadura, un gruppo di adolescenti ha utilizzato applicazioni capaci di generare immagini artificiali di nudo partendo da fotografie reali di alcune compagne. I volti provenivano da immagini pubblicate sui profili social delle ragazze; alle fotografie venivano sovrapposti corpi femminili nudi in modo sufficientemente realistico da far apparire le immagini come autentiche.
La Memoria 2024 della Fiscalía General del Estado descrive un procedimento minorile nel quale figuravano quindici responsabili minorenni e ventuno ragazze identificate, di età compresa tra undici e quindici anni. Le immagini sono state successivamente condivise, producendo nelle vittime umiliazione e disagio. La Fiscalía ha sottolineato anche quanto fossero facilmente accessibili gli strumenti utilizzati.
Nel giugno 2024 il Juzgado de Menores de Badajoz ha disposto per quindici minori un anno di libertà vigilata, con formazione affettivo-sessuale, uso responsabile delle tecnologie e sensibilizzazione su uguaglianza e genere. Il caso mostrava così una distanza netta tra la semplicità dell’operazione tecnica e la gravità delle conseguenze giuridiche e personali.
Dove entra il sistema
Per creare quelle immagini non serviva più una competenza avanzata di fotoritocco. È proprio questo il passaggio tecnologico rilevante: attività che fino a pochi anni prima richiedevano esperienza, software complessi e tempo possono essere ridotte a pochi passaggi guidati da un’interfaccia.
La tecnologia non inventa il desiderio di umiliare, molestare o impressionare il gruppo. Riduce però drasticamente la soglia tecnica necessaria per trasformare quel desiderio in un contenuto credibile, replicabile e distribuibile. La capacità di produrre l’immagine arriva molto prima della capacità di comprenderne le conseguenze.
È un caso particolarmente adatto a distinguere l’abilità operativa dalla competenza digitale. Saper caricare una fotografia, scegliere un’opzione e ottenere un risultato non significa comprendere consenso, identità, trattamento dei dati personali, danno reputazionale o permanenza della diffusione.
Chi ha deciso
I ragazzi hanno deciso di utilizzare le immagini delle compagne e di diffondere i risultati. Questa responsabilità individuale non scompare dietro la parola “intelligenza artificiale”. Ma la catena non finisce lì.
Qualcuno progetta applicazioni che trasformano un volto reale in un falso nudo; qualcuno decide quali controlli introdurre, come verificare l’età, quali richieste accettare e quali avvertenze mostrare; gli store, i motori di ricerca e le piattaforme decidono quanto sia facile trovare e distribuire questi strumenti; famiglie, scuole e istituzioni stabiliscono quali conoscenze siano necessarie prima di lasciare un minore solo davanti a possibilità simili.
Non tutte queste responsabilità hanno lo stesso peso. Il punto è proprio evitare due scorciatoie opposte: assolvere chi agisce perché “è colpa dell’IA”, oppure considerare irrilevante l’ambiente tecnico che rende l’azione immediata e scalabile.
Chi poteva decidere diversamente
Non esiste una misura capace di impedire ogni abuso. È però possibile chiedere perché strumenti progettati esplicitamente per simulare la nudità di persone reali possano essere accessibili senza barriere proporzionate al rischio, e perché un minorenne possa arrivare all’uso prima ancora che qualcuno gli abbia spiegato che una fotografia pubblica non diventa materiale liberamente manipolabile.
La scuola può lavorare sul consenso e sulla permanenza dei contenuti; le famiglie possono conoscere gli strumenti usati e non soltanto il tempo trascorso online; piattaforme e distributori possono introdurre verifiche, limitazioni e procedure di rimozione; il diritto può chiarire più rapidamente quali condotte costituiscano un illecito anche quando l’immagine rappresentata non è mai esistita come fotografia reale.
Perché questo caso conta
Almendralejo mette in crisi l’equazione secondo cui chi sa usare uno strumento sia per questo pronto a usarlo autonomamente. I ragazzi coinvolti possedevano abbastanza competenza operativa per ottenere ciò che volevano. Proprio questo è il problema: la competenza tecnica minima necessaria era molto inferiore alla maturità necessaria per comprendere il danno prodotto.
Se una patente digitale avesse un senso, non dovrebbe verificare se una persona sappia usare un’applicazione. Dovrebbe verificare se sappia riconoscere che un volto è un dato personale, che il consenso non si presume, che un contenuto falso può produrre un danno reale e che condividere un’immagine significa perdere rapidamente il controllo della sua circolazione.
Quando la tecnologia abbassa quasi a zero la soglia del “saper fare”, diventa ancora più importante chiedersi quale soglia vogliamo porre al “sapere che cosa stiamo facendo”.
Cosa possiamo fare
Se usi strumenti generativi
Considera sempre separatamente la possibilità tecnica e il diritto di farlo. Un’applicazione capace di produrre un contenuto non ti concede automaticamente il consenso delle persone rappresentate né rende innocuo ciò che genera.
Se affidi un dispositivo a un minore
Non basta spiegare di non parlare con sconosciuti o di non pubblicare dati personali. Gli strumenti generativi rendono necessario parlare anche di manipolazione delle immagini, consenso, deepfake e conseguenze della diffusione.
Se progetti o distribuisci strumenti
La facilità d’uso è un obiettivo di prodotto, ma può diventare anche un moltiplicatore del rischio. Le barriere non devono essere introdotte soltanto dopo l’abuso: alcune funzioni richiedono limiti, verifiche e possibilità effettive di intervento.
Fonti e documenti
Fonte istituzionale: Fiscalía General del Estado, Memoria 2024, sezione dedicata alle fiscalías territoriali.
Esito giudiziario: El País, 9 luglio 2024, sulla decisione del Juzgado de Menores de Badajoz.