L’Europa interviene contro i sistemi di IA capaci di produrre falsi nudi senza consenso. Ma le immagini manipolate esistevano prima dell’intelligenza artificiale, possono essere create anche offline e, per circolare attraverso Internet, richiedono un accesso alla rete. La proposta della Patente Digitale parte dalla responsabilità di chi si connette.
Un problema antico che l’intelligenza artificiale ha reso più semplice
Una fotografia pubblicata su un social network può essere prelevata, modificata e trasformata in un’immagine sessualmente esplicita senza che la persona ritratta abbia mai partecipato alla sua realizzazione. Il volto può essere autentico, mentre il corpo, la situazione e il contenuto sessuale sono inventati. La fotografia originale potrebbe mostrare una persona completamente vestita durante una vacanza, in un luogo di lavoro o in una situazione quotidiana. Nulla, in quella fotografia, deve necessariamente avere carattere intimo. Eppure, attraverso una manipolazione, può diventare il punto di partenza di un contenuto capace di compromettere la reputazione, la riservatezza e la serenità di una persona.
La notizia del divieto europeo dei sistemi di intelligenza artificiale utilizzati per produrre materiale intimo non consensuale richiama giustamente l’attenzione su una forma di abuso grave. Ma il modo in cui questi episodi vengono raccontati rischia di suggerire che tutto sia cominciato con le applicazioni capaci di «spogliare» una fotografia. Non è così. La manipolazione delle immagini esiste da molto prima dell’intelligenza artificiale generativa: i fotomontaggi, la sostituzione dei volti, la ricostruzione di scene mai avvenute e l’attribuzione di comportamenti inesistenti a persone riconoscibili appartengono da decenni alla storia della fotografia e dell’elaborazione digitale.
Ciò che è cambiato è la facilità di esecuzione. Un tempo realizzare un fotomontaggio credibile richiedeva generalmente abilità tecniche, pazienza e interventi manuali. Oggi alcuni sistemi generativi consentono di ottenere risultati convincenti con pochi passaggi. La riduzione delle competenze necessarie, la rapidità e la possibilità di produrre molte varianti aumentano le occasioni di abuso. Ma la tecnologia non ha inventato il desiderio di falsificare un’immagine per umiliare, ricattare o danneggiare qualcuno. Ha reso più semplice trasformare quel proposito in un contenuto.
Un caso concreto è ricostruito nell’Osservatorio di Dietro la macchina, nella scheda «Quando basta saper premere il pulsante», dedicata alla produzione di falsi nudi a partire dalle fotografie di alcune adolescenti. Questa distinzione non è una sottigliezza storica. Se attribuiamo l’origine del problema alla macchina, tenderemo a cercare la soluzione soltanto nel divieto della macchina. Se riconosciamo che il comportamento è precedente allo strumento, dobbiamo invece interrogarci anche sulla persona che decide di utilizzarlo e sulle condizioni nelle quali quella decisione diventa un’azione digitale.
Che cosa vieta davvero l’Europa
Con il Regolamento (UE) 2026/1744, che modifica la disciplina europea sull’intelligenza artificiale, l’Unione ha introdotto nuovi divieti relativi alla generazione e alla manipolazione di materiale intimo realistico non consensuale e di materiale di abuso sessuale su minori. Le nuove disposizioni dell’articolo 5 dell’AI Act si applicheranno dal 2 dicembre 2026. La normativa non si limita a indicare una categoria commerciale di «app»: definisce pratiche vietate che riguardano l’immissione sul mercato, la messa in servizio e l’uso di determinati sistemi di IA, con condizioni e delimitazioni espresse nel testo.
Il riferimento al consenso è centrale. Il problema non è la semplice esistenza di un’immagine generata artificialmente, né ogni rappresentazione del corpo umano. Il divieto riguarda, nei termini stabiliti dalla norma, rappresentazioni realistiche delle parti intime o di attività sessualmente esplicite riferite a persone riconoscibili senza il loro consenso. Il regolamento distingue anche gli usi leciti, le applicazioni che adottano adeguate garanzie e i casi di generazione accidentale. Questa precisione è importante perché una formulazione giornalistica efficace, come «l’Europa vieta le app che spogliano le fotografie», non deve far credere che qualsiasi programma capace di modificare un’immagine sia automaticamente vietato.
L’approfondimento «Una foto normale può diventare una violenza sintetica» documenta in particolare il problema delle fotografie ordinarie di minori trasformate in immagini intime artificiali. La ragione dell’intervento è evidente. Una falsa rappresentazione sessuale può circolare fra conoscenti, colleghi e familiari, essere impiegata per minacciare la persona ritratta oppure sopravvivere online anche dopo i primi tentativi di rimozione. L’inesistenza della scena rappresentata non elimina il danno. La persona riconoscibile nell’immagine deve confrontarsi con le conseguenze di qualcosa che non ha fatto e alla cui produzione non ha acconsentito. È una forma di violenza e di lesione della dignità che richiede strumenti di tutela, prevenzione e intervento.
Il divieto è dunque un passaggio importante, ma non coincide con l’impossibilità tecnica di produrre contenuti analoghi. Una norma può disciplinare sistemi, fornitori e utilizzatori; non può cancellare retroattivamente le tecniche di fotoritocco, impedire ogni impiego di software locale o eliminare automaticamente la volontà di commettere un abuso. Proprio per questo l’intervento europeo deve essere letto come una parte della risposta, non come la soluzione definitiva.
Le immagini non vengono create soltanto con applicazioni online
Quando si parla di falsi nudi generati dall’intelligenza artificiale, si immagina spesso un servizio raggiungibile da un sito: si carica una fotografia, si attende l’elaborazione e si scarica il risultato. È una modalità possibile, ma non è l’unica. Esistono programmi di grafica tradizionali, modelli generativi installabili su computer personali e combinazioni di strumenti capaci di manipolare immagini senza ricorrere a un servizio remoto. In questi casi l’elaborazione può avvenire sul dispositivo dell’utilizzatore, anche in assenza di una connessione a Internet.
Al tempo stesso, numerosi software professionali e di uso comune hanno integrato funzioni di intelligenza artificiale che dipendono da infrastrutture online. Un’applicazione può essere installata sul computer e presentarsi come un normale programma di elaborazione fotografica, mentre una parte delle sue funzioni viene eseguita su server esterni. Per utilizzarle è necessario collegarsi alla rete, autenticarsi o trasmettere dati al servizio. Il confine fra software locale e servizio remoto non coincide quindi con l’apparenza dell’interfaccia che abbiamo davanti.
Questo panorama rende poco efficace una discussione che consideri ogni abuso come il prodotto di una specifica app di «nudificazione». Un programma nato per scopi legittimi può offrire funzioni di sostituzione, generazione o modifica delle immagini. Le caratteristiche tecniche e le misure di protezione incidono sulle possibilità di impiego, ma non trasformano automaticamente ogni software di grafica in uno strumento illecito. Dobbiamo distinguere le finalità dei sistemi, le condotte degli utilizzatori e gli obblighi che la normativa attribuisce ai diversi soggetti.
Il punto decisivo è un altro: anche se un contenuto può essere prodotto offline, non per questo la rete scompare dalla vicenda. Bisogna separare il momento della creazione da quello della circolazione, perché è nella loro relazione che emerge la questione dell’accesso.
Produrre offline non significa diffondere senza collegarsi
Immaginiamo una persona che disponga di un computer sufficientemente potente e di un modello generativo installato localmente. Può prendere una fotografia, elaborarla e produrre una falsa rappresentazione intima senza inviare nulla a un servizio cloud. Nessuna applicazione online ha necessariamente partecipato alla produzione. Ma se quella persona vuole pubblicare l’immagine su un social network, caricarla su un sito oppure inviarla attraverso un servizio di messaggistica che utilizza Internet, deve accedere alla rete. La creazione può essere locale; la diffusione online richiede un collegamento.
Esistono naturalmente altre modalità di trasferimento. Un file può essere copiato su un supporto fisico, scambiato attraverso una rete locale o mostrato direttamente su un dispositivo. La regolamentazione dell’accesso a Internet non impedirebbe queste possibilità e non risolverebbe ogni abuso realizzato al di fuori della rete. Ma quando il contenuto viene immesso in un ambiente online, quando viene condiviso attraverso una piattaforma o quando raggiunge altre persone tramite un servizio remoto, esiste un passaggio di accesso all’infrastruttura di comunicazione.
In molte situazioni quel passaggio avviene persino prima. Se la manipolazione utilizza funzioni generative offerte da un servizio cloud, la connessione è necessaria durante l’elaborazione. Se invece il contenuto viene prodotto offline e pubblicato successivamente, la connessione è necessaria per la pubblicazione. Sono percorsi tecnici diversi che consentono di individuare un punto comune: l’accesso alla rete rende possibili molte delle attività attraverso le quali un abuso digitale viene preparato, realizzato o diffuso.
Da questa osservazione non deriva che basti conoscere l’intestatario di una connessione per individuare il responsabile di un illecito. Le reti possono essere condivise, i dispositivi utilizzati da altre persone e gli accessi compromessi. Né deriva che ogni comunicazione debba essere sorvegliata. La questione è più circoscritta: se l’accesso rappresenta un passaggio necessario per molte attività digitali, possiamo discutere quali requisiti di preparazione e responsabilità debbano precederlo, invece di intervenire esclusivamente sugli strumenti dopo che il danno si è verificato.
La responsabilità comincia prima dell’applicazione
È il principio sul quale si fonda la proposta di Patente Digitale sviluppata nel percorso di «Dietro la macchina». La proposta non nasce per regolamentare un singolo sistema di intelligenza artificiale, né per inseguire le applicazioni che diventano popolari in un determinato momento. Parte da una domanda più generale: perché consideriamo sufficiente il possesso di un dispositivo o di una connessione per accedere a servizi capaci di incidere sulla riservatezza, sull’identità, sulla reputazione e sui diritti di altre persone?
Saper utilizzare uno smartphone non significa conoscere le norme che tutelano le immagini altrui. Essere capaci di pubblicare una fotografia non implica comprendere che il consenso alla sua realizzazione non equivale necessariamente al consenso alla diffusione. Saper formulare una richiesta a un sistema generativo non dimostra di conoscere le conseguenze della produzione di un falso contenuto sessuale. La capacità operativa e la consapevolezza delle responsabilità sono dimensioni differenti, e la facilità d’uso delle tecnologie può rendere questa distanza ancora più evidente.
Nella vita quotidiana distinguiamo spesso fra capacità materiale e abilitazione. La capacità di guidare un veicolo non coincide automaticamente con il diritto di circolare sulle strade pubbliche. L’analogia con la patente di guida non rende Internet equivalente alla circolazione stradale: i diritti coinvolti, la struttura della rete e le conseguenze delle restrizioni sono differenti. Serve però a esprimere un principio comprensibile: alcune attività possono richiedere conoscenze verificate e obblighi definiti prima che una persona venga autorizzata a svolgerle autonomamente.
La Patente Digitale propone di affrontare l’accesso alla rete in questa prospettiva, prevedendo livelli di abilitazione collegati alle attività. Un primo livello riguarderebbe le funzioni essenziali e i servizi pubblici, un secondo gli ambienti sociali e le piattaforme di comunicazione, un terzo gli strumenti avanzati, compresi quelli di intelligenza artificiale. Non si tratterebbe di conoscere ogni programma, ma di comprendere i principi che ne governano l’uso: consenso, trattamento dei dati, diffusione dei contenuti, responsabilità delle pubblicazioni, tutela dei minori e conseguenze degli abusi.
Il rapporto fra riconoscimento dei contenuti manipolati e formazione è affrontato anche in «Riconoscere un falso diventa educazione civica», che colloca i deepfake nel quadro delle competenze necessarie per abitare consapevolmente gli ambienti digitali. La preparazione preventiva non impedirebbe a una persona di violare consapevolmente le regole. Neppure una patente di guida elimina le infrazioni. Ma stabilirebbe che l’accesso a determinate attività non dipende soltanto dalla possibilità tecnica di effettuarle. Chi ottiene un’abilitazione dovrebbe aver dimostrato di conoscere le responsabilità connesse all’utilizzo dei servizi cui accede.
Chi si connette deve essere identificabile, non automaticamente colpevole
Un modello fondato sull’abilitazione personale deve affrontare il rapporto fra identità, titolarità dei dispositivi e responsabilità. La proposta della Patente Digitale ipotizza che l’accesso sia associato a un soggetto verificato, attraverso strumenti di identificazione adeguati, e che i servizi di connessione e i dispositivi siano ricondotti a una titolarità riconoscibile. Sistemi già esistenti come SPID e CIE potrebbero costituire riferimenti per l’identificazione, ma la loro eventuale integrazione richiederebbe una disciplina specifica e una valutazione tecnica rigorosa.
Identificare il titolare di un accesso non equivale a dimostrare chi abbia compiuto ogni operazione. Una rete domestica può essere condivisa, un telefono sottratto, una credenziale rubata. Una persona può inoltre subire l’uso improprio del proprio dispositivo senza averlo autorizzato. La responsabilità per un illecito deve essere accertata attraverso elementi concreti e garanzie procedurali, non presunta soltanto sulla base di un contratto telefonico o della proprietà di un computer.
Possono esistere doveri di custodia, protezione delle credenziali e vigilanza, ma devono essere distinti dall’attribuzione della condotta materialmente realizzata da un altro soggetto. È una distinzione indispensabile se vogliamo discutere seriamente di responsabilità anziché sostituire all’anonimato una presunzione indiscriminata di colpevolezza.
Allo stesso modo, l’identificazione necessaria a rilasciare un’abilitazione non dovrebbe essere confusa con la sorveglianza permanente delle comunicazioni. Il diritto alla riservatezza, la libertà di espressione, l’accesso ai servizi essenziali e la proporzionalità delle eventuali limitazioni sono condizioni che qualsiasi proposta normativa dovrebbe rispettare. La Patente Digitale è un progetto da discutere e verificare, non una disciplina già vigente né una soluzione che possa essere adottata senza confrontarsi con questi problemi.
I minori e la responsabilità degli adulti
Il problema dell’accesso diventa particolarmente delicato quando un adulto consegna a un minore un dispositivo connesso. Non gli offre soltanto uno strumento per telefonare o inviare messaggi: può consentirgli di pubblicare contenuti, entrare in contatto con sconosciuti, utilizzare sistemi generativi e diffondere immagini di altre persone. La disponibilità materiale del dispositivo non dimostra che il minore possieda la preparazione necessaria per comprendere tutte le conseguenze di quelle attività.
La proposta della Patente Digitale prevede un accesso autonomo non prima dei quattordici anni e successivi livelli di abilitazione progressiva. Si tratta di una soglia proposta, non di una regola generale oggi esistente per l’accesso a Internet. La sua eventuale introduzione dovrebbe confrontarsi con i diritti dei minori, le esigenze scolastiche, l’accesso ai servizi pubblici e le diverse forme di accompagnamento educativo.
Il principio che interessa qui è la responsabilità di chi consente l’accesso. Un genitore non esaurisce il proprio compito acquistando uno smartphone o attivando una SIM. Deve conoscere almeno le possibilità offerte dal dispositivo e accompagnare il figlio nell’apprendimento delle regole. Ciò non significa attribuire automaticamente all’adulto la responsabilità penale delle azioni del minore: significa distinguere la responsabilità educativa e gli eventuali obblighi di vigilanza dalla responsabilità personale per il comportamento materialmente compiuto.
A questo aspetto abbiamo dedicato lo studio «La fotografia che non abbiamo mai scattato», che esamina lo sharenting, l’identità dei minori e la manipolazione delle immagini. Questa distinzione vale anche per lo sharenting, la pubblicazione delle immagini dei figli da parte degli adulti. Esporre una fotografia può aumentarne la circolazione e la possibilità che venga riutilizzata, ma non rende il genitore colpevole della manipolazione illecita compiuta da un estraneo. La decisione di pubblicare e la decisione di abusare dell’immagine appartengono a soggetti e condotte differenti. E soprattutto, la persona ritratta non perde alcun diritto soltanto perché una sua fotografia era accessibile online.
Non confondiamo la macchina con chi decide di usarla
Nel linguaggio quotidiano diciamo spesso che un’applicazione ha «spogliato» una fotografia, che un algoritmo ha creato un’immagine compromettente o che l’intelligenza artificiale ha diffuso un falso. Sono scorciatoie linguistiche comprensibili, ma possono spostare l’attenzione dal comportamento umano alla tecnologia. Quando un abuso è intenzionale, qualcuno seleziona l’immagine, richiede o realizza la manipolazione e decide come utilizzare il risultato. Il sistema può eseguire operazioni sofisticate, ma non per questo la decisione dell’utilizzatore scompare.
Questo non significa negare gli obblighi dei fornitori o le responsabilità che possono derivare dalla progettazione, dalla distribuzione e dalla gestione dei sistemi. Esistono anche errori, generazioni accidentali e situazioni nelle quali le responsabilità devono essere ricostruite fra più soggetti. Ma quando una persona utilizza deliberatamente uno strumento per umiliarne un’altra, non è corretto descrivere l’abuso come se fosse una scelta autonoma della macchina.
La responsabilità della condotta non può essere trasferita automaticamente sul programma. La disponibilità di una funzione non costituisce un’autorizzazione a utilizzarla in qualsiasi modo. È proprio questa conoscenza che una preparazione digitale dovrebbe rendere esplicita prima dell’accesso, senza attendere che la persona la scopra soltanto dopo una denuncia o una sanzione.
Il divieto non chiude la discussione
L’intervento europeo contro i sistemi che generano materiale intimo non consensuale risponde a una necessità concreta. Ma il fenomeno che intende contrastare non nasce con quelle applicazioni e non scomparirà necessariamente insieme a esse. La storia della manipolazione fotografica, la disponibilità di software locale e la crescente integrazione di funzioni generative nei programmi di uso comune mostrano perché non sia sufficiente identificare un particolare strumento come origine del problema.
La Patente Digitale propone di aggiungere un livello di prevenzione che riguarda le persone. Non pretende di controllare ogni computer, né di impedire materialmente ogni produzione offline. Non sostituisce i divieti, le sanzioni o le tutele delle vittime. Chiede però di considerare l’accesso alla rete come un’attività alla quale associare conoscenze, abilitazioni e responsabilità, invece di ridurre tutto alla disponibilità tecnica di una connessione.
Un contenuto può nascere lontano da Internet, ma per essere pubblicato attraverso Internet qualcuno deve collegarsi. È in quel passaggio, e nelle attività che lo precedono o lo seguono, che la responsabilità umana torna visibile. Non sempre il titolare dell’accesso coincide con l’autore dell’abuso; non ogni illecito può essere prevenuto attraverso una certificazione. Ma nessuna di queste difficoltà giustifica l’idea che l’unico soggetto da regolamentare sia il software.
Le applicazioni cambiano, le tecniche si evolvono e i divieti devono adeguarsi. La domanda che rimane è più stabile: quali conoscenze e quali responsabilità devono accompagnare la persona che entra in rete? È da questa domanda che nasce la Patente Digitale. Ed è da qui, prima ancora che dalla prossima applicazione da vietare, che dovrebbe cominciare il confronto.
Fonti e approfondimenti
Il testo normativo. Il Regolamento (UE) 2026/1744, pubblicato nella Gazzetta ufficiale dell’Unione europea il 24 luglio 2026, modifica fra l’altro l’articolo 5 del Regolamento (UE) 2024/1689, noto come AI Act. Il nuovo divieto riguarda, alle condizioni precisate dalla norma, l’immissione sul mercato, la messa in servizio o l’uso di sistemi di IA che generano o manipolano rappresentazioni intime realistiche di persone riconoscibili senza il consenso richiesto. Il testo distingue le pratiche vietate dagli usi leciti e specifica le garanzie e le eccezioni rilevanti. È la fonte primaria per verificare la portata del divieto, senza affidarsi alla sola formula giornalistica delle «app vietate».
La data di applicazione e la spiegazione istituzionale. Il servizio informativo ufficiale della Commissione europea sull’AI Act conferma che i nuovi divieti relativi al materiale intimo non consensuale e al materiale di abuso sessuale su minori si applicano dal 2 dicembre 2026. Il comunicato del Consiglio dell’Unione europea del 29 giugno 2026 illustra il provvedimento e il suo inserimento nella revisione delle norme sull’intelligenza artificiale.
La notizia da cui parte il redazionale. Laura Avalle, «Ti basta una foto su Facebook per ritrovarti nuda online: l’Europa ora vieta le app che lo fanno», MondoSanità, 7 ottobre 2026. L’articolo richiama i rischi per le persone ritratte, le conseguenze della circolazione dei contenuti manipolati e i limiti delle sole misure tecniche. È il punto di partenza giornalistico di questa riflessione, non la fonte giuridica del divieto.
Il percorso editoriale di Inchiostrati. La Patente Digitale è una proposta sviluppata all’interno di Dietro la macchina. L’idea di livelli di abilitazione, della preparazione preventiva e della responsabilità del titolare dell’accesso appartiene a questo percorso di studio e non descrive obblighi oggi previsti dalla legge. I temi dell’esposizione delle immagini dei minori e della responsabilità degli adulti sono affrontati anche negli approfondimenti sullo sharenting e sull’ecologia dell’informazione presenti nel progetto.