La fantascemenza implicita nel watermark

Un contrassegno statistico può segnalare la provenienza artificiale di un testo. Ma quale danno impedisce, quale responsabilità identifica e quale beneficio pubblico dimostra?

La sicurezza che comincia dopo

Una persona decide di diffamare qualcuno. Prepara una serie di testi falsi, li distribuisce attraverso account social, gruppi e mailing list, e nel giro di pochi minuti raggiunge migliaia di destinatari. Può aver scritto tutto da sola, può aver utilizzato un programma di videoscrittura, può aver incaricato altre persone oppure può essersi servita di un modello linguistico. Il danno non cambia natura in funzione dello strumento impiegato. La reputazione della vittima viene colpita dalle affermazioni e dalla loro circolazione, non dalla genealogia tecnica delle frasi.

Ora immaginiamo che il modello abbia inserito un watermark statistico nel testo. Che cosa accade? La campagna può essere preparata e pubblicata ugualmente. Il marchio non impedisce l’atto diffamatorio, non valuta la verità delle dichiarazioni e non arresta automaticamente la loro circolazione. Se viene rilevato dopo la diffusione, non fa scomparire le copie, gli screenshot, gli inoltri e le conseguenze già prodotte. Identificare una possibile provenienza tecnica non significa impedire un comportamento né ripararne il danno.

È da questa distanza fra ciò che la tecnologia fa e ciò che si sostiene possa risolvere che nasce la fantascemenza del titolo. Non è un’accusa all’ingegneria del watermark: è una critica al salto logico che trasforma una possibilità di riconoscimento in una promessa di sicurezza.

Un contrassegno che non giudica

Il watermark testuale non è necessariamente un simbolo visibile, un carattere nascosto o una firma crittografica che identifica l’autore. I sistemi descritti da OpenAI e Anthropic introducono segnali statistici nella generazione delle parole, che un rilevatore compatibile può cercare di riconoscere. La loro presenza non rivela chi abbia formulato il ragionamento, chi abbia verificato le fonti o chi si assuma la responsabilità del testo. È una distinzione già emersa nel caso del testo del 2021 accusato di essere stato scritto dall’IA, nel quale un rilevatore attribuiva un’origine artificiale a un contenuto precedente alla diffusione dei chatbot generativi. La loro assenza, a sua volta, non prova che il testo sia umano o che non sia mai intervenuta un’intelligenza artificiale.

Qui si consuma il primo equivoco: si chiama in causa la trasparenza come se fosse sinonimo di affidabilità. Ma un contenuto correttissimo può contenere il marchio, mentre una menzogna costruita da esseri umani può non contenerlo. Il watermark non distingue il vero dal falso, il lecito dall’illecito e il responsabile dall’irresponsabile. Quando funziona, fornisce un’indicazione circoscritta sul processo tecnico di produzione. È una differenza sostanziale, perché nessun lettore può ricavare da quell’indicazione la qualità intellettuale o morale di ciò che legge.

Il problema non è nemmeno che una misura debba necessariamente impedire ogni abuso per avere valore. Il punto è più preciso: se si vuole presentare la marcatura come una risposta ai danni informativi, occorre dimostrare quale risultato ulteriore, verificabile e proporzionato produca rispetto agli strumenti già esistenti. Ripetere che permette di riconoscere l’IA significa descriverne la funzione, non misurarne l’efficacia.

Che cosa impone davvero la norma

L’articolo 50 dell’AI Act europeo impone ai fornitori di sistemi capaci di generare contenuti sintetici una marcatura leggibile dalle macchine, nei limiti della fattibilità tecnica, senza prescrivere il watermark statistico come unica soluzione. La norma prevede eccezioni, fra cui i sistemi che svolgono funzioni di editing ordinario o non modificano sostanzialmente il materiale fornito. Su un piano diverso, per la pubblicazione di testi riguardanti questioni di interesse pubblico, l’obbligo di dichiarare l’origine artificiale conosce un’eccezione quando vi siano revisione umana o controllo editoriale e una responsabilità editoriale identificabile.

Questo particolare conta. Lo stesso ordinamento riconosce che la responsabilità della pubblicazione non coincide con il processo materiale attraverso il quale ogni frase è stata prodotta. E tuttavia, sul piano tecnico, pretende che i fornitori rendano possibile riconoscere l’intervento artificiale. La distinzione può essere spiegata giuridicamente: si tratta di obblighi riferiti a soggetti e momenti differenti. Resta però aperta la domanda sulla loro utilità sostanziale.

Nel considerando 133 il legislatore associa la difficoltà di riconoscere contenuti sintetici a rischi di manipolazione, disinformazione, frode e impersonificazione. È una motivazione politica esplicita, non un risultato sperimentale. Dal fatto che una tecnologia possa produrre contenuti ingannevoli non consegue che ogni contenuto prodotto con quella tecnologia sia ingannevole; e dal fatto che si possa riconoscere una modalità di produzione non consegue che si possano prevenire gli inganni compiuti attraverso quella modalità.

Il paradosso della pubblicazione

Supponiamo allora di affidare alle piattaforme il compito di leggere ogni watermark prima della pubblicazione. Che cosa dovrebbero farne? Se lo usassero per bloccare automaticamente i testi contrassegnati, colpirebbero anche articoli accurati, saggi, romanzi e comunicazioni lecite. Nel frattempo, un testo diffamatorio scritto senza IA supererebbe quel filtro. Avremmo costruito un criterio selettivo basato sul mezzo, non sulla condotta.

Se invece la piattaforma continuasse a pubblicare normalmente i testi marcati, il contrassegno non inciderebbe sull’azione fraudolenta. Per valutarne la liceità servirebbero controlli ulteriori sul contenuto, sul contesto e sulle modalità di distribuzione: precisamente quegli elementi sui quali già si fondano la moderazione e l’indagine. Alcune applicazioni circoscritte della provenienza possono avere interesse tecnico, ma non giustificano automaticamente la pretesa che la marcatura generalizzata risolva il problema della sicurezza digitale.

La distribuzione rende il problema ancora più evidente. Una campagna dannosa può raggiungere rapidamente destinatari diversi e lasciare copie difficilmente eliminabili. Il riconoscimento tardivo di un segnale non annulla il passato. Rimozioni e smentite possono contenere ulteriori conseguenze, e le indagini possono accertare responsabilità; ma queste azioni non dipendono necessariamente dalla presenza di un watermark e non restituiscono automaticamente alla vittima ciò che ha perduto.

La responsabilità non abita nello strumento

Chi pubblica un’affermazione deve rispondere della pubblicazione secondo le regole applicabili. Sapere che è stato utilizzato un modello linguistico non trasferisce la responsabilità al modello. Non si processa un insieme di pesi statistici come si processa una persona, e non si ricava l’autore di una diffamazione dalla semplice presenza di un segnale di generazione.

Vale anche il ragionamento inverso. Se un autore usa l’IA per rivedere un testo, confrontare argomenti o produrre una bozza, ciò non dimostra né che abbia delegato il proprio giudizio né che il risultato sia privo di valore. Il criterio intellettuale rimane la capacità di conoscere ciò che si sostiene, verificarlo, argomentarlo e assumersene la responsabilità. Questa capacità non è attestata da una firma tecnica e non viene negata da un watermark.

La firma di un autore e la tracciabilità di un processo non sono la stessa cosa. La responsabilità editoriale resta centrale anche nella nostra riflessione su chi controlla chi controlla l’IA. Nessuna delle due, da sola, garantisce la verità; ma è la persona che pubblica, non lo strumento, a dover rendere conto delle affermazioni presentate al pubblico.

La filiera della conformità

Rimane il problema economico. Come abbiamo già ironizzato nell’articolo Dopo i corsi AI, il certificato di umanità, ogni nuova esigenza di attestazione può trasformarsi in un mercato. Quando un obbligo normativo impone una nuova prestazione tecnica, produce anche una domanda: occorrono sistemi per implementarla, rilevarla, documentarla, integrarla nei processi e verificarne la conformità. Le aziende che sviluppano modelli devono rispettare la norma; altri soggetti possono costruire servizi intorno al rispetto della norma stessa. Non occorre che la marcatura impedisca una singola diffamazione perché esista un interesse economico ad attivare quella filiera.

Questa è una conseguenza strutturale plausibile, non ancora la dimostrazione di un accordo occulto fra legislatori e industria. Per attribuire intenzioni o pressioni specifiche servirebbero documenti, consultazioni, incarichi, contratti e dati di mercato. Il nostro metodo non può sostituire la prova con il sospetto. Può però formulare una domanda precisa: chi beneficia economicamente di un requisito di cui non è stata ancora dimostrata, per i testi ordinari, la necessità rispetto ai problemi evocati?

Una conformità perfettamente verificabile può convivere con un beneficio pubblico modesto o non accertato. E quando la misura di successo diventa il numero dei contenuti marcati, anziché il numero dei danni effettivamente evitati, il rischio è di scambiare l’efficienza di una procedura per l’efficacia della politica che l’ha resa obbligatoria.

La fantascemenza, infine

Non è necessario immaginare legislatori incapaci né attribuire loro una volontà segreta per riconoscere una contraddizione. Possiamo costruire una tecnologia sofisticata, renderla obbligatoria e certificare che funzioni correttamente, senza aver risposto alla domanda per la quale l’abbiamo introdotta. L’operazione è tecnicamente coerente e può risultare amministrativamente impeccabile; ciò non la rende, per questo, socialmente necessaria.

Il controllo della provenienza può aggiungere un dato. Non aggiunge automaticamente comprensione. Possiamo sapere che una macchina è intervenuta nella produzione di un testo e continuare a non sapere se quel testo sia vero, utile, diffamatorio, manipolatorio o degno di fiducia. Possiamo perfino imparare a riconoscere sempre meglio gli strumenti utilizzati e perdere, nel frattempo, l’abitudine a giudicare gli argomenti.

Ecco allora la domanda che questo editoriale lascia aperta, deliberatamente rivolta ai promotori dell’obbligo: quale danno concreto viene impedito grazie al watermark testuale che non potremmo contrastare con gli strumenti già disponibili? E quali risultati dimostrano che il suo beneficio pubblico giustifica l’infrastruttura economica e tecnica necessaria a mantenerlo?

Finché la risposta sarà soltanto «permette di riconoscere che è stata usata l’IA», avremo descritto una caratteristica tecnica. Non avremo spiegato perché fosse necessario imporla. La fantascemenza implicita nel watermark è precisamente questa: pretendere di aver risolto un problema perché siamo riusciti a etichettare lo strumento con cui quel problema può essere creato.

Fonti e delimitazione dell’analisi

Il quadro normativo deriva dall’articolo 50 dell’AI Act e dal considerando 133. Il funzionamento e i limiti dichiarati dei contrassegni testuali sono descritti in OpenAI, Our approach to EU text provenance rules (5 ottobre 2026) e Anthropic, How Claude’s text watermark works (14 agosto 2026). Le affermazioni sull’efficacia non dimostrata come prevenzione generale e sugli incentivi di mercato sono valutazioni critiche editoriali: non costituiscono prove di intenti occulti né una misurazione sperimentale dell’inefficacia di tutti i watermark.

Nota tecnica di autorialità rigorosamente certificata

Il presente testo è stato prodotto per il 15,233% mediante intelligenza artificiale e per il 18,54% con Microsoft Word e il suo correttore ortografico. Il resto è stato analizzato con Grammarly e successivamente inserito in Scrivener. Il firmatario si è infine dichiarato soggetto passivo, incapace di digitare sulla tastiera e di leggere sul monitor con frequenza di aggiornamento a 60 hertz.

Nota satirica: percentuali, qualifiche e certificazioni qui riportate sono deliberatamente inventate.