Un sistema di raccomandazione non ha bisogno di sapere chi siamo nel senso in cui lo saprebbe una persona che ci conosce. Gli basta osservare tracce sufficienti del nostro comportamento per formulare previsioni: quali contenuti abbiamo aperto, quanto tempo vi abbiamo trascorso, quali abbiamo ignorato, quali persone seguiamo, su quali argomenti torniamo più spesso. Da queste regolarità può stimare che cosa abbia maggiore probabilità di interessarci e utilizzare quella stima per ordinare ciò che ci propone. La personalizzazione nasce da questa operazione, che possiede un’utilità evidente: davanti a una quantità di contenuti impossibile da esaminare interamente, selezionare ciò che appare più pertinente riduce il rumore e rende l’ambiente utilizzabile. Il problema non sta quindi nell’esistenza della raccomandazione, ma nel rapporto che si crea fra la previsione del sistema e il comportamento sul quale quella previsione viene continuamente aggiornata.
È importante distinguere subito una previsione da una conoscenza della persona. Se apro tre articoli sullo stesso argomento, il sistema può ricavare un segnale utile; non sa però necessariamente perché li abbia aperti. Potrei essere interessato, indignato, incuriosito, professionalmente obbligato a leggerli oppure semplicemente incapace di resistere a un titolo irritante. Anche il tempo trascorso davanti a un contenuto è interpretabile in modi differenti: posso soffermarmi perché lo considero eccellente oppure perché non riesco a credere a ciò che sto leggendo. I comportamenti digitali sono osservabili con grande precisione, ma il loro significato non è sempre altrettanto trasparente.
Questa differenza diventa ancora più importante se distinguiamo ciò che attira effettivamente la nostra attenzione da ciò che vorremmo attirasse la nostra attenzione. Un esperimento pubblicato su Scientific Reports, condotto su migliaia di partecipanti, ha confrontato raccomandazioni costruite sulle preferenze effettivamente manifestate con raccomandazioni orientate verso le preferenze che le persone dichiaravano di voler avere. I partecipanti cliccavano leggermente meno sulle seconde, ma giudicavano più positivamente il tempo trascorso e l’esperienza ricevuta. Il risultato non dimostra che esista un unico modo “migliore” di raccomandare contenuti; mostra però qualcosa di più elementare: ciò che scegliamo più facilmente non coincide necessariamente con ciò che consideriamo migliore per noi.
Un sistema che utilizza prevalentemente il comportamento passato incontra quindi un problema particolare. Per prevedere ciò che probabilmente faremo, deve attribuire valore proprio alle azioni che abbiamo già compiuto; se quelle azioni vengono poi utilizzate per decidere che cosa mostrarci, la previsione contribuisce a modificare l’ambiente nel quale avverranno le azioni successive. Non osserva più soltanto un comportamento indipendente: osserva anche la risposta a un insieme di possibilità che ha contribuito a ordinare.
Immaginiamo un utente che, per ragioni del tutto casuali, apra due contenuti dedicati allo stesso argomento. Se il sistema considera quell’interazione un segnale d’interesse, può proporre un terzo contenuto simile. L’utente lo apre; il nuovo clic rafforza il segnale iniziale e rende plausibile una quarta raccomandazione. Non sappiamo ancora se l’interesse originario fosse forte, debole o momentaneo, ma il sistema dispone ora di quattro comportamenti coerenti. Se continua a utilizzare quei comportamenti come indicazione delle preferenze future, una scelta iniziale può acquistare progressivamente un peso che non possedeva quando è avvenuta.
Questo tipo di relazione viene descritto, nei sistemi di raccomandazione, come ciclo di retroazione, o feedback loop: l’uscita del sistema modifica l’ambiente dal quale arriveranno i dati successivi, e quei nuovi dati vengono utilizzati per produrre nuove uscite. La circolarità non implica automaticamente che le preferenze si restringano o che il sistema finisca inevitabilmente per radicalizzarle. Uno studio sperimentale sui sistemi di raccomandazione delle notizie ha mostrato, per esempio, che il risultato dipende anche da ciò che il sistema è progettato per mettere in evidenza: raccomandazioni che aumentavano la visibilità dei contenuti coerenti con l’atteggiamento del lettore favorivano l’esposizione selettiva, mentre raccomandazioni costruite per rendere più visibili contenuti discordanti potevano ridurla. L’algoritmo, quindi, non possiede una direzione inevitabile; parte della direzione dipende dall’obiettivo incorporato nel sistema.
La cautela è importante perché una descrizione troppo semplice trasformerebbe ogni personalizzazione in una macchina destinata a chiuderci progressivamente dentro noi stessi. La ricerca non consente una conclusione così generale. Anche gli studi che modellano la possibilità di una deriva delle preferenze sottolineano la necessità di distinguere fra sistemi, obiettivi, metriche e dinamiche temporali; misurare l’influenza di una raccomandazione sulle preferenze nel lungo periodo rimane più difficile che osservare quali contenuti vengono mostrati o cliccati nel breve.
Resta però una caratteristica del circuito che merita attenzione: il sistema può finire per interpretare come preferenza una risposta avvenuta dentro un ambiente che esso stesso ha contribuito a costruire. Se mi vengono presentati dieci contenuti e ne scelgo uno, il dato registrato è la mia scelta; non contiene automaticamente l’informazione relativa agli altri mille contenuti che non mi sono mai stati mostrati. Il sistema conosce bene ciò che ho fatto fra le alternative disponibili, molto meno ciò che avrei fatto davanti ad alternative assenti. La personalizzazione può quindi diventare sempre più accurata nel prevedere il nostro comportamento dentro un perimetro già personalizzato, senza che questo significhi necessariamente una conoscenza altrettanto accurata dell’intera gamma dei nostri interessi.
Quando la personalizzazione rende alcuni contenuti progressivamente più presenti e altri meno probabili da incontrare, viene spesso utilizzata l’espressione filter bubble, bolla di filtraggio, resa popolare da Eli Pariser. La metafora è efficace, ma può suggerire una parete costruita interamente dall’esterno attorno a un utente passivo. Le ricerche descrivono un quadro meno semplice. Uno studio pubblicato su Science nel 2015 da Eytan Bakshy, Solomon Messing e Lada Adamic ha osservato che l’ordinamento algoritmico contribuiva a ridurre l’esposizione a contenuti politicamente discordanti fra gli utenti Facebook esaminati, ma ha rilevato anche un peso importante delle scelte individuali nel determinare quali contenuti venivano effettivamente letti.
L’utente, quindi, non subisce soltanto la selezione: contribuisce a comporla scegliendo chi seguire, che cosa aprire, quali gruppi frequentare e quali fonti considerare affidabili. Il sistema può utilizzare quelle scelte come nuovi segnali e restituirle sotto forma di ulteriori selezioni. La bolla non deve perciò essere immaginata necessariamente come qualcosa costruito intorno a noi da un soggetto esterno; può emergere dall’interazione fra le nostre decisioni e il modo in cui il sistema le utilizza.
Una dinamica diversa riguarda invece le relazioni fra le persone. Gruppi relativamente omogenei possono condividere fonti, interpretazioni e convinzioni che ritornano attraverso soggetti differenti, acquistando familiarità e apparendo sempre più diffuse all’interno di quell’ambiente. Questa dinamica viene indicata con l’espressione echo chamber, camera dell’eco. Filter bubble ed echo chamber non sono sinonimi: nella prima è centrale la selezione personalizzata di ciò che viene mostrato, nella seconda la circolazione sociale delle convinzioni. Possono esistere separatamente oppure rafforzarsi a vicenda.
Anche le camere dell’eco non si manifestano allo stesso modo in ogni piattaforma. L’analisi di Matteo Cinelli e colleghi, pubblicata nel 2021, ha rilevato dinamiche differenti fra Facebook, Twitter, Reddit e Gab; la struttura delle relazioni, il modo in cui i contenuti circolano e le caratteristiche dei singoli ambienti digitali incidono quindi sulla forma che il fenomeno può assumere. Parlare genericamente di «social» rischia di nascondere differenze che, per comprendere la selezione dell’informazione, sono sostanziali.
Qui la metafora dello specchio digitale acquista un significato preciso. Uno specchio comune restituisce ciò che gli sta davanti senza conservare memoria dello sguardo precedente; un sistema adattivo, invece, può utilizzare ciò che abbiamo fatto ieri per decidere una parte di ciò che incontreremo oggi. Ciò che restituisce non è quindi soltanto un riflesso: è un riflesso costruito anche sulla storia delle nostre interazioni. Chiamarlo “specchio” non significa attribuire intenzioni al sistema, ma ricordare che l’immagine che riceviamo deriva in parte da segnali prodotti da noi stessi.
La metafora diventa problematica se dimentichiamo la seconda metà del processo. Non siamo gli unici a modificare lo specchio; ciò che lo specchio restituisce può modificare noi. La ricerca sulle interazioni fra esseri umani e sistemi di intelligenza artificiale offre esempi sperimentali di questa circolarità. In una serie di studi pubblicati su Nature Human Behaviour, Moshe Glickman e Tali Sharot hanno osservato che piccoli bias presenti nelle interazioni fra persone e sistemi artificiali potevano essere amplificati dal sistema e successivamente interiorizzati dai partecipanti, producendo nel tempo giudizi umani più distorti. Gli esperimenti non riguardano direttamente il funzionamento ordinario di un feed sociale e non devono essere utilizzati come prova che ogni raccomandazione produca lo stesso effetto; mostrano però che, in determinate condizioni, l’influenza può procedere in entrambe le direzioni: l’essere umano fornisce dati al sistema e il comportamento del sistema può successivamente influenzare l’essere umano.
Una relazione bidirezionale rende insufficiente la domanda «chi sta influenzando chi?». In un circuito, la causa non deve trovarsi interamente da una parte. Una scelta umana può fornire il segnale iniziale; il sistema può amplificarne la presenza attraverso la raccomandazione; la maggiore esposizione può rendere più probabile una nuova interazione; quella interazione diventa un segnale aggiuntivo. Non serve che nessuno abbia progettato esplicitamente il risultato finale perché il risultato emerga dalla sequenza delle interazioni.
La stessa logica permette di osservare con maggiore precisione ciò che chiamiamo preferenza. Una preferenza non è necessariamente un oggetto stabile che esiste già completo dentro di noi e che il sistema si limita a scoprire. Cambia nel tempo, risponde alle esperienze, può dipendere dal contesto e può contenere contraddizioni: possiamo desiderare una cosa e cliccarne abitualmente un’altra; possiamo dichiarare di volerci informare con calma e dedicarci soprattutto a contenuti che provocano una reazione immediata; possiamo considerare importante incontrare opinioni diverse e, nel momento concreto della scelta, preferire quelle che richiedono meno fatica.
La personalizzazione lavora soprattutto con ciò che può osservare. Se il comportamento visibile prevale sulle intenzioni non osservabili, il sistema può diventare molto bravo a soddisfare la parte di noi che reagisce più facilmente. Non è necessario attribuire alla piattaforma un progetto di manipolazione perché emerga una tensione fra ciò che cattura l’attenzione e ciò che consideriamo desiderabile. La revisione della letteratura sulle esperienze personalizzate nei social mostra infatti un quadro nel quale la personalizzazione offre rilevanza e comodità, ma solleva contemporaneamente problemi di autonomia, controllo dell’utente e diversità delle informazioni disponibili.
Anche la popolarità può entrare nel circuito. Un contenuto che riceve molta attenzione può ottenere maggiore visibilità; la maggiore visibilità gli offre nuove occasioni di ricevere attenzione, rendendo difficile separare completamente la popolarità originaria da quella prodotta dalla stessa esposizione. Il fenomeno non è esclusivo dei social network e viene studiato da tempo nei sistemi nei quali le scelte precedenti diventano segnali per le scelte successive. La conseguenza non è che ciò che diventa popolare sia necessariamente mediocre o falso; è che visibilità e qualità non sono sinonimi, perché una parte della visibilità può alimentarsi della visibilità già ottenuta. Anche in ambiti diversi dai social, la letteratura sui sistemi di raccomandazione descrive questi circuiti auto-rinforzanti e la possibilità che gli elementi già prominenti ricevano ulteriori vantaggi di esposizione.
Lo specchio digitale, quindi, non possiede soltanto memoria: possiede una capacità di selezione che risponde ai segnali ricevuti, mentre i segnali successivi vengono prodotti dentro la selezione precedente. Non conosce necessariamente ciò che siamo; costruisce una rappresentazione operativa sufficientemente utile a prevedere alcune delle nostre azioni. Se quella rappresentazione funziona, viene confermata dalle azioni che riesce a prevedere; ciò che rimane fuori dalla previsione può avere meno occasioni di apparire e quindi meno occasioni di generare nuovi dati.
Il rischio non consiste soltanto nel ricevere sempre la stessa opinione. Può essere più elementare: diventare sempre più leggibili attraverso una parte soltanto di noi stessi. Un sistema può conoscere molto bene le nostre regolarità senza conoscere le nostre contraddizioni; può prevedere ciò che cliccheremo senza sapere ciò che avremmo voluto leggere, ciò che ci avrebbe sorpreso, ciò che avremmo scoperto utile soltanto dopo averlo incontrato.
Diffidare del proprio specchio digitale non significa quindi presumere che il riflesso sia falso. Significa ricordare come è stato costruito: una parte deriva da ciò che abbiamo fatto, una parte dalle possibilità che ci sono state offerte, una parte dai criteri utilizzati per ordinarle. Confondere quel riflesso con una descrizione completa di noi stessi sarebbe attribuire alla previsione più di quanto possa realmente sapere.
E potrebbe essere proprio la precisione apparente dello specchio a renderlo rassicurante: riconosciamo quasi tutto ciò che ci restituisce perché, in larga misura, proviene da noi. Il problema comincia quando ciò che riconosciamo così facilmente smette di sembrarci una selezione e assume l’aspetto naturale di ciò che siamo, di ciò che ci interessa e, infine, di ciò che esiste.