Un mercato di conversazioni artificiali, clienti paganti e innamorati inesistenti. Ma la vera protagonista non è la tecnologia: è una risorsa umana molto più antica e commercialmente redditizia.
L’intelligenza artificiale non ha inventato gli stupidi
Oltre 4.700 identità artificiali, almeno 25.000 persone coinvolte e circa 2,36 milioni di messaggi in appena due settimane. Sono i numeri di un’attività individuata da Anthropic e descritta nel suo rapporto del settembre 2026: una rete di oltre venti applicazioni di incontri, gestite da uno studio con sede in Cina, che utilizzava l’intelligenza artificiale per simulare persone interessate a conversazioni e relazioni sentimentali. Per continuare a parlare con questi presunti interlocutori, gli utenti dovevano acquistare crediti. Una macchina commerciale perfettamente comprensibile: qualcuno costruiva le identità, qualcun altro programmava le conversazioni e i clienti pagavano per mantenerle in vita.
La notizia è stata presentata prevalentemente come un esempio dei pericoli dell’intelligenza artificiale, della capacità delle macchine di ingannare gli esseri umani e della necessità di nuove forme di protezione. Naturalmente, l’inganno esiste e chi lo organizza ne porta la responsabilità. Ma c’è un altro elemento che meriterebbe almeno altrettanta attenzione: l’esistenza di un mercato nel quale si spende denaro per inseguire una promessa di interesse sentimentale costruita attraverso uno schermo. La domanda, dunque, non è soltanto come sia possibile fabbricare migliaia di innamorati inesistenti, ma perché un’attività del genere possa diventare economicamente conveniente. La risposta potrebbe risultare sgradevole, soprattutto in una società che sembra aver sviluppato un’infinita disponibilità a giustificare qualsiasi comportamento umano: la stupidità è una risorsa commerciale. E qualcuno ha imparato a sfruttarla molto bene.
L’intelligenza sta dalla parte di chi incassa
Costruire un sistema capace di simulare migliaia di conversazioni sentimentali richiede competenze tecniche, organizzazione, investimenti, capacità di analisi del mercato e conoscenza dei comportamenti umani. Chi ha organizzato questa attività non ha improvvisato. Ha individuato una domanda, costruito un’offerta, automatizzato il servizio e collegato la sua erogazione a un sistema di pagamento. È un modello imprenditoriale razionale, se lo si considera esclusivamente sotto il profilo economico. È ingannevole nella sua realizzazione, ma la logica commerciale è chiarissima.
In questo mercato, l’intelligenza di chi vende non deve necessariamente corrispondere a quella di chi compra. Anzi, il meccanismo può diventare particolarmente redditizio quando il cliente rinuncia a interrogarsi sulla natura, sul valore e sulla credibilità di ciò che sta acquistando. L’intelligenza artificiale ha reso possibile produrre su scala industriale qualcosa che esisteva già: la finzione di un interesse personale utilizzata per ottenere denaro. Il suo contributo è stato soprattutto economico e organizzativo. Non occorre più impiegare una persona per ogni conversazione, né interrompere il servizio quando un operatore termina il proprio turno. La macchina può continuare a rispondere, alimentare aspettative e consumare crediti. E mentre molti si interrogano sulla capacità dell’intelligenza artificiale di comprendere i sentimenti umani, qualcuno ha già compreso una cosa molto più semplice: non è necessario che la macchina provi sentimenti. È sufficiente che il cliente continui a pagare.
La solitudine non è una ricevuta di assoluzione
Quando emergono casi simili, arriva puntualmente il repertorio delle spiegazioni psicologiche: la solitudine, il bisogno di affetto, la difficoltà di costruire relazioni, la ricerca di approvazione, la fragilità emotiva. Tutti fenomeni che possono esistere e meritano di essere studiati. Ma riconoscerne l’esistenza non significa doverli trasformare automaticamente in giustificazioni. La solitudine non è stata inventata dall’intelligenza artificiale, il bisogno di essere amati non è nato con le applicazioni di incontri e la difficoltà di stabilire relazioni personali accompagna la storia umana da molto prima degli smartphone. Non ogni persona sola acquista attenzioni sentimentali, non ogni persona che desidera affetto paga per ottenerne una simulazione e non ogni difficoltà personale conduce a rinunciare al proprio giudizio. È proprio questa differenza a meritare attenzione.
Anche l’inganno, per quanto reale e censurabile, non dovrebbe interrompere qualsiasi riflessione sul comportamento di chi vi cade. La responsabilità di chi inganna e la valutazione delle scelte di chi viene ingannato sono questioni distinte. Riconoscere la prima non obbliga a rinunciare alla seconda. Possiamo criticare un’organizzazione che vende relazioni inesistenti senza dover considerare intelligente ogni comportamento dei suoi clienti; e possiamo riconoscere che una persona è stata ingannata senza trasformare automaticamente ogni sua decisione in una manifestazione di ragionevolezza. Sembra un’ovvietà, ma viviamo in un’epoca nella quale persino chiamare stupido un comportamento richiede una lunga premessa per rassicurare qualcuno che non stiamo negando l’esistenza delle emozioni umane.
Quando la stupidità diventa una risorsa economica
Su Inchiostrati abbiamo già affrontato il rapporto tra stupidità umana e modelli commerciali dei social network nell’articolo I social network esistono perché esistono gli idioti. La questione è meno complicata di quanto appaia: una parte di questi sistemi prospera sfruttando comportamenti umani che esistevano molto prima delle piattaforme digitali: esibizionismo, credulità, vanità, competizione, ricerca continua di approvazione. La tecnologia non ha inventato queste caratteristiche. Ha imparato a riconoscerle, misurarle e convertirle in ricavi. Lo abbiamo osservato anche studiando i profili artificiali che raccolgono migliaia di seguaci su Facebook. Il principio economico è semplice. Se esiste una quantità sufficiente di consumatori disposti a spendere per qualcosa, qualcuno troverà conveniente vendergliela. Se quei consumatori non valutano adeguatamente ciò che acquistano, l’impresa può perfino ridurre lo sforzo necessario a dimostrarne la qualità.
Non serve convincere il cliente che il prodotto sia realmente utile quando la sua disponibilità a pagare prescinde dall’utilità. Non serve garantire una relazione autentica quando ciò che viene monetizzato è l’aspettativa di ottenerla. È qui che la stupidità, intesa come rinuncia all’esercizio del giudizio, smette di essere soltanto un difetto individuale e assume una dimensione economica. Una distinzione già esaminata nella riflessione La stupidità umana non è mancanza di intelligenza. Un’impresa può guadagnare grazie alla competenza dei propri clienti, alla loro capacità di riconoscere un prodotto valido e alla qualità del servizio offerto; ma può anche costruire un modello di ricavi che trae vantaggio dalla credulità, dall’impulsività e dalla scarsa attenzione del consumatore. I due modelli non sono equivalenti e sarebbe ingenuo immaginare che ogni successo commerciale costituisca automaticamente una dimostrazione di utilità sociale.
Il cliente che ragiona è un rischio commerciale
Per l’impresa, un cliente che comincia a ragionare è un cliente che rischia di smettere di pagare. Naturalmente non è una regola universale del commercio: un’impresa che offre un prodotto realmente utile può avere tutto l’interesse a confrontarsi con consumatori competenti e consapevoli. Ma nei modelli fondati sull’illusione, sulla credulità o sull’incapacità di valutare ciò che si acquista, il ragionamento critico può diventare un ostacolo alla redditività.
Immaginiamo un cliente che, durante una conversazione a pagamento con una presunta innamorata, si ponga alcune domande elementari. Chi è realmente questa persona? Perché il suo interesse sentimentale dipende dalla disponibilità dei miei crediti? Che cosa sto acquistando? Quale rapporto esiste tra il denaro che spendo e l’attenzione che ricevo? Non occorre essere filosofi per formulare queste domande, né possedere competenze informatiche per comprendere che l’interesse sentimentale subordinato a un pagamento merita almeno qualche sospetto. Il fatto che un sistema sia stato progettato per rendere credibile una finzione non elimina la necessità del giudizio. Semmai dimostra quanto possa essere conveniente, per chi lo organizza, incontrare clienti che non lo esercitano.
Il modello diventa ancora più interessante quando l’impresa non si limita a sfruttare un comportamento irrazionale, ma progetta meccanismi capaci di incoraggiarne la ripetizione: conversazioni che non arrivano mai a una conclusione, aspettative costantemente rinnovate, nuovi crediti da acquistare per proseguire il contatto. Non si vende il raggiungimento di un risultato. Si vende la possibilità di continuare a inseguirlo. Ed è una differenza commerciale enorme.
Non è la macchina ad aver avuto l’idea
Nel dibattito pubblico sull’intelligenza artificiale continua a ripresentarsi una curiosa inversione delle responsabilità. Quando una macchina produce risultati utili, celebriamo le possibilità della tecnologia. Quando viene impiegata per attività ingannevoli, cominciamo a discutere della sua pericolosità, della sua capacità di manipolazione e della necessità di educarla a comportarsi eticamente. Ma in questo caso chi ha progettato le applicazioni? Chi ha deciso di costruire identità sentimentali inesistenti? Chi ha organizzato il sistema di pagamento? Chi ha stabilito che le conversazioni dovessero proseguire attraverso il consumo di crediti? Esseri umani. E chi ha individuato la possibilità di trasformare la credulità altrui in un’attività redditizia? Ancora esseri umani.
La macchina ha svolto il lavoro per il quale è stata impiegata. Il modello economico, la finalità commerciale e l’organizzazione dell’inganno appartengono alle persone che hanno costruito e gestito il sistema. È lo stesso problema di responsabilità discusso in Vogliamo insegnare l’etica alle macchine perché non vogliamo più esercitare la nostra?. È quindi singolare che la discussione finisca così spesso per concentrarsi sull’intelligenza artificiale, lasciando in secondo piano l’intelligenza commerciale di chi la utilizza e il comportamento di chi rende economicamente sostenibile l’intera operazione. La tecnologia può rendere più efficiente un’attività. Non ne inventa necessariamente le ragioni economiche.
Il grande successo commerciale della stupidità
Il caso Anthropic mette in evidenza una realtà tanto elementare quanto economicamente redditizia: esistono persone disposte a spendere denaro per inseguire attenzioni sentimentali attraverso applicazioni che trasformano ogni conversazione in un’occasione di incasso. Non occorre scomodare complessi trattati di psicologia per giudicare la stupidità di un simile comportamento. Né la solitudine, né il bisogno d’affetto, né l’inganno organizzato da chi gestisce il servizio cancellano la necessità di esercitare il proprio giudizio. Chi organizza questo mercato conosce il valore commerciale della credulità umana. Chi lo alimenta con il proprio denaro ne dimostra concretamente la redditività. La vera intelligenza, in questa vicenda, non risiede nella macchina che simula l’innamoramento, ma nell’essere umano che ha compreso quanto denaro sia possibile guadagnare sfruttando la stupidità altrui. E il paradosso è che più sofisticato diventa il sistema commerciale, meno sembra necessario che il consumatore si ponga le domande più elementari.
La stupidità umana, d’altra parte, non ha bisogno dell’intelligenza artificiale per manifestarsi. Lo dimostrano quotidianamente comportamenti economici, sociali e digitali nei quali l’apparenza viene scambiata per sostanza, la popolarità per autorevolezza e l’attenzione ricevuta per valore personale. La novità è che oggi queste inclinazioni possono essere studiate e sfruttate con strumenti tecnologici estremamente sofisticati. Non siamo quindi davanti alla dimostrazione che le macchine siano diventate più intelligenti degli esseri umani. Siamo davanti a un altro esempio di quanto possa essere intelligente un essere umano quando decide di guadagnare sfruttando lo scarso giudizio di un altro.
Per secoli l’umanità ha cercato di contrastare l’ignoranza attraverso l’istruzione, la diffusione della conoscenza e lo sviluppo del pensiero critico. Nel frattempo, alcuni imprenditori hanno individuato nella sua persistenza una straordinaria opportunità commerciale. E non c’è neppure bisogno di attribuire loro un progetto universale per rendere stupida la popolazione. Basta osservare quanto possa essere conveniente disporre di clienti che non si pongono domande. La conclusione è quasi imbarazzante nella sua semplicità: l’intelligenza artificiale ha permesso agli intelligenti di automatizzare un’attività antichissima: guadagnare sulla stupidità degli altri.
E forse, dopo aver analizzato milioni di messaggi, migliaia di identità artificiali e sofisticati meccanismi di simulazione sentimentale, dovremmo riconoscere che la scoperta più importante non riguarda affatto l’intelligenza delle macchine. Riguarda il valore commerciale della stupidità umana. Perché l’intelligenza artificiale può fabbricare migliaia di innamorati inesistenti, ma il denaro necessario ad alimentare il business deve ancora arrivare da esseri umani reali. E mentre continuiamo a discutere se un algoritmo possa provare sentimenti, qualcuno ha già trovato il modo di fatturare quelli che non prova. La macchina non si innamora. L’imprenditore incassa. Il cliente paga. E poi diamo la colpa all’intelligenza artificiale.
Fonti e approfondimenti
- Anthropic, rapporto sulla prevenzione degli abusi dell’IA, settembre 2026.
- Inchiostrati, I social network esistono perché esistono gli idioti, 14 novembre 2026.
- Inchiostrati, La stupidità umana non è mancanza di intelligenza, 13 novembre 2026.
- Inchiostrati, Le persone che non esistono hanno migliaia di seguaci. Ma chi sono quelli che le seguono?, 13 novembre 2026.
