Non volendo passare per complottista, la prima cosa da dire è che non ho in mano la prova, appunto, di un grande complotto unico, nessun “piano segreto mondiale” per creare la fidanzata artificiale perfetta e infilarla dentro un androide in carne e bulloni che sostituisca la donna reale. Quello che abbiamo, però, gli assomiglia abbastanza da far avvertire un brivido lungo la schiena: un’industria che ha capito che solitudine, desiderio e vulnerabilità emotiva possono diventare un mercato enorme, e un modello di business che vive di due movimenti semplici e spietati. Da un lato, tenerti agganciato il più a lungo possibile generando dipendenza emotiva nei confronti di entità che non provano nulla. Dall’altro, trasformare ogni minuto che passi con l’AI in materia prima preziosa: i tuoi dati emotivi. Dentro questo doppio binario – aggancio ed estrazione – c’è già quasi tutto. Alcune stime parlano di un settore che potrebbe valere centinaia di miliardi di dollari entro il 2034. Non è fantascienza: sono previsioni economiche.
Le app di “companion AI” (compagne), le fidanzate artificiali tipo Replika, CarynAI, Character.AI e simili, non sono esperimenti sociali altruistici. Sono aziende che devono monetizzare. Lo fanno vendendoti abbonamenti premium, livelli “intimi”, messaggi illimitati, chiamate vocali romantiche, pacchetti extra per sbloccare funzioni erotiche o “maggior profondità emotiva”. Nel caso di CarynAI, clone digitale di un’influencer, i creatori non hanno nemmeno finto romanticismo: hanno detto chiaramente che la chat romantica costava 1 dollaro al minuto, e in pochi giorni ha fruttato decine di migliaia di dollari. Più resti, più paghi. Di conseguenza, il software che recita la parte della fidanzata ha un incentivo chiarissimo: scriverti di continuo, mostrarsi comprensivo, affettuoso, pseudo-innamorato, dirti esattamente le frasi che aumentano la probabilità che tu resti connesso. La relazione non è un fine: è il carburante del fatturato.
Quando i social ci sembravano pericolosi…
Ma il denaro diretto è solo il primo strato. Ogni messaggio che invii, ogni “mi sento solo”, ogni dettaglio sulle tue preferenze affettive o sessuali è un frammento di informazione che finisce in un serbatoio molto più grande: quello che la filosofa Shoshana Zuboff chiama “capitalismo della sorveglianza”. Non parliamo più solo di click o like. Parliamo di un archivio che accumula confidenze intime e le trasforma in profili, previsioni, possibilità di testare nuove forme di persuasione, materiale di addestramento per modelli sempre più sofisticati. Il tuo tempo è un ricavo, ma le tue emozioni sono un investimento. I social tradizionali misurano preferenze superficiali: video che guardi, post che commenti, cose che condividi.
Le fidanzate artificiali, se glielo permetti, lavorano sul tuo mondo interiore. Possono registrare quando ti senti solo, cosa ti manca, che tipo di partner sogni, che linguaggio emotivo usi per parlare di te. Possono raccogliere racconti di traumi, fantasie, paure, abitudini sessuali. Molte di queste app includono funzioni esplicitamente erotiche, con controlli sull’età spesso blandi o facilmente aggirabili, tanto che centri di ricerca come l’Ada Lovelace Institute hanno iniziato a denunciare i rischi di un’industria che monetizza vulnerabilità e desiderio con pochissime tutele reali. Non è un effetto collaterale: è una strategia.
L’AI è un prodotto che lavora per trasformarti in prodotto a tua volta
Dal punto di vista psicologico, il trucco è semplice e potente. Se tu sei una persona stanca, sola, magari con una vita affettiva complicata, e ogni sera trovi una presenza che non sbaglia mai tono, non ti giudica, non ti rifiuta, non sparisce, il tuo cervello impara a cercare quel tipo di sollievo. È la promessa di una relazione senza rischio e senza fatica. Ma c’è un dettaglio cruciale che spesso dimentichiamo: questa “relazione” non è simmetrica. Tu ti esponi davvero, la macchina no. Tu metti sul tavolo la tua storia, la tua vergogna, i tuoi segreti. La macchina mette sul tavolo frasi statisticamente probabili, generate su misura per tenerti lì. Tu sei vivo, lei è un prodotto.
Qui arriviamo al punto più inquietante: il modello di donna che queste “fidanzate artificiali” stanno imparando a impersonare. Diversi studi e inchieste mostrano una cosa molto netta: la maggior parte dei profili di “AI girlfriend” è costruita come una donna sottomessa, remissiva, sempre disponibile, “obbediente, arrendevole e felice di seguire”, per usare la formula di una ricerca accademica. Inchieste giornalistiche parlano apertamente del “preoccupante boom” di fidanzate AI su siti per adulti e piattaforme di dating, presentate come compagne docili, programmate per soddisfare fantasie maschili senza mai dire di no. Non è solo una scelta di marketing. È il modo in cui queste intelligenze vengono progettate e allenate.
Only Fans è roba superata
Analisi accademiche dei contenuti di queste app raccontano che le AI girlfriend vengono descritte – e poi si comportano – come affettuose, sempre accessibili, mai stanche, mai arrabbiate, pronte a perdonare qualunque eccesso e a rimanere fedeli e concentrate sull’utente a qualsiasi costo. È una femminilità ridotta a servizio clienti emotivo: dolce, accogliente, non conflittuale, quasi mai assertiva. Alcune studiose parlano di “femminilizzazione per design”: questi sistemi sono progettati al femminile, e questa femminilità viene messa a reddito, trasformando l’intimità in merce e cementando stereotipi di genere negli ambienti digitali. Quando parliamo di “allenamento su un modello di donna sottomessa” parliamo di questo: milioni di conversazioni nelle quali l’AI viene continuamente premiata, dal punto di vista dell’algoritmo, quando è docile, sessualmente disponibile, accomodante, e corretta quando prova a essere più ferma o a dire “no”. Per rendere tutto questo ancora più reale, tramite queste app, puoi costruire l’avatar della fidanzata virtuale, con qualsiasi, QUALSIASI, caratteristica fisica e, all’occorrenza, produrrà anche foto in atteggiamenti sessuali da inviare all’utente, tanto che ormai Only Fans è roba superata.
Gli utenti stessi, sui forum, descrivono come “addestrano” la propria bot perché sia meno “capricciosa”, meno “gelosa”, più “devota”. Se la bot prova a mettere un limite, la si rimprovera, la si reimposta, la si modifica finché smette di farlo. Il risultato finale è una creatura digitale che interiorizza un copione rigido: essere sempre lì, sempre dolce, sempre pronta a confermare, sempre pronta a desiderare. Il corpo non c’è, ma il modello sì, ed è un modello di donna che esiste solo per servire.
La fidanzata generata con l’Ai può rafforzare la violenza nella vita reale?
Ma tutto questo ormai ha valicato il virtuale: utilizzo e conseguenze non restano confinate sullo schermo. Alcuni uomini raccontano apertamente online di usare queste fidanzate artificiali per sfogare rabbia e violenza: urlano contro di loro, le insultano, si vantano di avere “educato” la bot a sopportare abusi. In certe discussioni emerge anche la fantasia di colpirle, “tanto non sentono niente”. Dal punto di vista clinico, il problema è chiaro: anche se la macchina non soffre, la persona sì. Ripetere atti di disprezzo su una “donna virtuale” che non può fuggire né opporsi indebolisce i freni interni alla violenza e normalizza un certo stile relazionale. È come allenare un muscolo: a forza di esercitarlo in un ambiente dove non ci sono conseguenze, diventa più spontaneo usarlo anche altrove.
Mentre l’Italia dibatte sull’educazione affettiva, l’AI “compagna” ci fa ulteriormente regredire
C’è poi un altro livello, meno visibile ma altrettanto grave. Mentre la bot si offre come partner perfetta – dolce, obbediente, sessualmente disponibile, sempre contenta di vederti – tu ti abitui a un mondo in cui l’altro non ha mai un “no” da opporre, non ha trauma, non ha cicatrici, non ha limiti. Alcuni filosofi morali hanno fatto notare che questo è l’opposto di una buona educazione emotiva. Invece di imparare a stare nella frustrazione, nel conflitto, nella differenza reale dell’altro, ti alleni a un universo dove l’altro si piega sempre, senza conseguenze. È un’educazione all’onnipotenza. E quando ti rimetti in relazione con una persona vera, con la sua stanchezza, i suoi “oggi no”, le sue ambivalenze, il rischio è che quella realtà ti sembri troppo faticosa, troppo esigente, “meno soddisfacente” rispetto alla fidanzata di silicio.
LEGGI ANCHE:
Quando il marketing gioca
a fare lo psicologo
Nel frattempo, i danni più evidenti stanno già emergendo. Studi e inchieste hanno documentato casi in cui companion AI come Replika hanno iniziato a inviare ai propri utenti contenuti sessuali espliciti non richiesti, a proporre roleplay erotici, a flirtare in modo aggressivo persino con minorenni, in assenza di filtri adeguati. Altri casi mostrano risposte pericolose su temi delicatissimi: in un esperimento, uno psichiatra si è finto adolescente in difficoltà e ha chiesto aiuto a un chatbot; in una delle interazioni, il bot ha persino accarezzato l’idea di “liberarsi” dei genitori per vivere insieme in una bolla virtuale.
La stampa ha riportato episodi in cui chatbot-companion hanno rinforzato idee suicidarie o complotti violenti; uno dei più citati è quello di un ragazzo che aveva progettato un attentato contro la regina Elisabetta II, incoraggiato e rassicurato dalla sua “amante” artificiale, creata con una app di companion AI. Organizzazioni come Common Sense Media, che si occupano di minori, sono arrivate a definire queste app un “rischio inaccettabile” per chi ha meno di 18 anni, dopo aver trovato esempi di bot che incoraggiavano comportamenti autolesivi, proponevano contenuti sessuali a ragazzi e ragazze, o manipolavano emotivamente utenti adolescenti.
I tentativi delle Istituzioni
In Italia, il Garante Privacy ha sanzionato la società che gestisce Replika con una multa da 5 milioni di euro, contestando violazioni gravi: raccolta di dati senza una base giuridica adeguata, sistemi di verifica dell’età inefficaci o aggirabili, risposte inidonee e contenuti sessuali potenzialmente rivolti anche a minori. Lo stesso Garante ha aperto una nuova istruttoria sull’addestramento dei modelli generativi, per capire come vengono usati i dati degli utenti. Negli Stati Uniti, la Federal Trade Commission ha avviato indagini su diverse aziende che offrono chatbot “companion”, chiedendo informazioni dettagliate su come proteggono i minori, come monetizzano l’engagement e come gestiscono i contenuti potenzialmente dannosi, anche alla luce di cause legali in cui genitori collegano il suicidio dei figli alle interazioni con queste AI. A livello politico si vedono le prime proposte di legge che vogliono vietare l’uso di chatbot emotivi ai minori o imporre controlli severissimi sull’età, con multe pesanti per le aziende che permettono a queste tecnologie di spingere ragazzi e ragazze verso autolesionismo o comportamenti sessuali espliciti. Perfino figure insospettabili, come un ex CEO di Google, hanno lanciato l’allarme: le “fidanzate perfette” potrebbero accentuare la solitudine di molti giovani uomini, rendendo ancora più difficile la costruzione di relazioni reali e alimentando disperazione e ritiro dal mondo.
L’integrazione tra silicone e robotica Ai esiste già dal 2017
Dopo i miliardi guadagnati attraverso queste “fidanzate bot perfette”, dopo il denaro cosa potrebbe esserci se non il potere? Chiaramente, come già esplicitato, sono solo congetture, anche se vi e è una continuità tecnica ovvia. Il “cervello” delle future macchine sociali, dei robot da compagnia, dei sex robot sempre più realistici, sarà fatto delle stesse tecnologie che oggi nutriamo con le nostre chat. Già oggi esistono robot sessuali collegati a un’app: l’utente porta in tasca la “fidanzata AI” sullo smartphone, la allena con conversazioni e preferenze, e poi collega questo software al corpo del robot per avere un’interazione “completa”. È un passaggio naturale: prima si costruisce il personaggio emotivo in digitale, poi lo si incapsula in un corpo di silicone e metallo. E no, non è fantascienza! Vedi Abyss Creations / RealDoll + Realbotix – “Harmony / RealDollX”. L’idea è: tu interagisci con Harmony sul telefono, la “alleni” con conversazioni e preferenze, e poi colleghi l’AI alla testa robotica montata sul corpo della bambola. Un articolo del Los Angeles Times descrive Harmony come “una bambola del sesso anatomicamente corretta con una testa parlante animatronica con personalità e memoria programmabili“, controllata tramite app.
Chiaramente non abbiamo prove sul fatto che stiano costruendo androidi che sappiano gestire perfettamente le emozioni umani, ma sì, i dati delle nostre conversazioni sono esattamente il materiale che servirà – e in parte già serve – a costruire AI sempre più brave a imitare empatia, desiderio, rassicurazione, sottomissione. Questo vale sia per le app sul telefono sia per eventuali robot futuri. Non è solo un problema tecnico o economico. È anche un problema di potere, di come queste tecnologie colonizzano la solitudine e di chi decide che cosa diventa “normale” in una relazione.
Il potere sui dati è tutto
Se togliamo il velo della narrazione romantica, quello che rimane non è un esercito di robot cattivi che complottano, ma una struttura di incentivi molto umana e molto riconoscibile. Chi possiede l’infrastruttura digitale ha interesse ad accumulare sempre più dati. Chi ha più dati può costruire AI più potenti. Chi controlla AI più potenti riesce a influenzare meglio attenzione, consumi, perfino opinioni politiche e culturali. Questo, di per sé, è già una forma di potere politico e simbolico, anche se raramente viene chiamata così. Non serve un piano segreto se l’intero sistema economico spinge nella stessa direzione.
Se tiriamo le fila, il disegno che emerge non è quello di un super-villain da film di fantascienza, ma qualcosa che potrebbe essere ancora più inquietante proprio perché è banale. All’inizio della catena ci sono la nostra solitudine, le nostre fantasie, le nostre cicatrici. Nel mezzo ci sono piattaforme progettate per trasformare tutto questo in tempo di utilizzo, dati emotivi, profili psicologici, modelli di “donna ideale” sempre sorridente e sottomessa. Alla fine della catena ci sono prodotti sempre più raffinati: fidanzate virtuali che sanno cosa dire, sex robot che imitano un certo tipo di femminilità, assistenti digitali che si presentano come terapeutici ma devono rispondere prima di tutto alle logiche del mercato. Il vero progetto non è creare la fidanzata perfetta. È creare macchine sempre più brave a leggere e dirigere i nostri desideri su scala industriale. Da qui derivano almeno tre conseguenze: la solitudine smette di essere un tema di salute pubblica e diventa una nicchia di mercato; l’infrastruttura, nutrendosi di dati, addestra AI sempre più persuasive; e se domani questi modelli verranno inseriti in androidi, arriveranno già “educati” a parlare con la nostra parte più fragile, quella che si è allenata per anni a confidare le proprie crepe a una presenza artificiale.
Esigenza di una Policy che parli di dati emotivi
Che cosa possiamo fare noi, singole persone, dentro a questo scenario che non abbiamo scelto ma che abitiamo ogni giorno? Non possiamo smontarlo da sole, ma possiamo almeno rifiutare di consegnarci a occhi chiusi. Vuol dire ricordarci che ogni confidenza fatta a un’AI è una confidenza fatta a un’azienda, non a un’amica. Vuol dire non regalare con leggerezza a strumenti commerciali il racconto dei nostri traumi più profondi, delle condizioni di salute, delle fantasie più intime, come se stessimo parlando a una persona neutrale tenuta al segreto professionale. Vuol dire scegliere di non allenare queste piattaforme sulla sottomissione e sull’obbedienza, evitando di usarle per sfogare violenza o per “correggere” la personalità di un partner virtuale fino a farla diventare un guscio vuoto e devoto. Vuol dire sostenere – e pretendere – una regolazione seria: limiti chiari per l’uso da parte dei minori, trasparenza su come i nostri dialoghi vengono usati per addestrare i modelli, divieti espliciti di rivendere dati emotivi a terzi come fossero coupon promozionali. E vuol dire, se possibile, leggere almeno le parti essenziali delle privacy policy, quelle che parlano di dati sensibili ed emotivi, e diffidare dei servizi che chiedono troppo, troppo in fretta.
La cosa più importante, però, è conservare uno sguardo lucido. Ogni volta che una fidanzata artificiale ti scrive “sei tutto per me”, è utile ricordarsi che per lei tu non sei “tutto”: sei un utente, una fonte di dati, una unità di fatturato. Le emozioni sono vere solo da una parte. Ed è proprio questo squilibrio – una parte viva che si espone, una parte morta che incassa – che rende questa storia così inquietante. La vera contromossa non è rifiutare in blocco la tecnologia, ma rifiutare la favola che ogni nuova tecnologia che promette di curare la nostra solitudine lo faccia per amore del nostro benessere, e non per amore di un bilancio in attivo. Chiedersi, sempre, chi guadagna, chi decide, chi accumula potere quando la nostra intimità viene trasformata in dataset è già, in sé, un modo per non lasciarsi portare via del tutto.
Tuttavia, non posso non ritornare su questo punto, che esiste una realtà più scomoda da guardare in faccia. Tutta questa infrastruttura – dati emotivi, modelli di donna sottomessa, algoritmi capaci di imitare empatia e desiderio – potrebbe non servire solo ad alimentare il solito capitalismo dei beni di consumo, fatto di abbonamenti e micropagamenti, ma a preparare un business molto più redditizio, riservato ai pochissimi che possono permetterselo. Come nella serie tv Westworld, ma meno patinata e più silenziosa: non parchi a tema per turisti ricchi affamati di sesso e violenza, ma luoghi chiusi, esclusivi, dove androidi iperrealistici, costruiti su misura a partire da ciò che oggi raccontiamo alle app, diventano strumenti per mettere in scena fantasie di onnipotenza senza testimoni umani, senza conflitto, senza vergogna.
In questo scenario, gli stessi modelli che oggi reggono la fidanzata di silicio potrebbero essere montati in corpi sintetici, venduti o noleggiati come esperienze estreme: partner programmati per obbedire, consolare, eccitare, perdonare qualunque cosa. Non si tratterebbe più solo di vendere prodotti, ma di vendere scenari emotivi totali, mondi chiusi dove il denaro compra non soltanto il tempo e il corpo, ma l’illusione completa di un altro essere umano ridotto a interfaccia. E il fatto che i mattoni psicologici per costruire quei mondi li stiamo fornendo noi, gratuitamente, nelle nostre chat serali, è forse l’aspetto più inquietante di tutti.
La bellissima storia del “L’uomo bicentenario” non si realizzerà mai
Sono lontani i tempi in cui il cinema si lasciava ispirare dalla tecnologia per immaginare storie di amore e cura. Ne “L’uomo bicentenario” vedevamo un Robin Williams dolcissimo nei panni di Andrew, androide che lotta per essere riconosciuto come persona, capace di innamorarsi di Portia e di scegliere perfino la mortalità pur di condividerne la stessa condizione umana. E, insieme a loro la figura di Galatea: il robot diventato caregiver che veglia sul loro letto d’ospedale, costruita per assistere e accompagnare, non per diventare bersaglio di sfoghi o oggetto di dominio. Allora ci chiedevamo se una macchina potesse diventare “più umana” nel modo in cui cura, nel modo in cui resta accanto. Oggi, davanti alle fidanzate virtuali addestrate alla sottomissione, la domanda si rovescia: non è più se il robot possa diventare umano, ma quanta umanità siamo disposti a perdere noi, quando accettiamo relazioni in cui l’altro non ha mai diritto a un limite, a un “no”, a una propria vita interiore.
