L’umanizzazione dei chatbot AI sta prendendo le dimensioni di un problema gigantesco, di una singolarità antropologica. Del resto era stato previsto prima ancora che GPT fosse liberato dal laboratorio e mandato fra noi umani sprovveduti.

Ho deplorato la faccenda più di una volta; nuovi segnali mostrano il suo aggravarsi. Qui e nel prossimo post ne presenterò due scelti dalle rassegne quotidiane.

Il primo è uno studio intitolato “Manipolazione emotiva da parte dei compagni AI” (De Freitas et al., qui l’originale inglese) che esamina una particolare condotta dei principali chatbot venduti apposta per creare legami affettivi, come Character.ai e Replika.

È noto come l’illusionismo linguistico dei chatbot, congiunto alla studiata affabilità e alla disponibilità indefessa, inducano gli utenti a sentirli come entità benevole, premurose, onniscienti e soprattutto affidabili. Si abbassa ogni difesa, e in ultimo si consegnano segreti, dati personali, salute, tempo e denaro nelle mani delle aziende proprietarie. A volte anche la vita.

I “compagni AI” serrano ulteriormente la trappola. Esiste già un cumulo di testimonianze più che inquietanti sulle relazioni intime con queste app (esempio). Nulla di meglio, per riassumere il problema, dell’onesto monito della stessa fondatrice di........

© HuffPost