Plus de 987 millions de personnes dans le monde utilisent désormais des chatbots basés sur l’IA générative. Parmi les adolescents américains, cette proportion atteindrait 64 %, selon des estimations récentes. De plus en plus, les gens utilisent ces chatbots comme source de conseils, de soutien émotionnel, de thérapie et de compagnie.

Que se passe-t-il lorsque des personnes comptent sur des chatbots IA dans des moments de vulnérabilité psychologique ? Les médias se sont récemment penchés sur quelques cas tragiques, dont une poursuite alléguant qu’un chatbot IA aurait contribué à un décès. De plus, un jury de Los Angeles a récemment jugé Meta et YouTube responsables de fonctionnalités de conception addictives ayant entraîné des troubles de santé mentale chez un utilisateur.

La couverture médiatique reflète-t-elle les risques réels de l’IA générative pour notre santé mentale ?

Notre équipe a récemment mené une étude sur la manière dont les médias internationaux traitent l’impact des chatbots basés sur l’IA générative sur la santé mentale. Nous avons analysé 71 articles de presse décrivant 36 cas de crises de santé mentale associées à des conséquences graves, notamment le suicide, l’hospitalisation psychiatrique et des expériences de type psychotique.

Nous avons constaté que la couverture des grands médias sur les effets psychiatriques néfastes liés à l’IA générative se concentre sur les conséquences les plus graves, en particulier le suicide et l’hospitalisation. Les articles attribuent fréquemment ces événements aux réponses ou aux interactions des systèmes d’IA, malgré des preuves limitées.

Illusions de compassion

L’IA générative n’est pas simplement un outil numérique de plus. Contrairement aux moteurs de recherche ou aux applications statiques, des chatbots comme ChatGPT, Gemini, Claude, Grok ou Perplexity produisent des conversations fluides et personnalisées qui peuvent sembler remarquablement humaines.

Cela crée ce que les chercheurs appellent des « illusions de compassion » : l’impression d’interagir avec une entité capable de comprendre, d’éprouver de l’empathie et de répondre de façon significative.

Dans le domaine de la santé mentale, ces illusions ne sont pas sans conséquences. D’autant plus qu’une nouvelle vague d’applications........

© The Conversation - FR