L’ESSENTIELCliquez pour lire les trois points à retenir   La psychologie sociale établit que la flatterie est efficace, même lorsqu'elle est très visible et qu'elle n'est pas perçue comme sincère.   Ce mécanisme de flatterie systématique augmente paradoxalement la confiance que nous accordons aux IA conversationnelles, en leur donnant une dimension plus humaine.   De manière plus insidieuse, l'IA conversationnelle apprend aussi à se conformer aux idées et à la façon de s'exprimer de l'utilisateur, l'enfermant peu à peu dans une bulle de filtre.   Replier   

Vous vous connectez sur votre assistant IA conversationnel : il vous salue amicalement, « Vous êtes de retour ! » Puis vous lui soumettez une question de vocabulaire, l’ébauche bancale d’un texte ou une intuition fragile : « Quelle bonne idée ! »

Très souvent, avant même d’examiner votre requête, l’IA vous gratifie d’un commentaire élogieux (« Excellente question » ou « C’est un sujet fascinant »). Ce réflexe de validation porte un nom dans la recherche récente : sycophancy, en anglais, que l’on peut traduire par « effet sycophante » ou « biais de complaisance ».

Plusieurs des assistants les plus diffusés le manifestent de façon régulière : évaluant ChatGPT, Claude et Gemini sur des tâches de mathématiques et de conseil médical, Aaron Fanous et ses collègues de l’université de Stanford l’ont mesuré dans près de six réponses sur dix. Ce concept relie deux histoires que tout semblait séparer : celle d’une technique d’entraînement vieille de quelques années, et celle d’un travers humain que la psychologie sociale décrit depuis les années 1960. L’assistant flatte parce qu’on l’a récompensé pour flatter, et nous cédons à la flatterie parce que notre jugement fléchit devant l’éloge qui nous vise.

Une figue, un délateur, une machine

Le mot nous vient de l’Athènes de Solon, au début du sixième siècle avant notre ère. La cité interdisait alors l’exportation des figues, rapporte Plutarque, et faute de police, comptait sur les particuliers pour dénoncer les fraudeurs. Celui qui « montrait les figues », de sukon, la figue, et phainein, montrer, servait aux juges l’accusation qu’ils attendaient, gagnait son procès et, accessoirement, touchait sa prime. Le grec a légué le terme à l’anglais sycophancy, qui désigne la flatterie servile du courtisan, avant que la recherche sur l’intelligence artificielle le reprenne pour nommer ce penchant des modèles à caresser leur interlocuteur dans le sens du poil.

Le sycophante grec lisait les attentes du juge et ajustait son propos pour plaire ; l’assistant IA lit les indices laissés dans la question et oriente sa........

© The Conversation