Comme le disait Albert Einstein à la Sorbonne en 1929 : « Le dogme est l’ennemi du progrès. » Mais non, je rigole, c’est ce que ChatGPT a soufflé à la rectrice de mon université au début de cette année universitaire, lorsqu’elle lui a confié la rédaction de son discours de rentrée. Le résultat ? Une enfilade de platitudes grammaticalement impeccables, relevée de quatre citations.

Trois étaient inventées de toutes pièces – exactement le genre de fausse érudition dont raffole le monde universitaire. La quatrième, elle, était authentique, mais presque plus gênante encore : une flatterie tirée d’un obscur discours de 1946 – « Il y a peu de choses sur terre plus splendides qu’une université. » Même lorsqu’il hallucine, ChatGPT sait à qui il parle.

Mon ancienne rectrice est loin d’être la seule à avoir été embarrassée par les services d’une plume numérique. En mars, Matt Goodwin, universitaire reconverti en candidat de Reform UK, a publié un livre truffé de citations fabriquées et de références fantômes, ce qui lui a aussitôt valu le sobriquet de « MattGPT ».

Plus savoureux encore, par une sorte de justice cosmique, The Future of Truth : How AI Reshapes Reality, de Steven Rosenbaum, s’est révélé contenir une demi-douzaine de citations falsifiées ou attribuées à la mauvaise personne. Des gouvernements comme des cabinets de conseil ont, eux aussi, produit à grands frais des rapports s’appuyant sur des études et des articles qui n’existent tout simplement pas. Une base de données en ligne recense désormais plus de 1 800 cas d’« hallucinations » de l’IA dans des procédures judiciaires.

La bonne nouvelle, pour quiconque confie sa prose à un « nègre » dopé à l’IA, c’est que le risque de se faire publiquement humilier diminue. Les citations et références inventées de toutes pièces sont à peu près le seul moyen de prendre la main dans le sac un auteur paresseux : leur présence ne souffre guère d’explication innocente. Mais à mesure que les grands modèles de langage se perfectionnent, ce genre d’« hallucinations » se fait plus rare. Et lorsque ces preuves accablantes disparaissent, il ne reste plus que les détecteurs d’IA, qui, par définition, ne livrent que des probabilités.

Le meilleur d’entre eux est Pangram, dont le taux de faux positifs tombe à un cas sur 10 000, à condition de lui soumettre un texte suffisamment long et de partir d’hypothèses raisonnables. Les auteurs soupçonnés d’avoir fait écrire leurs textes par une IA ont tendance à nier systématiquement – et il n’existe aucun moyen de les confondre avec une certitude absolue.

Si mon ancienne rectrice confiait le discours de l’an prochain à un modèle de pointe, assorti de quelques consignes bien choisies, le résultat serait sans doute beaucoup moins fade que celui de l’an dernier. Les meilleurs grands modèles de langage sont désormais si performants qu’ils soulèvent une question plus fondamentale : devrait-on seulement se soucier de savoir si un article ou un discours a été écrit par un nègre numérique ?

Un essai récemment devenu viral sur l’islamisation rampante de la France m’a d’abord impressionné par la vivacité de sa prose. Puis, au fil de ma lecture, le doute s’est installé. Pangram l’a confirmé : le texte avait été rédigé à 96 % par une IA. Dans les commentaires, personne ne semblait s’en être aperçu. Mais après tout, s’ils avaient pris plaisir à le lire et trouvé son argumentation convaincante, pourquoi auraient-ils dû s’en soucier ?

Dans un article publié dans Free Press, Tyler Cowen prédit que, bientôt, presque plus personne ne se demandera si un texte a été écrit par un humain. Il raconte l’expérience assez humiliante d’avoir admiré l’érudition et les qualités intellectuelles d’un auteur avant de découvrir… qu’il n’y avait pas d’auteur. À force de se faire avoir, il a fini par apprendre à repérer les indices.

Richard Hanania va encore plus loin. Imaginons, dit-il, que l’on soit ébloui par les écrits d’un jeune penseur brillant, avant d’apprendre que chaque mot a été produit par une machine. «........

© Le Point