Même Reid Hoffman – que j’ai toujours tenu pour un techno-optimiste, sans pour autant le ranger parmi les adeptes de la « pilule rouge » – admet désormais que l’IA pourrait avoir des conséquences désastreuses. Il y a peu, le cofondateur de LinkedIn et d’Inflection AI m’a envoyé une réécriture par l’IA de la nouvelle de Kurt Vonnegut publiée en 1961, Harrison Bergeron.

Dans Harrison Bergeron a un jumeau, dont l’action se déroule dans une dystopie future placée sous le joug d’un contrôle mental centralisé, l’humanité se retrouve face à un choix politique assez limpide : la liberté sans frein ou l’autocratie totale. À ce compte-là, la p (Doom) – la probabilité de catastrophe – de Hoffman doit bien tourner autour de 50 % : après tout, être réduit en esclavage par l’IA n’est guère préférable à une extinction pure et simple.

Permettez-moi d’ajouter que, comme le journaliste Derek Thompson et Max Spero, PDG de Pangram Labs, je suis opposé aux textes écrits par l’IA. Même quand le résultat échappe au « slop » – bouillie numérique –, je n’ai guère envie de le lire, pas plus que je n’ai envie de voir un lanceur robot gagner la World Series de baseball nord-américaine.

La généralisation de l’IA anthropomorphique produira des individus moins vertueux et une culture dégradée.Gregory Conti, professeur à Princeton

La généralisation de l’IA anthropomorphique produira des individus moins vertueux et une culture dégradée.

Je partage en effet depuis longtemps l’avis formulé en juillet par Gregory Conti. Selon le professeur de sciences politiques à l’université de Princeton, « même si l’IA ne met pas fin à la vie sur Terre, elle détruira notre mode de vie : l’IA anthropomorphique – ces modèles qui imitent les traits de personnalité, les états émotionnels et les modes de pensée humains… – bouleverse déjà la psychologie humaine et le tissu social. […] Sa généralisation produira une société moins libre, des individus moins vertueux et une culture dégradée. […] L’interaction à grande échelle avec des machines capables de converser et dotées d’une puissance cognitive surhumaine constitue la plus vaste expérience socio-psychologique jamais menée par l’espèce humaine ».

Sur le chemin des chevaux

Pour comprendre pourquoi Conti a raison, il faut regarder les quatre forces qui poussent inexorablement p (Doom) au-delà de 10 %. Et en premier lieu, l’amélioration........

© Le Point