En janvier dernier, l’horloge de l’apocalypse a encore été avancée. Nous ne serions plus qu’à 85 secondes de la fin du monde. Au-dessus de nos têtes, trois menaces (guerrière, climatique et technologique) sont alignées, avaient expliqué les directeurs du Bulletin of the Atomic Scientists de l’Université de Chicago. On peine à imaginer la folie qui a pu s’emparer de leurs cadrans lorsqu’ils ont vu tous ces bonzes de l’intelligence artificielle (IA) donner raison à un lanceur d’alerte jusqu’alors connu ni d’Ève ni d’Adam.

C’est que, oui, l’IA pourrait tuer tous les humains d’ici la fin de la décennie, selon la formule choc retenue par le jeune chercheur démissionnaire d’Anthropic Jacob Coxon.

Ce qui le tient réveillé la nuit — et nombre de développeurs comme lui ? Moins un détournement malfaisant de l’IA par des humains sans scrupule (une menace pourtant réelle et immédiate) que l’avènement (probable et de plus en plus prochain) d’une superintelligence non alignée dotée d’une capacité d’autoamélioration récursive lui permettant de se développer par ses propres moyens, sans intervention humaine ni possibilité de contrôle.

Dans ce scénario, une IA pourrait aller jusqu’à mettre sa propre survie devant celle de l’humanité. Pas par méchanceté. Parce que c’est ainsi qu’elle conçoit sa mission. C’est le........

© Le Devoir