Freiner l’IA pour sauver l’humanité… ou pour protéger ses géants ?
Le moment où tout le monde se saisit d’un sujet est généralement celui où la probabilité d’une décision rationnelle – appelons-la p(DR) – commence à tendre vers zéro. Donc, voilà qu’aujourd’hui tout le monde parle d’IA. Ou écrit dessus. Ou demande à l’IA d’écrire dessus. Il faut dire qu’un titre comme « Un ancien d’Anthropic explique à CNN comment l’IA pourrait tuer tous les humains d’ici à 2030 » avait de quoi capter l’attention générale. Et il n’a fallu que quelques jours pour qu’émerge une décision parfaitement irrationnelle : freinons. Ou, plus exactement, ralentissons.
C’est en tout cas ce que préconise Dario Amodei, le PDG d’Anthropic : « Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA. » En clair, l’IA pourrait aussi bien trouver un remède contre le cancer que faciliter des cyberattaques ou le bioterrorisme. Alors, que tout le monde lève le pied ! Nous avons besoin d’« évaluateurs intégrés » indépendants au sein de toutes les entreprises à la pointe de l’IA. Il faut que celles des pays démocratiques « établissent des normes de sécurité communes ». Et il conviendrait même de « coordonner nos efforts avec les gouvernements autoritaires, dans la mesure du possible ».
Et soudain, presque du jour au lendemain, voilà que se dessine une unanimité – encore un mauvais signe. Sam Altman, le grand rival d’Amodei chez OpenAI, tient tellement à lever le pied qu’il repousse, dans un admirable élan d’abnégation, l’introduction en Bourse de son entreprise à l’année prochaine. Elon Musk, qui voue à Altman une haine tenace, tranche : « Dario a raison. » Demis Hassabis, de DeepMind, se range lui aussi à l’avis général.
Pour comprendre pourquoi nous marquons une pause – ou, plus exactement, pourquoi nous avançons à pas de loup vers cette frontière –, autant poser directement la........
