J’aurais voulu vous parler de la machine de propagande quasi nord-coréenne aux États-Unis.

Quelque chose est fascinant de voir les sbires du président parler de la guerre en Iran comme d’une victoire avec un V majuscule !

Mais deux nouvelles majeures en intelligence artificielle (IA) sont un peu passées sous le radar. Pourtant, elles vont complètement changer la donne.

La première : Anthropic, la firme derrière Claude, vient tout juste d’annoncer Claude Mythos qui est si puissant qu’Anthropic refuse de le rendre public pour le moment.

Que fait-il de si exceptionnel ?

« Ils sont désormais capables de surpasser tous les humains, à l’exception des plus chevronnés, dans la détection et l’exploitation des failles logicielles », écrit la compagnie.

C’est-à-dire que Claude n’est plus seulement capable de coder, de créer des logiciels, mieux qu’un humain, il est aussi maintenant capable de trouver des failles dans les systèmes, comme un cyberpirate presque parfait.

Selon Anthropic, Claude Mythos a identifié des milliers de vulnérabilités « dont beaucoup sont critiques, dans tous les principaux systèmes d’exploitation et navigateurs Web, ainsi que dans toute une série d’autres logiciels importants. »

Par exemple, dans un test, une ancienne version du modèle a réussi à s’échapper des mesures de sécurité pour accéder à internet.

C’est inquiétant de savoir que ces capacités de cyberpiratage vont se généraliser rapidement et que des acteurs malveillants les auront bientôt entre leurs mains !

« Les conséquences – pour les économies, la sécurité publique et la sécurité nationale – pourraient être graves », prévient l’entreprise !

Faire confiance à qui ?

Ce qui m’amène à l’autre nouvelle, l’enquête du magazine The New Yorker, par l’excellent journaliste d’enquête Ronan Farrow, à propos du PDG d’OpenAI, la firme derrière ChatGPT.

Le titre : Sam Altman pourrait contrôler notre futur – peut-on lui faire confiance ?

Le reportage remet en question la moralité, la fiabilité et la transparence de M. Altman. Sa soif de pouvoir semble lui donner une vision personnelle de la vérité.

Inquiétant parce qu’il a entre ses mains une partie de notre avenir. ChatGPT est omniprésent dans la vie de plusieurs un peu partout dans le monde... Contrairement à Anthropic, il est entré dans le lit du Pentagone sans contrainte.

Cette question est majeure : peut-on faire confiance à ceux qui développent la technologie la plus perturbatrice de l’histoire humaine ?

Et petit rappel, l’IA n’est pas comme les autres technologies. De l’imprimerie, à la bombe atomique en passant par la radio, l’humain a toujours gardé le contrôle. La prise de décision avec l’IA ne sera toutefois plus entre les mains humaines. Ça change tout !

Alors faisons-nous confiance aux PDG comme Mark Zuckerberg qui a déjà créé des plateformes nuisibles aux enfants ?

Et aux puissances autoritaires comme la Chine ou la Corée du Nord pour développer une IA humaine ?

Surtout quand on voit comment il déforme les faits et la vérité en plus d’utiliser tous les leviers de l’État pour son enrichissement personnel...

© Le Journal de Montréal