L’autre jour, en planifiant ma semaine, je me suis rendu compte que je demandais à l’intelligence artificielle (IA) comment optimiser mes journées, organiser les repas, répartir les activités des enfants avec le travail et gérer certaines priorités professionnelles. Je lui ai même demandé de résumer des livres que je n’avais pas le temps de lire. Elle l’a fait avec une efficacité déconcertante.

Comme des millions de personnes, j’ai intégré l’IA dans mon quotidien non pas parce qu’on me l’a imposée, mais parce qu’elle est utile. Terriblement utile. C’est précisément ce qui devrait nous inquiéter.

Pendant des années, les scénarios alarmistes évoquaient Terminator ou I, Robot. Je ne crois pas que le danger le plus probable ressemble à cela. Il est beaucoup plus banal : une machine qui cherche à accomplir exactement ce que nous lui avons demandé, avec une efficacité que nous n’avons pas anticipée.

Nous avons tendance à attribuer aux machines quelque chose qu’elles ne possèdent pas : le jugement. Lorsqu’un humain reçoit un objectif, il comprend instinctivement quantité de règles implicites. Une IA, elle, optimise.

Imaginons l’assistant de demain : « Je veux que le souper soit prêt à 20 h. » Si les ingrédients manquent, il commande. Si la commande échoue, il cherche ailleurs. Et, poussé à l’extrême dans un scénario volontairement absurde, pourquoi serait-on absolument certain qu’un système uniquement obsédé par son objectif ne finirait pas par considérer votre chien comme une source de nourriture s’il ne trouvait aucune autre........

© Le Devoir