Cory Doctorow, romancier canadien devenu essayiste critique de l’économie numérique, vient de publier The Reverse Centaur’s Guide to Life After AI. La colonne vertébrale du livre est une punchline : ce qui compte le plus dans un objet technique n’est pas ce qu’il fait, mais pour qui il le fait et à qui il le fait (« who it does it for and what it does it to », en version anglaise). La formule paraît d’abord banale. Elle est, en réalité, un principe d’analyse dont l’application aux déploiements d’intelligence artificielle révèle ce que le vocabulaire technique s’emploie à masquer.

Premier cas, celui des chauffeurs livreurs d’Amazon aux États-Unis. Le camion dans lequel ils travaillent est équipé de dizaines de capteurs et de caméras qui déterminent l’itinéraire et chronomètrent la livraison. Lorsque l’algorithme calcule que trois colis peuvent être livrés en garant le camion une seule fois parce que les adresses sont dans le même ensemble résidentiel, il ne sait pas qu’un des trois points de dépôt se trouve à un kilomètre à pied ; le chauffeur doit alors soit reprendre le camion (et être pénalisé pour avoir conduit quand il aurait dû marcher), soit courir et être pénalisé pour avoir dépassé son quota de temps.

Les humains sont ici utilisés pour combler les manques d’un système technique qui ne pourrait pas fonctionner sans eux, et sommés par lui de tenir la cadence exacte à laquelle le capital immobilisé s’amortit. C’est ce que Doctorow........

© Le Point