Une étude souligne que les consommateurs discriminés sont plus enclins à se tourner vers des recommandations basées sur l’IA plutôt que vers des conseils humains.

Une étude souligne que les consommateurs discriminés sont plus enclins à se tourner vers des recommandations basées sur l’IA plutôt que vers des conseils humains.

La peur d’être jugé ou de vivre un sentiment de gêne peut conduire à utiliser l’IA.

La peur d’être jugé ou de vivre un sentiment de gêne peut conduire à utiliser l’IA.

Si les systèmes d’IA sont eux-mêmes biaisés, ils risquent d’amplifier la discrimination à laquelle les consommateurs tentaient d’échapper.

Si les systèmes d’IA sont eux-mêmes biaisés, ils risquent d’amplifier la discrimination à laquelle les consommateurs tentaient d’échapper.

Que préparer pour le dîner avec un budget de 20 euros et un invité intolérant au gluten ? Un consommateur peut demander conseil à un employé de magasin ou interroger, par exemple, Hopla, l’assistant d’achat basé sur l’intelligence artificielle lancé par Carrefour. Derrière ce choix très quotidien se pose une question plus large : face à une recommandation, faisons-nous davantage confiance à un être humain ou à une IA ?

Des travaux récents – sur les processus de décision, l’impact des erreurs, etc. – ont mis en évidence une tendance claire et bien établie : les individus ont tendance à préférer les êtres humains. Ce phénomène, connu sous le nom d’« aversion pour les algorithmes », a été largement documenté, même lorsque les algorithmes affichent objectivement de meilleures performances.

Cependant, cette préférence n’est pas universelle. Nos recherches soulignent qu’elle peut s’inverser dans un contexte répandu : la discrimination sur les plateformes et marchés, c’est-à-dire lors d’un acte de consommation d’un produit ou d’un service. Plus précisément, les consommateurs victimes de discrimination – en particulier dans des lieux publics – sont nettement plus enclins à se tourner vers des recommandations basées sur l’IA plutôt que vers des conseils humains.

Le mécanisme émotionnel........

© The Conversation