la plupart des gens se contentent de suivre les instructions de ChatGPT, même si elles sont totalement erronées
Par Victor Tangermann .Publié le
2026/03/29 16:59
En l'espace de quelques années seulement, les chatbots d'intelligence artificielle sont devenus une composante familière de notre quotidien, bien qu'ils demeurent des systèmes profondément imparfaits. La réalité est que des agents conversationnels tels que ChatGPT d'OpenAI, Gemini de Google ou Claude d'Anthropic commettent encore des erreurs régulières. Selon une étude de la BBC publiée en octobre, même les chatbots les plus sophistiqués fournissent des réponses erronées dans 45 % des cas.
Pourtant, de nombreux utilisateurs ne saisissent pas cette réalité. Comme détaillé dans un nouvel article de recherche, Steven Shaw, chercheur postdoctoral à l'université de Pennsylvanie, et Gideon Nave, professeur de marketing, ont découvert à travers une série d'expériences que les utilisateurs ont tendance à accepter les résultats de ChatGPT au pied de la lettre, même lorsque celui-ci leur donne une réponse incorrecte.
Au cours de ces tests, les participants ont été invités à répondre à diverses questions de raisonnement et de culture générale. Bien que l'utilisation de ChatGPT ait été facultative, plus de 50 % d'entre eux ont choisi de solliciter le chatbot pour répondre aux questions. Les chercheurs testaient une théorie clé : les utilisateurs seraient-ils prêts à croire ce que l'IA leur raconte indépendamment de l'exactitude des faits, dans ce qu'ils ont qualifié de reddition cognitive qui outrepasse effectivement leur intuition et leur processus de délibération.
Dans l'expérience la plus frappante, portant sur 359 participants, ces derniers ont suivi les conseils corrects de l'IA dans 92,7 % des cas, et de manière encore plus considérable, dans 79,8 % des cas lorsque l'IA leur donnait une réponse erronée. Les chercheurs ont écrit : les participants ont suivi les recommandations défectueuses de l'IA dans environ quatre essais sur cinq.
Cette recherche pointe vers un changement beaucoup plus large dans notre perception du monde et dans la manière dont nous laissons l'IA influencer nos prises de décision. Shaw a déclaré lors d'un podcast de l'UPenn le mois dernier : nous avons estimé que la capacité de déléguer réellement la pensée n'avait pas encore été étudiée en soi. C'est une idée profonde et quelque peu provocatrice de dire qu'avec ces outils d'IA intégrés à nos vies, nous avons désormais la possibilité d'externaliser la pensée elle-même.
Les résultats suggèrent que les utilisateurs sont prêts à renoncer à leur propre libre arbitre lorsque l'IA leur présente des directions fausses mais plausibles. Shaw a expliqué que lorsque la reddition cognitive s'installe, les gens adoptent ces réponses et y accordent une confiance accrue.
Les expériences suggèrent également que nous pourrions perdre notre capacité à nous engager de manière critique avec l'information. Nave a souligné : la capacité de penser de manière critique et de vérifier ce que l'IA vous donne est devenue de plus en plus cruciale. C'est une sorte de muscle que nous possédons et que, nous l'espérons, nous ne perdrons pas avec le temps.
Shaw a ajouté : nous sommes actuellement limités par la communication avec les modèles de langage via nos téléphones ou ordinateurs, mais à mesure que ces barrières s'estomperont, cette intégration deviendra encore plus forte. À terme, nous pourrions continuer à céder notre autonomie, cimentant davantage notre dépendance à l'IA.
Nave a conclu : tout le monde pense que ce stade viendra d'une IA de plus en plus performante, mais il existe un autre scénario où les humains deviennent de plus en plus dépendants. Tout comme nous avons aujourd'hui un climatiseur qui règle notre température sans effort, nous pourrions perdre en tant qu'espèce quelque chose de vital à notre existence : notre capacité de penser.
Notez ce sujet