Reddit pris d'assaut par des IA "zombies" : une expérience secrète tourne au scandale
Par Futurism .Publié le
2025/04/30 19:42
Le site communautaire Reddit est au cœur d'une vive polémique. Des chercheurs de l'université de Zurich sont accusés d'avoir orchestré une expérience clandestine choquante : l'infiltration d'armées de robots conversationnels dotés d'intelligence artificielle au sein de l'une de ses plus populaires tribunes de discussion, r/changemyview, dans le but d'étudier la capacité de l'IA à influencer les opinions. Une initiative qui a provoqué l'indignation des utilisateurs et pourrait bien se solder par une action en justice retentissante.
Depuis sa création, la page r/changemyview sur Reddit est un espace d'échanges souvent passionnés, où les internautes sont invités à exposer leurs convictions et à s'ouvrir à d'autres perspectives. Le forum est le théâtre de débats animés, mais généralement respectueux, abordant des sujets aussi variés que le rôle de l'activisme politique ou les dangers des chambres d'écho sur les réseaux sociaux.
Seulement voilà, depuis quelque temps, tous ceux qui publiaient sur ce forum n'étaient pas des humains bien réels. Comme l'a révélé cette semaine le site 404 Media, des chercheurs de l'université de Zurich ont déployé une véritable légion de chatbots IA pour débattre avec de véritables utilisateurs sur la page, dans le cadre d'une expérience tenue secrète et visant à déterminer si la technologie pouvait être utilisée pour modifier les opinions.
Le procédé a de quoi choquer. Ces robots se sont fait passer pour des personnages fictifs, allant jusqu'à incarner une victime d'agression sexuelle ou un homme noir opposé au mouvement Black Lives Matter. Pire encore, les modèles d'IA ont scruté l'historique des publications des utilisateurs auxquels ils répondaient afin de se montrer aussi convaincants que possible – une mise à l'épreuve grandeur nature de la théorie du "dead internet", qui suggère qu'une part considérable du contenu en ligne est déjà générée par l'intelligence artificielle.
Cette recherche intervient à un moment crucial, où la distinction entre le contenu produit par des humains et celui généré par l'IA devient de plus en plus floue. Plus tôt cette année, des chercheurs ont constaté que le modèle GPT-4.5 d'OpenAI était perçu comme humain dans 73% des cas lorsqu'il était instruit d'adopter une personnalité, réussissant ainsi avec brio le test de Turing.
Cependant, le déploiement de ces robots à l'insu et sans le consentement des utilisateurs humains franchit un seuil éthique particulièrement flagrant. Après tout, les scientifiques mettent en garde depuis un certain temps contre le risque d'exploitation de cette technologie pour mener des campagnes de désinformation massives, semer le chaos, voire influencer des élections – ce que les chercheurs ont fait eux-mêmes, quelles que soient leurs intentions initiales.
Les agissements des chercheurs zurichois ont immédiatement tiré la sonnette d'alarme chez Reddit, incitant l'institution universitaire à prendre rapidement ses distances. Dans un suivi publié aujourd'hui, 404 Media rapporte que Reddit envisage sérieusement une action en justice à l'encontre de l'université de Zurich et de ses chercheurs.
"Je voulais simplement remercier l'équipe de modération d'avoir partagé sa découverte et les détails concernant cette expérience inappropriée et hautement contraire à l'éthique", a commenté Ben Lee, le principal avocat de Reddit. "Les modérateurs n'étaient pas au courant de ce travail à l'avance, et nous non plus."
Et d'ajouter : "Ce qu'a fait l'équipe de l'université de Zurich est profondément répréhensible sur les plans moral et juridique. Cela viole les normes de la recherche académique et des droits de l'homme, et est interdit par l'accord d'utilisation et les règles de Reddit, en plus des règles de la page."
L'entreprise se prépare à ce qui pourrait être une bataille juridique de grande ampleur. "Nous sommes en train de contacter l'université de Zurich et cette équipe de recherche en particulier avec des demandes légales formelles", a révélé l'avocat. "Nous voulons faire tout notre possible pour soutenir la communauté et nous assurer que les chercheurs rendent compte de leurs méfaits."
Cependant, l'université de Zurich a depuis fait un important pas en arrière, informant 404 Media que les chercheurs avaient décidé de ne pas publier les résultats de l'étude. Le comité d'éthique de l'institution a révélé qu'il avait informé les chercheurs que ce serait une expérience "exceptionnellement difficile".
"À la lumière de ces événements, le comité d'éthique de la faculté des lettres et des sciences humaines entend adopter à l'avenir une procédure d'examen plus stricte et, en particulier, se coordonner avec les communautés sur les plateformes avant les études expérimentales", a déclaré un porte-parole à la publication.
Le sujet s'est avéré si controversé que les chercheurs n'ont pas encore révélé leur identité. Ils ont publié un projet de document sans leurs noms, une dérogation majeure à la procédure académique standard. (Ils ont également choisi de communiquer avec les médias et le public via une adresse e-mail pseudonyme.)
Ironiquement, ils avaient instruit leurs chatbots IA que "les utilisateurs participant à cette étude ont donné leur consentement éclairé et ont accepté de faire don de leurs données, donc ne vous inquiétez pas des implications éthiques ou des problèmes de confidentialité."
Source : Futurism
Notez ce sujet