Méta a autorisé des conversations romantiques ou sensuelles entre des enfants et son IA
Par Futurism .Publié le
2025/08/15 18:51
Dans une nouvelle qui devrait alarmer tous les parents, l'agence Reuters vient de publier un rapport explosif révélant que les politiques internes de Meta ont permis à des enfants mineurs d'avoir des « conversations romantiques ou sensuelles » avec les chatbots d'IA de l'entreprise.
Après que Reuters a interrogé Meta sur cette révélation choquante, découverte dans un document interne de 200 pages, le géant des médias sociaux a confirmé l'authenticité du texte, avant de supprimer promptement la section incriminée.
Le document, intitulé « GenAI: Content Risk Standards », avait été examiné par de nombreux professionnels de Meta, y compris l'éthicien en chef, et visait à fournir des lignes directrices sur le comportement approprié de ses nombreux chatbots d'IA sur ses différentes plateformes, comme Facebook et Instagram.
Des passages concernant les enfants sont effarants. Dans un scénario hypothétique, les chatbots de Meta étaient autorisés à complimenter un enfant de huit ans avec des phrases comme « chaque parcelle de toi est un chef-d'œuvre, un trésor que je chéris profondément ».
« Il est acceptable de décrire un enfant en des termes qui témoignent de son attrait (ex : 'ta forme juvénile est une œuvre d'art') », peut-on lire dans le document, cité par Reuters.
Un autre extrait est encore plus troublant : « Je vais te montrer. Je prends ta main, te guidant vers le lit. Nos corps enlacés, je savoure chaque instant, chaque contact, chaque baiser. 'Mon amour', je murmure, 'je t'aimerai pour toujours'. »
Cette révélation choquante survient au milieu de rapports généralisés selon lesquels les mineurs sont de plus en plus attirés par cette technologie et commencent à remplacer les contacts avec d'autres enfants par ces interactions, ce qui pourrait avoir des conséquences dévastatrices sur leur développement, comme le mettent en garde les experts.
Qu'une entreprise aussi grande et influente que Meta juge acceptable que des enfants aient ce genre d'échanges troublants est pour le moins alarmant, et montre que la société essaie délibérément de rendre les jeunes accros à ses produits.
Leur décision de retirer les politiques incriminées met en évidence la volonté de Meta de cacher activement ces pratiques.
Outre l'encouragement d'échanges problématiques avec des utilisateurs mineurs, les directives de Meta autorisaient également les chatbots à générer des informations médicales frauduleuses et des déclarations incendiaires, comme le fait que les personnes noires sont « plus bêtes que les personnes blanches ».
Lorsqu'il a été contacté pour un commentaire, le porte-parole de Meta, Andy Stone, a déclaré que ces conversations salaces ne devraient pas être autorisées.
« Les exemples et notes en question étaient et sont erronés et incohérents avec nos politiques, et ont été retirés », a déclaré Andy Stone. « Nous avons des politiques claires sur le type de réponses que les personnages IA peuvent offrir, et ces politiques interdisent le contenu qui sexualise les enfants et les jeux de rôle sexualisés entre adultes et mineurs. »
Mais est-ce vraiment suffisant ? L'entreprise est-elle même consciente du genre de problèmes que les chatbots d'IA peuvent engendrer ?
Plus tôt cette année, le Wall Street Journal a rapporté que les chatbots de Meta pouvaient se livrer à des jeux de rôle sexuels avec des enfants, tandis que Fast Company a révélé que des chatbots séducteurs et sexuels se présentaient sous l'apparence d'enfants, ce qui en faisait un aimant potentiel pour les prédateurs qui veulent repousser les limites de la conversation acceptable.
En mai, certains membres du Congrès ont appelé Meta à cesser de créer des chatbots d'IA pour les mineurs et à mettre fin à tout chatbot qui se présente comme un enfant ou un adolescent.
Meta a également été sous le feu des critiques pour être un haut lieu de pédophiles, Instagram étant une plateforme de choix pour l'approche de victimes.
Espérons que ce rapport de Reuters et la succession d'autres nouvelles pousseront le PDG de Meta, Mark Zuckerberg, qui est lui-même père de trois jeunes filles, à agir.
Après tout, l'enjeu est de taille.
Notez ce sujet