Retrait d'une chaîne YouTube aux contenus choquants : Des vidéos de meurtres de femmes générées par l’IA
Par Frank Landymore .Publié le
2025/09/29 10:40
Dans l'un des signes les plus sombres et récents de l'abus de l'Intelligence Artificielle générative, une enquête menée par "404 Media" a révélé l'existence d'une chaîne YouTube macabre entièrement dédiée à la diffusion de vidéos conçues par l'IA montrant des femmes se faisant tirer une balle dans la tête. Ces contenus, atteignant un degré de réalisme effarant, remettent en question l'efficacité des garde-fous techniques face aux pires perversions sur internet.
L'horreur en ligne : Détails de la chaîne "Woman Shot AI"
L'investigation a révélé que la chaîne incriminée, nommée "Woman Shot AI" (Femme Abattue IA), avait accumulé plus de 175 000 vues depuis son lancement le 20 juin 2025. Après l'alerte lancée par 404 Media, la chaîne a finalement été supprimée par YouTube.
La chaîne laisse derrière elle un héritage sordide. Elle avait mis en ligne 27 vidéos et rassemblé près de 1 200 abonnés, un nombre faible mais extrêmement inquiétant. Les vidéos suivaient toutes une formule glaçante : une représentation photoréaliste d'une femme suppliant pour sa vie, un homme se profilant à l'avant-plan, la menaçant avec une arme.
Certains clips mettaient en scène des personnages de jeux vidéo, à l'image d'un montage intitulé « Lara Croft abattue dans la poitrine – Compilations IA ». D’autres se concentraient sur des « Filles Capturées » ou des « Lycéennes Japonaises ». L'une des vidéos montrait même des soldats russes abattant des femmes ukrainiennes en pleurs, arborant des drapeaux sur leur poitrine.
Au moins une vidéo avait été qualifiée d’« extrême » par son créateur lui-même.
Une demande alimentée par la misogynie
Le contenu était, semble-t-il, demandé. 404 Media a découvert que le propriétaire de la chaîne publiait des sondages demandant aux abonnés de voter pour les « victimes de la prochaine vidéo », proposant des options basées sur la race et le genre.
Ces « contenus d'IA de mauvaise qualité » (AI slop) sont devenus un problème persistant sur les plateformes comme YouTube, où la monétisation est simplifiée. Même si les contenus d'IA moins choquants (comme les vidéos éducatives soporifiques ou les musiques générées) sont considérés comme du spam, la chaîne "Woman Shot AI" n'est en zone grise. Son contenu semble être alimenté par une combinaison de misogynie extrême et de fétichismes perturbants.
Fissures dans les protections de Google Veo
YouTube a affirmé avoir retiré la chaîne pour violation de ses conditions d'utilisation, notamment après une récidive suite à une interdiction antérieure.
Ironiquement, la chaîne était entièrement opérée grâce à l'écosystème Google. En plus d'être hébergées sur YouTube, les filigranes indiquent que toutes les vidéos ont été créées avec Veo 3, le nouvel outil de Google permettant de générer des vidéos à partir de texte.
Le propriétaire s'est d’ailleurs plaint publiquement du coût élevé de l'outil, affirmant dépenser environ 300 dollars par mois pour dix comptes différents afin de contourner les limites de génération de vidéos.
Le fait que le créateur ait réussi à générer autant de vidéos graphiques sans être bloqué reflète le terrible échec des protections de Veo. Cependant, à l'instar de presque tous les outils d'IA générative, la technologie défie fréquemment ses propres garde-fous, et des utilisateurs ingénieux parviennent à les contourner par des ruses aussi simples que l'insertion de fautes de frappe dans leurs instructions (prompts).
Un porte-parole de Google a déclaré que si leurs outils d'IA sont conçus pour suivre les instructions des utilisateurs et qu'ils travaillent à appliquer leurs politiques, « les outils s'améliorent continuellement pour refléter ces politiques. »
Notez ce sujet