Les racistes utilisent l'IA pour diffuser des contenus anti-immigrés malveillants
Par Futurism .Publié le
2025/09/24 05:29
L'essor des logiciels d'intelligence artificielle générative, passés du statut de simple curiosité technologique à un outil utilisé par des millions de personnes, a eu un impact profond sur l'internet. Il a noyé les résultats de recherche dans un flot de contenus décousus, libéré un torrent de pornographie générée par l'IA et ébranlé la crédibilité des médias numériques en tant que source d'information fiable.
Évidemment, cette évolution a aussi engendré des conséquences inattendues. L'une des plus pernicieuses est l'utilisation de l'IA pour alimenter des théories du complot racistes, mettant en danger les minorités et les immigrants.
L'IA au service de la haine
Selon un récent reportage du journal The Times, des manifestations anti-immigration sont attisées par des utilisateurs de réseaux sociaux qui partagent des images manifestement racistes générées par l'IA, représentant des hordes d'immigrants arabes envahissant les rues de Londres.
Alors que les manifestations sont souvent déclenchées par la rhétorique extrémiste de personnalités influentes, The Times a constaté que les participants sont d'abord montés en puissance par des algorithmes de réseaux sociaux qui promeuvent le racisme et la désinformation.
Au Royaume-Uni, où l'islamophobie est endémique, ces publications présentent généralement une victime caucasienne vulnérable, comme un enfant ou une jeune fille, entourée d'une foule menaçante de minorités. Souvent vêtue d'un drapeau national, comme l'Union Jack, la victime de ces scénarios fictifs est presque toujours en larmes tandis que des stéréotypes raciaux virulents ricanent.
Hausse de la violence motivée par la haine
Ces contenus générés par l'IA coïncident avec une augmentation des crimes de haine anti-immigrés et islamophobes au Royaume-Uni, signe d'une banalisation du racisme à travers le pays.
En 2024, les agressions motivées par l'islamophobie ont augmenté de 73 % dans tout le Royaume-Uni.
Quelque 1 188 crimes de haine à motivation raciale ont eu lieu en Irlande du Nord sous contrôle britannique, contre 349 l'année précédente.
Le racisme organisé est également en hausse, illustré par un déferlement de manifestations et de discours anti-immigrés à travers le Royaume-Uni. Le week-end dernier, une foule violente de plus de 100 000 manifestants anti-immigrés a déferlé sur Londres, blessant plus de 24 personnes, selon France 24.
L'IA amplifie la portée des contenus racistes
"Lorsque des images biaisées créées par l'IA générative se répandent en ligne, elles ne font pas que renforcer les préjugés, elles peuvent inspirer la violence en positionnant les hommes blancs occidentaux comme de justes défenseurs de leurs communautés et de leurs familles", a déclaré au Times Beatriz Buarque, chercheuse en politique et en réseaux sociaux à la London School of Economics.
Dans une enquête menée sur des centaines de publications racistes soumises au Parlement britannique, Beatriz Buarque et ses collègues chercheurs ont découvert que, bien que le contenu généré par l'IA ne représente qu'une petite partie des messages haineux, son nombre moyen de vues était plus de trois fois supérieur à celui d'une publication organique typique. En d'autres termes, l'IA générative est utilisée pour augmenter considérablement la portée virale des contenus racistes.
Avec un tel engagement à exploiter des deux côtés, il semble que les entreprises de réseaux sociaux se contentent de laisser l'avalanche de contenus racistes générés par l'IA se poursuivre, au mépris des conséquences.
Notez ce sujet