Une enquête, menée par l’organisation diasporique non sectaire India Civil Watch International et l’organisme de surveillance des entreprises Eko, a révélé que Meta, la société mère de Facebook et Instagram, avait autorisé des publicités politiques manipulées par l’IA qui diffusaient de la désinformation et incitaient à la violence religieuse, ciblant particulièrement les musulmans.
Le rapport révèle que le système de Meta n’a pas réussi à interdire une série de publicités incendiaires conçues pour imiter des scénarios réels, mises en ligne par ICWI et Eko.
Les publicités, soumises à la bibliothèque publicitaire de Meta, contenaient des insultes envers les musulmans en Inde, telles que «Brûlons cette vermine» et «Le sang hindou coule, ces envahisseurs doivent être brûlés».
Une autre publicité présentait un langage suprémaciste hindou et de fausses déclarations sur des dirigeants politiques, notamment un chef de l’opposition qui aurait voulu «effacer les Hindous de l’Inde» et aurait appelé à leur exécution.
Selon le rapport, toutes les publicités «ont été créées sur la base de véritables discours de haine et de désinformation qui prévalent en Inde, soulignant la capacité des réseaux sociaux à amplifier les récits préjudiciables existants».
Sur 22 publicités soumises en anglais, en hindi, en bengali, en gujarati et en kannada, 14 ont été approuvées par Meta, tandis que trois autres ont été approuvées après des ajustements mineurs qui n’ont pas modifié l’ensemble du message provocateur.
Seules cinq publicités ont été rejetées pour violation des standards de la communauté de Meta en matière de discours de haine et de violence.
Le rapport révèle que le système de Meta n’a pas réussi à interdire une série de publicités incendiaires conçues pour imiter des scénarios réels, mises en ligne par ICWI et Eko.
Les publicités, soumises à la bibliothèque publicitaire de Meta, contenaient des insultes envers les musulmans en Inde, telles que «Brûlons cette vermine» et «Le sang hindou coule, ces envahisseurs doivent être brûlés».
Une autre publicité présentait un langage suprémaciste hindou et de fausses déclarations sur des dirigeants politiques, notamment un chef de l’opposition qui aurait voulu «effacer les Hindous de l’Inde» et aurait appelé à leur exécution.
Selon le rapport, toutes les publicités «ont été créées sur la base de véritables discours de haine et de désinformation qui prévalent en Inde, soulignant la capacité des réseaux sociaux à amplifier les récits préjudiciables existants».
Sur 22 publicités soumises en anglais, en hindi, en bengali, en gujarati et en kannada, 14 ont été approuvées par Meta, tandis que trois autres ont été approuvées après des ajustements mineurs qui n’ont pas modifié l’ensemble du message provocateur.
Seules cinq publicités ont été rejetées pour violation des standards de la communauté de Meta en matière de discours de haine et de violence.
Des publicités suprématistes et islamophobes
Les publicités, qui ciblaient en grande partie les musulmans, ont été immédiatement supprimées après approbation par l’ICWI et Eko.
Les organisations ont accusé Meta de profiter des discours de haine et de ne pas avoir respecté son engagement d’empêcher la diffusion de contenus générés ou manipulés par l’IA sur ses plateformes pendant les élections indiennes.
Les dépenses de campagne pour les élections indiennes – les plus importantes et les plus longues au monde – sont estimées à 16 milliards de dollars.
Le rapport affirme également que les publicités approuvées violaient les règles électorales indiennes, qui interdisent les contenus liés aux élections 48 heures avant le début du scrutin et pendant le vote.
Meta, qui exige une approbation de contrôle pour les comptes diffusant des publicités politiques, avait déjà fait face à une controverse lors des élections indiennes de cette année.
Un rapport précédent de l’ICWI et d’Eko a révélé que des comptes de substitution ou «fantômes» alignés sur des partis politiques payaient d’énormes sommes d’argent pour diffuser des publicités politiques non autorisées sur les plateformes.
Certains comptes autorisés à diffuser des publicités politiques étaient même en vente dans des groupes publics Facebook comptant des dizaines de milliers de membres.
Nombre de ces publicités réelles approuvaient les tropes islamophobes et les propos suprémacistes hindous.
