Le phénomène du racisme, de l’antisémitisme et des deepfakes générés par l’intelligence artificielle sur les réseaux sociaux en Europe soulève des préoccupations croissantes. Les plateformes, malgré leurs efforts déclarés pour modérer les contenus haineux, montrent des lacunes significatives dans l’application de leurs propres politiques. Les rapports indiquent que de nombreux contenus, y compris des discours haineux flagrants, continuent de circuler sans être supprimés, ce qui alimente une culture de la haine en ligne.
Racisme sur les réseaux sociaux
Le racisme en ligne prend diverses formes, allant des commentaires haineux aux attaques directes contre des individus ou des groupes. Les réseaux sociaux comme Facebook et Instagram ont été critiqués pour leur incapacité à gérer ces contenus de manière efficace. Un rapport de l’Appeals Centre Europe (ACE) a révélé que dans 70 % des cas, les contenus considérés comme discours de haine ont été laissés en ligne, ce qui illustre un manque de cohérence dans la modération. Cette situation est particulièrement préoccupante pour les communautés qui subissent déjà des discriminations dans la vie réelle.
Antisémitisme en ligne
De même, l’extrémisme antisémite ne cesse de croître sur les réseaux sociaux. Des vidéos et des messages haineux, souvent partagés par des influenceurs, continuent de circuler librement. ACE a constaté que des contenus violant les politiques anti-haine d’YouTube, comme les vidéos antisémites, restent disponibles malgré les signalements. Cela soulève des questions importantes sur la responsabilité des plateformes face à la montée des discours antisémites, en particulier dans des contextes sensibles comme ceux des rivalités politiques et des conflits historiques.
Impact des deepfakes et de l’IA
Les deepfakes, alimentés par des technologies d’intelligence artificielle, posent également un risque supplémentaire. Ces contenus manipulés peuvent être utilisés pour propager de fausses informations, souvent à des fins xénophobes ou haineuses. Par exemple, certaines vidéos générées par l’IA relatives à des conflits, comme celui entre la Russie et l’Ukraine, ont été mises en ligne malgré des violations des politiques de TikTok. Cette difficulté à détecter et à supprimer les deepfakes contribue à un environnement en ligne où la désinformation et la haine prospèrent.
Une augmentation des recours et des contestations
Face à l’inaction des plateformes, les utilisateurs européens ont commencé à se mobiliser. ACE a enregistré plus de 30 000 recours, avec une concentration notable en France. Cette tendance montre que les utilisateurs ne se contentent plus d’accepter passivement les décisions des plateformes. Toutefois, toutes les contestations ne concernent pas des discours haineux; des cas de suppression injustifiée, comme celui d’un photographe dont les œuvres ont été supprimées pour des raisons de nudité, ajoutent une couche de complexité à la question de la modération.
Un constat alarmant sur les politiques de modération
Le rapport d’ACE souligne que les plateformes de réseaux sociaux ne respectent pas systématiquement leurs propres normes. Dans plus des deux tiers des décisions relatives aux discours de haine, ACE a constaté que des contenus problématiques demeuraient en ligne, ce qui remet en question l’efficacité des systèmes de modération en place. Le manque de rigueur dans l’application de ces règles peut créer un climat de haine et d’intimidation en ligne, qui a des conséquences bien réelles pour les individus et les communautés ciblées.
Ces problématiques soulèvent des questions fondamentales sur l’avenir des réseaux sociaux et la nécessité de réformes pour lutter efficacement contre la haine en ligne. Des articles de référence, tels que les récents travaux disponibles sur SAFIG, montrent que la persistance de la haine sur ces plateformes exige une attention urgente et des actions concrètes pour protéger les utilisateurs et promouvoir un environnement en ligne plus sûr et respectueux.
