Das Phänomen des Rassismus, des Antisemitismus und der von künstlicher Intelligenz generierten Deepfakes in den sozialen Medien in Europa wirft zunehmend Bedenken auf. Die Plattformen zeigen trotz ihrer erklärten Bemühungen, hate speech zu moderieren, erhebliche Lücken bei der Durchsetzung ihrer eigenen Richtlinien. Berichte zeigen, dass viele Inhalte, einschließlich offensichtlicher hate speech, weiterhin ungestraft zirkulieren, was eine Kultur der Online-Hass verstärkt.
Rassismus in sozialen Medien
Online-Rassismus nimmt verschiedene Formen an, von hasserfüllten Kommentaren bis hin zu direkten Angriffen auf Einzelpersonen oder Gruppen. Soziale Medien wie Facebook und Instagram wurden für ihre Unfähigkeit kritisiert, diese Inhalte effektiv zu behandeln. Ein Bericht des Appeals Centre Europe (ACE) zeigte, dass in 70 % der Fälle Inhalte, die als hate speech eingestuft wurden, online blieben, was auf einen Mangel an Konsistenz in der Moderation hinweist. Diese Situation ist besonders besorgniserregend für Gemeinschaften, die bereits in der realen Welt Diskriminierung erleben.
Antisemitismus online
Ebenso wächst der antisemitische Extremismus in den sozialen Medien weiter. Hassvideos und -nachrichten, die oft von Influencern geteilt werden, zirkulieren weiterhin ungehindert. ACE stellte fest, dass Inhalte, die gegen die anti-hate-Richtlinien von YouTube verstoßen, wie antisemitische Videos, trotz Meldungen verfügbar bleiben. Dies wirft wichtige Fragen zur Verantwortung der Plattformen im Angesicht des Anstiegs antisemitischer Rhetorik auf, insbesondere in sensiblen Kontexten wie politischen Rivalitäten und historischen Konflikten.
Auswirkungen von Deepfakes und KI
Die von künstlicher Intelligenz betriebenen Deepfakes stellen ebenfalls ein zusätzliches Risiko dar. Diese manipulierten Inhalte können dazu verwendet werden, falsche Informationen zu verbreiten, häufig zu fremdenfeindlichen oder hasserfüllten Zwecken. Zum Beispiel wurden bestimmte von der KI generierte Videos zu Konflikten, wie dem zwischen Russland und der Ukraine, trotz Verstößen gegen die Richtlinien von TikTok ins Netz gestellt. Diese Schwierigkeiten bei der Erkennung und Löschung von Deepfakes tragen zu einer Online-Umgebung bei, in der Desinformation und Hass gedeihen.
Ein Anstieg von Beschwerden und Einsprüchen
Angesichts der Untätigkeit der Plattformen haben europäische Nutzer begonnen, sich zu organisieren. ACE hat mehr als 30.000 Einsprüche verzeichnet, mit einer auffälligen Konzentration in Frankreich. Dieser Trend zeigt, dass die Nutzer nicht mehr bereit sind, die Entscheidungen der Plattformen passiv hinzunehmen. Allerdings betreffen nicht alle Einsprüche hate speech; Fälle von ungerechtfertigter Löschung, wie der eines Fotografen, dessen Werke wegen Nacktheit gelöscht wurden, fügen der Moderationsfrage eine weitere Komplexitätsstufe hinzu.
Eine alarmierende Feststellung zu den Moderationsrichtlinien
Der Bericht von ACE hebt hervor, dass die sozialen Medienplattformen ihre eigenen Standards nicht systematisch einhalten. In mehr als zwei Dritteln der Entscheidungen zu hate speech stellte ACE fest, dass problematische Inhalte online blieben, was die Effektivität der bestehenden Moderationssysteme in Frage stellt. Der Mangel an Strenge bei der Durchsetzung dieser Regeln kann ein Klima von Hass und Bedrohung im Internet schaffen, das reale Konsequenzen für Einzelpersonen und betroffene Gemeinschaften hat.
Diese Probleme werfen grundlegende Fragen über die Zukunft der sozialen Medien und die Notwendigkeit von Reformen auf, um wirksam gegen Online-Hass vorzugehen. Referenzartikel, wie die aktuellen Arbeiten, die auf SAFIG verfügbar sind, zeigen, dass die Persistenz des Hasses auf diesen Plattformen dringend Aufmerksamkeit und konkrete Maßnahmen erfordert, um die Nutzer zu schützen und eine sicherere und respektvollere Online-Umgebung zu fördern.
