Il fenomeno del razzismo, dell’antisemitismo e dei deepfake generati dall’intelligenza artificiale sui social media in Europa solleva preoccupazioni crescenti. Le piattaforme, nonostante i loro sforzi dichiarati per moderare i contenuti di odio, mostrano lacune significative nell’applicazione delle proprie politiche. I rapporti indicano che molti contenuti, inclusi discorsi di odio flagranti, continuano a circolare senza essere rimossi, alimentando una cultura dell’odio online.
Razzismo sui social media
Il razzismo online prende varie forme, che vanno da commenti di odio ad attacchi diretti contro individui o gruppi. I social media come Facebook e Instagram sono stati criticati per la loro incapacità di gestire questi contenuti in modo efficace. Un rapporto dell’Appeals Centre Europe (ACE) ha rivelato che nel 70% dei casi, i contenuti considerati discorsi d’odio sono rimasti online, il che illustra una mancanza di coerenza nella moderazione. Questa situazione è particolarmente preoccupante per le comunità che già subiscono discriminazioni nella vita reale.
Antisemitismo online
Allo stesso modo, l’estremismo antisemita continua a crescere sui social media. Video e messaggi di odio, spesso condivisi da influencer, continuano a circolare liberamente. ACE ha constatato che contenuti che violano le politiche anti-odio di YouTube, come i video antisemiti, rimangono disponibili nonostante le segnalazioni. Questo solleva interrogativi importanti sulla responsabilità delle piattaforme di fronte alla crescente diffusione di discorsi antisemiti, soprattutto in contesti sensibili come quelli delle rivalità politiche e dei conflitti storici.
Impatto dei deepfake e dell’IA
I deepfake, alimentati da tecnologie di intelligenza artificiale, pongono anche un rischio ulteriore. Questi contenuti manipolati possono essere usati per propagare false informazioni, spesso a fini xenofobi o di odio. Ad esempio, alcuni video generati dall’IA relativi a conflitti, come quello tra Russia e Ucraina, sono stati pubblicati nonostante le violazioni delle politiche di TikTok. Questa difficoltà nel rilevare e rimuovere i deepfake contribuisce a un ambiente online in cui la disinformazione e l’odio prosperano.
Un aumento dei ricorsi e delle contestazioni
Di fronte all’inazione delle piattaforme, gli utenti europei hanno iniziato a mobilitarsi. ACE ha registrato oltre 30.000 ricorsi, con una concentrazione notevole in Francia. Questa tendenza mostra che gli utenti non si accontentano più di accettare passivamente le decisioni delle piattaforme. Tuttavia, non tutte le contestazioni riguardano discorsi d’odio; casi di rimozioni ingiustificate, come quello di un fotografo le cui opere sono state rimosse per motivi di nudità, aggiungono un ulteriore livello di complessità alla questione della moderazione.
Un rapporto allarmante sulle politiche di moderazione
Il rapporto di ACE sottolinea che le piattaforme di social media non rispettano sistematicamente le proprie norme. In oltre i due terzi delle decisioni relative ai discorsi d’odio, ACE ha constatato che contenuti problematici rimanevano online, il che mette in discussione l’efficacia dei sistemi di moderazione in atto. La mancanza di rigorosità nell’applicazione di queste regole può creare un clima di odio e di intimidazione online, che ha conseguenze ben reali per gli individui e le comunità bersaglio.
Queste problematiche sollevano interrogativi fondamentali sul futuro dei social media e sulla necessità di riforme per combattere efficacemente l’odio online. Articoli di riferimento, come i recenti lavori disponibili su SAFIG, mostrano che la persistenza dell’odio su queste piattaforme richiede un’attenzione urgente e azioni concrete per proteggere gli utenti e promuovere un ambiente online più sicuro e rispettoso.
