Il rapporto sulla moderazione dei contenuti online della FRA, l’Agenzia europea per i diritti fondamentali, esamina le sfide legate all’individuazione e alla rimozione dei discorsi di incitamento all’odio dai social media. Il documento appena pubblicato sostiene che “l’incitamento all’odio online è un problema crescente nelle società digitalizzate di oggi. Donne, neri, ebrei e rom sono spesso bersagli e l’odio online prolifera laddove i moderatori di contenuti umani non vedono contenuti offensivi. Inoltre, “gli algoritmi sono soggetti a errori, anzi, addirittura, i metodi alfanumerici possonomoltiplicare gli errori nel tempo e finire per promuovere l’odio online.”
O’Flaherty: è inaccettabile
Il direttore della FRA, Michael O’Flaherty, ha commentato i dati dicendo che “l’enorme volume di odio che abbiamo identificato sui social media mostra chiaramente che l’UE, i suoi Stati membri e le piattaforme online possono intensificare i loro sforzi per creare uno spazio online più sicuro per tutti, nel rispetto dei diritti umani, compresa la libertà di espressione. È inaccettabile attaccare le persone online solo a causa del loro sesso, colore della pelle o religione”.
Definire meglio il reato
Nel Rapporto è evidenziato che non esiste una definizione comunemente accettata di “incitamento all’odio online”. Anche i sistemi di moderazione dei contenuti online non sono aperti al controllo dei ricercatori. Ciò rende difficile ottenere un quadro completo della portata dell’odio online e ostacola gli sforzi per contrastarlo. L’analisi della FRA dei post e dei commenti pubblicati sulle piattaforme di social media tra gennaio e giugno 2022 rivela che l’odio online diffuso supera la metà anche tra quelli già moderati da interventi umani. Su 1.500 post già valutati dagli strumenti di moderazione dei contenuti, più della metà (53%) sono ancora considerati contenenti odio dai programmatori umani.
Misogenia, stereotipi e molestie
Le derive più frequenti riguardano la misoginia, gli stereotipi e le molestie. Le donne sono i principali obiettivi dell’odio online in tutte le piattaforme e in tutti i paesi analizzati. La maggior parte dei discorsi di odio nei confronti delle donne include linguaggio offensivo, molestie e incitamento alla violenza sessuale. Stereotipi negativi sono ripetuti verso le persone di origine africana, i rom e gli ebrei. Quasi il 47% di tutti i post che incitano all’odio sono molestie dirette.
Che fare?
Per contrastare il fenomeno o cercare di ridimensionarlo FRA propone di “fornire uno spazio online più sicuro per tutti. Vale a dire che le piattaforme dovrebbero prestare particolare attenzione alle caratteristiche protette come il genere e l’etnia nei loro sforzi di moderazione e monitoraggio dei contenuti. Piattaforme online molto grandi, come X (ex Twitter) o YouTube, dovrebbero includere la misoginia nella valutazione del rischio e nelle misure di mitigazione ai sensi del Digital Services Act (DSA). Tutti gli Stati membri dell’UE dovrebbero inoltre ratificare la Convenzione di Istanbul per proteggere meglio le donne online. Vanno fornite maggiori indicazioni su cosa si intende per “incitamento all’odio” e cosa sia protetto dalla libertà di parola. Serve una rete di segnalatori a tempo pieno per garantire che vengano rilevati diversi tipi di odio online, e poi la Commissione europea e i governi nazionali dovrebbero creare e finanziare una rete di segnalatori attendibili, coinvolgendo la società civile. Vanno testate letecnologie per individuare meglio i pregiudizi ed è indispensabile garantire l’accesso ai dati per la ricerca indipendente.
Il rapporto
Il rapporto ha analizzato quattro piattaforme di social media (Reddit, Telegram, X e YouTube) in quattro paesi europei: Bulgaria, Germania, Italia e Svezia. La FRA non è stata in grado di accedere ai dati di Facebook e Instagram. Tra gennaio e giugno 2022, sono stati raccolti oltre 350.000 post e commenti basati su parole chiave specifiche. I programmatori umani hanno valutato circa 400 post casuali da ciascun paese per determinare se fossero incitanti all’odio. 40 posti scelti a caso sono stati poi valutati più dettagliatamente da codificatori ed esperti giuridici.
