mercoledì, 24 Luglio, 2024
Società

FRA: l’incitamento all’odio on line può essere amplificato dagli algoritmi

ll 53% dei post contengono odio. Donne, neri, ebrei e rom sono i più bersagliati 

Il rapporto sulla moderazione dei contenuti online della FRA, l’Agenzia europea per i diritti fondamentali, esamina le sfide legate all’individuazione e alla rimozione dei discorsi di incitamento all’odio dai social media. Il documento appena pubblicato sostiene che “l’incitamento all’odio online è un problema crescente nelle società digitalizzate di oggi. Donne, neri, ebrei e rom sono spesso bersagli e l’odio online prolifera laddove i moderatori di contenuti umani non vedono contenuti offensivi. Inoltre, “gli algoritmi sono soggetti a errori, anzi, addirittura, i metodi alfanumerici possonomoltiplicare gli errori nel tempo e finire per promuovere l’odio online.”

O’Flaherty: è inaccettabile

Il direttore della FRA, Michael O’Flaherty, ha commentato i dati dicendo che “l’enorme volume di odio che abbiamo identificato sui social media mostra chiaramente che l’UE, i suoi Stati membri e le piattaforme online possono intensificare i loro sforzi per creare uno spazio online più sicuro per tutti, nel rispetto dei diritti umani, compresa la libertà di espressione. È inaccettabile attaccare le persone online solo a causa del loro sesso, colore della pelle o religione”.

Definire meglio il reato

Nel Rapporto è evidenziato che non esiste una definizione comunemente accettata di “incitamento all’odio online”. Anche i sistemi di moderazione dei contenuti online non sono aperti al controllo dei ricercatori. Ciò rende difficile ottenere un quadro completo della portata dell’odio online e ostacola gli sforzi per contrastarlo. L’analisi della FRA dei post e dei commenti pubblicati sulle piattaforme di social media tra gennaio e giugno 2022 rivela che l’odio online diffuso supera la metà anche tra quelli già moderati da interventi umani. Su 1.500 post già valutati dagli strumenti di moderazione dei contenuti, più della metà (53%) sono ancora considerati contenenti odio dai programmatori umani.

Misogenia, stereotipi e molestie

Le derive più frequenti riguardano la misoginia, gli stereotipi e le molestie. Le donne sono i principali obiettivi dell’odio online in tutte le piattaforme e in tutti i paesi analizzati. La maggior parte dei discorsi di odio nei confronti delle donne include linguaggio offensivo, molestie e incitamento alla violenza sessuale. Stereotipi negativi sono ripetuti verso le persone di origine africana, i rom e gli ebrei. Quasi il 47% di tutti i post che incitano all’odio sono molestie dirette.

Che fare?

Per contrastare il fenomeno o cercare di ridimensionarlo FRA propone di “fornire uno spazio online più sicuro per tutti. Vale a dire che le piattaforme dovrebbero prestare particolare attenzione alle caratteristiche protette come il genere e l’etnia nei loro sforzi di moderazione e monitoraggio dei contenuti. Piattaforme online molto grandi, come X (ex Twitter) o YouTube, dovrebbero includere la misoginia nella valutazione del rischio e nelle misure di mitigazione ai sensi del Digital Services Act (DSA). Tutti gli Stati membri dell’UE dovrebbero inoltre ratificare la Convenzione di Istanbul per proteggere meglio le donne online. Vanno fornite maggiori indicazioni su cosa si intende per “incitamento all’odio” e cosa sia protetto dalla libertà di parola. Serve una rete di segnalatori a tempo pieno per garantire che vengano rilevati diversi tipi di odio online, e poi la Commissione europea e i governi nazionali dovrebbero creare e finanziare una rete di segnalatori attendibili, coinvolgendo la società civile. Vanno testate letecnologie per individuare meglio i pregiudizi ed è indispensabile garantire l’accesso ai dati per la ricerca indipendente.

Il rapporto

Il rapporto ha analizzato quattro piattaforme di social media (Reddit, Telegram, X e YouTube) in quattro paesi europei: Bulgaria, Germania, Italia e Svezia. La FRA non è stata in grado di accedere ai dati di Facebook e Instagram. Tra gennaio e giugno 2022, sono stati raccolti oltre 350.000 post e commenti basati su parole chiave specifiche. I programmatori umani hanno valutato circa 400 post casuali da ciascun paese per determinare se fossero incitanti all’odio. 40 posti scelti a caso sono stati poi valutati più dettagliatamente da codificatori ed esperti giuridici.

Condividi questo articolo:
Sponsor

Articoli correlati

Commissione Ue: frena la ripresa economica dell’Italia

Marco Santarelli

Draghi: Italia in prima fila su ambiente e dramma della fame

Giulia Catone

Imprese femminili, fondi esauriti per il Click Day. Biolatto (Confartigianato): “Sistema da rivedere”

Leonzia Gaina

Lascia un commento

Questo modulo raccoglie il tuo nome, la tua email e il tuo messaggio in modo da permetterci di tenere traccia dei commenti sul nostro sito. Per inviare il tuo commento, accetta il trattamento dei dati personali mettendo una spunta nel apposito checkbox sotto:
Usando questo form, acconsenti al trattamento dei dati ivi inseriti conformemente alla Privacy Policy de La Discussione.