Facebook dichiara guerra ai propri algoritmi, soprattutto ai risultati che questi restituiscono (dopo opache elaborazioni) a danno di utenti di colore, ispanici e appartenenti ad altre minoranze USA.
Sotto la spinta di diversi gruppi americani che lottano a favore dei diritti civili, il social di Mark Zuckerberg sta allestendo un team dedicato allo studio e alla risoluzione di potenziali pregiudizi razziali sulla celebre piattaforma (insieme alla sua controllata Instagram), vincendo l’iniziale ritrosia ad approfondire il modo in cui le notizie e i prodotti che appaiono ogni giorno sulle bacheche degli utenti influenzano i diversi gruppi di minoranza.
Per gli ingegneri, gli algoritmi sono sistemi logici fondati su funzioni matematiche presenti in varie tipologie di software. Per i giornalisti e gli esperti di comunicazione, invece, gli algoritmi si presentano come potenti strumenti utilizzati in particolare, ma non solo, per filtrare le notizie disponibili e presentarle agli utenti secondo un ordine, spesso personalizzato, derivante dall’applicazione di determinati criteri.
La problematica degli algoritmi usati dai giganti del web ha fatto emergere la problematica dell’uso e consumo di queste alchimie matematiche, mostrando come la rete sia un mezzo potente e non certo neutrale. In generale essa può essere fattore di sviluppo e benessere, così come causa di supremazia, prevaricazione o, appunto, discriminazione.
L’uso degli algoritmi porta diversi benefici d’indubbio valore, come la coerenza e l’obiettività, ma anche grandi rischi, primo fra tutti la disparità. Ad esempio, nell’ambito delle selezioni del personale, molte aziende si rivolgono oggi a sistemi computerizzati di algoritmi per la scrematura dei curricula, basati naturalmente su indicazioni umane che possono essere incentrate su comportamenti discriminatori o su pensieri stereotipati. Se un algoritmo è dunque addestrato con i dati risultanti dal comportamento discriminatorio umano, l’algoritmo stesso perpetuerà la discriminazione (ad esempio un algoritmo può essere programmato per selezionare solo candidati di sesso maschile o dalla pelle bianca).
La discriminazione algoritmica rischia pertanto, se non sapientemente governata, di approfondire le iniquità alle quali vorrebbe ovviare, senza che gli utenti ne siamo neppure lontanamente consapevoli. Ben venga, dunque, l’iniziativa di Facebook e, in generale, un “governo” di Internet meno frammentato e capace di rappresentare una forma di disciplina più condivisa che, preservandone la caratteristica primaria della libertà di accesso e di espressione, riconduca nel frattempo ad un sistema comune di norme quanto avviene nello spazio virtuale, un coordinamento (necessariamente) sovranazionale non solo sotto il profilo tecnico, ma anche dei contenuti e dei servizi veicolati sulla rete.
In questo ambiente, l’assenza di un sistema generale di regole trasparenti e condivise renderebbe lo spazio virtuale off limits, guidato soltanto da algoritmi “oscuri” e zone franche, all’interno del quale tutto può accadere, incluso il rischio di trasformare l’utopia della libertà nella tirannia dell’anomia.
