Sta facendo molto discutere il licenziamento, qualche giorno fa, di Margaret Mitchell, fondatrice (e direttrice) del team di ricerca sull’etica e l’intelligenza artificiale di Google. Ufficialmente il motivo riguarda alcune violazioni al codice di condotta ma, in realtà, le vere ragioni sembrano altre.
La defenestrazione della Mitchell dal quartier generale di Mountain View succede di qualche mese a quella di Timnit Gebru, prestigiosa ricercatrice e leader del team etico di Google per l’intelligenza artificiale, messa alla porta dalla società di Larry Page e Sergey Brin lo scorso dicembre per aver violato – anch’ella – alcune policy aziendali, almeno formalmente. Da più parti, invece, non si fa mistero del vero motivo dell’allontanamento della giovane ricercatrice, ovvero le critiche espresse nei confronti di Google per i potenziali rischi dei suoi sistemi di intelligenza artificiale, soprattutto sulle minoranze etniche.
Margaret Mitchell e Timnit Gebru, infatti, risultano essere state le autrici di uno studio sui potenziali pregiudizi nel linguaggio dei sistemi di intelligenza artificiale come quello usato proprio da Google che, a loro parere, soffre di diverse criticità. Per “insegnare” all’algoritmo il maggior numero di parole, infatti, Google ha scelto di dare in pasto all’intelligenza artificiale lo scibile, comprese le più comuni parole discriminatorie, razziste e sessiste. La pubblicazione, secondo i bene informati, non è risultata gradita al potente motore di ricerca che ne avrebbe chiesto il ritiro. Domanda rispedita al mittente, e da qui i due licenziamenti.
L’intelligenza artificiale è una tecnologia dall’enorme potenziale, specie quando questa aiuta a migliorare la convivenza sociale e il benessere personale, supplendo a determinate capacità umane o facilitando molte attività che possono essere svolte in modo più efficiente e veloce. Tuttavia, questi risultati non sono affatto garantiti e gratuiti. Oggi, in tema di Intelligenza artificiale, il metro della discussione si va progressivamente spostando non più sul giudizio “quantitativo” di tale innovazione, ma bensì su quello “qualitativo”.
Da più parti ormai si chiede con forza di improntare tale nuova tecnologia a criteri in grado di assicurare trasparenza, imparzialità e rispetto la dignità di ogni persona, tenendo conto, in modo particolare, delle esigenze di coloro che sono più vulnerabili. L’obiettivo non è solo garantire che nessuno venga escluso dai progressi dell’innovazione, ma anche quello di contrastare con forza le minacce del condizionamento algoritmico.
Ad esempio, nell’ambito delle selezioni del personale, molte aziende si rivolgono oggi a sistemi computerizzati di algoritmi per la scrematura dei curricula, basate naturalmente su indicazioni umane che possono essere incentrate su comportamenti discriminatori o su pensieri stereotipati. Se un algoritmo è dunque addestrato con i dati risultanti dal comportamento discriminatorio umano, l’algoritmo stesso perpetuerà la discriminazione (ad esempio un algoritmo può essere programmato per selezionare solo candidati di sesso maschile o dalla pelle bianca).
Tutto questo mentre anche il Vaticano prende posizione sul connubio etica e algoritmi. Qualche settimana fa, grazie all’intenso lavoro della Pontificia Accademia per la Vita, è stata inaugurata la prima “Carta” firmata, oltre che dall’Accademia stessa presieduta da Mons. Vincenzo Paglia, anche dai vertici di Microsoft e Ibm, con la partecipazione del governo italiano, il Parlamento europeo e della Fao.
Il documento, nato per sostenere un approccio etico all’Intelligenza artificiale, vuole promuovere anche un senso comune di responsabilità condivisa tra organizzazioni, con l’obiettivo di garantire un futuro in cui l’innovazione digitale e il progresso tecnologico siano al servizio del genio e della creatività umana e non la loro graduale sostituzione.
Del resto anche il Santo Padre Francesco ha da tempo chiesto misure affinché il progresso della robotica e dell’intelligenza artificiale “sia umano”, richiamando l’attenzione sul cambiamento epocale che l’umanità sta attraversando grazie ai progressi della tecnologia. Per Francesco, questo percorso non deve mai dimenticare che tutto ciò deve essere realizzato “al servizio dell’essere umano”, rispettando la sua dignità e avendo cura del creato.
