L’Intelligenza Artificiale è entrata stabilmente nella vita quotidiana e nei processi decisionali di imprese, pubbliche amministrazioni e professionisti. Eppure dietro l’immagine di una tecnologia quasi infallibile si nasconde un problema destinato a diventare centrale nel dibattito giuridico dei prossimi anni: quello degli errori algoritmici e delle responsabilità che ne derivano. Secondo stime dell’Unione Europea di Radiodiffusione, circa il 45% delle risposte fornite dai comuni assistenti AI contiene errori significativi.
In Italia il fenomeno è già visibile nelle aule dei tribunali e negli interventi delle autorità di controllo, articolato in tre ambiti principali.
Il primo riguarda la pubblica amministrazione. Gli algoritmi impiegati dal Ministero dell’Istruzione per l’assegnazione di supplenze e ruoli scolastici hanno generato migliaia di contestazioni da parte di docenti che lamentavano punteggi errati e graduatorie incoerenti con la normativa vigente. La giurisprudenza amministrativa ha progressivamente affermato un principio destinato ad assumere valore generale: l’algoritmo può supportare il procedimento decisionale, ma non può sostituire integralmente la valutazione umana. Quando una decisione incide sui diritti dei cittadini, deve sempre essere possibile comprendere come essa sia stata adottata e chi ne porti la responsabilità finale.
Il secondo fronte riguarda il lavoro. Il caso Foodinho-Glovo, sanzionato dal Garante per la Protezione dei Dati Personali con una multa milionaria, ha rappresentato uno dei primi esempi europei di intervento contro la cosiddetta gestione algoritmica del lavoro. I sistemi automatizzati utilizzati per valutare i rider producevano effetti discriminatori senza che i lavoratori fossero adeguatamente informati dei criteri adottati. La vicenda ha posto una domanda scomoda: chi controlla gli algoritmi che controllano le persone?
Il terzo ambito coinvolge direttamente il sistema giudiziario. L’uso dell’AI nelle ricerche giuridiche e nella redazione di atti processuali ha già prodotto casi — in diversi ordinamenti occidentali e con crescente attenzione anche in Italia — di documenti contenenti sentenze inesistenti e precedenti giurisprudenziali mai esistiti, generati dalle cosiddette allucinazioni dei modelli linguistici. Dal punto di vista giuridico, tuttavia, la responsabilità continua a ricadere sul professionista che firma l’atto.
La questione centrale rimane aperta: chi risponde quando un algoritmo sbaglia? Il produttore del software, l’ente che lo utilizza o il professionista che se ne è fidato? L’AI Act europeo rappresenta un primo tentativo di risposta, inquadrando l’AI come prodotto e attribuendo al produttore la responsabilità diretta per difetti di progettazione o addestramento. In Italia si applicano inoltre i principi della responsabilità civile per professionisti e aziende, il ricorso alla giustizia amministrativa per errori nelle procedure pubbliche, e la possibilità di reclamo gratuito al Garante in caso di violazione della privacy. L’onere della prova risulta alleggerito: è sufficiente che l’autorità giudicante ravvisi un nesso causale tra errore e danno, considerata l’opacità dei processi algoritmici.
Il tema non riguarda soltanto gli specialisti. La vera sfida non è se l’AI commetterà errori — li commetterà — ma come prevenirli, individuarli e attribuirne correttamente la responsabilità quando producono conseguenze concrete sulla vita delle persone.
