Nei giorni scorsi Evan Hubinger, ricercatore di punta di Anthropic, super-specialista dei sistemi di intelligenza artificiale, ha scritto sul suo profilo social una frase shock: la probabilità che l’IA provochi lo sterminio dell’umanità entro il prossimo decennio è superiore al 10%. Poche ore prima, Jacob Coxon, suo collega, aveva lasciato l’azienda con dichiarazioni più inquietanti: la competizione commerciale rischia di collocare in secondo piano la sicurezza del futuro del nostro Pianeta. Stupisce che ad affermarlo siano persone che quei sistemi li studiano e li costruiscono: intelligenze artificiali capaci di perseguire obiettivi complessi con crescente autonomia, di scrivere codici, sfruttare vulnerabilità informatiche e contribuire al proprio stesso miglioramento fino al punto della perdita del controllo dell’uomo. Da medico assisto a quanto esattamente i virus fanno quando devono infettare una cellula. Una fagocitosi virale in biologia umana che qui diventa «fagocitosi informatica».
La gestione del rischio e il parallelo con la medicina
E abituato a maneggiare il linguaggio della probabilità, trovo che questa vicenda possa meritare una lettura diversa, sia da quella dell’allarmismo che della rassicurazione automatica. Un rischio «superiore al 10%» è una stima, formulata da chi lavora nel campo, per costringere il dibattito pubblico a uscire dalla favola rassicurante del progresso con sole certezze e senza controindicazioni. In oncologia chirurgica conviviamo ogni giorno con percentuali di questo tipo: una probabilità di recidiva, un rischio operatorio, un margine di incertezza che non cancella la decisione da prendere, ma la orienta. Il punto non è pretendere certezza assoluta di risultato o che la percentuale di probabilità sia esatta ma, se l’entità del timore che emerge esige una scelta diversa da quella attuale. Qui la domanda: possiamo ancora dire no alla IA? No, ma orientarla sì.
Per l’industria dell’intelligenza artificiale il parallelo con la medicina diventa scomodo. Un nuovo farmaco, prima di raggiungere il paziente, attraversa fasi di sperimentazione regolate, comitati etici, agenzie indipendenti che possono anche bloccarne la diffusione. I grandi modelli di IA, al contrario, vengono rilasciati a centinaia di milioni di persone con una sperimentazione di sicurezza che le stesse aziende definiscono incomplete. Anthropic, nel documento a cui Hubinger fa riferimento, riconosce di essere oggi meno sicura nel giudicare basso il rischio che, sistemi elevati di IA, possano condurre autonomamente ricerca e sviluppo. E parla di «primi segnali di una possibile accelerazione».
È un’ammissione ragguardevole fatta non da parte di un critico ma di chi somministra la cura, perché il margine di incertezza si sta allargando proprio mentre la diffusione di IA dilaga. La domanda che politica ed opinione pubblica devono porsi urgentemente è se abbia senso lasciare che la valutazione del rischio esistenziale resti interamente affidata all’autoregolamentazione di poche aziende in competizione.
La storia della medicina insegna che le tecnologie più potenti, dai farmaci alle radiazioni, dalla genetica alle biotecnologie, sono diventate sicure non perché i loro inventori fossero prudenti, ma perché la Società ha costruito attorno ad esse argini istituzionali capaci di rallentarle quando necessario, senza per questo rinunciare al loro continuo sviluppo e benefici. Sottovalutare questi allarmi informatici significa ripetere un errore che in medicina paghiamo caro ogni volta che lo commettiamo: sottovalutare un rischio a bassa probabilità ma di conseguenze irreversibili, solo perché ancora non ne abbiamo ancora visti gli effetti sul paziente. In questo caso il paziente siamo tutti noi, e la diagnosi, per quanto incerta, meriterebbe già oggi una terapia. Prevenire è sempre meglio che curare. Il tema dell’Intelligenza artificiale rimane delicato per tutto il Pianeta, non è normato e va assolutamente regolamentato con policy di rigore a livello mondiale. Il rischio della perdita del controllo umano su questi sistemi è già realtà.
