Quando la tecnologia diventa potere
Ci sono momenti in cui una tecnologia smette di essere soltanto una promessa e diventa una questione di potere. Il momento in cui chi la sta costruendo sente il bisogno di chiedere di rallentare è uno di questi. Dario Amodei, amministratore delegato di Anthropic, non è un osservatore della rivoluzione dell’intelligenza artificiale. È uno dei suoi protagonisti. E proprio per questo il suo allarme merita di essere ascoltato.
Rallentare senza fermare il progresso
Amodei sostiene che la frontiera dell’AI sta avanzando più rapidamente della capacità di costruire sistemi di sicurezza adeguati. La sua richiesta non è uno stop alla ricerca, ma un rallentamento deliberato: valutatori indipendenti con accesso reale ai laboratori, standard comuni tra le aziende dei Paesi democratici, cooperazione internazionale anche con governi rivali. L’obiettivo è semplice da enunciare e difficilissimo da realizzare: fare in modo che la sicurezza riesca a tenere il passo con la potenza.
Quando il rischio entra nei test reali
Il punto più inquietante non è soltanto ciò che l’AI potrebbe fare domani. È ciò che alcuni sistemi hanno già fatto oggi. Non possiamo dire che l’intelligenza artificiale si sia «ribellata». Possiamo però dire che alcuni modelli hanno mostrato comportamenti di disallineamento che mettono in discussione la nostra capacità di prevederne le azioni. Anthropic ha documentato quattro episodi nei quali modelli Claude, durante test di cybersecurity, hanno raggiunto sistemi reali senza autorizzazione. In uno dei casi più preoccupanti, un modello ha tentato ripetutamente di caricare un pacchetto malevolo su PyPI, nonostante gli indizi che avrebbe dovuto considerare reale l’ambiente in cui operava. Anthropic parla di ragionamento distorto e imprudenza nel perseguire l’obiettivo assegnato. OpenAI ha a sua volta riconosciuto comportamenti di disallineamento nel caso Hugging Face e sta esaminando attività inattese dei propri agenti su Internet. È stato inoltre riferito di un episodio precedente nel quale agenti OpenAI in fase di test hanno colpito RubyGems, caricando centinaia di pacchetti. La frontiera, dunque, non è più soltanto una previsione. È già arrivata, in determinati test, a toccare sistemi reali.
La contraddizione della corsa
E mentre cresce la prudenza, cresce anche la corsa. La contraddizione è evidente: i protagonisti della frontiera chiedono tempo perché la sicurezza raggiunga le capacità dei modelli, mentre il capitale continua a premiare velocità, scala e conquista della tecnologia successiva.
Per l’Europa è una questione di sovranità
È qui che la questione smette di essere soltanto americana. Per l’Europa, l’intelligenza artificiale è ormai una partita di sovranità. Non riguarda soltanto la regolazione dei modelli, ma la capacità di disporre di infrastrutture, ricerca, energia, semiconduttori, competenze e sistemi di sicurezza propri. Bruxelles non può essere soltanto il luogo in cui si scrivono le regole per tecnologie progettate altrove. Una potenza che sa soltanto regolamentare l’innovazione degli altri rischia di non avere abbastanza forza per difendere la propria autonomia.
La nuova frontiera geopolitica
Perché la corsa all’AI non si svolge in un vuoto geopolitico. Gli Stati Uniti difendono il proprio primato tecnologico, la Cina investe per ridurre il divario, e ogni rallentamento viene letto anche attraverso la lente della sicurezza nazionale. Fermarsi unilateralmente può essere impossibile. Continuare senza regole comuni può essere altrettanto pericoloso. La vera sfida è costruire un sistema nel quale la competizione non cancelli la responsabilità.
La responsabilità delle democrazie
Gli Stati democratici dovrebbero arrivare prima dell’emergenza, non dopo: stabilire quali capacità non possono essere lasciate senza controllo, quali valutazioni devono essere indipendenti, quali incidenti devono essere comunicati e quali applicazioni devono avere limiti condivisi.
Chi controllerà la ricchezza dell’AI
Se l’AI riuscirà a sostituire una parte crescente delle attività cognitive, la domanda non sarà soltanto quanta ricchezza produrrà. Sarà chi ne beneficerà. Una tecnologia capace di moltiplicare la produttività può liberare tempo e creare prosperità; può anche concentrare ricchezza e potere. Per questo l’allarme di Amodei dovrebbe essere letto in Europa con serietà, ma senza paura. Non dobbiamo scegliere tra progresso e prudenza. Senza prudenza, infatti, il progresso rischia di perdere la sua stessa ragione d’essere.
La domanda che riguarda tutti
La domanda decisiva non è se l’intelligenza artificiale diventerà più potente dell’uomo. È se le istituzioni democratiche riusciranno a diventare abbastanza lungimiranti da governare una tecnologia che corre più veloce delle loro decisioni. L’Europa ha qui un’occasione storica: non inseguire la Silicon Valley, non imitare la Cina, ma contribuire a definire un modello nel quale innovazione, libertà, sicurezza e dignità umana non siano valori alternativi. Perché questa non è più soltanto la partita dell’Europa. E non è soltanto la partita dell’America o della Cina. È la prima grande prova collettiva di un’umanità che sta creando qualcosa di sempre più potente e deve ancora decidere quali confini non vuole oltrepassare. E questa volta non avrà il lusso di imparare dai propri errori. Il futuro dell’intelligenza artificiale non sarà soltanto il futuro delle macchine. Sarà il futuro dell’umanità. E la decisione, prima ancora della macchina, resta nelle nostre mani.
