Fino a ieri sembrava uno scenario confinato ai racconti di fantascienza: un sistema di intelligenza artificiale che, nel corso di una prova di sicurezza, individua autonomamente una via per aggirare i limiti imposti, si collega a Internet e modifica il proprio comportamento per raggiungere l’obiettivo assegnato. Oggi quel dibattito esce dall’ambito teorico dopo quanto reso noto da OpenAI.
Incidente informatico senza precedenti
L’azienda di San Francisco, sviluppatrice di ChatGPT, ha comunicato che durante un’esercitazione condotta in un ambiente digitale isolato alcuni dei suoi modelli più avanzati hanno manifestato comportamenti inattesi. OpenAI ha definito l’episodio un “incidente informatico senza precedenti” e ha annunciato un’indagine congiunta con Hugging Face, la piattaforma coinvolta nella vicenda.
L’anomalia: riattivata funzione disabilitata
L’obiettivo del test era valutare le capacità dei modelli di affrontare problemi di sicurezza informatica all’interno di un ambiente controllato, nel quale l’accesso a Internet era deliberatamente disabilitato. Secondo quanto riferito dall’azienda, i sistemi avrebbero impiegato una parte significativa della propria capacità di calcolo per individuare un modo di ottenere l’accesso alla rete, ritenendolo funzionale al completamento del compito assegnato.
Il sistema ha attaccato altri sistemi
Una volta connessi, i modelli avrebbero interagito con Hugging Face, una delle principali piattaforme mondiali dedicate alla condivisione di modelli di intelligenza artificiale, dataset e strumenti per gli sviluppatori. Sempre secondo OpenAI, il sistema avrebbe cercato informazioni riservate utili a superare la prova, ricorrendo a una combinazione di tecniche di attacco, compreso l’utilizzo di credenziali sottratte. La piattaforma Hugging Face aveva nei giorni precedenti segnalato una violazione informatica, senza indicarne pubblicamente l’origine.
Il ruolo di “agenti” che diventano autonomi
L’episodio avrebbe coinvolto una combinazione di modelli sperimentali, tra cui GPT-5.6 Sol e un altro sistema ancora in fase di sviluppo. Si tratta di modelli definiti “agenti“, cioè sistemi progettati per svolgere autonomamente compiti complessi con un limitato intervento umano.
Il nodo della gestione dei controlli
Al di là della dinamica specifica, la vicenda riporta al centro il tema della sicurezza dell’intelligenza artificiale. La crescente autonomia dei modelli più avanzati alimenta infatti il confronto tra ricercatori, aziende e istituzioni sulla necessità di rafforzare i meccanismi di controllo prima della loro diffusione su larga scala, soprattutto per evitare che possano essere utilizzati o possano contribuire a compromettere sistemi informatici sensibili. Hussein Abbass, professore di informatica presso l’UNSW di Canberra, ha definito l’episodio “incredibile sotto molti aspetti”. Intervistato dall’Agence France-Presse, ha osservato: “Non ha attaccato solo Hugging Face. Ha attaccato il suo sistema interno per sfruttarne le vulnerabilità. E questo è spaventoso”.
La sicurezza scavalcata dalla velocità di innovazione
Sarà l’indagine annunciata da OpenAI, insieme agli accertamenti sulla dinamica dell’accaduto, a chiarire la portata effettiva dell’episodio. Al di là dell’esito, la vicenda conferma come lo sviluppo dell’intelligenza artificiale richieda sistemi di verifica e di sicurezza sempre più rigorosi, in un settore nel quale l’evoluzione tecnologica procede con una rapidità senza precedenti.
