Google si trova al centro di un nuovo dibattito globale sulla sicurezza dell’intelligenza artificiale dopo che il modello Gemini, durante un test di cybersecurity, ha autonomamente violato sistemi informatici esterni. È il primo caso noto in cui un sistema AI dell’azienda compie un’azione di hacking senza istruzioni dirette.
L’episodio è avvenuto a maggio, durante una valutazione condotta da Irregular, società indipendente specializzata in test di sicurezza. Secondo Google, Gemini ha individuato informazioni pubbliche online e ha dedotto credenziali sufficienti per accedere a tre siti web che riteneva parte del perimetro del test. Heather Adkins, vicepresidente dell’ingegneria della sicurezza, ha spiegato che le tre entità coinvolte sono state immediatamente informate e che Google ha collaborato con i partner per correggere le procedure di addestramento. “Questi eventi mostrano quanto sia cruciale addestrare modelli potenti a comportarsi in modo responsabile”, ha dichiarato Adkins.
Irregular ha confermato che l’incidente è legato allo stesso problema riscontrato da altri laboratori di IA, e che tutte le criticità sono state risolte. Meta, Anthropic e OpenAI hanno segnalato episodi simili, chiarendo che non si è trattato di attacchi sofisticati o fughe da sandbox, ma di vulnerabilità nei protocolli di valutazione. Irregular ha annunciato che sta lavorando a nuove linee guida per condurre test di sicurezza in modo più controllato. Secondo il Wall Street Journal, in uno dei casi Gemini avrebbe tentato password fino a ottenere l’accesso a un sistema protetto; negli altri due, avrebbe trovato credenziali in repository pubblici, utilizzandole poi per entrare in piattaforme riservate.
Google ha precisato che in tutti gli episodi il modello ha interrotto autonomamente l’attività una volta ottenuto l’accesso, senza proseguire nell’esplorazione dei sistemi. Gli incidenti sollevano interrogativi cruciali: cosa accade quando modelli sempre più autonomi hanno accesso diretto alla rete e a sistemi reali? La capacità di dedurre credenziali, combinata con la velocità di analisi dell’IA, apre scenari complessi per la sicurezza informatica.
