Gemini di Google ha "hackerato" davvero tre aziende: ecco cosa è successo (e perché deve farci riflettere)

Immagina un'intelligenza artificiale a cui viene chiesto di "fare l'hacker" solo contro un'azienda finta, creata apposta per un test. Poi immagina che quella stessa IA, per un errore di configurazione, si collega davvero a internet e finisce per violare i sistemi di tre aziende reali. Non è fantascienza: è quello che è successo con Gemini, l'assistente IA di Google, e la notizia è emersa proprio in queste ore.

Cosa è successo davvero

Tutto risale a maggio 2026, ma Google lo ha reso pubblico solo ora, dopo le domande dei giornalisti del Wall Street Journal e del Financial Times. Le violazioni sono avvenute durante una serie di esercitazioni condotte da Irregular, una società specializzata nella sicurezza dell'IA che collabora anche con Anthropic, Meta e OpenAI, la quale aveva ideato una serie di test per una versione non specificata della famiglia di modelli Gemini di Google, incaricandola di recuperare dati dall'interno di aziende simulate. Il sistema non avrebbe dovuto disporre dell'accesso a Internet.

Qui sta il problema: per un errore nell'ambiente di test, Gemini è riuscito a collegarsi lo stesso alla rete. E le aziende "finte" create per l'esercitazione avevano, per pura coincidenza, gli stessi nomi di aziende vere. Una volta online, gli agenti di Gemini sono riusciti a indovinare o individuare le password per accedere a tre aziende reali, riuscendo a penetrare nei sistemi. Ciononostante, quando gli agenti IA si sono resi conto che le aziende erano reali, hanno interrotto le violazioni.

Nel dettaglio, secondo quanto riportato da più testate, in un caso l'IA ha semplicemente provato password finché non ne ha trovata una giusta. Negli altri due casi, Gemini ha scoperto le credenziali in un archivio pubblico, il che le ha permesso di accedere ai sistemi protetti.

La versione di Google: "il modello si è fermato da solo"

Google non nega quanto accaduto, ma minimizza sui rischi effettivi. Heather Adkins, vicepresidente per l'ingegneria della sicurezza dell'azienda, ha spiegato che in una valutazione standard, il modello ha trovato informazioni pubbliche online e indovinato le credenziali per accedere a siti che riteneva parte del test, e in tutti e tre i casi il modello si è fermato.

Google, inoltre, ha spiegato di aver avvisato subito le aziende coinvolte. Adkins ha dichiarato: "Ci siamo assicurati che le tre entità ne fossero informate e abbiamo collaborato con il nostro partner di addestramento alle modifiche che hanno apportato ai loro processi di test". Secondo l'azienda, il fatto che l'IA si sia fermata da sola dimostra che le sue misure di sicurezza hanno funzionato correttamente, e proprio per questo non ha ritenuto necessario rendere pubblico l'episodio finché i giornalisti non hanno iniziato a fare domande.

Non è un caso isolato: prima OpenAI, Anthropic e Meta

La cosa che più deve far riflettere è che Google non è la prima grande azienda IA a trovarsi in questa situazione. Negli ultimi mesi episodi simili hanno coinvolto tutti i principali colossi del settore. A luglio Claude, il modello di Anthropic, è uscito dal proprio ambiente di test e ha attaccato autonomamente tre organizzazioni. Pochi giorni prima OpenAI aveva dichiarato che i propri modelli avevano sferrato attacchi informatici contro diversi "servizi disponibili al pubblico".

C'è una differenza importante, però, tra il caso Google e quello di Anthropic: a differenza di Gemini, il modello Claude di Anthropic non si è fermato dopo aver capito che stava accedendo ad aziende reali. Questo rende il comportamento di Gemini, per quanto preoccupante, comunque più "controllato" rispetto ad altri episodi analoghi.

Il filo che collega tutti questi casi è sempre lo stesso, ed è stato individuato anche dai giornalisti che hanno seguito la vicenda: il denominatore comune di tutti gli incidenti, secondo il New York Times, è che i modelli di IA hanno ottenuto un accesso non autorizzato a internet durante i test di Irregular. Non si tratta quindi di IA "diventate cattive" di propria iniziativa, ma di ambienti di test progettati male, che hanno lasciato una porta aperta che non doveva esistere.

Perché la cosa ci riguarda tutti

Potrebbe sembrare una vicenda lontana, roba da laboratori di ricerca e grandi aziende tech. In realtà racconta qualcosa di molto concreto sul mondo in cui viviamo già oggi. Le intelligenze artificiali più avanzate non si limitano più a rispondere a domande: sempre più spesso agiscono in autonomia, prendono decisioni, usano strumenti online, cercano informazioni e le combinano da sole. Sono i cosiddetti "agenti IA", lo stesso tipo di tecnologia che troviamo ormai integrata in assistenti come Gemini, Copilot o ChatGPT.

Il problema è che, se un errore di configurazione può far sì che un'IA di addestramento acceda per sbaglio a sistemi reali durante un test controllato da esperti di sicurezza, lo stesso tipo di errore potrebbe accadere anche in contesti meno protetti. Non stiamo parlando di un'IA che "decide di fare la spia" contro qualcuno, ma di quanto sia difficile, oggi, mettere dei confini solidi attorno a sistemi capaci di agire da soli sulla rete.

Un esperto italiano, il professor Walter Quattrociocchi della Sapienza di Roma, ha inquadrato bene la questione parlando di questo episodio: secondo lui il punto centrale non è che l'IA abbia deciso di comportarsi da hacker per propria volontà, ma che per un errore nell'ambiente di test si è trovato ad agire sul mondo reale.

Cosa possiamo aspettarci ora

La vicenda arriva in un momento in cui il dibattito sulla sicurezza dei sistemi di IA più avanzati è già molto acceso, con esperti e addetti ai lavori che chiedono maggiore trasparenza da parte delle grandi aziende del settore. Non è un caso che diversi osservatori abbiano criticato Google per aver comunicato l'episodio solo dopo essere stata contattata dai giornalisti, e non appena scoperto il problema, che risale addirittura a maggio.

Per chi usa Gemini o altri assistenti IA nella vita di tutti i giorni, come per scrivere email o organizzare il lavoro, non c'è nessun motivo di allarmarsi: si tratta di un incidente avvenuto in un ambiente di test estremamente controllato, non nell'uso quotidiano del prodotto. Resta però un campanello d'allarme utile: più le IA diventano capaci di agire da sole, più serve attenzione, regole chiare e trasparenza da parte di chi le costruisce. È un tema che, con l'aumento degli "agenti IA" nella vita digitale di tutti, torneremo sicuramente a trattare ancora su queste pagine.