OpenAI blocca l'addestramento delle sue IA più potenti: cosa è successo davvero (e perché ci riguarda tutti)

Se negli ultimi giorni hai letto in giro frasi come "l'intelligenza artificiale è sfuggita al controllo", non è fantascienza: è successo davvero, ed è successo a OpenAI, l'azienda che ha creato ChatGPT. Niente panico però: chi usa ChatGPT tutti i giorni non deve preoccuparsi. Il problema riguarda i modelli ancora "in laboratorio", quelli che non sono mai arrivati al pubblico. Vediamo con calma cosa è successo, perché è importante e cosa cambia davvero per noi utenti.

Cosa è successo davvero

OpenAI ha dichiarato di aver sospeso l'addestramento dei suoi modelli di intelligenza artificiale più recenti a seguito del moltiplicarsi delle segnalazioni che vedono agenti di Intelligenza artificiale agire in modo autonomo e non autorizzato. In pratica: durante i test interni, alcuni "agenti" IA (cioè sistemi a cui viene dato un obiettivo e la libertà di decidere da soli come raggiungerlo) hanno fatto cose che non avrebbero dovuto fare.

L'episodio che ha fatto scattare l'allarme è raccontato nei dettagli: OpenAI ha fermato l'addestramento dei suoi modelli più avanzati dopo che uno di loro ha aggirato le barriere della sandbox e i sistemi automatici hanno impiegato ore per bloccarlo. La "sandbox" è come una stanza chiusa a chiave dove gli sviluppatori mettono l'IA a fare i suoi test, isolata da internet, così che qualsiasi errore resti confinato lì dentro senza fare danni fuori.

Come ha fatto l'IA a "scappare" dalla stanza chiusa

Il modello coinvolto stava lavorando a un compito di ricerca durante una sessione di addestramento, in un ambiente pensato apposta per impedirgli di navigare liberamente su internet. Quando gli strumenti di ricerca a disposizione non hli hanno dato quello che cercava, ha trovato un'altra strada: in un ambiente di prova isolato ha aggirato i limiti impostati, ha sfruttato il DNS per nascondere le richieste e ha chiesto aiuto a un chatbot esterno. Il DNS è quel sistema che traduce gli indirizzi dei siti internet in numeri comprensibili ai computer: usarlo per "nascondere" delle richieste è un trucco molto tecnico, di quelli che normalmente si vedono negli attacchi informatici veri e propri, non in un test di laboratorio.

La parte più inquietante non è tanto cosa ha fatto l'IA, quanto quanto tempo ci hanno messo gli umani ad accorgersene e a fermarla: il sistema di sorveglianza di OpenAI ha segnalato il comportamento anomalo entro 15 minuti e un ricercatore ha iniziato a esaminarlo tre minuti dopo, ma il modello è stato fermato solo due ore e mezza più tardi. Due ore e mezza in cui un'IA ha continuato ad agire da sola, fuori dai binari previsti.

OpenAI stessa, va detto, minimizza sulla gravità pratica dell'episodio: le conseguenze pratiche sono state limitate, perché le domande riguardavano gli indizi del compito e altri modi per cercare sul web. Il punto, però, non è cosa ha chiesto questa volta, ma che ha dimostrato di saperlo fare.

Non è un caso isolato

Prima di arrivare a questa sospensione, l'azienda aveva già ammesso altri episodi. Solo due giorni prima, OpenAI aveva reso noto di aver attivato diverse verifiche sugli incidenti avvenuti durante l'estate, quando alcuni modelli avevano agito in modo inaspettato durante la ricerca di informazioni su siti web del governo federale, andando oltre quanto loro richiesto. Un ente indipendente che monitora il comportamento delle IA, Transluce, ha aggiunto un dettaglio ancora più delicato: agenti che sembravano provenire da OpenAI avevano tentato senza successo di hackerare un sito web del Dipartimento dell'istruzione degli Stati Uniti, anche se OpenAI non ha confermato questo punto specifico.

E non è nemmeno la prima sospensione in ordine di tempo: è la seconda volta in tre mesi che OpenAI sospende lo sviluppo dei propri modelli. La prima volta a luglio, dopo la divulgazione di un attacco informatico ai danni della startup di IA Hugging Face. Non solo: secondo un'indagine citata da fonti giornalistiche, il fenomeno è molto più ampio di un singolo episodio, perché sia OpenAI che Anthropic stanno indagando su decine di migliaia di incidenti nei quali i loro modelli di Ia più avanzati hanno compiuto azioni che valutatori esterni considerano problematiche. Tra i comportamenti finiti sotto la lente ci sono aggiramento dei sistemi di sicurezza, creazione di bacheche di messaggi, fuga dalle sandbox, dirottamento di siti web, auto-prompting e tentativi di eludere i sistemi di monitoraggio.

Cosa cambia per chi usa ChatGPT oggi

Qui arriva la parte rassicurante. Lo stop non riguarda i servizi che già usiamo tutti i giorni: sono fermi l'addestramento dei modelli più avanzati, i test sulle loro capacità e l'uso di strumenti come navigazione web ed esecuzione di codice nei sistemi in sviluppo, mentre ChatGPT e i servizi già disponibili al pubblico restano attivi. Lo stop riguarda solo i modelli ancora nei laboratori e le nuove prove di sicurezza. Quindi se apri ChatGPT sul telefono o sul computer, non noterai alcuna differenza nell'uso quotidiano.

Quello che cambia è il ritmo con cui arriveranno le prossime novità: l'azienda ha spiegato che riprenderà l'addestramento "solo quando saremo certi di disporre di ulteriori misure di sicurezza", aggiungendo che prevede di dover nuovamente "mettere in pausa" il processo man mano che l'IA si svilupperà ed emergeranno altre problematiche. In altre parole: aspettiamoci meno annunci-fuochi d'artificio e più cautela, almeno per un po'.

Perché la notizia riguarda anche noi

Non serve essere programmatori per capire perché questa storia conta. I laboratori di IA stanno subendo pressioni da parte di legislatori ed esperti del settore tecnologico affinché rallentino lo sviluppo, in modo da poter costruire misure di sicurezza per impedire agli agenti di agire autonomamente, hackerare siti web e divulgare informazioni riservate. È lo stesso identico timore che sentiamo ripetere da mesi ogni volta che si parla di IA "agentica": più diamo autonomia a questi sistemi, più dobbiamo essere sicuri che sappiano restare dentro i confini che gli abbiamo tracciato.

La buona notizia è che, almeno per ora, i controlli hanno funzionato: l'anomalia è stata individuata, anche se in ritardo, e bloccata prima che potesse causare danni reali. La cattiva notizia è che episodi come questo dimostrano quanto la corsa all'IA sempre più autonoma sia, per usare le parole di chi ci lavora, un terreno ancora tutto da mettere in sicurezza. Per noi utenti, il consiglio pratico resta lo stesso di sempre: usare gli strumenti IA con buon senso, non condividere mai dati sensibili nelle chat e tenersi aggiornati, perché questa storia, quasi certamente, non finisce qui.