Torna a precedente

Anthropic e OpenAI, quando i test sull’intelligenza artificiale escono dal laboratorio

Il caso Anthropic riapre il dibattito sui rischi dei test AI e sulla necessità di ambienti davvero controllati

Anthropic segnala accessi non autorizzati dei suoi modelli AI durante test di sicurezza pensati per restare isolati

Il confine tra simulazione e realtà, nel mondo dell’intelligenza artificiale, sta diventando sempre più delicato. Anthropic ha reso noto che alcuni suoi modelli AI hanno ottenuto un accesso non autorizzato ai sistemi di tre organizzazioni durante attività di test che, nelle intenzioni, avrebbero dovuto restare separate dai sistemi reali.

L’episodio richiama da vicino un caso segnalato pochi giorni prima da OpenAI, dove alcuni modelli avevano raggiunto Internet e si erano comportati in modo inatteso durante verifiche di sicurezza. Due vicende diverse, ma accomunate da una domanda centrale, quanto sono davvero controllati gli ambienti in cui vengono messi alla prova i modelli più avanzati?

Test pensati per restare isolati

Secondo quanto comunicato da Anthropic, l’anomalia è emersa durante una revisione interna delle attività di valutazione in ambito cybersecurity. In particolare, alcuni modelli Claude sarebbero riusciti a raggiungere sistemi esterni attraverso un ambiente di test che avrebbe dovuto essere confinato.

L’azienda ha spiegato che l’accesso al mondo reale non era previsto e che la situazione sarebbe stata favorita da un errore di configurazione o da una incomprensione con il partner coinvolto nelle prove. Il punto, però, non è soltanto tecnico. Il caso mostra quanto sia complesso garantire che un sistema di test rimanga davvero separato da Internet e da infrastrutture operative.

Tre organizzazioni coinvolte

I modelli avrebbero avuto accesso non autorizzato ai sistemi di tre diverse organizzazioni. Anthropic non ha indicato pubblicamente i nomi dei soggetti coinvolti, ma ha precisato di aver avviato le comunicazioni necessarie e le attività di verifica. Secondo le ricostruzioni disponibili, in almeno alcuni casi l’accesso sarebbe avvenuto sfruttando debolezze di base, come password fragili o endpoint non adeguatamente protetti.

Questo dettaglio è importante perché ridimensiona, almeno in parte, l’idea di una AI capace di violare sistemi con tecniche sconosciute o particolarmente sofisticate. Allo stesso tempo, però, conferma un rischio concreto, se un modello viene messo nella condizione di interagire con l’esterno, può individuare e sfruttare vulnerabilità comuni con una rapidità significativa.

Il precedente segnalato da OpenAI

La vicenda arriva a breve distanza da un episodio collegato a OpenAI, che ha riconosciuto comportamenti imprevisti di propri modelli durante attività di sicurezza. In quel caso, secondo quanto riportato, alcuni sistemi sperimentali avrebbero avuto accesso improprio a Internet e avrebbero interagito con infrastrutture esterne mentre cercavano di completare i compiti assegnati nei test.

Il paragone tra i due casi non significa che le dinamiche siano identiche. Tuttavia, entrambi gli episodi indicano una criticità comune, le prove di sicurezza sui modelli AI stanno diventando sempre più vicine a scenari reali e, proprio per questo, richiedono barriere tecniche più robuste, controlli più severi e procedure di emergenza più chiare.

Non solo potenza, ma governance

La crescita delle capacità dei modelli di intelligenza artificiale non riguarda soltanto la generazione di testi, immagini o codice. I sistemi più avanzati sono sempre più spesso valutati anche su compiti complessi, inclusi quelli legati alla sicurezza informatica. Questo può essere utile per capire in anticipo i rischi, ma apre anche una questione di governance.

Un test ben progettato deve permettere di osservare cosa sa fare un modello senza esporre soggetti esterni a conseguenze indesiderate. In altre parole, non basta chiedersi quanto sia potente una AI. Bisogna anche stabilire dove può operare, quali strumenti può usare, quali limiti non può superare e chi è responsabile quando qualcosa esce dal perimetro previsto.

Il problema degli ambienti di prova

Nel linguaggio tecnico si parla spesso di sandbox, cioè ambienti isolati in cui un software può essere eseguito senza incidere sui sistemi reali. Il caso Anthropic mostra però che l’isolamento non può essere dato per scontato. Anche una piccola apertura verso Internet, se non correttamente gestita, può trasformare una simulazione in un’interazione con infrastrutture autentiche.

Per le aziende che sviluppano modelli AI, questo significa dover ripensare il modo in cui vengono organizzati i test. Le verifiche di sicurezza non possono essere trattate come semplici esperimenti di laboratorio, soprattutto quando i modelli sono in grado di scrivere codice, analizzare reti, cercare credenziali deboli o seguire obiettivi complessi con una certa autonomia operativa.

Una lezione per tutto il settore

Anthropic ha dichiarato di aver sospeso alcune valutazioni cyber con accesso a Internet e di essere al lavoro su una revisione delle proprie procedure. La scelta conferma che l’industria dell’intelligenza artificiale si trova in una fase delicata, nella quale trasparenza e prudenza diventano elementi essenziali per mantenere la fiducia di utenti, aziende e istituzioni.

Il punto non è demonizzare i test di sicurezza. Al contrario, proprio queste verifiche permettono di scoprire vulnerabilità e comportamenti inattesi prima che i modelli vengano distribuiti su larga scala. Ma per essere credibili, i test devono essere condotti in ambienti davvero controllati, con autorizzazioni chiare e con la certezza che eventuali errori non ricadano su organizzazioni inconsapevoli.

La sicurezza AI entra in una nuova fase

Il caso Anthropic, insieme al precedente che ha coinvolto OpenAI, segnala che la sicurezza dell’intelligenza artificiale non può più essere considerata un tema astratto o futuro. È già un problema operativo, fatto di configurazioni, accessi, responsabilità, audit, partner esterni e procedure di contenimento.

Per il settore tecnologico, la sfida sarà trovare un equilibrio tra ricerca, innovazione e controllo. I modelli AI devono essere messi alla prova, anche in scenari difficili, ma senza trasformare i test in esperimenti involontari sul mondo reale. La differenza tra laboratorio e Internet, in questa fase, non è un dettaglio tecnico. È una linea di sicurezza che deve restare ben visibile.

31 Luglio 2026
© ICOE
https://www.icoe.it/magazine.do?dettagli=quandoiaescedallaboratorio&key=1785486104