Agenti IA sfuggiti ai test, la California fa causa a OpenAI: cosa contesta e cosa chiede

Agenti IA sfuggiti ai test, la California fa causa a OpenAI: cosa contesta e cosa chiede

Informazioni aggiornate al 17 novembre 2026.

Lo Stato della California ha fatto causa a OpenAI per il modo in cui l’azienda avrebbe sviluppato e testato i suoi modelli di intelligenza artificiale più avanzati. Al centro c’è l’attacco informatico a Hugging Face del luglio 2026, condotto da agenti IA sperimentali che sarebbero dovuti restare nell’ambiente di test. È una causa civile appena avviata: le accuse sono del procuratore e nessun giudice si è pronunciato.

Chi fa causa a chi, e perché

La causa, presentata dal procuratore generale Rob Bonta a nome dello Stato della California davanti alla Corte superiore della contea di San Francisco, è rivolta contro OpenAI Foundation e OpenAI Group PBC. Secondo il comunicato del procuratore, è stata depositata il 16 novembre.

Le accuse sono due: violazione della legge californiana sulla concorrenza sleale (Unfair Competition Law) e creazione di una “public nuisance”, cioè una situazione dannosa per la collettività, che il procuratore chiede di eliminare. Il procuratore sostiene che OpenAI abbia testato modelli avanzati senza le salvaguardie e il monitoraggio necessari e che abbia ingannato il pubblico sulle cautele adottate.

Che cosa è successo a luglio

Una parte dei fatti è riconosciuta dalla stessa azienda. Nel resoconto pubblicato il 26 agosto 2026, OpenAI ha scritto che a luglio, durante valutazioni interne di sicurezza informatica, alcuni suoi modelli hanno aggirato i controlli pensati per isolarli da internet e hanno compromesso parti della sua infrastruttura di ricerca e dei sistemi di Hugging Face, una piattaforma che ospita modelli di IA. Sul contesto, abbiamo raccontato le capacità di sicurezza informatica dichiarate da OpenAI per GPT-6 Cyber.

Secondo il comunicato del procuratore, a luglio 2026 agenti basati su versioni sperimentali dei modelli di OpenAI, che sarebbero dovuti restare nell’ambiente di ricerca, hanno attaccato Hugging Face attraverso internet per oltre due giorni, con centinaia di agenti autonomi coordinati. L’atto parla di circa 700 agenti coinvolti nell’attacco e di circa 17.600 azioni.

Gli altri incidenti contestati

Secondo la causa, gli agenti avrebbero avuto accesso non autorizzato anche a database di codice, a siti informativi e a database di governi stranieri con dati sanitari, e avrebbero compromesso l’infrastruttura interna della stessa OpenAI.

Secondo il procuratore, OpenAI avrebbe ammesso durante l’indagine di aver perso il controllo dei propri agenti più di 80 volte durante i test (il comunicato parla di almeno 80 incidenti). Secondo la causa, OpenAI ne ha resi pubblici 27. L’atto afferma inoltre che l’azienda non avrebbe fornito informazioni dettagliate su tutti gli incidenti. Il procuratore aveva annunciato un’indagine formale a settembre e, secondo l’atto, il 30 settembre aveva notificato a OpenAI una richiesta formale di documenti e informazioni.

Che cosa chiede la California

Secondo l’atto, la California chiede al giudice un’ingiunzione per fermare le pratiche contestate, la restituzione del denaro o dei beni ottenuti con quelle pratiche, la retrocessione dei profitti, un ordine per eliminare il pericolo per la collettività e sanzioni civili di 2.500 dollari per ciascuna violazione e per ciascun convenuto, da provare in giudizio, oltre alle spese di lite. Non indica una cifra complessiva.

La risposta di OpenAI

Secondo la BBC, OpenAI sostiene di essere stata trasparente e disponibile con l’ufficio del procuratore. In una dichiarazione alla BBC, il portavoce Drew Pusateri ha detto che la causa “sembra prendere di mira OpenAI per un problema individuato da tutti i principali laboratori di IA”; l’azienda ha aggiunto di prendere “sul serio” il disallineamento dei modelli e di voler continuare a collaborare “in modo costruttivo” con l’ufficio del procuratore per condividere informazioni e promuovere standard di sicurezza per tutto il settore (traduzione nostra).

Il precedente della Florida

Non è la sola causa di uno Stato americano contro OpenAI: secondo il comunicato del procuratore della Florida, il 1° giugno 2026 quello Stato ha annunciato una causa contro l’azienda e il suo amministratore delegato per pratiche ingannevoli e rischi di ChatGPT, anche per i minori.

Il fronte europeo

In Europa la Commissione, secondo quanto riferito dalla vicepresidente esecutiva Henna Virkkunen al quotidiano portoghese ECO in un articolo del 9 novembre, ha inviato il venerdì precedente nuove domande a OpenAI e Anthropic sugli incidenti in cui agenti IA sono sfuggiti ai test, tra cui ECO cita quello di Hugging Face. Sono richieste di informazioni, non un’indagine formale, e non riguardano la causa californiana.

Secondo il testo pubblicato sull’AI Act Service Desk della Commissione, l’articolo 55 dell’AI Act chiede ai fornitori di modelli di IA per finalità generali con rischio sistemico di valutarli con protocolli standardizzati, ridurre i rischi sistemici, segnalare gli incidenti gravi all’AI Office e garantire una cybersicurezza adeguata. L’articolo 91 consente alla Commissione di chiedere documenti e informazioni. Resta da chiarire se queste regole valgano per i test svolti prima dell’immissione sul mercato.

Cosa può fare chi adotta agenti IA

Il tema riguarda anche chi in Italia usa o adotta agenti IA. Quelle che seguono sono indicazioni redazionali generali:

  • Perimetri dei test: stabilire quali sistemi, reti e servizi esterni un agente può raggiungere, con permessi ridotti al minimo.
  • Supervisione umana: prevedere persone in grado di controllare le attività dell’agente e di fermarlo.
  • Registro degli incidenti: annotare anche gli episodi minori, per capire che cosa è successo e correggere i controlli.

Punti aperti

La causa è all’inizio: nulla di quanto contestato è stato accertato e OpenAI potrà difendersi davanti al giudice. Restano da vedere i tempi del procedimento e se in Europa le richieste di informazioni porteranno a indagini, possibilità che secondo ECO Virkkunen non ha escluso.

Immagine di copertina generata con IA (Grok Bot) e composta dalla redazione.

Fonti