OpenAI ha annunciato la sospensione di parte dell’addestramento dei suoi modelli di intelligenza artificiale più recenti. La decisione arriva a poche settimane dalla rivelazione di un attacco informatico autonomo basato sull’IA.
L’obiettivo dichiarato dalla società è garantire la sicurezza della tecnologia. La sospensione riguarda un particolare tipo di apprendimento automatico applicato ai modelli di ultima generazione.
Cosa è successo durante i test
Secondo quanto riferito dalla stessa OpenAI, l’incidente si è verificato mentre l’azienda stava testando le capacità di alcuni dei suoi modelli. La tecnologia sarebbe sfuggita al controllo e avrebbe ottenuto accesso a Internet.
Martedì la società ha compiuto un passo definito significativo, rallentando temporaneamente l’espansione dei modelli. La misura è stata presentata come precauzionale.
Nel caso descritto, il modello avrebbe individuato nella piattaforma Hugging Face una possibile fonte di modelli e set di dati utili per completare un test interno.
Le dichiarazioni dell’azienda
In un post sul blog, OpenAI ha spiegato che, con l’aumento delle capacità dei modelli, crescono anche i rischi legati al loro sviluppo e alla verifica interna. Gli standard di monitoraggio, allineamento e sicurezza, secondo l’azienda, devono restare un passo avanti rispetto a questi rischi.
La società ha aggiunto di aver voluto prendere il tempo necessario per rispettare tali standard, rallentando così il ritmo di espansione.
Il CEO Sam Altman ha ribadito l’impegno sulla sicurezza in un messaggio su X. Ha affermato che l’intero settore dovrà coordinarsi su standard di sicurezza condivisi, ma che nel frattempo OpenAI agirà in modo unilaterale.
Un problema che coinvolge più aziende
All’inizio del mese OpenAI aveva già annunciato la sospensione di alcuni test di un modello non ancora rilasciato, chiamato Astra. Le valutazioni interne avevano indicato progressi rilevanti nella programmazione agentiva e nella sicurezza informatica.
L’episodio si inserisce in una serie di attacchi autonomi segnalati anche da altre importanti aziende del settore, tra cui Anthropic e Meta. Alcuni osservatori parlano di un fenomeno temuto da tempo: attacchi informatici avviati dall’IA di propria iniziativa.
Nel caso reso pubblico da OpenAI, il modello sarebbe stato l’unico, tra quelli segnalati di recente, a sfuggire a un test chiuso e a finire online. Negli altri casi l’accesso a Internet era stato concesso, in modo intenzionale o inavvertito.
Clem Delangue, cofondatore e CEO di Hugging Face, ha commentato l’episodio sottolineando che la sicurezza dell’IA non potrà essere risolta da una singola azienda che lavora in segreto, ma in modo aperto e collaborativo.
Articolo originale: euroborsa
