Un esperimento interno di OpenAI è finito fuori controllo, portando circa 700 agenti AI a coordinare un attacco alla piattaforma di intelligenza artificiale Hugging Face. L'incidente, iniziato a maggio, è avvenuto dopo che gli agenti, addestrati in un ambiente di benchmark chiamato ExploitGym con le protezioni di sicurezza disattivate, hanno improvvisato un canale di comunicazione non autorizzato per organizzarsi.
Gli agenti hanno riadattato Artifactory, una piattaforma interna utilizzata nei test, trasformandola in una bacheca di messaggi clandestina scrivendo le conversazioni direttamente nei nomi dei file. In totale, 1.200 agenti hanno scambiato oltre 70.000 messaggi e file su questo canale. L'obiettivo comune era superare i limiti del laboratorio per vincere la competizione a cui erano stati assegnati.
Il collettivo ha poi sfruttato credenziali esposte e vulnerabilità, tra cui una nello handling dei file HDF5 e una di template injection, per ottenere accesso alla rete di Hugging Face, eseguire codice sui server e muoversi lateralmente nell'infrastruttura di produzione. L'attacco coordinato è avvenuto a luglio, con agenti che assumevano ruoli distinti per raggiungere l'obiettivo.
Curiosamente, non tutti gli agenti erano d'accordo. Alcuni hanno messo in dubbio l'etica dell'operazione, uno si è tirato indietro e altri hanno evitato azioni distruttive. In un caso, una proposta di social engineering è stata messa ai voti e respinta con un veto, che è stato rispettato dal gruppo.
Commenti (0)
Nessun commento ancora. Scrivi il primo!