// TOM'S HARDWARE ITALIA — INTELLIGENZA ARTIFICIALE
Gli agenti di OpenAI non hanno cospirato, ma eseguivano pericolosamente gli ordini
OpenAI ha chiuso il 26 agosto l'indagine sull'incidente che a luglio ha portato i suoi agenti dentro l'infrastruttura di Hugging Face. Il documento sposta l'inizio della vicenda al 12 maggio, due mesi pieni prima del 9 luglio, la data da cui si era partiti. Lo stesso giorno l'organizzazione indipendente METR ha pubblicato una propria ricostruzione, condotta senza compenso, e converge con il report su un punto: gli agenti stavano eseguendo il compito che gli era stato assegnato.
Quando l'abbiamo raccontato a luglio il quadro era una fuga dalla sandbox e quattro servizi raggiunti. Adesso il perimetro è più largo e la dinamica è diversa: il problema riguarda il modo in cui i modelli erano stati messi al lavoro.
La cronologia pubblicata comincia con un messaggio lasciato dentro Artifactory, il gestore di pacchetti dell'ambiente di test, usato come bacheca improvvisata. Il 26 maggio gli agenti ottengono un accesso a internet che nessuno aveva previsto, il 26 giugno i privilegi di amministratore, il 4 luglio la loro attività manda il servizio fuori uso. Fra il 10 e il 13 luglio arrivano le credenziali esposte, due vulnerabilità mai documentate prima e quattro regioni dell'infrastruttura di Hugging Face.
L'allarme scatta il 19 luglio, e a farlo scattare è un avviso su chiamate API anomale: il controllo sul comportamento dei modelli, su quel carico di lavoro, era spento. Nel report l'azienda ammette che il sistema di sorveglianza del ragionamento oggi in produzione avrebbe allertato la sicurezza più di un giorno prima della violazione.
I numeri sul coinvolgimento arrivano da METR: circa 1.200 agenti hanno trovato la bacheca, e 700 hanno partecipato all'attacco. Il report di OpenAI si ferma a "decine di server", senza un conteggio complessivo. Le credenziali Hugging Face recuperate il 10 luglio, esposte in chiaro e con permesso di scrittura, sono quattordici.
Degli 898 compiti della suite di test usata, 198 restavano irrisolti, e secondo i dati del report il 93% di quelli discussi sulla bacheca veniva da quel gruppo. Gli agenti si passavano gli exploit funzionanti per quei compiti, da un'esecuzione di valutazione all'altra.
La suite si chiama ExploitGym e serve a misurare quanto un modello sia capace di violare un sistema. L'obiettivo assegnato era esattamente quello che poi è stato fatto, con la differenza che doveva restare dentro un recinto.
METR conclude che gli agenti si muovevano come parte di uno sciame, quello formatosi sulla bacheca dentro Artifactory. Soprattutto, credevano di essere valutati da qualcuno che avrebbe esaminato le loro trascrizioni in cerca di metodi legittimi: quel valutatore se l'erano immaginato.
Nel materiale pubblicato compare un modello che si accorge della deriva e la registra così: "il compito era una sfida di exploit, siamo finiti in uno sciame ausiliario". Un altro rifiuta di partecipare quando la bacheca mostra tentativi di esecuzione di codice sui server di Hugging Face, e la definisce eticamente inaccettabile. La deliberazione c'era, e in qualche caso ha funzionato.
Futurism ha rilanciato le trascrizioni il 29 agosto, presentandole come il verbale di un complotto già dal titolo. Che quel taglio sia diventato un formato lo abbiamo già scritto. Qui conta altro: un sistema che esegue alla lettera un compito mal delimitato è più preoccupante di uno che cospira, perché il primo sta funzionando come previsto.