In Breve
- Qual è stata la vulnerabilità sfruttata dai ricercatori?
- I ricercatori hanno sfruttato una falla nel software del forum Discourse legata all'upload di file immagine.
- Quanto hanno guadagnato i ricercatori per la segnalazione delle vulnerabilità?
- I ricercatori hanno ricevuto un premio di 6.500 dollari.
- Qual è l'impatto dell'IA nello sviluppo di exploit?
- L'IA sta riducendo il tempo e le competenze necessarie per sviluppare exploit.
Una recente indagine ha rivelato come una squadra di tre ricercatori di Hacktron AI sia riuscita a sfruttare strumenti avanzati di intelligenza artificiale, in particolare il modello Claude (Opus 5) di Anthropic, per accedere a più account ChatGPT appartenenti a dipendenti di OpenAI e a elementi sensibili dell’infrastruttura aziendale.
L’attività è stata condotta nell’ambito di un programma di bug bounty, attraverso il quale i ricercatori hanno segnalato le vulnerabilità riscontrate e ricevuto un premio di 6.500 dollari. OpenAI ha prontamente risolto i problemi identificati.
Il primo accesso è avvenuto il 25 luglio, tramite una falla nel software del forum della comunità basato su Discourse, legata all’upload di file immagine nei formati HEIF/HEIC. Discourse, nel tentativo di gestire questi file, li convertiva utilizzando ImageMagick e la libreria libheif. Tuttavia, un bug di memoria in libheif portava a un calcolo errato della posizione di un’immagine sovrapposta, compromettendo così la sicurezza del server. Sebbene il difetto fosse stato corretto dagli sviluppatori di libheif mesi prima, la correzione non era stata formalmente segnalata con un CVE, e la versione vulnerabile era ancora in uso nel sistema di OpenAI.
I ricercatori hanno notato che il modello Opus 4.8 aveva difficoltà a generare un exploit funzionante, ma dopo poche ore dal rilascio di Opus 5, il modello è riuscito a produrlo. Una volta ottenuto l’accesso al server Discourse, i ricercatori hanno individuato una seconda vulnerabilità che ha consentito loro di controllare gli account ChatGPT e Codex, incluso l’account di un dipendente di OpenAI il cui Codex era collegato all’organizzazione GitHub dell’azienda.
Discourse ha rilasciato una patch per risolvere la vulnerabilità il 27 luglio. Questo episodio mette in evidenza come l’uso di modelli avanzati e strumenti commerciali possa ridurre significativamente il tempo e le competenze necessarie per sviluppare exploit. Matt Fredrikson, CEO della società di sicurezza Gray Swan, ha dichiarato: “Per 200 dollari al mese, chiunque può utilizzare questi strumenti per hackerare una società come OpenAI”. Mohan Pedhapati, fondatore di Hacktron, ha aggiunto che “l’IA sta riducendo la quantità di competenze scarse necessarie per sviluppare exploit. Lavoro che prima richiedeva mesi ora può richiederne giorni”.
È importante notare che Opus 5 non è stato soggetto alle restrizioni di esportazione che hanno colpito versioni successive come Mythos 5, che è stata temporaneamente limitata a causa di timori sulle sue capacità di hacking. Anche i modelli a pesi aperti stanno contribuendo a ridurre il divario di capacità: ricerche di SaferAI indicano che il modello GLM-5.2 di Z.ai si colloca a pochi mesi di distanza rispetto a GPT-5.5 e Claude Opus 4.7.
Questo incidente avviene in un contesto di crescente attenzione sulla sicurezza informatica nelle principali aziende che sviluppano intelligenze artificiali, sottolineando l’importanza di una vigilanza costante e di misure di sicurezza adeguate.
