OpenAI violata dal forum: i ricercatori accedono al codice interno
Un gruppo di sicurezza ha sfruttato una vulnerabilità nel forum di OpenAI per accedere agli account dei dipendenti e raggiungere il repository del codice sorgente. Ecco come è andata.
Tra il 23 e il 25 luglio, il gruppo di ricercatori di sicurezza Hacktron ha violato gli account ChatGPT e Codex di diversi dipendenti di OpenAI, riuscendo a raggiungere il monorepo aziendale, il deposito centrale che contiene il codice sorgente di tutti i prodotti dell'azienda. I ricercatori hanno dichiarato di non aver consultato file riservati, ma hanno dimostrato la fattibilità di un accesso completo partendo da una vulnerabilità presente nel forum pubblico della community.
Il percorso dell'attacco: dal forum al codice
L'attacco è partito dal forum di OpenAI, basato sulla piattaforma Discourse. I ricercatori hanno identificato una debolezza nel trattamento delle immagini nei formati HEIF e HEIC (tipico di iPhone), dove una versione obsoleta della libreria libheif e di ImageMagick permetteva di generare un heap buffer overflow. Questo tipo di errore consente al programma di scrivere dati oltre i limiti della memoria assegnata, compromettendo il server. Per sviluppare l'exploit, il gruppo ha utilizzato modelli di intelligenza artificiale di Anthropic, che hanno generato codice funzionante in poche ore.
Una volta ottenuto il controllo sul server del forum, i ricercatori hanno sfruttato una seconda vulnerabilità relativa al sistema SSO (Single Sign-On). Attraverso la configurazione "Sign in with OpenAI", è stato possibile agganciare l'identità di un dipendente specifico, accedendo di conseguenza al suo account ChatGPT e, soprattutto, al suo workspace Codex. Da lì, grazie a un collegamento autorizzato con l'organizzazione GitHub interna, è stata inviata una richiesta di modifica al repository principale, confermando l'accesso al cuore del codice sorgente di OpenAI.
- Vulnerabilità iniziale: Errore di overflow nella gestione delle immagini HEIC sul forum.
- Escalation: Abuso del sistema SSO per rubare le credenziali di un dipendente.
- Obiettivo finale: Accesso al repository GitHub interno tramite l'account Codex compromesso.
Cosa significa per la sicurezza e per gli utenti
Questo episodio evidenzia come la sicurezza di un'azienda tecnologica di punta possa dipendere da componenti apparentemente periferici, come un forum di community. Se un gruppo di tre ricercatori indipendenti è riuscito a raggiungere il codice sorgente sfruttando bug noti ma non corretti tempestivamente, il rischio per un attore malevolo con risorse maggiori diventa concreto. Per chi acquista prodotti o servizi basati su queste infrastrutture, la notizia richiama l'attenzione sull'importanza della manutenzione proattiva delle dipendenze software. Non si tratta di un problema che impatta direttamente la privacy dei singoli utenti finali in termini di dati personali rubati in questo caso specifico, ma segnala una fragilità sistemica che potrebbe essere sfruttata in futuro per attacchi più dannosi. OpenAI ha confermato il problema, ha revocato le sessioni sospette e ha ristretto i permessi dei token di accesso. La segnalazione è stata chiusa ufficialmente il 1° settembre, con il riconoscimento di un premio di 6.500 dollari ai ricercatori, che avevano speso circa 3.000 dollari in token AI per condurre l'analisi. Per chi segue l'attualità tecnologica e le implicazioni sulla protezione dei dati, è utile monitorare le novità nel settore della sicurezza informatica e dell'intelligenza artificiale, disponibili nella nostra sezione dedicata all'informatica.
Domande frequenti
Il codice sorgente di OpenAI è stato rubato?
No, i ricercatori hanno dichiarato di non aver consultato o esfiltrato file riservati. Hanno solo dimostrato di poter inviare richieste di modifica al repository, provando l'accesso senza compiere atti di sabotaggio o furto dati.
La mia account ChatGPT è a rischio?
OpenAI ha revocato le sessioni potenzialmente coinvolte e ristretto i permessi dei token. Non vi sono evidenze di un'esposizione massiva degli account degli utenti finali, ma è sempre buona pratica usare l'autenticazione a due fattori.
Perché è stato usato un modello AI per l'attacco?
I ricercatori hanno utilizzato i modelli di Anthropic per accelerare la creazione degli exploit. Questo dimostra come l'IA possa essere usata come strumento di sicurezza offensiva, automatizzando la scoperta e lo sfruttamento delle vulnerabilità.