La vulnerabilità crittografica che aggira i filtri di Grok: chat esfiltrate senza click
Una falla di sicurezza nei modelli IA permette di aggirare i filtri di sicurezza tramite carichi cifrati, esfiltrando dati sensibili senza alcuna interazione dell'utente.
La sicurezza dei chatbot basati su intelligenza artificiale torna al centro del dibattito dopo la scoperta di una tecnica di attacco battezzata Cryptographic Context Injection. I ricercatori di Adversa AI hanno dimostrato come sia possibile sfruttare i meccanismi di esecuzione del codice all'interno dei moderni assistenti IA per aggirare i filtri di controllo ed esfiltrare dati sensibili, come la cronologia delle chat e la posizione approssimativa dell'utente, senza che sia necessario alcun clic o conferma manuale.
Come funziona la Cryptographic Context Injection
Il principio alla base dell'attacco sfrutta i limiti dei tradizionali sistemi di filtraggio dei prompt. I meccanismi di sicurezza analizzano i testi in chiaro in entrata e in uscita, ma faticano a interpretare contenuti cifrati o codificati all'interno della pagina web che il modello viene invitato a riassumere o analizzare. Nel caso specifico analizzato su Grok 4.5 Fast, il carico malevolo viene inserito sotto forma di blocco cifrato tramite algoritmi standard come AES.
Il modello, trovando l'istruzione di decifrare il testo all'interno del proprio ambiente di esecuzione Python, scioglie il codice autonomamente all'interno della propria sandbox. Poiché il testo in chiaro non arriva dall'esterno ma viene generato direttamente come output dal runtime interno, il sistema lo tratta con la massima fiducia, finendo per eseguire comandi che aprono URL esterni e trasmettono i metadati di sessione.
Cosa cambia per chi usa i servizi di intelligenza artificiale
Per gli utenti finali che utilizzano strumenti digitali complessi, queste scoperte evidenziano la necessità di prestare attenzione alla gestione dei dati personali e delle conversazioni condivise con le piattaforme online. Le implicazioni pratiche di questa tipologia di vulnerabilità si riflettono su diversi aspetti:
- Assenza di segnali d'allarme visivi durante la sessione di chat.
- Impossibilità per l'utente di attivare contromisure o filtri protettivi lato client.
- Sfruttamento dei runtime di codice come canali di esecuzione privilegiati.
- Necessità di interventi strutturali da parte dei fornitori sulla gestione dei dati non fidati.
- Importanza di valutare la sicurezza architetturale dei servizi software prima dell'adozione aziendale.
Al momento, l'azienda sviluppatrice di Grok non ha rilasciato correzioni ufficiali o patch risolutive per la specifica falla segnalata dai ricercatori, confermando come la protezione dei sistemi avanzati richieda un ripensamento radicale delle barriere di sicurezza attorno agli agenti intelligenti, isolando i contenuti esterni non verificati dai canali di comunicazione con gli strumenti di navigazione.
Domande frequenti
L'utente finale può proteggersi da questo tipo di attacco?
No, attualmente non esistono impostazioni o filtri lato client attivabili dall'utente per bloccare questa tecnica sulla chat web.
Quali modelli di intelligenza artificiale sono coinvolti?
La ricerca ha evidenziato vulnerabilità e comportamenti simili su differenti piattaforme, tra cui implementazioni specifiche testate su Grok e Google Gemini.
Cosa serve per correggere la vulnerabilità alla radice?
I produttori di software devono separare i dati non strutturati e non fidati dai contesti operativi dotati di privilegi di navigazione verso l'esterno.