OpenAI lancia un classificatore per rilevare i contenuti pedopornografici
OpenAI introduce un nuovo strumento gratuito per le organizzazioni verificate che rileva i CSAM, inclusi quelli generati dall'IA, riducendo i falsi positivi del 48%.

OpenAI ha annunciato lo sviluppo di un nuovo classificatore di immagini progettato specificamente per rilevare i contenuti di abuso sessuale su minori (CSAM). L'innovazione tecnologica mira a identificare materiale pedopornografico, con particolare attenzione alle immagini generate artificialmente, offrendo alle organizzazioni un metodo più preciso per la moderazione dei contenuti.
Un nuovo strumento di rilevamento e le nuove regole per gli utenti
L'azienda ha reso disponibile il classificatore tramite la propria API, rendendolo accessibile gratuitamente alle organizzazioni che superano le verifiche di sicurezza. Secondo i test interni, lo strumento ha dimostrato un'efficacia superiore rispetto alle soluzioni precedenti, riducendo del 48% il numero di falsi positivi e individuando un volume maggiore di immagini compromettenti. Il sistema assegna punteggi che aiutano i revisori umani a prioritizzare l'esame dei contenuti più critici.
Parallelamente al rilascio dello strumento tecnico, OpenAI ha inasprito le linee guida per gli utenti finali che interagiscono con ChatGPT:
- Viene mostrato un avviso immediato quando un utente inserisce prompt vietati relativi a minori.
- Le conversazioni contenenti richieste di generazione di CSAM vengono automaticamente cancellate.
- La generazione di immagini sessuali con minori è vietata e i modelli sono addestrati per rifiutare tali richieste.
- In caso di violazioni ripetute, è prevista la chiusura permanente dell'account.
Cosa significa per chi compra in Italia
Per il consumatore italiano e le aziende che operano nel nostro Paese, questa mossa segna un cambiamento nell'affidabilità dei filtri di sicurezza delle piattaforme di intelligenza artificiale. Sebbene il classificatore sia destinato principalmente a organizzazioni e forze dell'ordine, l'inasprimento delle policy di account riguarda direttamente tutti gli utenti. Chi utilizza strumenti di generazione immagini o testo per scopi professionali o personali deve essere consapevole che tentativi di aggirare i filtri comportano rischi concreti per l'accesso al servizio. Per gli sviluppatori italiani che integrano API di OpenAI nei propri prodotti, la disponibilità di un tool specifico per la sicurezza dei minori rappresenta un elemento di conformità importante, riducendo la responsabilità legale legata alla moderazione dei contenuti generati dagli utenti finali. È consigliabile consultare la sezione dedicata alle soluzioni di sicurezza informatica per comprendere meglio come proteggere le proprie infrastrutture da abusi e contenuti illeciti.
OpenAI sottolinea che la lotta a questi reati richiede una collaborazione trasversale tra industria, enti di sicurezza e autorità giudiziarie. Il nuovo strumento è un passo in questa direzione, ma non sostituisce la vigilanza umana e la segnalazione dei casi sospetti.
Domande frequenti
Il classificatore CSAM è disponibile per gli utenti privati?
No, l'accesso al classificatore tramite API è riservato alle organizzazioni che hanno superato specifiche verifiche di sicurezza e identità. Gli utenti privati non possono integrare questo strumento direttamente nei propri progetti personali.
Cosa succede se provo a generare contenuti illeciti su ChatGPT?
Il sistema blocca la generazione, mostra un avviso sulla natura penale della richiesta e cancella la conversazione. Ripetere tali tentativi può portare alla sospensione o alla chiusura definitiva dell'account.
Questo strumento riduce davvero i falsi positivi?
Sì, secondo i dati forniti da OpenAI, il nuovo classificatore riduce del 48% i falsi positivi rispetto agli strumenti precedenti, migliorando l'efficienza dei team di moderazione.
