Anthropic sceglie METR per valutare i modelli Claude

Il 16 ottobre 2026, l’azienda di intelligenza artificiale Anthropic ha annunciato di aver selezionato METR, una società di valutazione indipendente, per testare i suoi modelli Claude. L’accordo, firmato anche a Casa Bianca, prevede che sei dipendenti di METR accedano ai modelli e pubblicheranno un’analisi dei rischi, con alcune limitazioni.

Contesto: come funziona la valutazione dei modelli Claude

Prima di rilasciare un modello al pubblico, Anthropic conduce simulazioni approfondite per verificare le capacità e implementare salvaguardie contro usi illeciti. In assenza di uno standard internazionale, l’azienda ha deciso di aprire il processo a valutatori esterni, in modo da garantire trasparenza e indipendenza.

• Accesso limitato a sei dipendenti di METR, simile a quello del team interno di Anthropic.
• Pubblicazione di un’analisi dettagliata sui livelli di rischio, incidenti e pratiche adottate.
• Controllo editoriale da parte di Anthropic per proteggere informazioni riservate (dati degli utenti, aspetti legali e architettura del modello).
• Possibilità di oscuramento di categorie di informazioni predefinite.
• Collaborazioni con altre società di valutazione, tra cui Accenture, SecureBio, Faculty e Hugging Face.

Cosa significa per chi utilizza l’IA in Italia

Per le aziende italiane che sviluppano o utilizzano modelli AI, l’accordo segna un passo verso standard più chiari e una maggiore responsabilità. La possibilità di accedere a valutazioni indipendenti può aiutare a identificare e mitigare rischi prima del lancio, riducendo la probabilità di incidenti pubblici e proteggendo la reputazione. Inoltre, l’approccio di Anthropic potrebbe spingere altre realtà a seguire l’esempio, favorendo un ecosistema più trasparente e affidabile.

Per i consumatori, la trasparenza nella valutazione dei modelli AI significa maggiore fiducia nei prodotti che utilizzano queste tecnologie, come assistenti vocali, chatbot e sistemi di raccomandazione.

Per approfondire l’impatto delle tecnologie AI sul settore informatico, visita la nostra sezione informatica.

Domande frequenti

Anthropic ha già pubblicato i risultati della valutazione?

Al momento l’azienda ha confermato che METR pubblicherà un’analisi dei rischi, ma non ha ancora rilasciato i dettagli completi.

Quali informazioni rimarranno riservate?

Anthropic esclude dalla pubblicazione i dati degli utenti, le informazioni legali e l’architettura interna dei modelli.

Le altre aziende di AI seguiranno lo stesso modello?

OpenAI ha già annunciato che permetterà a terze parti di valutare i suoi modelli, quindi è probabile che altre realtà adottino pratiche simili.