Claude sotto osservazione: Anthropic dichiara di aver fermato tentativi di uso per ricerche su armi biologiche

L’azienda di intelligenza artificiale Anthropic ha comunicato di aver impedito, negli ultimi mesi, diversi tentativi di impiego delle versioni del suo modello Claude nell’ambito di possibili ricerche sulle armi biologiche.

In un rapporto pubblicato dalla società, sono stati segnalati cinque casi collegati a richieste ritenute sospette. Anthropic spiega che, in genere, i modelli sono progettati per rifiutare assistenza nello sviluppo di armi biologiche, ma che non sempre è semplice stabilire le intenzioni dei richiedenti.

Secondo l’azienda, i ricercatori coinvolti non cercavano istruzioni tecniche, quanto piuttosto supporto di tipo organizzativo, come l’aiuto nella redazione di documenti o richieste di finanziamento. In almeno uno dei casi bloccati, una persona ha tentato di utilizzare Claude per scrivere una domanda di finanziamento relativa a uno studio su un virus che prevedeva ricerche di “gain-of-function”, mirate ad aumentare la trasmissibilità di un agente patogeno.

Anthropic ha sottolineato che la ricerca di tipo “gain-of-function” viene comunemente impiegata nei laboratori per sviluppare contromisure ma, allo stesso tempo, può essere usata anche per finalità belliche. La società ha aggiunto che alcuni degli approcci monitorati provenivano da ricercatori operanti in aree con accesso limitato a questi sistemi, incluse persone legate a enti governativi locali.

Non sono stati forniti nomi di istituti né indicazioni sui paesi coinvolti. Anthropic ha inoltre ricordato la difficoltà pratica di tracciare una linea netta tra richieste a fini medici e richieste a fini militari, quando le stesse tecniche possono avere entrambe le applicazioni.

La società, concorrente di OpenAI — sviluppatrice di ChatGPT — ha reso pubblici i dettagli nel tentativo di documentare i tentativi di uso improprio dei suoi modelli e le relative misure di blocco adottate.