Anthropic ha dichiarato di aver bloccato quest’anno diversi casi sospetti in cui scienziati avrebbero utilizzato i suoi modelli di intelligenza artificiale per ricerche potenzialmente utili allo sviluppo di armi biologiche.
In un rapporto sugli abusi dei suoi sistemi, la società ammette di non essere stata in grado di stabilire se quelle attività avessero finalità legittime o ostili. Il problema è che molta ricerca biologica è per sua natura “dual use”: può portare a vaccini e nuove terapie, ma anche contribuire alla creazione di agenti patogeni più pericolosi. Di fronte a questa ambiguità, Anthropic ha scelto una linea prudenziale, ritenendo troppo alto il rischio di sottovalutare un possibile uso malevolo.
«Non succede che qualcuno scriva apertamente: voglio costruire un’arma biologica», ha spiegato Jacob Klein, responsabile della threat intelligence di Anthropic. «Sono situazioni molto più sfumate.»
La possibilità che i modelli di IA più avanzati facilitino la progettazione di patogeni noti o del tutto nuovi è considerata da molti esperti uno dei rischi più gravi legati alla rapida evoluzione della tecnologia. Finora, tuttavia, il pericolo biologico ha ricevuto meno attenzione rispetto agli attacchi informatici su larga scala o ai sistemi di IA che agiscono in contrasto con le intenzioni umane, anche perché i casi più allarmanti erano emersi soprattutto in contesti sperimentali.
Nel suo ultimo rapporto, Anthropic descrive numerosi usi impropri di Claude registrati negli ultimi otto mesi. Tra questi compaiono attività di sorveglianza attribuite ad attori collegati ai governi cinese e iraniano, campagne di propaganda riconducibili a media statali russi e tentativi di usare l’IA per sviluppare software destinato alla progettazione di armi convenzionali, compresi missili, droni armati ed esplosivi.
Ma la parte più preoccupante riguarda proprio la ricerca biologica.
Anthropic non ha reso noti i nomi dei ricercatori o delle istituzioni coinvolte, né i Paesi di appartenenza o gli agenti biologici studiati. Ha però affermato che alcuni utenti avevano aggirato i controlli geografici e cercato di mascherare la natura delle proprie ricerche per superare i sistemi di sicurezza. Gli account sono stati quindi bloccati.
In uno dei casi, risalente a maggio, uno scienziato aveva chiesto a Claude aiuto per preparare una richiesta di finanziamento relativa a esperimenti sul virus chikungunya. La ricerca prevedeva modifiche genetiche destinate a rendere il virus più dannoso nel corso di infezioni successive su animali vivi.
Esperimenti di questo tipo, definiti di “gain of function”, possono avere finalità scientifiche legittime e contribuire allo sviluppo di vaccini, ma possono anche produrre varianti molto più pericolose. A preoccupare ulteriormente Anthropic era il fatto che la ricerca sembrasse destinata a un istituto militare.
«Non sappiamo se l’obiettivo fosse trasformare il virus in un’arma», ha detto Klein. «Ma una ricerca di gain of function condotta in un’istituzione militare è motivo di preoccupazione.»
Secondo Anthropic, i modelli più vecchi non erano ancora in grado di fornire un aiuto significativo nella ricerca biologica pericolosa. I sistemi più recenti, invece, sono molto più capaci di affrontare compiti scientifici complessi. Per questo la società ha rafforzato le misure di sicurezza e limitato l’accesso a numerose categorie di richieste biologiche a duplice uso.
Susan Monarez, microbiologa ed esperta di sanità pubblica, ha osservato che il rapporto offre una prima conferma concreta di un timore discusso da tempo: soggetti ostili potrebbero utilizzare sistemi avanzati di IA per aumentare le proprie possibilità di sviluppare agenti patogeni capaci di causare danni su larga scala.
La stessa potenza che rende l’intelligenza artificiale promettente per la medicina può dunque diventare una vulnerabilità. Strumenti in grado di accelerare la scoperta di nuovi farmaci e vaccini possono anche permettere a soggetti malevoli di nascondere attività pericolose dietro ricerche apparentemente legittime.
Andrew Weber, già responsabile dei programmi statunitensi di difesa nucleare, chimica e biologica, ha chiesto che l’accesso ai modelli capaci di sostenere ricerche biologiche di questo livello venga limitato a ricercatori affidabili. A suo giudizio, il rischio è particolarmente serio considerando che Russia, Cina e Corea del Nord continuano a essere accusate di portare avanti programmi biologici proibiti.