A Anthropic revelou que interrompeu várias ações de espionagem feitas por governos usando sua inteligência artificial. Entre os países envolvidos estão China, Irã e Mali, que usaram a tecnologia para vigiar minorias e opositores.
Essas operações, detectadas entre janeiro e julho, tinham como alvo ativistas pró-democracia de Hong Kong, comunidades tibetanas e dissidentes iranianos no exterior. No Irã, foi criado um método para identificar pessoas por meio de redes sociais.
No Mali, um contratado das autoridades de segurança nacional utilizou a IA para desenvolver software que facilitava a coleta de informações. Além disso, a Anthropic bloqueou tentativas de usar a IA para criar armas, realizar pesquisas biológicas perigosas e aplicar golpes românticos online.
A empresa também denunciou que desenvolvedores chineses usaram sua IA para gerar respostas e, ao mesmo tempo, extrair dados para treinar seus próprios modelos sem autorização, prática conhecida como destilação.
Sobre as pesquisas bloqueadas envolvendo armas biológicas, a Anthropic não identificou os envolvidos, que eram cientistas. Os estudos tratavam de vírus como chikungunya, gripe aviária altamente patogênica, varíola, mpox, além de venenos e toxinas.