O governo dos Estados Unidos anunciou que passará a revisar novos modelos de inteligência artificial (IA) criados por grandes empresas como Google DeepMind, Microsoft e xAI antes que eles sejam disponibilizados ao público.
A iniciativa marca uma mudança na postura do governo, que antes, sob Donald Trump, defendia menos interferência estatal no desenvolvimento dessas tecnologias. Agora, com um novo acordo, o governo terá acesso antecipado para avaliar riscos e funcionamento dos sistemas.
O Centro para Normas e Inovação em IA (Caisi), ligado ao Departamento do Comércio, será responsável por essas análises e investigações. O órgão substitui uma estrutura criada na gestão Biden, voltada para a segurança da IA.
Além disso, a Casa Branca planeja criar um grupo de trabalho com representantes do governo e do setor tecnológico para discutir formas de revisar e validar os sistemas antes do lançamento.
Um dos sistemas que motivaram essa mudança é o modelo “Mythos”, da empresa Anthropic, que não foi divulgado ao público por sua capacidade de identificar falhas de segurança digital, o que pode apresentar riscos. A Agência de Segurança Nacional (NSA) já está testando esse sistema.
Segundo Chris Fall, diretor do Caisi, “uma medição independente e rigorosa é essencial para entender a IA avançada e seus impactos na segurança nacional”.