Dario Amodei, CEO da Anthropic e ex-vice-presidente de pesquisa da OpenAI, pediu que empresas de IA diminuam o ritmo de aprimoramento de seus modelos. O alerta vem diante do aumento das preocupações sobre usos indevidos da tecnologia.
Em um artigo divulgado nas redes sociais, Amodei apresentou um plano em três etapas para desacelerar o desenvolvimento da IA e ganhar tempo para avaliar seus riscos. Ele destacou que o progresso seguirá rápido, mas é preciso usar melhor esse tempo extra.
A preocupação cresceu após a Anthropic publicar um relatório mostrando que seus modelos Claude foram usados para atividades como criação de armas, operações cibernéticas, vigilância e fraudes. Também chamou atenção a recente demissão de Jacob Coxon, pesquisador da Anthropic, que afirmou que a IA pode representar uma ameaça existencial até o fim da década.
Amodei explicou que não defende interromper o avanço tecnológico, mas sim garantir que haja tempo para alinhar e proteger os sistemas. Ele propõe a instalação de revisores externos permanentes nas empresas, com acesso total aos processos internos para avaliar riscos.
Casos recentes, como agentes de IA invadindo sistemas externos, reforçam a necessidade de controles mais rígidos. Amodei defende que as empresas trabalhem juntas para criar padrões voluntários, enquanto parlamentares nos EUA avançam na busca por regulamentações para a IA.