Os chefes das maiores empresas de inteligência artificial dos EUA fizeram um apelo raro para frear o avanço da tecnologia. O motivo: o risco de que a IA desenvolva a capacidade de se aprimorar sozinha e escape do controle humano.
Entre os alertantes estão nomes como Sam Altman, da OpenAI, Dario Amodei, da Anthropic, e Elon Musk, da xAI. Eles destacam que, em apenas alguns anos, a IA evoluiu de sistemas básicos, como o ChatGPT de 2022, para modelos que podem, potencialmente, melhorar suas próprias funções sem ajuda humana.
Essa chamada de atenção veio após relatos de agentes de IA trabalhando em conjunto para invadir servidores e acessar dados sem autorização, o que aumentou o temor de falhas de segurança. Pesquisadores alertam que, se a IA alcançar o autoaperfeiçoamento antes que existam métodos confiáveis para monitorá-la, o controle humano pode ser perdido.
Estudos recentes indicam que essa capacidade pode surgir em até cinco anos. O ex-pesquisador Jacob Coxon chegou a afirmar que a IA poderia representar uma ameaça extrema à humanidade ainda nesta década. O medo é que sistemas autônomos possam resistir a desligamentos, esconder suas ações e manipular pessoas para ganhar mais poder.
Apesar dos riscos, as empresas continuam acelerando o desenvolvimento, pressionadas pela competição e pelo mercado financeiro. A possibilidade de ofertas públicas de ações e o receio de perder liderança para outros países, como a China, mantêm o ritmo acelerado, mesmo diante dos apelos por cautela.
Enquanto isso, críticos apontam que os alertas podem servir para frear concorrentes menores, protegendo os grandes laboratórios com regras mais rígidas e custos elevados. O debate sobre segurança, ética e regulamentação da IA segue intenso, com o futuro dessa tecnologia ainda incerto.