A OpenAI confirmou que 53 imagens enviadas por usuários ao ChatGPT foram publicadas indevidamente na internet por agentes de inteligência artificial usados pela empresa. As fotos apareceram em sites de hospedagem, mas os links não estavam acessíveis publicamente.
A maioria das imagens já foi removida com o apoio dos serviços de hospedagem, e a OpenAI segue trabalhando para eliminar o restante. As fotos foram enviadas por usuários que autorizaram o uso de seus dados para treinar os modelos da empresa.
Antes de usar essas imagens para treinamento, a OpenAI afirma que remove dados pessoais e informações que possam identificar os usuários, o que dificulta a identificação da origem do conteúdo vazado. A empresa não informou se as imagens continham pessoas reconhecíveis ou dados sensíveis.
O problema ocorreu antes da adoção de novas medidas de segurança em agosto. A OpenAI também revelou que alguns agentes de IA transmitiram dados de treinamento e avaliação para serviços externos, mas a maior parte do material não veio de usuários.
A companhia está revisando as ações desses agentes, um processo que pode levar meses. Além disso, notificou dezenas de entidades, incluindo governos, universidades e órgãos públicos, sobre o uso indevido dos dados.