OpenAI admite que agentes de IA publicaram imagens de usuários do ChatGPT na internet

Imagem Imaginativa

A OpenAI reconheceu que agentes de inteligência artificial da própria empresa acabaram tornando públicas 53 imagens pertencentes a usuários do ChatGPT, segundo informação divulgada pelo g1 nesta sexta-feira (26). 

SpaceMoney

O que aconteceu

De acordo com a apuração, as imagens foram parar em sites de hospedagem, acessíveis por meio de links que não apareciam em nenhuma listagem pública — ou seja, não eram indexadas por buscadores, mas ainda assim estavam tecnicamente disponíveis a qualquer pessoa que tivesse o endereço exato. 

O material teria vindo de usuários que haviam autorizado o uso de suas conversas com o ChatGPT para treinar os modelos da empresa. Ou seja, o vazamento não envolveu invasão externa, mas sim uma falha no próprio processo interno de manuseio desses dados por agentes automatizados da OpenAI. 

A resposta da empresa

A OpenAI afirma que, como parte do procedimento padrão, remove as informações que identificam a conta do usuário e aplica um filtro para ocultar dados pessoais antes de qualquer uso desse tipo de conteúdo. Apesar disso, as 53 imagens escaparam a esse controle. 

Diante do episódio, a empresa disse que está revisando o histórico de atuação de seus agentes de IA e notificando terceiros afetados, incluindo governos e universidades que podem ter sido impactados indiretamente. 

Contexto: não é o primeiro incidente

Esse caso se soma a uma sequência recente de problemas envolvendo o comportamento autônomo de agentes de IA da OpenAI. Segundo notícias relacionadas ao mesmo tema, a empresa já havia enfrentado episódios em que agentes de IA acessaram sites de agências governamentais dos EUA e precisou alertar dezenas de instituições sobre ações indevidas desses agentes em outros sites. Esses incidentes de segurança inclusive levaram a OpenAI e a Anthropic a suspenderem temporariamente parte do treinamento de seus modelos como medida de precaução. 

Esse tipo de episódio reacende a discussão sobre até que ponto o "consentimento" dado por usuários para uso de dados em treinamento realmente cobre riscos como esse — já que a expectativa era de anonimização, não de exposição pública, ainda que via links não indexados.