ChatGPT acusou homem inocente de ter matado os próprios filhos

Um homem norueguês entrou com uma queixa contra a OpenAI, empresa responsável pelo ChatGPT, após a ferramenta de Inteligência Artificial (IA) descrevê-lo como alguém que matou os próprios filhos.

O homem em questão, Arve Hjalmar Holmen, disse que pesquisou seu nome no ChatGPT por curiosidade e ficou surpreso ao descobrir que, segundo a ferramenta da OpenAI, ele havia sido condenado a 21 anos de prisão por assassinar seus dois filhos.

"O que mais me assusta é que alguém possa ler isso e acreditar que é verdade", afirmou Holmen, segundo o site Politico. A queixa do norueguês conta com o apoio da associação austríaca de defesa da privacidade, a Noyb.

"O ChatGPT fornece regularmente informações falsas que podem prejudicar gravemente a reputação de uma pessoa, acusando-a de corrupção, abuso infantil e até mesmo assassinato", afirma um comunicado da Noyb. A organização acusa a OpenAI de "permitir conscientemente que seu modelo de IA produza esses resultados difamatórios", o que viola os princípios do Regulamento Geral de Proteção de Dados (RGPD) da União Europeia.

A OpenAI atualizou seu modelo de IA para evitar esse tipo de erro, mas, como os dados podem ainda estar armazenados nos sistemas internos da empresa, a Noyb busca que a OpenAI seja multada e obrigada a remover completamente essas informações.

Leia Também: Missão de sonda lunar chega ao fim com fotografias de pôr do sol