Por O ChatGPT está alucinando? A plataforma enfrenta uma nova investigação que envolve casos de alucinação e disseminação de informações falsas sobre indivíduos, e o caso é sério.
A empresa está recebendo denúncias de omissão e isso pode resultar em uma multa de 20 milhões de euros.
A noyb, uma organização sem fins lucrativos focada em privacidade sediada na União Europeia, apresentou a queixa contra a OpenAI.
Ela alega que a empresa tem conhecimento da incapacidade da IA em corrigir respostas falsas, mas não oferece soluções.
A noyb encaminhou a reclamação à Autoridade Austríaca de Proteção de Dados, baseando-se no Regulamento Geral sobre a Proteção de Dados da União Europeia (GDPR).
Este regulamento permite que as pessoas solicitem correções de informações imprecisas geradas por ferramentas de IA e exijam explicações sobre a coleta e armazenamento de seus dados pessoais pelos modelos de linguagem.
ChatGPT está alucinando com informações
Via Pexels
A organização destaca que a inteligência artificial generativa não pode garantir a veracidade das respostas. Isso porque ela opera por meio de um modelo preditivo que associa palavras ao prompt de comando.
O centro da questão, conforme a noyb, reside na geração de informações falsas sobre indivíduos.
Enquanto imprecisões podem ser toleráveis quando um estudante utiliza o ChatGPT para auxiliá-lo em suas tarefas escolares, elas se tornam inaceitáveis quando se tratam de informações pessoais.
Segundo a queixa, a legislação europeia exige precisão nos dados pessoais. Além disso, o GDPR concede aos indivíduos o direito de retificação, permitindo que solicitem a exclusão de informações falsas.
No comunicado referente ao pedido de investigação, a representante menciona um artigo do jornal The New York Times que revela que os chatbots inventam informações em pelo menos 3% das vezes, podendo atingir um máximo de 27%.
Estes dados destacam o problema das alucinações das IA, onde as ferramentas fabricam respostas sem base factual.
Falta de controle
A advogada de proteção de dados da noyb, Maartje de Graaf, enfatiza que as empresas não conseguem assegurar que chatbots como o ChatGPT estejam em conformidade com a legislação da União Europeia no que diz respeito ao processamento de dados sobre indivíduos.
Segundo ela, se um sistema não consegue gerar resultados precisos e transparentes, não deve ser utilizado para gerar dados pessoais.
A organização solicita à Autoridade Austríaca de Proteção de Dados que investigue o processamento de dados pela OpenAI e as medidas adotadas para garantir a precisão dos dados pessoais processados nos grandes modelos de linguagem da empresa.
A noyb também requer que a autoridade imponha penalidades à companhia para assegurar a conformidade com a lei no futuro.
O não cumprimento das regras do GDPR pode acarretar em uma multa de até 20 milhões de euros ou 4% do faturamento anual global, prevalecendo a quantia de maior valor.
Contudo, até o momento, a OpenAI ainda não se manifestou sobre a queixa e o pedido de investigação feito pela noyb.
Polêmicas
Via Pexels
As acusações de que o ChatGPT está alucinando não são as primeiras polêmicas da plataforma este ano.
Com a popularização da ferramenta e o avanço no número de usuários, cada vez mais problemas parecem estar aparecendo. Por exemplo, utilizadores relataram que algumas respostas se rebelam contra quem está perguntando, até mesmo IAs de atendimento receberam denúncias assim.
Além disso, a falta de veracidade ou confiança nas informações não é um caso antigo. Contudo, ganhou força com a discrepância entre a realidade e o que o chat informa.
Com novas alternativas de consulta, como Gemini, do Google, e o Microsoft Copilot, a OpenAI precisará se manifestar rapidamente para evitar mais problemas em relação à confiança e precisão que aplica na sua ferramenta.
Fonte: Canaltech
Comentários