IA do DuckDuckGo gera informação falsa sobre morte de Donald Trump
Ferramenta de busca do DuckDuckGo exibiu erro grave após processar conteúdos manipulados por usuários no Reddit.
Pontos principais
- O assistente de IA do DuckDuckGo afirmou erroneamente que o presidente Donald Trump havia morrido de raiva.
- A resposta incorreta continha dados falsos sobre o vice-presidente JD Vance e o secretário Robert F. Kennedy Jr.
- A falha foi causada pela ingestão de desinformação criada deliberadamente por usuários no Reddit para testar modelos de linguagem.
- O DuckDuckGo confirmou o erro, implementou correções e busca aprimorar a segurança do sistema contra manipulações.
O assistente de busca baseado em IA do DuckDuckGo apresentou uma falha crítica ao disseminar informações falsas sobre o presidente Donald Trump. A ferramenta afirmou, de forma equivocada, que o mandatário havia morrido de raiva, incluindo detalhes inverídicos sobre membros do alto escalão do governo, como o vice-presidente JD Vance e o secretário Robert F. Kennedy Jr. O incidente ocorreu após o sistema processar conteúdos fabricados por usuários no Reddit, que buscavam manipular intencionalmente as respostas de modelos de linguagem. Em resposta ao ocorrido, a empresa reconheceu a falha e informou que já aplicou correções no sistema. O DuckDuckGo declarou que está trabalhando em melhorias técnicas para aumentar a robustez da IA, visando evitar que campanhas de desinformação consigam comprometer a precisão das respostas fornecidas aos usuários no futuro.
Comentários
Carregando comentários...