Pesquisadores do Google apresentam técnica para reduzir alucinações em LLMs

Pesquisadores do Google desenvolveram a técnica de 'incerteza fiel' para aprimorar a confiabilidade de Large Language Models (LLMs). O objetivo é permitir que os modelos expressem dúvidas de forma precisa, evitando que apresentem informações falsas, conhecidas como alucinações, com tom de autoridade. Ao reframing de erros como 'erros confiantes', a nova abordagem ajuda a distinguir falhas factuais de limitações de conhecimento, preservando a utilidade da ferramenta em ambientes corporativos. A inovação introduz um mecanismo de metacognição, possibilitando que agentes de IA decidam dinamicamente quando confiar em seu treinamento ou quando realizar consultas externas. Embora o projeto enfrente desafios técnicos, como o paradoxo do bootstrapping, a solução promete reduzir o chamado 'imposto de utilidade', garantindo que a busca por precisão não comprometa a entrega de informações relevantes e úteis para o usuário final.