Metis Reasoning propõe arquitetura de raciocínio para IA em texto conceitual
Em white paper, a Metis Reasoning, com autoria de Thore Graepel, propõe uma arquitetura inspirada no AlphaGo que só aceita afirmações justificadas por evidência, sem apresentar resultados experimentais.
Pontos principais
- Os autores são Thore Graepel, David S. Berman, Michael A. Warren e Piers Ingram, com afiliação listada em Londres, Singapura e Los Angeles.
- A Metis Reasoning afirma que os LLMs alucinam porque não mantêm um estado epistêmico explícito e persistente, com o conhecimento codificado nos pesos.
- Segundo a empresa, os traços de raciocínio dos LLMs nem sempre refletem a computação que gera a resposta.
- A proposta aceita uma afirmação apenas quando um juiz independente considera que a evidência a justifica, e tem a redução da incerteza como objetivo.
- O texto não traz resultados experimentais nem benchmarks, e reconhece que o AlphaGo não pode ser transferido diretamente para o raciocínio geral.
- Os autores citam como áreas de alto risco a descoberta de fármacos, o diagnóstico médico, a cibersegurança, o design de chips, as finanças e a robótica.
A Metis Reasoning, com afiliação listada em Londres, Singapura e Los Angeles, propõe em white paper uma arquitetura de raciocínio para IA. Os autores são Thore Graepel, David S. Berman, Michael A. Warren e Piers Ingram. A empresa afirma que os LLMs alucinam porque não mantêm um estado epistêmico explícito e persistente, e que seus traços de raciocínio nem sempre refletem a computação que gera a resposta.
A proposta é que uma afirmação só seja aceita quando um juiz independente considera que a evidência a justifica, e que a redução da incerteza guie o raciocínio. Inspirada no AlphaGo, a arquitetura combinaria uma política aprendida, que propõe movimentos, com uma função de valor que estima o progresso. O texto diz que o raciocínio pode ser aprendido com a experiência, enquanto o conhecimento seria verificado e escalado à parte.
O texto não traz resultados experimentais nem benchmarks, e a empresa reconhece que o AlphaGo não pode ser transferido diretamente para o raciocínio geral. Os autores citam como áreas de alto risco a descoberta de fármacos, o diagnóstico médico, a cibersegurança, o design de chips, as finanças e a robótica.