Pesquisadores desenvolvem IA que detecta erros via sinais cerebrais

Pesquisadores do KAIST, em colaboração com a Microsoft Research Asia, desenvolveram o sistema Neural Value Alignment (NVA), uma tecnologia capaz de identificar quando uma inteligência artificial interpreta incorretamente a intenção de um usuário. O mecanismo utiliza dados de eletroencefalograma para monitorar sinais cerebrais, permitindo que a máquina reconheça falhas sem a necessidade de comandos de voz ou gestos explícitos.

Publicado em agosto de 2026, o estudo liderado pelo professor Sang Wan Lee diferencia dois tipos de falhas: o Erro de Predição de Recompensa, quando o objetivo é mal compreendido, e o Erro de Predição de Estado, que ocorre quando a estratégia adotada pela IA está incorreta. Embora ainda esteja em fase de pesquisa, o sistema demonstrou maior eficiência e adaptação rápida em cenários de incerteza durante testes de simulação, representando um avanço no alinhamento de sistemas autônomos.