OpenAI lança LifeVal para medir desempenho de IA em tarefas cotidianas
A OpenAI lançou o LifeVal, benchmark de tarefas cotidianas em que, segundo a empresa, seus modelos atuais pontuam entre 90,4% e 100% nos exemplos publicados.
||
02/11 às 14:45, atualizado 15:02
Pontos principais
- A OpenAI lançou o LifeVal, benchmark que mede se modelos de IA conseguem concluir tarefas práticas do cotidiano.
- As tarefas partem de dois estudos de uso do tempo, nos Estados Unidos e em outros países (American Time Use Survey e Multinational Time Use Study), e de uma pesquisa com 3.995 respondentes demograficamente representativos.
- As áreas incluem cuidado com familiares, saúde, educação, administração doméstica, finanças pessoais, compras e acesso a serviços públicos.
- Entre os cinco exemplos publicados, a matrícula de criança em pré-escola após mudança obtém 93,1%, e a compra de imóvel dentro do orçamento, com escritura no carrinho, 100%.
- O melhor resultado registrado do GPT-6 Astra é 100% em seis tarefas da tabela, como agendar inspeção do carro antes de viagem e cancelar assinatura de listas de e-mail.
A OpenAI apresentou o LifeVal para medir se seus modelos conseguem ajudar pessoas a decidir, administrar responsabilidades e concluir coisas concretas, e não apenas acertar questões acadêmicas. A empresa diz que usa a avaliação desde o último ano para direcionar a melhora dos modelos. Segundo ela, o treinamento recente em uso de navegador, uso de computador e conectores amplia o que o ChatGPT consegue fazer além de conversar.
