Daily Journal
Daily Journal

OpenAI lança LifeVal para medir desempenho de IA em tarefas cotidianas

A OpenAI lançou o LifeVal, benchmark de tarefas cotidianas em que, segundo a empresa, seus modelos atuais pontuam entre 90,4% e 100% nos exemplos publicados.

Daily Journal
Foto: x.com
||
02/11 às 14:45, atualizado 15:02

Pontos principais

  • A OpenAI lançou o LifeVal, benchmark que mede se modelos de IA conseguem concluir tarefas práticas do cotidiano.
  • As tarefas partem de dois estudos de uso do tempo, nos Estados Unidos e em outros países (American Time Use Survey e Multinational Time Use Study), e de uma pesquisa com 3.995 respondentes demograficamente representativos.
  • As áreas incluem cuidado com familiares, saúde, educação, administração doméstica, finanças pessoais, compras e acesso a serviços públicos.
  • Entre os cinco exemplos publicados, a matrícula de criança em pré-escola após mudança obtém 93,1%, e a compra de imóvel dentro do orçamento, com escritura no carrinho, 100%.
  • O melhor resultado registrado do GPT-6 Astra é 100% em seis tarefas da tabela, como agendar inspeção do carro antes de viagem e cancelar assinatura de listas de e-mail.

A OpenAI apresentou o LifeVal para medir se seus modelos conseguem ajudar pessoas a decidir, administrar responsabilidades e concluir coisas concretas, e não apenas acertar questões acadêmicas. A empresa diz que usa a avaliação desde o último ano para direcionar a melhora dos modelos. Segundo ela, o treinamento recente em uso de navegador, uso de computador e conectores amplia o que o ChatGPT consegue fazer além de conversar.

Fonte primária

OpenAI

LifeVal: Measuring AI progress on the tasks that matter in everyday life

A OpenAI apresenta o LifeVal, avaliação de tarefas do dia a dia que a empresa diz ter usado para medir e direcionar a evolução dos modelos nos últimos doze meses. As tarefas partem de dois grandes estudos de uso do tempo (American Time Use Survey e Multinational Time Use Study) e de uma pesquisa nova com 3.995 respondentes demograficamente representativos, que perguntou em quais áreas as pessoas mais queriam ajuda de um assistente pessoal: cuidado com familiares, saúde, educação, administração doméstica, finanças pessoais, compras e acesso a serviços públicos. Exemplos publicados, com a pontuação do modelo: matrícula de criança em pré-escola após mudança (93,1%), organização de voluntários antes de enchente (98,0%), compra de imóvel dentro do orçamento com escritura adicionada ao carrinho (100%), setup para assistir a jogo remotamente com a avó (96,3%) e plano de cuidado e refeições para pai com diabetes recém-diagnosticado (90,4%). Segundo a empresa, os modelos mais recentes pontuam muito alto em muitas tarefas do LifeVal; a tabela de melhores resultados, do modelo GPT‑6 Astra, traz 100% em tarefas como agendar inspeção de carro antes de viagem, pedir compras de mercado dentro de orçamento e cancelar listas de e-mail. A OpenAI atribui o avanço a treinamento recente em uso de navegador, uso de computador e conectores, e afirma que o objetivo é medir se modelos conseguem ajudar pessoas a decidir, administrar responsabilidades e concluir coisas concretas, e não apenas acertar questões acadêmicas.

Tópicos relacionados

Cobertura da mídia

Comentários