Agentes de IA consomem até 136 vezes mais energia que chatbots
Estudo do KAIST aponta que agentes autônomos de IA exigem muito mais eletricidade e tempo de processamento do que modelos de linguagem convencionais.
Pontos principais
- Agentes de IA consomem em média 348,41 watt-hora por consulta, 136,5 vezes mais que chatbots comuns.
- O tempo de resposta para tarefas complexas pode ser até 153,7 vezes maior devido a ciclos repetitivos de processamento.
- GPUs permanecem ociosas por até 54,5% do tempo de execução enquanto aguardam respostas de ferramentas externas.
- A adoção em massa de 13,7 bilhões de consultas diárias exigiria 198,9 gigawatts, metade do consumo médio dos EUA.
- Pesquisadores defendem um redesenho completo de modelos, chips e infraestrutura de data centers para garantir sustentabilidade.
- O estudo utilizou um modelo de 70 bilhões de parâmetros para quantificar o impacto energético em condições reais.
Um estudo conduzido pelo Instituto Avançado de Ciência e Tecnologia da Coreia (KAIST) revelou que a transição de chatbots convencionais para agentes de IA autônomos impõe um desafio crítico à infraestrutura energética global. Diferente de sistemas que apenas processam perguntas, os agentes de IA realizam tarefas complexas de forma independente, como pesquisas na web e cálculos, o que exige múltiplas chamadas aos modelos de linguagem e resulta em um consumo de energia significativamente superior.
Os pesquisadores, liderados pelo professor Rhu Min-soo, alertam que a ineficiência atual, onde chips de processamento gráfico (GPUs) ficam ociosos enquanto aguardam dados externos, agrava o desperdício de recursos. A projeção de demanda energética, caso essa tecnologia se torne mainstream, aponta para a necessidade urgente de uma reformulação no design de hardware e na arquitetura de data centers para evitar um colapso nas redes elétricas.
Tópicos relacionados
Comentários
Carregando comentários...