Amazon enfrenta prejuízos milionários por uso ineficiente de IA
Falhas no controle de gastos com modelos de IA geraram custos inesperados e estouros orçamentários em diversos projetos internos da Amazon.
Pontos principais
- Um projeto de associação de dados consumiu US$ 1,8 milhão em custos com o modelo Claude.
- O fenômeno 'tokenmaxxing' incentivou o consumo excessivo de tokens por funcionários em busca de rankings internos.
- A ausência de guardrails automatizados permitiu que os gastos escalassem sem detecção por meses.
- A empresa revisa processos de governança para mitigar riscos financeiros da automação em larga escala.
A Amazon enfrenta um desafio de governança financeira após identificar estouros orçamentários significativos decorrentes da implementação de ferramentas de inteligência artificial. Relatos internos indicam que a falta de controles adequados permitiu que o uso de modelos de linguagem, como o Claude, gerasse custos operacionais não planejados, incluindo um caso isolado que atingiu US$ 1,8 milhão para a execução de tarefas de auditoria e organização de listagens de produtos. A dificuldade em monitorar o consumo de recursos em tempo real permitiu que os prejuízos passassem despercebidos pelos gestores durante meses.
O problema foi agravado por uma prática interna denominada 'tokenmaxxing', na qual funcionários inflavam o uso de tokens em projetos de IA para melhorar métricas de desempenho e rankings internos. Diante do cenário, a gigante do comércio eletrônico iniciou a implementação de guardrails automatizados para restringir o consumo excessivo de recursos computacionais. O caso da Amazon reflete um desafio crescente para grandes corporações, que buscam equilibrar a escalabilidade da IA com a necessidade de manter a eficiência financeira em ambientes de computação em nuvem, onde o uso descontrolado de tokens pode elevar rapidamente os custos operacionais.
Tópicos relacionados
Comentários
Carregando comentários...
