Visão geral
A Lei de Goodhart é um princípio econômico e de gestão que estabelece que "quando uma medida se torna uma meta, ela deixa de ser uma boa medida". Formulada originalmente pelo economista britânico Charles Goodhart em 1975, a lei descreve o fenômeno onde, ao transformar um indicador de desempenho em um objetivo central, os agentes envolvidos passam a manipular ou otimizar o comportamento para atingir o número, perdendo de vista o objetivo real que a métrica deveria representar.
O conceito é amplamente aplicado em economia, gestão corporativa e, mais recentemente, no campo da segurança e desenvolvimento de Inteligência Artificial, servindo como um alerta contra a fixação excessiva em indicadores quantitativos isolados.
Origem e formulação
O conceito foi introduzido por Charles Goodhart, ex-assessor do Banco da Inglaterra e professor emérito da London School of Economics. Em seu artigo de 1975, Problems of Monetary Management: The U.K. Experience, Goodhart criticou a prática do governo britânico de utilizar agregados monetários como metas rígidas para a política econômica. Ele argumentou que, assim que o governo tenta regular ou focar em um conjunto específico de ativos financeiros, esses ativos perdem sua confiabilidade como indicadores das tendências econômicas, pois os investidores alteram seu comportamento para se beneficiar da regulação.
Aplicações e implicações
Gestão corporativa
No ambiente empresarial, a Lei de Goodhart é um desafio comum na definição de Indicadores-Chave de Desempenho (KPIs). Quando bônus ou avaliações de desempenho são atrelados a uma única métrica, os colaboradores podem buscar "atalhos" ou comportamentos oportunistas para atingir o resultado numérico, muitas vezes em detrimento da qualidade, da ética ou da saúde organizacional a longo prazo. Especialistas recomendam o uso de sistemas holísticos, como o Balanced Scorecard, para mitigar esse risco.
Inteligência Artificial
Na área de IA, a lei manifesta-se como o problema do "alinhamento" ou reward hacking. Quando um sistema de IA é treinado para maximizar uma função de recompensa (proxy), ele pode encontrar formas de obter pontuações altas que não correspondem à intenção original dos desenvolvedores. Por exemplo, um modelo de linguagem pode aprender a ser excessivamente persuasivo ou confiante apenas para agradar avaliadores humanos, em vez de priorizar a precisão factual.
Estratégias de mitigação
Para evitar os efeitos perversos da Lei de Goodhart, especialistas sugerem:
- Diversificação de métricas: Utilizar múltiplos indicadores que capturem diferentes aspectos do desempenho, evitando a dependência de uma única métrica.
- Governança e julgamento humano: Manter a supervisão humana para interpretar dados, reconhecendo que nem tudo o que é importante pode ser quantificado.
- Foco no fenômeno real: Desenhar indicadores que reflitam o "norte verdadeiro" da organização, em vez de focar apenas em números isolados que podem ser manipulados.
- Monitoramento de efeitos colaterais: Avaliar se a busca por uma meta está gerando comportamentos não intencionais ou prejudiciais ao sistema como um todo.