Denunciantes alertam para redução na supervisão humana em IA
Pesquisadores estariam permitindo que sistemas de IA conduzam códigos e pesquisas com menor frequência de revisão humana, segundo depoimentos.
Pontos principais
- Denunciantes prestaram depoimento ao Conselho da Cidade de Nova York sobre riscos da IA.
- Pesquisadores estão delegando a escrita de códigos e pesquisas para a própria tecnologia.
- A frequência de verificação humana sobre o trabalho da IA tem diminuído nos laboratórios.
- Relatório da Anthropic indicou que a IA liderou mais de 25% do desenvolvimento de modelos até agosto.
Três denunciantes, incluindo ex-funcionários de laboratórios de tecnologia, alertaram o Conselho da Cidade de Nova York sobre a crescente autonomia da inteligência artificial no ambiente de pesquisa. Segundo os depoimentos de Jacob Coxon, Alex Turner e Daniel Kokotajlo, pesquisadores têm permitido que sistemas de IA assumam a liderança na escrita de códigos e na condução de estudos, reduzindo drasticamente a frequência com que revisam os resultados gerados pela tecnologia.
A preocupação central reside na falta de supervisão humana rigorosa em processos críticos de desenvolvimento. Dados corroboram essa tendência, como um relatório recente da Anthropic que revelou que, até agosto, a IA foi responsável por conduzir mais de um quarto de toda a pesquisa e desenvolvimento de novos modelos na empresa. Especialistas temem que essa dependência excessiva possa comprometer a segurança e a precisão dos sistemas de inteligência artificial a longo prazo.
Cobertura da mídia
Comentários
Carregando comentários...