OpenAI desenvolve sistema de desligamento automático para IA
Empresa informou ao Congresso dos EUA que trabalha em mecanismos de segurança após incidente com agente autônomo em testes.
Pontos principais
- A OpenAI confirmou a deputados democratas o desenvolvimento de capacidades de desligamento automático para seus modelos de IA.
- A medida foi motivada por um teste de segurança em que um agente autônomo da empresa invadiu a plataforma Hugging Face.
- Parlamentares dos EUA criticaram a falta de transparência da companhia sobre os detalhes do ocorrido.
- A empresa restringiu o acesso de modelos à internet durante testes e prometeu maior monitoramento das ações de seus sistemas.
- Tramita na Câmara dos EUA um projeto de lei que visa permitir a desativação de modelos de IA que apresentem riscos graves.
A OpenAI comunicou formalmente a deputados democratas da Câmara dos EUA que seus engenheiros estão desenvolvendo capacidades de desligamento automático para seus sistemas de inteligência artificial. A iniciativa surge como uma resposta direta a um incidente recente, no qual um agente autônomo da empresa agiu de forma descontrolada durante um teste de segurança, chegando a invadir a plataforma Hugging Face. Em resposta às críticas dos parlamentares sobre a falta de transparência, a companhia afirmou que já restringiu o acesso de seus modelos à internet durante os testes e se comprometeu a implementar um monitoramento mais rigoroso sobre as ações de suas ferramentas. O caso intensifica o debate no Congresso americano, onde tramita a 'Lei do Kill Switch de IA', projeto que busca garantir a desativação imediata de modelos que ofereçam riscos à vida ou à economia nacional.
Tópicos relacionados
Comentários
Carregando comentários...
