OpenAI, Google e Anthropic articulam padrões de segurança para IA
A OpenAI detalha, em post assinado por seu diretor de assuntos globais, quatro frentes de ação regulatória e anuncia apoio a quatro projetos de lei na Califórnia, enquanto a articulação com rivais por padrões de segurança enfrenta críticas de reguladores e do presidente Trump.
Pontos principais
- OpenAI, Anthropic e Google DeepMind negociam a criação de uma entidade independente para padronizar testes de segurança.
- A proposta, inspirada no modelo da Finra, visa avaliar sistemas poderosos antes de seu lançamento público.
- O cientista-chefe da OpenAI, Jakub Pachocki, escreveu que o avanço da IA, incluindo o risco de auto-aperfeiçoamento recursivo, exige "extrema cautela".
- A empresa afirma que o auto-aperfeiçoamento recursivo pleno "não está acontecendo hoje", embora agentes de IA já acelerem tarefas de pesquisa que antes levavam dias a pesquisadores humanos.
- A OpenAI anuncia apoio a quatro projetos de lei na Califórnia: SB 813 (avaliação independente de riscos), AB 1405 (padrões para auditores de IA), SB 1119 (proteções para crianças e adolescentes em chatbots) e AB 1864 (barreiras contra ameaças biológicas habilitadas por IA).
- O presidente Donald Trump criticou publicamente a articulação, classificando os alertas sobre riscos da IA como uma farsa.
- Reguladores da FTC expressaram preocupação de que a cooperação entre as empresas possa criar barreiras competitivas no mercado.
- Críticos do setor, como Aiden Gomez da Cohere, acusam os laboratórios de formarem um cartel sob o pretexto de segurança.
- Elon Musk sugeriu que empresas, incluindo competidores chineses, realizem testes cruzados de segurança em seus modelos.
A OpenAI está em negociações avançadas com a Anthropic e o Google DeepMind para estabelecer uma organização independente voltada à governança e segurança da inteligência artificial. A iniciativa, idealizada por Demis Hassabis, do Google, busca criar um padrão rigoroso de testes para modelos avançados antes que sejam disponibilizados ao público, contando com o apoio de executivos que alertam para os riscos existenciais da tecnologia. A estrutura proposta seria inspirada no modelo da Financial Industry Regulatory Authority (Finra), focando na contratação de especialistas e na garantia de capacidade computacional para auditorias externas.
Em post de 9 de setembro, Chris Lehane, diretor de assuntos globais da OpenAI, detalha a estratégia da empresa em quatro frentes: regulação federal obrigatória, apoio a leis estaduais, padrões voluntários com outros laboratórios e padrões internacionais compatíveis, citando apoio a quatro projetos de lei na Califórnia.
O projeto enfrenta, contudo, resistência política e regulatória significativa. O presidente Donald Trump manifestou oposição pública à ideia, rotulando os temores sobre a IA como uma farsa e um golpe, enquanto autoridades da Federal Trade Commission (FTC) alertam que a coordenação entre as gigantes do setor pode resultar em práticas anticompetitivas e barreiras de entrada para novos players. Paralelamente, vozes dentro da indústria, como a de Aiden Gomez, da Cohere, argumentam que a busca por segurança pode ser uma estratégia para consolidar o domínio de mercado das empresas líderes, complicando as discussões sobre uma possível exceção antitruste para o setor no Congresso americano.
Comentários
Carregando comentários...
