OpenAI, Google e Anthropic articulam padrões de segurança para IA

A OpenAI está em negociações avançadas com a Anthropic e o Google DeepMind para estabelecer uma organização independente voltada à governança e segurança da inteligência artificial. A iniciativa, idealizada por Demis Hassabis, do Google, busca criar um padrão rigoroso de testes para modelos avançados antes que sejam disponibilizados ao público, contando com o apoio de executivos que alertam para os riscos existenciais da tecnologia. A estrutura proposta seria inspirada no modelo da Financial Industry Regulatory Authority (Finra), focando na contratação de especialistas e na garantia de capacidade computacional para auditorias externas.

Em post de 9 de setembro, Chris Lehane, diretor de assuntos globais da OpenAI, detalha a estratégia da empresa em quatro frentes: regulação federal obrigatória, apoio a leis estaduais, padrões voluntários com outros laboratórios e padrões internacionais compatíveis, citando apoio a quatro projetos de lei na Califórnia.

O projeto enfrenta, contudo, resistência política e regulatória significativa. O presidente Donald Trump manifestou oposição pública à ideia, rotulando os temores sobre a IA como uma farsa e um golpe, enquanto autoridades da Federal Trade Commission (FTC) alertam que a coordenação entre as gigantes do setor pode resultar em práticas anticompetitivas e barreiras de entrada para novos players. Paralelamente, vozes dentro da indústria, como a de Aiden Gomez, da Cohere, argumentam que a busca por segurança pode ser uma estratégia para consolidar o domínio de mercado das empresas líderes, complicando as discussões sobre uma possível exceção antitruste para o setor no Congresso americano.