OpenAI propõe criação de padrões globais de segurança para IA

A OpenAI publicou uma proposta detalhada para o estabelecimento de padrões globais voltados à segurança no desenvolvimento de sistemas de inteligência artificial. O documento defende a criação de uma estrutura internacional coordenada para governança, avaliação de modelos e relatórios de incidentes, visando mitigar riscos críticos associados à tecnologia de fronteira. A empresa instou o governo dos Estados Unidos a assumir a liderança desse esforço, sugerindo que institutos nacionais de segurança, como o Centro para Padrões e Inovação em IA do Departamento de Comércio americano, desempenhem um papel central na definição dessas normas.

As recomendações serão apresentadas pelo CEO da OpenAI, Sam Altman, durante um discurso no Conselho de Segurança da ONU, em Nova York. A proposta enfatiza a necessidade de medições compartilhadas para classificar e responder a riscos de desalinhamento, promovendo uma cooperação técnica entre nações. Paralelamente, o cenário internacional já apresenta movimentações, com autoridades dos Estados Unidos e da China discutindo diálogos bilaterais para a notificação de incidentes de IA que possam impactar a segurança nacional.