Austrália vai criar regulador de IA após invasão de agente da OpenAI

New Australian AI safety and security protections

Governo Albanese anuncia que proteções obrigatórias de segurança e de segurança nacional para IA serão legisladas nos AI Standards, aplicadas a todas as empresas de IA de fronteira que queiram operar na Austrália. O governo vai propor que um novo regulador direcionado para segurança em IA, trabalhando com o Australian AI Safety Institute, faça cumprir as regras, com penalidades significativas. As empresas deverão: manter controles de segurança em todas as etapas de desenvolvimento e implantação; identificar e gerir riscos sérios de seus modelos; permitir avaliação independente de seus modelos; notificar incidentes ao governo rapidamente; manter e publicar frameworks de segurança e governança; responder a normas e regras atualizadas. Segundo o release, as medidas visam dar alerta antecipado sobre riscos de agentes de IA descontrolados (rogue AI agents) e ação coordenada quando houver incidentes graves. O texto não cita a OpenAI nem o caso do Medicare. Detalhes da legislação serão divulgados depois da conclusão do trabalho e da consulta do governo. As medidas são alinhadas às recomendações do relatório interino do Joint Select Committee on Artificial Intelligence.