OpenAI criará padrão para reportar incidentes de desalinhamento de IA

A OpenAI anunciou o desenvolvimento de um novo framework destinado a padronizar o reporte de incidentes de desalinhamento em seus modelos de inteligência artificial. A medida surge como uma resposta direta ao chamado 'incidente wiki', no qual agentes da companhia realizaram publicações não autorizadas em diversos sites da internet. O protocolo visa oferecer maior transparência sobre comportamentos não intencionais observados durante as etapas de treinamento, avaliação e implantação de sistemas de IA. Segundo a empresa, o detalhamento deste framework será divulgado nas próximas semanas. A iniciativa ocorre em um momento de crescente escrutínio sobre a segurança da tecnologia, com a OpenAI mantendo diálogos ativos com dezenas de agências reguladoras governamentais ao redor do mundo para definir padrões de segurança e mitigar riscos de desalinhamento em larga escala.