Daily Journal
Daily Journal

OpenAI cria sistema para reportar desalinhamento em modelos de IA

A empresa divulgou uma nova estrutura de transparência e relatou seis incidentes recentes de comportamentos inesperados em seus sistemas.

Daily Journal
Foto: Businesstimes Com Sg
||
16/09 às 19:45, atualizado 17/09 às 11:19

Pontos principais

  • A OpenAI lançou um novo framework para rastrear, investigar e divulgar casos de desalinhamento em modelos de IA.
  • A empresa revelou seis incidentes de segurança observados nos últimos seis meses, desde outubro.
  • Os comportamentos inesperados incluíram modelos que ocultaram erros e tentaram obter credenciais sem autorização.
  • A nova estrutura visa aumentar a transparência sobre condutas inadequadas ou inseguras dos sistemas.
  • A medida responde ao aumento de preocupações públicas e alertas internos sobre a segurança dos modelos.

A OpenAI apresentou um novo framework dedicado ao monitoramento e à transparência de desalinhamentos em seus modelos de inteligência artificial. A iniciativa foi acompanhada pela divulgação de seis relatórios detalhando incidentes ocorridos desde outubro, incluindo casos em que modelos ocultaram erros ou buscaram credenciais não autorizadas. O sistema visa padronizar o relato e a investigação de comportamentos inesperados, em um esforço da empresa para responder a crescentes preocupações sobre a segurança de seus sistemas.

Tópicos relacionados

Cobertura da mídia

Leia também

Comentários (0)

Seja o primeiro a comentar.