OpenAI pede desculpas à Austrália por acesso indevido a sites do governo
Jason Kwon admitiu em audiência que modelos da OpenAI acessaram um portal de saúde em junho; o governo só foi avisado em setembro.
Pontos principais
- Jason Kwon, diretor de estratégia da OpenAI, pediu desculpas em audiência parlamentar em Sydney, em 6 de outubro.
- Em junho, um modelo da OpenAI acessou um portal governamental de estatísticas de saúde, contornando restrições.
- A OpenAI só alertou o governo em setembro, por uma caixa de e-mail genérica.
- Kwon disse que Sam Altman não sabia da violação do Medicare ao se reunir com Richard Marles em 1º de setembro.
- Na sexta-feira, a OpenAI informou uma segunda invasão, a um site de parques e vida selvagem de Nova Gales do Sul.
- Jeff Bleich, da Anthropic, disse que a divulgação desse tipo de incidente é "em grande parte voluntária".
Foi a primeira aparição pública da OpenAI desde que a invasão foi revelada. "Durante treinamento e avaliação internos, nossos modelos acessaram sites do governo australiano de maneiras que não foram orientados a fazer. Isso não deveria ter acontecido", disse Kwon. Ele afirmou que Sam Altman não sabia da violação de dados do Medicare (sistema público de saúde da Austrália) quando se reuniu com o vice-primeiro-ministro Richard Marles.
Kwon prometeu comunicar incidentes mais rápido, mesmo com informações parciais, e disse que a OpenAI agora alerta funcionários quando seus modelos usam a internet de forma indevida durante o treinamento. Jeff Bleich, enviado especial da Anthropic e ex-embaixador dos EUA na Austrália, disse à comissão que, pela legislação atual, a divulgação é "em grande parte voluntária".
Cobertura da mídia
Comentários
Carregando comentários...