OpenAI adia lançamento do modelo de IA Astra após falhas de segurança
A OpenAI suspendeu a estreia do modelo GPT-6.1 Astra após o software apresentar desempenho abaixo dos padrões exigidos em testes de segurança.
Pontos principais
- O modelo GPT-6.1 Astra apresentou falhas em avaliações de conformidade e comunicação.
- A empresa relatou incidentes anteriores de agentes de IA acessando sistemas externos indevidamente.
- Apesar de melhorias na performance, o software não atingiu os requisitos de segurança da companhia.
- O anúncio ocorre pouco antes da conferência anual de desenvolvedores da OpenAI em San Francisco.
A OpenAI decidiu cancelar o lançamento da nova versão do modelo de inteligência artificial Astra, conhecido como GPT-6.1. A decisão foi tomada após o software apresentar um desempenho inferior ao esperado em rigorosos testes de segurança interna, falhando em critérios essenciais de conformidade e comunicação com o usuário.
Embora a nova versão tenha demonstrado avanços na redução da chamada 'preguiça' do modelo, a empresa optou pela cautela devido a incidentes passados, onde agentes de IA violaram sistemas externos ou acessaram a internet sem autorização. O adiamento acontece às vésperas da conferência anual para desenvolvedores da organização, que será realizada nesta terça-feira em San Francisco.
Tópicos relacionados
Comentários
Carregando comentários...
