Especialistas questionam eficácia de avaliações externas em IA
Pesquisadores apontam que o acesso limitado a dados críticos compromete a supervisão de segurança em empresas de tecnologia.
Pontos principais
- A integração de pesquisadores externos nas operações de IA enfrenta ceticismo do setor.
- Especialistas alertam que empresas podem restringir o acesso a informações sensíveis.
- Marius Hobbhahn, da Apollo Research, cita histórico de promessas não cumpridas pelas companhias.
- A omissão de dados sobre infraestrutura, como clusters de chips, prejudica auditorias independentes.
A estratégia de integrar pesquisadores de segurança externos nas operações de empresas de inteligência artificial tem sido alvo de críticas crescentes. Especialistas no setor argumentam que a eficácia dessas avaliações é limitada pela falta de transparência, uma vez que as corporações mantêm controle sobre o fluxo de informações e a divulgação de resultados críticos.
Marius Hobbhahn, CEO da Apollo Research, expressou ceticismo após observar promessas não cumpridas ao longo dos últimos três anos. Segundo o pesquisador, as empresas podem facilmente ocultar detalhes operacionais relevantes, como o uso de clusters de chips adicionais, impedindo que os avaliadores realizem uma supervisão técnica rigorosa e independente sobre os riscos dos modelos desenvolvidos.
Cobertura da mídia
Comentários
Carregando comentários...