OpenAI e Meta alertam Judiciário dos EUA sobre riscos de deepfakes

Especialistas da OpenAI e da Meta alertaram o Poder Judiciário dos Estados Unidos sobre a crescente dificuldade em autenticar provas de áudio e vídeo em processos judiciais. Durante reunião do Comitê Consultivo sobre Regras de Provas, os representantes destacaram que o avanço da IA generativa tornou as falsificações, conhecidas como deepfakes, praticamente indistinguíveis de conteúdos autênticos, desafiando a capacidade de detecção científica e humana.

O debate ocorre em um cenário onde o sistema jurídico ainda se adapta a essa ameaça tecnológica. Embora leis na Califórnia e na União Europeia já exijam a implementação de marcas d'água, os especialistas ressaltaram a ausência de um método universal e infalível para verificar a procedência de arquivos digitais. Dados do Centro Federal do Judiciário indicam que, até o momento, a incidência de casos envolvendo contestação de provas por deepfake ainda é baixa, afetando apenas uma pequena parcela dos magistrados consultados.