Anthropic lança FlashProve para verificação criptográfica de modelos de IA

A Anthropic anunciou o lançamento do FlashProve, uma ferramenta de código aberto projetada para oferecer inferência comprovável em modelos de linguagem de grande escala. O sistema utiliza técnicas criptográficas, especificamente zkSNARKs, para permitir que qualquer usuário verifique se uma resposta foi gerada por um conjunto de pesos de modelo previamente comprometido, sem a necessidade de expor esses pesos. A iniciativa busca aumentar a segurança contra ataques de roteamento, onde modelos menores ou mais baratos são substituídos por sistemas de alto desempenho sem o conhecimento do usuário, exigindo que laboratórios publiquem uma 'impressão digital' que garanta a autenticidade da origem.

De acordo com a pesquisa da Anthropic, a implementação do FlashProve no modelo Llama 4 Maverick de 400B parâmetros demonstrou uma capacidade de geração de provas de aproximadamente 110 tokens por segundo em hardware H100. Embora o processo exija um custo computacional entre 70 e 95 vezes superior ao tempo de GPU utilizado pelo vLLM para o processamento padrão, a verificação pode ser realizada via CPU em cerca de 17 segundos. O projeto, que contou com a colaboração de pesquisadores como Alessandro Chiesa e Giacomo Fenzi, disponibiliza o código completo para prover e verificação, visando estabelecer um novo padrão de transparência e auditoria no ecossistema de IA, embora a empresa ainda não tenha planos imediatos para uma implementação comercial em larga escala.