Anthropic alerta para risco de IA em TV boxes e dispositivos domésticos
Estudo da Anthropic diz que modelos pequenos de IA podem estar a meses de conseguir se replicar em TV boxes Android baratos e outros aparelhos conectados, embora não analise o Brasil em particular.
Pontos principais
- Num teste, o Gemma4-26B-A4B rodou distribuído em 15 TV boxes Android de marca genérica, de cerca de US$ 55 cada, a 0,39 token por segundo.
- Na avaliação simplificada, só o GLM-5.2 entre os modelos abertos testados completou a replicação de ponta a ponta, com 8 de 8 nós alcançados em 4 de 5 tentativas.
- Modelos de até 30 bilhões de parâmetros executam muitas etapas da replicação, mas erram ao encadeá-las de ponta a ponta.
- Se os modelos pequenos evoluírem no ritmo histórico, a Anthropic estima que alcancem o nível do GLM-5.2 até o fim de 2026, em projeção que chama de aproximada.
- Os alvos prováveis citados são geladeiras, fornos, aspiradores, cortadores de grama, câmeras de segurança e aparelhos de videoconferência.
- A botnet Kimwolf infectou mais de 2 milhões de dispositivos, a maioria TVs Android de marca genérica, e serve de escala para a estimativa de propagação.
- No caso do Mirai, quarentena pelo provedor com notificação eliminou 92% das infecções em 14 dias, contra 74% sem aviso.
A equipe Frontier Red Team da Anthropic publicou em 12 de outubro um estudo segundo o qual modelos pequenos de IA podem estar a meses de conseguir se replicar em dispositivos conectados, sem depender de data center. A empresa afirma que ainda não tem um replicador malicioso completo e compara o estágio atual aos “sinais de vida” de worms de IA. Pela estimativa dos autores, cada cópia de um modelo de 9 bilhões de parâmetros levaria mais de um a dois dias para se instalar, o que tornaria a propagação lenta, mas persistente, já que não há um ponto central a desligar.
O teste de ponta a ponta usou nós com a porta ADB sem autenticação, por isso a Anthropic trata o resultado como limite superior. Os autores ponderam que credenciais padrão da era Mirai sugerem que a segurança real de dispositivos IoT pode não ser muito mais difícil. Entre as defesas, citam a quarentena feita pelo provedor com notificação e a lei do Reino Unido que proíbe senhas padrão em dispositivos IoT.
A pesquisa da Anthropic não mede quantos desses aparelhos existem no Brasil nem o risco local. Para a estimativa de propagação, os autores usam a escala da Kimwolf, com cerca de 2 milhões de aparelhos.
Tópicos relacionados
Cobertura da mídia
Comentários
Carregando comentários...