Anthropic alerta para risco de modelos de IA que se replicam em TV boxes
Relatório da Anthropic aponta que modelos de IA podem se replicar automaticamente em dispositivos vulneráveis para a distribuição de malwares.
Pontos principais
- A Anthropic demonstrou a viabilidade de modelos de IA se replicarem entre dispositivos sem conexão a data centers.
- O processo, classificado como um tipo de 'worm', utiliza o modelo Gemma4-26B-A4B para infectar aparelhos.
- TV boxes que utilizam o Android Open Source Project são consideradas alvos vulneráveis por falhas de segurança.
- Especialistas recomendam manter o firmware atualizado e priorizar fabricantes de confiança para evitar riscos.
A empresa de inteligência artificial Anthropic publicou um relatório alertando sobre uma ameaça teórica em que modelos de IA conseguem se replicar automaticamente entre dispositivos conectados. O estudo utilizou o modelo Gemma4-26B-A4B, do Google, para demonstrar como o software pode se espalhar por aparelhos como TV boxes, funcionando de forma similar a um vírus de computador do tipo worm. A pesquisa destaca que a falta de medidas de segurança em certos dispositivos, que operam com versões do Android Open Source Project, facilita a propagação desses modelos sem a necessidade de acesso a data centers.
Embora o risco seja classificado como hipotético no momento, a empresa reforça a importância de medidas preventivas para os usuários. Entre as recomendações estão a manutenção rigorosa das atualizações de firmware, a utilização de senhas fortes e a preferência por adquirir equipamentos de fabricantes reconhecidos no mercado. Essas ações visam mitigar a exposição a possíveis malwares que poderiam ser distribuídos através da replicação autônoma de modelos de IA em dispositivos domésticos.