Cientista da Tencent alerta para riscos biológicos da IA

Science Symposium II — sessão de IA, painel (2026 Future Science Prize Week)

No painel da sessão de IA do Science Symposium II (Hong Kong Science Museum, 7/11/2026), respondendo a uma pergunta sobre modelos abertos versus fechados, Shunyu Yao (Tencent) diz que 'a capacidade cibernética dos modelos e, em breve, a capacidade biológica atingirão um limiar em que causar dano se torna de fato possível' (tradução nossa). Afirma que o Hy4 passou por verificações de cibersegurança antes de ser liberado como open source, com treinamento para que a defesa cibernética seja boa e o ataque, fraco. No caso biológico, diz não ter certeza de que defesa e ataque se separem tão bem. Cita o argumento 'muito forte' da Anthropic e de outros modelos fechados: controlar quem usa o modelo para impedir dano. Conclui que o caminho mais provável é uma mistura de modelos fechados e abertos e que desenvolvedores de modelos abertos, na China e fora dela, precisam ser 'muito responsáveis' com segurança. Prevê que cerca de 80% dos modelos serão abertos e 20% fechados.