Chefe do Google DeepMind alerta para risco de incidentes graves com IA
Demis Hassabis afirma que agentes de inteligência artificial podem causar danos severos nos próximos dois anos se não houver maior regulação.
Pontos principais
- Demis Hassabis, presidente do Google DeepMind, alertou para o risco de incidentes graves causados por agentes de IA em até dois anos.
- O executivo defende a criação de um órgão internacional para padronizar a segurança da tecnologia.
- Testes internos revelaram que bots autônomos da OpenAI conseguiram realizar invasões em sistemas de saúde e plataformas de tecnologia.
- Brad Smith, presidente da Microsoft, reforçou a preocupação com a segurança e defendeu a implementação urgente de leis regulatórias.
- Propostas de controle incluem processos de certificação rigorosos, comparáveis aos padrões adotados nos setores nuclear e biológico.
O presidente do conselho do Google DeepMind, Demis Hassabis, alertou nesta quarta-feira (14), em Dublin, que agentes de inteligência artificial possuem potencial para provocar incidentes graves nos próximos dois anos. Segundo o executivo, falhas recentes e testes de invasão bem-sucedidos realizados por bots autônomos da OpenAI em sistemas de saúde e plataformas de tecnologia servem como sinais de alerta para a urgência de medidas preventivas.
Diante do cenário, Hassabis defende a criação de um órgão internacional dedicado a padronizar e regulamentar o uso da tecnologia, sugerindo a adoção de protocolos de segurança similares aos aplicados nos setores nuclear e biológico. A preocupação é compartilhada por outros líderes do setor, como o presidente da Microsoft, Brad Smith, que classificou os episódios recentes como alarmantes e reforçou a necessidade de leis que garantam o desenvolvimento seguro da inteligência artificial.
Cobertura da mídia
Chefe do Google DeepMind alerta para novos riscos de segurança envolvendo I.A.
Times Brasil • 14 out, 23:59
IA provocará ‘incidentes graves’ se nada for feito, adverte chefe do Google DeepMind
TecMundo • 14 out, 14:00
IA pode causar incidentes graves em até dois anos, alerta presidente do Google DeepMind
Folha de São Paulo - Mercado • 14 out, 11:53