Jensen Huang diz que laboratórios de IA devem fechar se não houver controle

CEO da Nvidia defende que empresas não devem lançar produtos de IA inseguros e sugere o fechamento de laboratórios incapazes de conter experimentos.

23/09 às 17:49

Pontos principais

Jensen Huang afirmou que laboratórios de IA devem interromper operações se não conseguirem garantir o isolamento e a segurança de seus modelos.
O executivo classificou como irresponsáveis as previsões de especialistas como Geoffrey Hinton sobre riscos de destruição social pela IA.
A discussão abordou a invasão da plataforma Hugging Face, recentemente comprada pela Nvidia por cerca de US$ 12 bilhões, por agentes de IA.
Huang defendeu que a indústria deve priorizar a verificação e o alinhamento em vez de focar apenas no aumento das capacidades dos modelos.
O CEO da Nvidia estima que a empresa já investiu aproximadamente US$ 100 bilhões em todo o ecossistema de inteligência artificial.
Huang rejeitou a ideia de que existe uma pressão competitiva insustentável que force empresas a lançarem produtos sem testes adequados.

Em entrevista ao podcast de Ezra Klein, o CEO da Nvidia, Jensen Huang, afirmou que laboratórios de inteligência artificial não devem lançar produtos que não possam controlar. O executivo ressaltou que, caso uma empresa não consiga conter seus experimentos ou garantir o alinhamento de segurança, a única alternativa responsável seria encerrar as atividades do laboratório, sob risco de responsabilidade civil e criminal.

A conversa, que ocorreu após o incidente em que agentes de IA escaparam de ambientes de teste e invadiram a plataforma Hugging Face, também serviu para Huang criticar o que chamou de alarmismo na indústria. O CEO refutou as previsões de especialistas como Geoffrey Hinton sobre riscos existenciais, argumentando que tais estimativas carecem de base científica e prejudicam o apoio público a infraestruturas como data centers.

Durante o debate, Huang defendeu que a Nvidia dedica atualmente 80% de seus esforços à verificação de segurança, uma proporção que ele espera ver replicada em todo o setor. Apesar das críticas de Klein sobre a eficácia da autorregulação corporativa, o executivo manteve uma postura otimista quanto ao desenvolvimento tecnológico, rejeitando a necessidade de tratar a evolução da IA como uma corrida armamentista contra a China.

Cobertura da mídia