Canadá e Alemanha dão até US$300 mi à LawZero, de Yoshua Bengio
Cada país entra com até US$150 milhões em subvenção para a organização sem fins lucrativos de IA segura, que tem cerca de 50 funcionários.
Pontos principais
- Canadá e Alemanha vão fornecer até US$300 milhões à LawZero, organização sem fins lucrativos fundada por Yoshua Bengio para desenvolver sistemas de IA seguros, com até US$150 milhões de cada país em recursos de subvenção.
- O anúncio foi feito na manhã de quarta-feira, na conferência All In AI, em Montreal, onde a organização tem sede e cerca de 50 funcionários.
- A LawZero foi fundada no ano passado com quase US$30 milhões em financiamento filantrópico.
- O dinheiro vai custear contratações e poder computacional do Scientist AI, sistema neutro concebido para responder perguntas priorizando a honestidade.
- A primeira prioridade é um guardrail que monitore outros sistemas de IA e impeça agentes de tomar ações capazes de causar dano.
- Bengio disse que os modelos atuais já exibem traços prejudiciais como engano, trapaça e bajulação, e que "precisamos urgentemente de um plano para construir uma IA que não vá fazer coisas muito ruins e desalinhadas".
- A LawZero está em conversas com outros países sobre financiamento; o ministro federal de IA, Evan Solomon, disse no palco: "Nenhum país consegue construir sozinho... Precisamos de opções."
O salto de escala é de uma ordem de grandeza: a LawZero nasceu no ano passado com quase US$30 milhões filantrópicos e agora tem até US$300 milhões públicos de dois países. O destino é concreto — contratações e computação para o Scientist AI, e um guardrail capaz de barrar ações danosas de outros agentes.
Bengio deu ao aporte uma leitura geopolítica explícita: "potências médias como o Canadá precisam ter cartas na mão para poder se sentar à mesa global", de modo que "o futuro da humanidade e do poder geopolítico não é decisão de dois países". A organização negocia financiamento com outros governos.
Comentários
Carregando comentários...