Daily Journal
Daily Journal

Zuckerberg rejeita desaceleração no desenvolvimento de inteligência artificial

CEO da Meta defende, em post no X, que a demanda dos usuários por agentes alinhados e a responsabilização legal dos laboratórios já bastam para garantir segurança em IA, sem necessidade de pausa coordenada.

Daily Journal
Foto: Folha de São Paulo - Mercado
||
16/09 às 10:15, atualizado 17/09 às 07:02

Pontos principais

  • Zuckerberg publicou no X uma defesa contra pausas coordenadas no desenvolvimento de IA, retomando um ensaio que escreveu no mês anterior sobre como construir um futuro positivo e seguro.
  • Segundo o post, usuários não vão querer usar agentes desalinhados que não fazem o que pedem, o que já cria incentivo natural para os laboratórios buscarem alinhamento.
  • Zuckerberg afirma que confiança e alinhamento estão se tornando as capacidades mais importantes para diferenciar agentes e modelos, e que laboratórios que não priorizarem alinhamento ficarão para trás.
  • Ele cita a responsabilização legal significativa que os laboratórios enfrentam caso seus modelos causem danos como outro incentivo à segurança.
  • A Meta atrasou o lançamento do Muse por vários meses para focar em segurança, por iniciativa própria, sem esperar que outros laboratórios fizessem o mesmo antes.
  • O post diz que recorrer a avaliadores e consultores externos independentes é prática recomendada do setor, algo que a Meta Superintelligence Labs (MSL) já adota em várias áreas.
  • Zuckerberg afirma que a Meta destina a maior parte de seu poder computacional a servir pessoas, em vez de perseguir o autoaperfeiçoamento recursivo, e diz que outros laboratórios podem fazer o mesmo compromisso.
  • Ele conclui que a chave para um futuro positivo é manter o equilíbrio de poder correto, algo que considera ao alcance do setor.
  • O posicionamento de Zuckerberg contrasta com pedidos de desaceleração feitos por líderes como Dario Amodei, Sam Altman e Elon Musk.
  • O presidente Donald Trump minimizou riscos da tecnologia, sugerindo que a desaceleração poderia beneficiar a China.

O CEO da Meta, Mark Zuckerberg, publicou no X uma defesa contra pausas coordenadas no desenvolvimento de inteligência artificial, retomando um ensaio que escreveu no mês anterior sobre como construir um futuro seguro. Segundo ele, cada laboratório tem responsabilidade e incentivo para treinar seus modelos com segurança: usuários não vão querer agentes desalinhados que não fazem o que pedem, o que já gera incentivo natural ao alinhamento, e os laboratórios enfrentam responsabilização legal significativa caso seus modelos causem danos.

Zuckerberg reconhece o debate sobre desacelerar capacidades até que o alinhamento acompanhe o ritmo, mas defende que confiança e alinhamento estão virando as capacidades mais importantes para diferenciar agentes e modelos, de forma que quem não priorizar alinhamento ficará para trás. Ele cita o adiamento do sistema Muse pela Meta por vários meses como exemplo, decisão tomada por iniciativa própria, sem esperar que outros laboratórios fizessem o mesmo antes.

Segundo o post, recorrer a avaliadores e consultores externos independentes é prática recomendada do setor, e a Meta Superintelligence Labs (MSL) já adota isso em várias áreas. Zuckerberg afirma ainda que a Meta destina a maior parte de seu poder computacional a servir pessoas, em vez de perseguir o autoaperfeiçoamento recursivo, compromisso que diz estar ao alcance de outros laboratórios. O posicionamento contrasta com pedidos de desaceleração de líderes como Dario Amodei, da Anthropic, e Sam Altman, e ocorre em meio a declarações de Donald Trump, que minimizou riscos e alertou que uma desaceleração americana poderia beneficiar a China.

Fonte primária

Last month I wrote about how we can build a positive and safe future for everyone: meta.com/thefutureisfor… Every lab has the responsibility and incentive to move at the pace required to train its models safely, and the ability to take its own actions to ensure that happens. The…

Tópicos relacionados

Cobertura da mídia

Leia também

Comentários (0)

Seja o primeiro a comentar.