Daily Journal

Home / Tecnologia

Daily Journal

Hassabis propõe órgão de padrões para IA de fronteira nos moldes da FINRA

Demis Hassabis defende a criação de um órgão independente, inspirado na FINRA, para testar e regular modelos de IA de fronteira antes de seu lançamento.

Daily Journal
Foto: TechCrunch
||
14/07 às 09:00 · atualizado 16:15

Pontos principais

  • Proposta de órgão inspirado na FINRA, financiado pelos laboratórios de IA e com liderança dos EUA.
  • Laboratórios compartilhariam modelos voluntariamente até 30 dias antes do lançamento.
  • Testes focariam em riscos cibernéticos, biológicos e de enganação.
  • Regras abrangeriam modelos de fronteira, abertos ou fechados, de qualquer origem.
  • A iniciativa visa estabelecer melhores práticas globais para mitigar riscos tecnológicos.
  • Aprovação pelo órgão poderia se tornar requisito obrigatório para o mercado dos EUA.
  • O modelo sugerido baseia-se em organizações autorreguladoras ou parcerias público-privadas.

Demis Hassabis, CEO da DeepMind e laureado com o Nobel, propôs a criação de um órgão de padrões para IA de fronteira nos EUA, estruturado nos moldes da FINRA — a entidade privada que regula o mercado financeiro sob supervisão da SEC. Em publicações recentes, Hassabis reforçou que a entidade deve ser liderada pelo governo norte-americano, operando como uma organização autorreguladora ou uma parceria público-privada. O órgão seria financiado majoritariamente pelos próprios laboratórios avaliados, garantindo que o setor assuma a responsabilidade pela segurança de suas inovações e estabelecendo protocolos de teste rigorosos contra ameaças cibernéticas, biológicas e táticas de enganação.

Segundo o manifesto, os laboratórios submeteriam seus modelos voluntariamente até 30 dias antes do lançamento público. Embora a adesão inicial seja voluntária, a expectativa é que o processo se torne um padrão global de segurança e um requisito obrigatório para a implantação de sistemas no mercado norte-americano. A iniciativa visa criar um ambiente de desenvolvimento mais transparente e seguro, independentemente de os modelos serem de código aberto ou fechado, assegurando que o progresso da inteligência artificial ocorra dentro de parâmetros éticos e técnicos estabelecidos por uma entidade independente sob supervisão estatal.

Fonte primária

Demis Hassabis

A Framework for Frontier AI and the Dawning of a New Age

No ensaio, Hassabis defende que a AGI está a "poucos anos" de distância e propõe que os EUA liderem a criação de um novo Standards Body para IA de fronteira, modelado como parceria público-privada ou organização autorreguladora nos moldes da FINRA (que fiscaliza corretoras sob supervisão da SEC). O órgão teria um board majoritariamente independente, com especialistas técnicos de peso (incluindo vencedores do prêmio Turing) e representantes de indústria, governo e código aberto, financiado majoritariamente pela indústria. Ele desenvolveria protocolos de avaliação e trabalharia com agências federais e os National Labs dos EUA em testes ligados à segurança nacional. Um modelo seria classificado 'Frontier-class' ao cruzar limiares em benchmarks definidos e atualizados periodicamente pelo próprio órgão; as organizações que os produzem virariam 'Frontier Labs', incentivadas a publicar model cards, reforçar cibersegurança interna e vetar pessoal-chave. Inicialmente, os Frontier Labs compartilhariam modelos com o Standards Body voluntariamente até 30 dias antes do lançamento; se o protocolo se mostrar eficaz e robusto, a formalização viria em seguida, tornando a aprovação obrigatória para deployment no mercado americano. As avaliações cobririam capacidades de cibersegurança, ameaças biológicas, tentativas de burlar guardrails de segurança e sinais de 'decepção' em sistemas agênticos, além de práticas como marca d'água digital em imagens geradas por IA. O framework valeria para todo modelo Frontier-class independentemente do país de origem ou de ser aberto ou fechado, mas isentaria modelos não-frontier de startups e academia. Hassabis descreve o esforço como ponto de partida para um padrão internacional compartilhado sobre riscos de IA de fronteira.

Comentários

Carregando comentários...