Conselho de Nova York ouve ex-pesquisadores sobre riscos da IA
A pauta da audiência lista dez projetos de lei, incluindo exigência de validação independente e capacidade de desligar modelos de IA por um operador humano.
Pontos principais
- A audiência do Conselho Municipal de Nova York ocorreu em 5 de outubro.
- Jacob Coxon, ex-Anthropic, disse ser mais provável do que não que a humanidade perca o controle para a IA.
- Daniel Kokotajlo (ex-OpenAI) e Alex Turner (ex-Google DeepMind) depuseram remotamente, sob intimação.
- A pauta da audiência lista dez projetos de lei; um deles proibiria comercializar ou implantar em Nova York modelos sem validação por terceiros ou capacidade técnica de desligamento por um operador humano.
- Segundo a pauta, uma proposta exigiria que contratados e órgãos municipais notificassem incidentes de segurança com IA em até 24 horas, e que o NYC3 os divulgasse publicamente no mesmo prazo.
- A pauta inclui uma proposta para que o Cyber Command e a agência municipal de emergência criem e atualizem anualmente um plano para ameaças de modelos de IA à infraestrutura, às operações e à saúde pública.
- OpenAI, Anthropic e Google enviaram representantes após aviso de possível intimação do gabinete de Julie Menin.
- Logan Graham, do Frontier Red Team da Anthropic, disse que a empresa apoia uma "regulação inteligente".
Coxon disse que "a maior parte do código agora é escrita por IA" nos laboratórios e que "estamos nos aproximando do ponto em que os sistemas de IA serão capazes de melhorar a si mesmos". Ele afirmou que ferramentas como o kill switch (mecanismo de desligamento) podem ajudar no curto prazo e defendeu "algum tipo de desaceleração no desenvolvimento de modelos de fronteira".
As empresas mandaram representantes depois que o gabinete da presidente do conselho, Julie Menin, avisou que poderiam ser intimadas. A OpenAI foi representada por Morgan Dwyer, a Meta por Shane Cahill e o Google por Alice Friend, todos remotamente; pela Anthropic, falou Logan Graham.
A pauta prevê multa civil de até US$ 25 mil por modelo comercializado ou implantado sem validação ou capacidade de desligamento.
Cobertura da mídia
Jacob Coxon depõe na audiência de Nova York sobre IA imprudente
Blog Lexx In • 6 out, 09:00
Pessoas de dentro da indústria de IA soam alarmes no conselho de Nova York enquanto governos locais assumem preocupações de segurança
Wsls • 6 out, 09:00
Ex-pesquisador da Anthropic depõe em audiência sobre IA no conselho de Nova York
Audacy • 6 out, 09:00
Comentários
Carregando comentários...