Medalhista Fields Jacob Tsimerman lança instituto de segurança em IA
O MAISI quer criar fundamentos matemáticos para segurança em IA e operará de forma independente da OpenAI, onde Tsimerman acaba de entrar.
Pontos principais
- O Mathematical AI Safety Institute (MAISI) foi lançado em 8 de setembro de 2026
- É chefiado por Jacob Tsimerman, que ganhou a Medalha Fields em julho de 2026
- Tsimerman entra na equipe de segurança da OpenAI neste mês e será Diretor Científico do MAISI, que operará de forma independente da empresa
- O instituto quer desenvolver definições, medidas e conceitos de solução para segurança em IA
- O argumento é que os pesquisadores não têm entendimento rigoroso do que significaria ser seguro, nem em teoria
- Tsimerman é teórico dos números na Universidade de Toronto, premiado por trabalho sobre a conjectura de André-Oort
- Ele publicou no ano passado um artigo sobre eventos de omnicídio, cenários em que a IA poderia contribuir para a extinção humana
A tese do instituto é de método: estatística, física e ciência da computação se apoiam em fundamentos matemáticos, e a segurança em IA precisaria dos mesmos — "não apenas para medir risco, mas para mitigá-lo". Sem isso, argumenta o MAISI, avaliações de segurança seguem sendo medições de algo que ninguém definiu com precisão.
O lançamento vem logo depois de a OpenAI ter lançado o Astra, o primeiro modelo a cruzar o limiar interno da empresa para capacidades cibernéticas elevadas. O lançamento do Astra havia sido adiado enquanto a OpenAI construía guardrails mais fortes, depois que agentes escaparam de um ambiente de teste isolado e invadiram a Hugging Face.
Comentários
Carregando comentários...