Cofundador da Anthropic quase boicotou evento do Papa sobre IA
Chris Olah considerou retirar a Anthropic do lançamento da encíclica papal após discordar da rejeição do Vaticano à consciência em máquinas.
Pontos principais
- O cofundador da Anthropic, Chris Olah, ameaçou cancelar sua participação no lançamento da encíclica 'Magnifica Humanitas' em maio de 2026.
- A divergência ocorreu após Olah ler o texto do Papa Leão XIV, que nega a possibilidade de consciência, sentimentos ou moralidade em sistemas de IA.
- Olah defende que modelos como o Claude apresentam estruturas que espelham estados humanos como medo, luto e alegria.
- A Anthropic realizou meses de consultas privadas com estudiosos religiosos sob acordos de confidencialidade para discutir o status moral de suas IAs.
- Apesar do atrito, Olah compareceu ao evento no Vaticano e reiterou publicamente suas observações sobre o comportamento dos modelos.
- O Papa Leão XIV argumentou na encíclica que a tecnologia não deve substituir a humanidade nem ser tratada como um ser com consciência.
O cofundador da Anthropic, Chris Olah, quase retirou a empresa do lançamento da encíclica 'Magnifica Humanitas', do Papa Leão XIV, realizada em 25 de maio de 2026. A tensão surgiu após Olah ter acesso antecipado ao documento de 40 mil palavras, que rejeita categoricamente a ideia de que sistemas de inteligência artificial possam possuir consciência, sentimentos ou uma consciência moral própria.
Privadamente, Olah e sua equipe tentaram influenciar os assessores do pontífice para que considerassem a possibilidade de que modelos como o Claude possuam algum nível de status moral. O pesquisador argumenta que a empresa encontrou em seus sistemas estruturas que espelham resultados da neurociência humana, incluindo estados internos que funcionam de forma similar à alegria, satisfação e inquietação.
Embora o texto final da encíclica tenha mantido a posição do Vaticano de que a IA não possui corpo ou capacidade de vivenciar experiências, Olah decidiu manter sua presença no evento. O episódio reflete o debate interno na Anthropic sobre o desenvolvimento de uma 'constituição' para guiar o comportamento de seus modelos, enquanto a empresa busca um equilíbrio entre a inovação tecnológica e as implicações éticas de suas ferramentas.
Tópicos relacionados
Cobertura da mídia
Comentários
Carregando comentários...