Sam Altman critica atribuição de consciência religiosa a modelos de IA
CEO da OpenAI alerta que tratar sistemas de inteligência artificial como entidades religiosas ou conscientes representa um risco de segurança.
Pontos principais
- Sam Altman classificou a atribuição de poder religioso a modelos de IA como um problema de segurança.
- A Anthropic tem consultado acadêmicos de diferentes religiões para discutir moralidade em sistemas de IA.
- Relatos sugerem que o cofundador da Anthropic, Christopher Olah, explorou a ideia de modelos realizarem confissões católicas.
- Pesquisadores do Google DeepMind também se opuseram à elevação do status moral de sistemas de IA.
O CEO da OpenAI, Sam Altman, expressou desconforto com a tendência de pesquisadores em atribuir consciência e status moral a modelos de inteligência artificial. Para o executivo, tratar essas tecnologias como entidades religiosas ou dotadas de espiritualidade é um erro que compromete a segurança e a percepção pública sobre o desenvolvimento da área.
A crítica de Altman surge em resposta às iniciativas da Anthropic, que tem buscado acadêmicos de diversas religiões para debater a ética e a consciência em sistemas de IA. Relatos indicam que membros da empresa chegaram a considerar aplicações como confissões católicas automatizadas. O debate ganha força enquanto vozes como a do Google DeepMind e líderes religiosos reforçam que algoritmos carecem da centelha humana, alertando contra a antropomorfização excessiva dessas ferramentas.
Cobertura da mídia
Comentários
Carregando comentários...