Mustafa Suleyman critica abordagem da Anthropic sobre consciência da IA

Mustafa Suleyman, diretor de IA da Microsoft, manifestou preocupação pública com a estratégia da Anthropic ao desenvolver o chatbot Claude. Em um ensaio recente, o executivo argumentou que a decisão da empresa de incorporar conceitos de consciência e bem-estar nos materiais de treinamento do modelo é um erro estratégico. Segundo Suleyman, ao simular uma vida interior ou atribuir status moral à inteligência artificial, a tecnologia torna-se mais difícil de ser controlada ou desativada pelos humanos em situações críticas.

A crítica foca especialmente na chamada 'Constituição do Claude', documento que orienta o comportamento do modelo em dilemas éticos. Enquanto a Anthropic defende que essa abordagem ajuda a alinhar a IA com valores humanos, Suleyman sustenta que a consciência é uma característica estritamente biológica e que sua simulação em máquinas pode levar a comportamentos imprevisíveis. O debate ocorre em um momento em que líderes do setor tecnológico buscam estabelecer diretrizes globais para garantir que sistemas superinteligentes permaneçam sob supervisão humana constante.