Daily Journal
Daily Journal

Microsoft publica código de conduta para controle de IA

A Microsoft lançou o Humanist AI Code of Conduct, estabelecendo diretrizes para garantir que modelos de IA não resistam a desligamentos humanos.

Daily Journal
Foto: Canaltech
||
15/09 às 08:15, atualizado 12:10

Pontos principais

  • O código de conduta proíbe que modelos de IA criem objetivos próprios ou ocultem informações.
  • Diretrizes determinam que sistemas de IA não devem resistir a interrupções ou correções humanas.
  • A empresa abriu uma consulta pública de seis semanas para discutir as novas regras.
  • O documento veta o uso de IA para fabricação de armas ou manipulação em larga escala.
  • A Microsoft rejeita a atribuição de consciência ou personalidade jurídica aos seus modelos.

A Microsoft divulgou o Humanist AI Code of Conduct, um conjunto de diretrizes voltado para o desenvolvimento seguro de seus modelos de inteligência artificial. A iniciativa, liderada por Mustafa Suleyman, CEO da divisão de IA da empresa, estabelece que os sistemas devem permanecer sob controle humano, proibindo explicitamente que as ferramentas resistam a desligamentos, correções ou interrupções. Além disso, o código veta a criação de objetivos autônomos e a ocultação de comportamentos, visando mitigar riscos associados a usos perigosos, como a fabricação de armas.

A proposta está em consulta pública por seis semanas para coletar feedbacks antes de sua implementação definitiva. A medida surge em um momento de debate sobre a segurança de agentes autônomos e reafirma a posição da Microsoft de que suas IAs não possuem consciência ou necessidade de personalidade jurídica. O documento busca estabelecer um padrão ético para o setor, garantindo que o avanço tecnológico não comprometa a supervisão humana sobre as operações dos modelos.

Tópicos relacionados

Cobertura da mídia

Leia também

Comentários (0)

Seja o primeiro a comentar.