Daily Journal
Daily Journal

Microsoft publica código de conduta de 37 páginas para IA humanista

Documento estabelece diretrizes para garantir que sistemas de inteligência artificial permaneçam sob controle humano e rejeita personalidade jurídica para IAs.

Daily Journal
Foto: Microsoft
||
14/09 às 10:31, atualizado 15/09 às 10:41

Pontos principais

  • O código de conduta de 37 páginas prioriza o bem-estar humano e define a IA como uma ferramenta, não como um agente autônomo.
  • O documento estabelece restrições absolutas, proibindo que modelos contribuam para armas de destruição em massa ou violem direitos fundamentais.
  • A Microsoft rejeita formalmente a concessão de personalidade jurídica ou direitos a sistemas de inteligência artificial.
  • Diretrizes exigem que modelos aceitem comandos de desligamento, comuniquem-se de forma compreensível e tratem violações de conduta como falhas técnicas.
  • A empresa abriu um período de seis semanas para consulta pública antes de aplicar as normas ao treinamento de futuros modelos.
  • A iniciativa responde a preocupações sobre segurança e riscos de ataques cibernéticos coordenados por agentes de IA.
  • O projeto é aplicado aos modelos MAI, desenvolvidos internamente pela Microsoft como alternativa à tecnologia da OpenAI.

A Microsoft divulgou nesta segunda-feira um código de conduta de 37 páginas voltado ao desenvolvimento de sua inteligência artificial, fundamentado no conceito de 'IA humanista'. O documento estabelece que as pessoas são mais importantes que a tecnologia, determinando que os sistemas devem permanecer subordinados aos interesses humanos e alinhados a valores éticos. A empresa reforça que seus modelos não possuem consciência e nega categoricamente a atribuição de personalidade jurídica ou direitos a qualquer sistema de IA.

O manual define 'restrições absolutas' que os modelos nunca devem violar, incluindo a proibição de auxiliar na criação de armas de destruição em massa ou de realizar ataques cibernéticos. Segundo a companhia, os modelos devem ser projetados para aceitar correções e desligamentos imediatos, garantindo que a tecnologia seja mantida sob supervisão constante. Mustafa Suleyman, presidente-executivo da Microsoft AI, destacou que a medida visa mitigar riscos crescentes, citando incidentes anteriores de segurança no setor como alertas para a necessidade de maior coordenação.

Esta iniciativa ocorre em um momento de intenso debate global sobre a velocidade de evolução da tecnologia e os riscos existenciais associados à IA. A Microsoft abriu um período de seis semanas para receber feedback público sobre o código antes de integrá-lo definitivamente ao treinamento de seus futuros modelos MAI. A postura da empresa reflete um movimento mais amplo da indústria, que busca equilibrar o progresso tecnológico com salvaguardas que impeçam que sistemas autônomos contornem o controle humano.

Fonte primária

Tópicos relacionados

Cobertura da mídia

Leia também

Comentários (0)

Seja o primeiro a comentar.