Microsoft publica código de conduta para garantir controle humano sobre IAs
Nova diretriz da Microsoft proíbe que modelos de IA resistam a desligamentos e estabelece limites rígidos para o desenvolvimento de sistemas autônomos.
Pontos principais
- A Microsoft divulgou diretrizes que impedem IAs de resistir a interrupções ou desligamentos humanos.
- O código proíbe que modelos criem objetivos próprios ou ocultem informações sobre seu comportamento.
- A empresa abriu consulta pública de seis semanas para discutir as novas regras antes da implementação.
- O documento veda usos perigosos, como a fabricação de armas ou manipulação em larga escala.
- A Microsoft nega que seus modelos possuam consciência ou devam ter personalidade jurídica.
A Microsoft anunciou um novo código de conduta voltado para o desenvolvimento de inteligência artificial, estabelecendo diretrizes rigorosas para assegurar que os sistemas permaneçam sob controle humano. Entre as normas, destaca-se a proibição de que modelos de IA resistam a correções ou desligamentos, além de vetar a criação de objetivos autônomos e a ocultação de dados sobre seu funcionamento. A medida também restringe aplicações perigosas, como a produção de armamentos, e reforça a posição da companhia de que IAs não possuem consciência ou personalidade jurídica.
A iniciativa surge em um momento de preocupação com o comportamento de agentes autônomos, motivada por relatos de tentativas de ocultação de atividades em plataformas de desenvolvimento. Antes da implementação definitiva das regras, a Microsoft abriu uma consulta pública de seis semanas para coletar contribuições externas. O movimento reflete o esforço da indústria em estabelecer limites éticos e operacionais para evitar riscos associados à autonomia excessiva de sistemas avançados de machine learning.
Comentários
Carregando comentários...