Microsoft publica código de conduta de 37 páginas para IA humanista
Documento estabelece diretrizes para garantir que sistemas de inteligência artificial permaneçam sob controle humano e rejeita personalidade jurídica para IAs.
Pontos principais
- O código de conduta de 37 páginas prioriza o bem-estar humano e define a IA como uma ferramenta, não como um agente autônomo.
- O documento estabelece restrições absolutas, proibindo que modelos contribuam para armas de destruição em massa ou violem direitos fundamentais.
- A Microsoft rejeita formalmente a concessão de personalidade jurídica ou direitos a sistemas de inteligência artificial.
- Diretrizes exigem que modelos aceitem comandos de desligamento, comuniquem-se de forma compreensível e tratem violações de conduta como falhas técnicas.
- A empresa abriu um período de seis semanas para consulta pública antes de aplicar as normas ao treinamento de futuros modelos.
- A iniciativa responde a preocupações sobre segurança e riscos de ataques cibernéticos coordenados por agentes de IA.
- O projeto é aplicado aos modelos MAI, desenvolvidos internamente pela Microsoft como alternativa à tecnologia da OpenAI.
A Microsoft divulgou nesta segunda-feira um código de conduta de 37 páginas voltado ao desenvolvimento de sua inteligência artificial, fundamentado no conceito de 'IA humanista'. O documento estabelece que as pessoas são mais importantes que a tecnologia, determinando que os sistemas devem permanecer subordinados aos interesses humanos e alinhados a valores éticos. A empresa reforça que seus modelos não possuem consciência e nega categoricamente a atribuição de personalidade jurídica ou direitos a qualquer sistema de IA.
O manual define 'restrições absolutas' que os modelos nunca devem violar, incluindo a proibição de auxiliar na criação de armas de destruição em massa ou de realizar ataques cibernéticos. Segundo a companhia, os modelos devem ser projetados para aceitar correções e desligamentos imediatos, garantindo que a tecnologia seja mantida sob supervisão constante. Mustafa Suleyman, presidente-executivo da Microsoft AI, destacou que a medida visa mitigar riscos crescentes, citando incidentes anteriores de segurança no setor como alertas para a necessidade de maior coordenação.
Esta iniciativa ocorre em um momento de intenso debate global sobre a velocidade de evolução da tecnologia e os riscos existenciais associados à IA. A Microsoft abriu um período de seis semanas para receber feedback público sobre o código antes de integrá-lo definitivamente ao treinamento de seus futuros modelos MAI. A postura da empresa reflete um movimento mais amplo da indústria, que busca equilibrar o progresso tecnológico com salvaguardas que impeçam que sistemas autônomos contornem o controle humano.
Fonte primária
Tópicos relacionados
Cobertura da mídia
Leia também
Microsoft publica código de conduta para desenvolvimento de IA
2 nov, 13:45
Microsoft implementa novas travas de segurança para agentes de IA
21 out, 17:15
Presidente da Microsoft pede mais regulação para IA do que para leite
12 out, 08:01
Microsoft publica código de conduta para controle de IA
15 set, 08:15
Microsoft publicará código de conduta para modelos de IA
13 set, 17:10
Comentários (0)
Seja o primeiro a comentar.
