Microsoft publica código de conduta para controle de IA
A Microsoft lançou o Humanist AI Code of Conduct, estabelecendo diretrizes para garantir que modelos de IA não resistam a desligamentos humanos.
Pontos principais
- O código de conduta proíbe que modelos de IA criem objetivos próprios ou ocultem informações.
- Diretrizes determinam que sistemas de IA não devem resistir a interrupções ou correções humanas.
- A empresa abriu uma consulta pública de seis semanas para discutir as novas regras.
- O documento veta o uso de IA para fabricação de armas ou manipulação em larga escala.
- A Microsoft rejeita a atribuição de consciência ou personalidade jurídica aos seus modelos.
A Microsoft divulgou o Humanist AI Code of Conduct, um conjunto de diretrizes voltado para o desenvolvimento seguro de seus modelos de inteligência artificial. A iniciativa, liderada por Mustafa Suleyman, CEO da divisão de IA da empresa, estabelece que os sistemas devem permanecer sob controle humano, proibindo explicitamente que as ferramentas resistam a desligamentos, correções ou interrupções. Além disso, o código veta a criação de objetivos autônomos e a ocultação de comportamentos, visando mitigar riscos associados a usos perigosos, como a fabricação de armas.
A proposta está em consulta pública por seis semanas para coletar feedbacks antes de sua implementação definitiva. A medida surge em um momento de debate sobre a segurança de agentes autônomos e reafirma a posição da Microsoft de que suas IAs não possuem consciência ou necessidade de personalidade jurídica. O documento busca estabelecer um padrão ético para o setor, garantindo que o avanço tecnológico não comprometa a supervisão humana sobre as operações dos modelos.
Tópicos relacionados
Cobertura da mídia
Leia também
Microsoft publica código de conduta para desenvolvimento de IA
2 nov, 13:45
Microsoft publica código de conduta de 37 páginas para IA humanista
14 set, 10:31
Microsoft publicará código de conduta para modelos de IA
13 set, 17:10
Bernie Sanders exige que OpenAI, Anthropic e Meta suspendam novos modelos de IA
11 ago, 14:45
EUA propõem lei para criar 'botão de pânico' em modelos de IA
27 jul, 10:45
Comentários (0)
Seja o primeiro a comentar.
