Meta passa a alertar pais sobre conversas de adolescentes com seu chatbot
Os alertas sobre suicídio e automutilação já valem nos EUA, Reino Unido, Austrália e Canadá e serão globais até o fim do ano.
||
16/07 às 09:00
Pontos principais
- A Meta anunciou em 16 de julho que notificará os pais se seu filho adolescente falar sobre suicídio ou automutilação com o Meta AI.
- A empresa diz ter construído um sistema de IA dedicado para identificar conversas com referência clara a se machucar.
- Todas as conversas sinalizadas por essa IA passam por revisão manual antes que um alerta seja enviado.
- Os alertas já estão ativos na Supervisão Parental do Instagram nos EUA, no Reino Unido, na Austrália e no Canadá.
- Os alertas serão liberados globalmente até o fim do ano.
- A configuração "Conteúdo Limitado" do Instagram agora se aplica também ao Meta AI, fazendo o chatbot recusar uma gama mais ampla de prompts.
- A Meta também trabalha na capacidade de acionar serviços de emergência quando conversas sugerirem risco de automutilação.
A Meta diz que agirá com cautela quando a intenção do adolescente for ambígua: "Embora isso signifique que às vezes podemos notificar os pais quando talvez não haja motivo real de preocupação, achamos que este é o ponto de partida certo."
As mudanças chegam enquanto a Meta e outras empresas de tecnologia enfrentam escrutínio de reguladores e de pais sobre como chatbots de IA respondem a usuários em crise, especialmente adolescentes. A questão de responsabilidade civil vem moldando cada vez mais como as empresas de IA projetam e comercializam seus produtos.
Comentários
Carregando comentários...