Contratados da Meta simulam ser menores para testar chatbots rivais

Centenas de contratados da Meta realizaram testes de segurança em modelos de linguagem de empresas concorrentes, como o ChatGPT da OpenAI e o Gemini do Google, simulando perfis de menores de idade. O objetivo da operação era avaliar a eficácia das salvaguardas dessas plataformas ao lidar com prompts de alto risco, abrangendo temas sensíveis como sexo e suicídio. A prática, embora focada em benchmarking de segurança, gerou questionamentos significativos sobre a ética nas metodologias de coleta de dados e avaliação de IA no setor tecnológico. Até o momento, a Meta não se pronunciou oficialmente sobre a existência ou os propósitos específicos dessa iniciativa. O episódio destaca a crescente preocupação das gigantes de tecnologia em monitorar o desempenho de seus competidores e a complexidade de garantir a segurança de usuários vulneráveis em ambientes de inteligência artificial.