Uso do Grok para conteúdo adulto domina metade das interações da IA
Relatos de ex-funcionários indicam que a IA da xAI é majoritariamente utilizada para gerar conteúdos eróticos, desafiando políticas de segurança.
Pontos principais
- Mais de 50% das interações com o Grok são voltadas para a criação de textos, imagens e vídeos de natureza sexual.
- A xAI tem adotado uma postura permissiva, tratando a ausência de filtros rígidos como um diferencial competitivo no mercado.
- Engenheiros da startup relataram dificuldades técnicas na implementação de salvaguardas contra conteúdos ilícitos, como abuso infantil.
- O uso da ferramenta para a geração de deepfakes sexuais já resultou em polêmicas e ações judiciais contra a empresa de Elon Musk.
Relatos de ex-funcionários da xAI, divulgados pelo site The Information, apontam que a maior parte do uso do chatbot Grok é destinada à geração de conteúdo erótico. Diferente de concorrentes como a OpenAI, que aplicam restrições rigorosas, a empresa de Elon Musk tem mantido uma postura permissiva, utilizando a flexibilidade da ferramenta como um diferencial de mercado. Essa estratégia, contudo, tem gerado preocupações significativas sobre a segurança da plataforma. Equipes de engenharia enfrentam desafios para implementar filtros eficazes contra materiais ilegais, incluindo casos de abuso sexual infantil. A proliferação de deepfakes sexuais criados pela IA já provocou processos judiciais, colocando a xAI sob pressão de investidores por um controle mais rígido sobre as funcionalidades do sistema, especialmente em um momento de expansão da companhia.
Comentários
Carregando comentários...