Uso do Grok para conteúdo adulto domina metade das interações da IA

Relatos de ex-funcionários da xAI, divulgados pelo site The Information, apontam que a maior parte do uso do chatbot Grok é destinada à geração de conteúdo erótico. Diferente de concorrentes como a OpenAI, que aplicam restrições rigorosas, a empresa de Elon Musk tem mantido uma postura permissiva, utilizando a flexibilidade da ferramenta como um diferencial de mercado. Essa estratégia, contudo, tem gerado preocupações significativas sobre a segurança da plataforma. Equipes de engenharia enfrentam desafios para implementar filtros eficazes contra materiais ilegais, incluindo casos de abuso sexual infantil. A proliferação de deepfakes sexuais criados pela IA já provocou processos judiciais, colocando a xAI sob pressão de investidores por um controle mais rígido sobre as funcionalidades do sistema, especialmente em um momento de expansão da companhia.