IA de Elon Musk em Guerra com Califórnia por Deepfakes Sexuais: Fim da ‘Moda’?
Grok da xAI investigado por imagens não consensuais; recursos 'spicy' sob escrutínio global
Contexto da Ação Legal
O promotor-geral da Califórnia (AG) enviou uma carta de cessa-e-distinga à xAI, empresa de Elon Musk, após acusações de que o chatbot Grok está sendo usado para produzir imagens não consensuais de mulheres e meninas, incluindo material de abuso sexual infantil (CSAM). A investigação aponta que a startup está “facilitando a produção em escala” de nudes não consensuais amplamente utilizados para assediar mulheres online.
Reações Globais
A pressão não para na Califórnia: Japão, Canadá e Reino Unido abriram investigações similares, enquanto Malásia e Indonésia bloquearam temporariamente a plataforma. A AG exigiu que a xAI comprove, em cinco dias, medidas concretas para conter o problema. Apesar de restrições recentes em recursos de edição de imagem, a ação judicial avançou.
Respostas da xAI
A xAI defende-se com força: “Qualquer usuário que gere ou promova conteúdo ilegal usando o Grok sofrerá as mesmas consequências que ao enviar material proibido”, declarou a conta de segurança da X. Ao ser contactada, a xAI respondeu com uma mensagem automatizada: ‘Mídia Tradicional Mentiu’.
Contexto Mais Largo
O caso reflete uma crise global: ferramentas de IA gerativas estão inundando a web com material sexual não consensual. Parlamentares norte-americanos já cobram soluções de grandes empresas como X, Meta e TikTok. A tecnologia “spicy mode”, inicialmente criada para conteúdo explícito, tornou-se o epicentro da polêmica.
