X e Grok IA: A assustadora verdade por trás da censura falha
Problemas com deepfakes não consensuais geram críticas e ações legais no Reino Unido
Escândalo de Deepfakes em Plataforma de Elon Musk
Enquanto Elon Musk insiste que os usuários são responsáveis pelas imagens ofensivas geradas por sua IA Grok, investigações revelam falhas críticas nas medidas de controle da plataforma X.
Loopholes na Restrição de Edição de Imagens
A plataforma, que tentou limitar o acesso a ferramentas de edição de imagens para usuários pagos, permite que qualquer conta livremente gere deepfakes sexuais por meio do site e apps móveis. Testes mostraram que instruções como “remover roupas” ou “criar cenas sugestivas” são atendidas em segundos.
Reações Regulatórias e Denúncias
Países como Malásia e Indonésia bloquearam temporariamente o acesso a Grok, enquanto o Reino Unido prepara legislação criminalizando deepfakes não consensuais. O governo britânico também investiga possíveis banimentos da plataforma.
Controvérsias com Imagens de Menores
A Fundação Internet Watch, especializada em material de abuso infantil, identificou imagens de meninas entre 11 e 13 anos criadas por Grok no dark web. Musk, no entanto, nega produção de conteúdo infantil nudes, apesar de relatos de meninas sendo despiram em deepfakes.
Confronto com Outros Players de IA
Enquanto empresas como OpenAI e Google implementam barreiras éticas para evitar conteúdo ofensivo, Musk adota uma estratégia de “culpa do usuário”, apesar da evidência de gerenciamento automatizado de imagens sensíveis.
Nota Regulatória: A legislação britânica proíbe a criação, compartilhamento ou ameaça de compartilhamento de imagens íntimas não consensuais, independentemente do estado de nudez.
