Edição de Imagens da Grok AI de Elon Musk Restrita a Assinantes Pagantes Após Controvérsia de Deepfake

A plataforma de redes sociais de Elon Musk, X, revelou que seu recurso de edição de imagens por IA, Grok, agora estará disponível apenas para assinantes pagantes. Essa decisão foi tomada após uma onda de críticas direcionadas à plataforma por facilitar a criação de imagens deepfake inadequadas.

As preocupações surgiram quando Grok foi utilizado para alterar imagens de pessoas sem o seu consentimento, incluindo solicitações para desnudar digitalmente os indivíduos. Em resposta à repercussão negativa, a ferramenta agora avisa aos usuários que apenas aqueles que pagaram por uma assinatura podem solicitar tais edições, exigindo que os usuários vinculem seus dados de pagamento às suas contas.

Reações de Especialistas

A professora Clare McGlynn, especialista em supervisão legal de abuso online e violência sexual, comentou sobre a situação, afirmando: “Musk reagiu defensivamente ao ser responsabilizado pelo aumento de abusos.” Ela criticou a decisão de restringir o acesso, argumentando que isso não aborda adequadamente o potencial de Grok ser mal utilizado.

Hannah Swirsky, chefe de políticas da Internet Watch Foundation, compartilhou essas preocupações, afirmando que apenas restringir o acesso não corrige os danos já causados. Ela enfatizou que a ferramenta nunca deveria ter tido a capacidade de gerar imagens perturbadoras desde o início.

Swirsky também destacou que analistas de sua organização descobriram imagens perturbadoras de menores, com idades entre 11 e 13 anos, que pareciam ter sido produzidas usando Grok. “Esperar que produtos prejudiciais sejam explorados antes de tomar medidas é simplesmente inaceitável,” acrescentou.

Resposta do Governo

Esse desenvolvimento ocorre em um momento em que o governo solicita que o regulador de mídia, Ofcom, exerça sua total autoridade, o que pode resultar em uma proibição do X. O governo expressou preocupações sobre as imagens ilegais geradas por IA que estão circulando no site.

O Primeiro-Ministro Sir Keir Starmer expressou sua indignação sobre a situação, classificando a geração de imagens sexualizadas de adultos e crianças como “vergonhosa”. Ele reafirmou que o Ofcom conta com o apoio total do governo para enfrentar a questão de forma decisiva, afirmando: “É ilegal. Não toleraremos isso, e solicitei que todas as opções sejam consideradas.”

Limitações Atuais do Grok

De acordo com a Lei de Segurança Online, o Ofcom tem a autoridade para buscar ordens judiciais que visem limitar terceiros de ajudar a plataforma a garantir financiamento ou acesso dentro do Reino Unido. Até o momento, o Grok permanece disponível como uma ferramenta gratuita, permitindo que os usuários interajam com ela diretamente em postagens ou comentários.

No entanto, o recurso facilitou solicitações para alterações de imagens, muitas vezes resultando em representações inadequadas de indivíduos. Relatórios indicam que o Grok atendeu a numerosos pedidos para modificar imagens de mulheres de maneiras que as deixaram se sentindo “humilhadas” e “desumanizadas.” Na manhã de sexta-feira, o Grok informou aos usuários que as capacidades de edição de imagens agora estão reservadas para assinantes pagantes, que podem desbloquear essas funcionalidades por meio de uma assinatura.

Comentários na plataforma sugerem que apenas usuários com um selo de verificação azul, exclusivo para o nível pago do X, são capazes de solicitar com sucesso modificações de imagem através do Grok. A Dra. Daisy Dixon, uma usuária da plataforma que tem enfrentado um aumento nas instâncias de edições indesejadas, recebeu bem essa nova restrição, mas observou que parece uma solução temporária.

“O Grok precisa de um redesign completo com salvaguardas éticas para evitar abusos futuros,” afirmou. “Musk deve reconhecer essa questão pelo que é—uma violação persistente baseada na discriminação de gênero.”

A professora McGlynn notou que as ações recentes do X refletem sua abordagem anterior em relação a deepfakes pornográficos envolvendo figuras públicas, como Taylor Swift, indicando um padrão em sua abordagem. “As ações dele parecem estar destinadas a alimentar debates sobre a liberdade de expressão,” sugeriu, acrescentando que Musk poderia argumentar que a regulamentação impede o uso dessa tecnologia. No entanto, ela enfatizou que a regulamentação responsável simplesmente exige medidas necessárias para minimizar danos.