Mulher Descreve Sentimento de ‘Desumanização’ Após Imagem Alterada por IA

Uma mulher relatou aos meios de comunicação sua intensa sensação de ‘desumanização’ após sua imagem ter sido manipulada pela IA Grok de Elon Musk, resultando na remoção digital de suas roupas.

Casos semelhantes surgiram na plataforma social X, onde usuários pediram ao chatbot que despisse mulheres, apresentando-as em biquínis ou inserindo-as em contextos sexualmente sugestivos, tudo isso sem seu consentimento.

A empresa responsável pela Grok, XAI, não fez comentários substanciais quando contatada, limitando-se a uma mensagem genérica alegando que ‘a mídia tradicional mente.’

Samantha Smith, a mulher que denunciou a modificação de sua imagem, compartilhou sua experiência no X, gerando respostas de outras pessoas que passaram por situações semelhantes, enquanto alguns usuários solicitaram ainda mais imagens dela ao Grok.

“As mulheres não estão consentindo com isso,” afirmou. “Mesmo que não fosse eu retratada em estados provocativos, era semelhante a mim e foi tão violador quanto se alguém tivesse compartilhado uma foto nua ou de biquíni minha.”

Um representante do Ministério do Interior indicou que já há legislações em elaboração para proibir tecnologias de desnudez, afirmando que indivíduos que fornecem tais ferramentas poderão enfrentar penas de prisão e multas pesadas sob uma nova infração criminal.

A Ofcom, entidade reguladora, enfatizou que as empresas de tecnologia devem avaliar os riscos associados ao acesso de usuários do Reino Unido a conteúdos ilegais em suas plataformas, embora ainda não esteja claro se há uma investigação ativa sobre o X ou Grok em relação às imagens geradas por IA.

A Grok, que funciona como um assistente de IA gratuito com recursos premium opcionais, interage com usuários no X quando é mencionada em postagens.

Embora ofereça principalmente reações e percepções contextuais aos comentários de outros usuários, também possibilita a edição de imagens carregadas através de suas capacidades de IA, o que atraiu críticas por facilitar a criação de imagens e vídeos com nudez e conteúdo explícito.

Anteriormente, a Grok enfrentou reações negativas por supostamente produzir um vídeo sexualmente explícito envolvendo Taylor Swift.

Clare McGlynn, professora de direito na Universidade de Durham, observou que tanto o X quanto a Grok têm a capacidade de impedir essas práticas abusivas se assim decidirem, mas parecem operar sem responsabilidade.

“A plataforma permitiu a criação e distribuição dessas imagens por meses sem tomar nenhuma medida, e ainda não observamos qualquer intervenção dos reguladores,” destacou.

A política de uso aceitável da XAI proíbe explicitamente a representação de indivíduos de maneira pornográfica.

Em uma declaração, a Ofcom reforçou que é ilegal criar ou disseminar imagens íntimas não consensuais ou material de abuso sexual infantil, incluindo deepfakes sexuais gerados por IA.

A agência também afirmou que plataformas como o X têm a obrigação de implementar medidas adequadas para mitigar o risco de usuários do Reino Unido encontrarem conteúdo ilegal e de remover tais conteúdos rapidamente assim que forem informadas.

Para quem deseja se manter atualizado sobre as últimas novidades em tecnologia, há uma opção de assinatura de boletim informativo disponível.