Regulador do Reino Unido Investiga X Sobre Alegações de Geração de ‘Imagens Sexualizadas de Menores’ pela IA

Diante de relatos alarmantes, a Ofcom contatou com urgência a empresa xAI de Elon Musk sobre sua aplicação de IA, Grok, que supostamente tem a capacidade de criar ‘imagens sexualizadas de crianças’ e despir digitalmente mulheres.

Um representante do órgão regulador confirmou que está investigando as questões relacionadas à produção de ‘imagens despidas’ envolvendo indivíduos.

Diversos casos na plataforma X foram revelados, mostrando usuários solicitando que o chatbot manipulasse fotografias reais, resultando em mulheres aparecendo de biquíni sem seu consentimento, além de colocá-las em cenários explícitos.

Embora o pedido de comentário da X não tenha sido respondido, a plataforma emitiu um aviso aos seus usuários no domingo, aconselhando contra o uso do Grok para gerar conteúdo ilegal, incluindo materiais relacionados à exploração sexual infantil.

Elon Musk também se manifestou nas redes sociais, afirmando que aqueles que instigarem a IA a criar conteúdo ilegal enfrentarão consequências semelhantes às de quem faz o upload desse tipo de material diretamente.

As diretrizes de uso aceitável estabelecidas pela XAI proíbem explicitamente ‘representar indivíduos em um contexto pornográfico’.

Contudo, o Grok tem sido explorado por usuários para remover roupas de indivíduos em imagens sem obter seu consentimento ou mesmo notificá-los.

Este assistente de IA está disponível gratuitamente, com recursos premium opcionais que respondem a perguntas marcadas em postagens por usuários na X.

Samantha Smith, uma jornalista que descobriu que usuários haviam gerado imagens dela de biquíni, expressou seus sentimentos de ter sido ‘desumanizada e reduzida a um estereótipo sexual’ durante uma entrevista.

“Embora não fosse eu representada em estados de nudez, se assemelhava a mim, e foi tão violador quanto se alguém tivesse compartilhado uma foto nua ou de biquíni minha,” ela comentou.

De acordo com a Lei de Segurança Online, a Ofcom enfatiza que criar ou distribuir imagens íntimas ou sexualmente explícitas—como ‘deepfakes’ gerados por IA—sem o consentimento do sujeito é ilegal.

Além disso, as empresas de tecnologia são obrigadas a implementar ‘medidas adequadas’ para minimizar o risco de usuários do Reino Unido encontrarem esse tipo de conteúdo e devem agir rapidamente para removê-lo assim que forem alertadas.

Um porta-voz do Home Office afirmou que a legislação está em andamento para proibir ferramentas de nudeificação, enfatizando que qualquer pessoa que forneça tal tecnologia pode enfrentar prisão e multas pesadas sob um novo estatuto criminal.

Para se manter atualizado sobre as últimas novidades em tecnologia, considere assinar nosso boletim informativo Tech Decoded.