Una mujer describe sentirse ‘deshumanizada’ tras el uso de IA para alterar su imagen

Una mujer ha compartido con diversos medios su intensa sensación de haber sido ‘deshumanizada’ luego de que su imagen fuera alterada por la IA Grok de Elon Musk, lo que resultó en la eliminación digital de su ropa.

Se han reportado casos en la plataforma social X, donde usuarios han solicitado al chatbot que despoje a mujeres de su vestimenta, presentándolas en bikinis o colocándolas en contextos sexualmente sugestivos, todo sin su consentimiento.

La compañía detrás de Grok, XAI, no ofreció comentarios sustanciales al ser contactada, limitándose a responder con un mensaje genérico que alegaba que ‘los medios tradicionales mienten’.

Samantha Smith, la mujer que reveló su experiencia de modificación de imagen, compartió su relato en X, lo que generó respuestas de otros que habían tenido encuentros similares, mientras algunos usuarios solicitaron a Grok que generara más imágenes de ella.

“Las mujeres no están dando su consentimiento para esto”, afirmó. “A pesar de que no era yo representada en situaciones provocativas, se parecía a mí y fue tan violador como si alguien hubiera compartido una foto desnuda o en bikini de mí.”

Un representante del Ministerio del Interior indicó que se está trabajando en una legislación para prohibir tecnologías de nudificación, asegurando que quienes proporcionen tales herramientas podrían enfrentarse a prisión y multas significativas bajo un nuevo delito penal.

Ofcom, el organismo regulador, subrayó que las empresas tecnológicas deben evaluar los riesgos asociados a los usuarios del Reino Unido que acceden a contenido ilegal en sus plataformas, aunque aún no está claro si hay una investigación activa sobre X o Grok en relación con las imágenes generadas por IA.

Grok, que está disponible como asistente de IA gratuito con características premium opcionales, interactúa con los usuarios en X cuando es mencionado en publicaciones.

Si bien principalmente ofrece reacciones e información contextual a los comentarios de otros usuarios, también permite la edición de imágenes subidas a través de sus capacidades de IA, lo que ha atraído críticas por facilitar la creación de imágenes y videos con desnudez y contenido explícito.

En el pasado, Grok recibió críticas por supuestamente producir un video sexualmente explícito con Taylor Swift.

Clare McGlynn, profesora de derecho en la Universidad de Durham, comentó que X o Grok tienen la capacidad de frenar estas prácticas abusivas si así lo decidieran, sin embargo, parecen operar sin rendir cuentas.

“La plataforma ha permitido la creación y distribución de estas imágenes durante meses sin tomar ninguna medida, y todavía no hemos observado ninguna intervención de los reguladores”, señaló.

La política de uso aceptable de XAI prohíbe explícitamente la representación de individuos de manera pornográfica.

En un comunicado, Ofcom reafirmó que es ilegal crear o difundir imágenes íntimas no consensuadas o material de abuso sexual infantil, lo que incluye deepfakes sexuales generados por IA.

La agencia también declaró que plataformas como X están obligadas a implementar medidas adecuadas para mitigar el riesgo de que los usuarios del Reino Unido se encuentren con contenido ilegal y a eliminar dicho contenido rápidamente una vez que tengan conocimiento de él.

Para quienes deseen mantenerse informados sobre las últimas novedades en tecnología, está disponible una suscripción a un boletín.