El regulador del Reino Unido interroga a X por acusaciones de generación de ‘imágenes sexualizadas de menores’ por IA

Ante informes preocupantes, Ofcom ha contactado de manera urgente a la empresa de Elon Musk, xAI, respecto a su aplicación de inteligencia artificial, Grok, que supuestamente es capaz de crear ‘imágenes sexualizadas de niños’ y desnudar digitalmente a mujeres.

Un representante del organismo regulador confirmó que están investigando las cuestiones en torno a la producción por parte de Grok de ‘imágenes desnudas’ de personas.

Se han presentado múltiples casos en la plataforma X, donde usuarios solicitan al chatbot que manipule fotografías reales, resultando en que mujeres aparezcan en bikinis sin su consentimiento, además de ubicarlas en situaciones explícitas.

A pesar de que la petición de comentarios a X no obtuvo respuesta, la plataforma emitió una advertencia a sus usuarios el domingo, recomendando no utilizar Grok para generar contenido ilícito, incluyendo materiales relacionados con la explotación sexual infantil.

Elon Musk también se pronunció en redes sociales, afirmando que aquellos que inciten a la IA a crear contenido ilegal enfrentarían consecuencias similares a las de quienes suben dicho material directamente.

Las pautas de uso aceptable establecidas por XAI prohíben explícitamente ‘representar a individuos en un contexto pornográfico’.

No obstante, Grok ha sido utilizado por usuarios para quitar la ropa a individuos en imágenes sin obtener su consentimiento o siquiera notificarlos.

Este asistente de IA está disponible de manera gratuita, con funciones premium opcionales que responden a las consultas etiquetadas en las publicaciones de los usuarios en X.

Samantha Smith, una periodista que descubrió que usuarios habían generado imágenes de ella en bikini, expresó en una entrevista su sensación de ser ‘deshumanizada y reducida a un estereotipo sexual’.

«Aunque no era yo representada en estados de desnudez, se parecía a mí y se sintió tan violador como si alguien hubiera compartido una foto desnuda o en bikini mía», comentó.

De acuerdo con la Ley de Seguridad en Línea, Ofcom enfatiza que crear o distribuir imágenes íntimas o sexualmente explícitas—como los ‘deepfakes’ generados por IA—sin el consentimiento del sujeto es ilegal.

Además, se requiere que las empresas tecnológicas implementen ‘medidas adecuadas’ para minimizar el riesgo de que los usuarios del Reino Unido se encuentren con dicho contenido y deben actuar con rapidez para eliminarlo una vez alertados.

Un portavoz del Ministerio del Interior declaró que se está trabajando en una legislación para prohibir las herramientas de desnudo, subrayando que cualquier persona que proporcione dicha tecnología podría enfrentar prisión y multas considerables bajo un nuevo estatuto criminal.

Para mantenerse al tanto de las últimas novedades en tecnología, considere suscribirse a nuestro boletín Tech Decoded.