Malasia e Indonesia bloquean Grok de Musk por deepfakes explícitos

Malasia e Indonesia han decidido restringir el acceso al chatbot de inteligencia artificial (IA) Grok de Elon Musk debido a su capacidad para generar deepfakes sexualmente explícitos.

Grok, que se encuentra en la plataforma X de Musk, permite a los usuarios crear imágenes, pero recientemente se ha utilizado para editar fotos de personas reales, mostrándolas en atuendos reveladores.

Los países del sudeste asiático señalaron que Grok podría ser empleado para producir imágenes pornográficas y no consensuadas que involucren a mujeres y niños. Estas naciones se convierten en las primeras a nivel mundial en prohibir esta herramienta de IA.

La presión para bloquear Grok también está aumentando en el Reino Unido, donde la secretaria de tecnología del país ha expresado su apoyo a esta medida, lo que llevó a Musk a acusar al gobierno de intentar suprimir la libertad de expresión.

Los ministerios de comunicaciones de Malasia e Indonesia anunciaron su decisión contra Grok en declaraciones separadas durante el fin de semana. La Comisión de Comunicaciones y Multimedia de Malasia informó el domingo que había emitido avisos a X a principios de año para solicitar medidas más estrictas tras detectar un «uso indebido repetido» de Grok para generar contenido dañino.

Sin embargo, en su respuesta, X no abordó los riesgos inherentes al diseño de su plataforma y se centró principalmente en el proceso de denuncia para los usuarios, según el regulador. Se añadió que Grok permanecerá bloqueado hasta que se implementen salvaguardias efectivas y se instó al público a informar sobre contenido perjudicial en línea.

La ministra de Comunicaciones y Asuntos Digitales de Indonesia, Meutya Hafid, afirmó en una publicación de Instagram que utilizar Grok para generar contenido sexualmente explícito viola los derechos humanos, la dignidad y la seguridad en línea.

El ministerio también ha solicitado a X de Musk que aclare el uso de Grok. Las autoridades indonesias han intensificado su control sobre otras fuentes en línea de material pornográfico en los últimos años, prohibiendo plataformas como OnlyFans y Pornhub en el país.

Usuarios de X en Indonesia que encontraron sus fotos manipuladas en la plataforma expresaron su indignación por permitir que esto sucediera. Kirana Ayuningtyas, una usuaria de silla de ruedas que comparte sus experiencias diarias en línea, se dio cuenta de que un extraño había comentado en su foto pidiendo que Grok la representara en bikini.

Ayuningtyas mencionó que ajustó sus configuraciones de privacidad y contactó a la plataforma para que se eliminara la imagen y evitar que otros usuarios editaran sus fotos. «Desafortunadamente, nada de eso funcionó realmente», dijo, añadiendo que es difícil saber si alguien aún posee las imágenes.

Le pidió a sus amigos que reportaran las cuentas que publicaron sus imágenes falsas, pero hacerlo significaba que más personas verían las imágenes editadas, lo que le resulta profundamente embarazoso.

La BBC se ha puesto en contacto con la plataforma Grok para obtener comentarios. El uso de Grok para generar imágenes sexualizadas ha sido condenado por líderes de todo el mundo, incluido el primer ministro del Reino Unido, Keir Starmer, quien lo calificó de «vergonzoso» y «repugnante».

La secretaria de Tecnología del país, Liz Kendall, también ha afirmado que apoyaría al regulador Ofcom si bloquea el acceso en el Reino Unido al sitio de redes sociales X de Elon Musk por no cumplir con las leyes de seguridad en línea. Ella declaró que la Ley de Seguridad en Línea del Reino Unido «incluye el poder de bloquear servicios para que no sean accesibles en el Reino Unido, si se niegan a cumplir con la ley británica» y «si Ofcom decide utilizar esos poderes, tendrán nuestro total apoyo».