La edición de imágenes de IA Grok de Elon Musk restringida a suscriptores pagos tras controversia de deepfake

La plataforma de redes sociales de Elon Musk, X, ha declarado que su función de edición de imágenes por IA, Grok, estará disponible únicamente para suscriptores que paguen. Esta resolución se produce en medio de una fuerte crítica dirigida a la plataforma por facilitar la creación de imágenes deepfake inapropiadas.

Las preocupaciones surgieron cuando Grok fue utilizado para modificar imágenes de personas sin su consentimiento, incluyendo solicitudes para desnudarlas digitalmente. En respuesta a la reacción negativa, la herramienta ahora informa a los usuarios que solo aquellos que han pagado por una suscripción pueden solicitar tales ediciones, lo que requiere que los usuarios vinculen sus detalles de pago a sus cuentas.

Reacciones de expertos

La profesora Clare McGlynn, especialista en la supervisión legal del abuso en línea y la violencia sexual, comentó sobre la situación, afirmando: «Musk ha reaccionado de manera defensiva al ser responsabilizado por el aumento del mal uso». Criticó la decisión de limitar el acceso, argumentando que no aborda adecuadamente el potencial de Grok para ser mal utilizado.

Hannah Swirsky, directora de políticas en la Fundación Internet Watch, coincidió con estos sentimientos, afirmando que simplemente restringir el acceso no corrige el daño ya causado. Subrayó que la herramienta nunca debió tener la capacidad de generar tales imágenes perturbadoras en primer lugar.

Swirsky también señaló que analistas de su organización habían descubierto imágenes inquietantes de menores, de entre 11 y 13 años, que parecían haber sido producidas utilizando Grok. «Esperar a que se exploten productos dañinos antes de tomar medidas es simplemente inaceptable», agregó.

Respuesta del gobierno

Este desarrollo coincide con los llamados del gobierno para que el regulador de medios, Ofcom, ejerza su plena autoridad, lo que podría llevar a una prohibición de X. El gobierno ha expresado su preocupación por las imágenes generadas por IA de forma ilegal que circulan en el sitio.

El Primer Ministro Sir Keir Starmer expresó su indignación por la situación, calificando la generación de imágenes sexualizadas tanto de adultos como de niños como «despreciable». Afirmó que Ofcom cuenta con el respaldo total del gobierno para abordar el problema de manera decisiva, manifestando: «Es ilegal. No lo toleraremos, y he solicitado que se consideren todas las opciones».

Limitaciones actuales de Grok

Bajo la Ley de Seguridad en Línea, Ofcom tiene la autoridad para buscar órdenes judiciales destinadas a limitar a terceros que ayuden a la plataforma a obtener financiamiento o acceso dentro del Reino Unido. Por ahora, Grok sigue disponible como una herramienta gratuita, permitiendo a los usuarios interactuar directamente con ella en publicaciones o comentarios.

No obstante, la función ha facilitado solicitudes para alteraciones de imágenes, a menudo resultando en la representación inapropiada de individuos. Informes indican que Grok ha cumplido numerosas solicitudes para modificar imágenes de mujeres de maneras que las dejan sintiéndose «humilladas» y «deshumanizadas». Desde la mañana del viernes, Grok ha comunicado a los usuarios que las capacidades de edición de imágenes ahora están reservadas para suscriptores que pagan, quienes pueden desbloquear estas funcionalidades mediante una suscripción.

Los comentarios en la plataforma sugieren que solo los usuarios con un tick de verificación azul, exclusivo para la categoría paga de X, son capaces de solicitar con éxito modificaciones de imágenes a través de Grok. La Dra. Daisy Dixon, una usuaria de la plataforma que ha experimentado un aumento en las instancias de ediciones no deseadas, dio la bienvenida a esta nueva restricción, pero observó que parece una solución temporal.

«Grok necesita un rediseño completo con salvaguardas éticas para prevenir futuros abusos», afirmó. «Musk debe reconocer este problema por lo que es: una violación persistente basada en la discriminación de género».

La profesora McGlynn señaló que las acciones recientes de X reflejan su manejo anterior de los deepfakes pornográficos que involucran figuras públicas, como Taylor Swift, indicando un patrón en su enfoque. «Sus acciones parecen estar dirigidas a alimentar debates sobre la libertad de expresión», sugirió, añadiendo que Musk podría argumentar que la regulación obstaculiza el uso de esta tecnología. Sin embargo, enfatizó que una regulación responsable simplemente exige medidas necesarias para minimizar el daño.