La fonction d’édition d’images de Grok d’Elon Musk limitée aux abonnés payants après la controverse sur les deepfakes

La plateforme de médias sociaux d’Elon Musk, X, a récemment annoncé que sa fonction d’édition d’images par IA, Grok, sera désormais accessible uniquement aux abonnés payants. Cette décision fait suite à des critiques considérables visant la plateforme pour avoir permis la création d’images deepfake inappropriées.

Des préoccupations ont surgi lorsque Grok a été utilisé pour modifier des images d’individus sans leur consentement, y compris des demandes pour les dénudées numériquement. En réponse à cette réaction négative, l’outil informe désormais les utilisateurs que seules les personnes ayant payé pour un abonnement peuvent demander de telles modifications, obligeant les utilisateurs à lier leurs coordonnées de paiement à leurs comptes.

Réactions d’experts

La professeure Clare McGlynn, spécialiste de la régulation juridique des abus en ligne et de la violence sexuelle, a commenté la situation en déclarant : « Musk a réagi de manière défensive face à la nécessité d’être tenu responsable de l’augmentation des abus. » Elle a critiqué la décision de restreindre l’accès, arguant que cela ne traite pas adéquatement le potentiel de Grok à être mal utilisé.

Hannah Swirsky, responsable des politiques à la Internet Watch Foundation, a réitéré ces sentiments, affirmant que le fait de simplement restreindre l’accès ne répare pas les dégâts déjà causés. Elle a souligné que l’outil n’aurait jamais dû avoir la capacité de générer de telles images préoccupantes en premier lieu.

Swirsky a également souligné que des analystes de son organisation avaient découvert des images troublantes de mineurs, âgés de 11 à 13 ans, qui semblaient avoir été produites en utilisant Grok. « Attendre que des produits nuisibles soient exploités avant d’agir est tout simplement inacceptable », a-t-elle ajouté.

Réaction du gouvernement

Ce développement coïncide avec les appels du gouvernement demandant au régulateur des médias, Ofcom, d’exercer toute son autorité, ce qui pourrait conduire à une interdiction de X. Le gouvernement a exprimé des inquiétudes concernant les images générées par IA illégales circulant sur le site.

Le Premier ministre Sir Keir Starmer a exprimé son indignation face à la situation, qualifiant la génération d’images sexualisées d’adultes et d’enfants de « honteux ». Il a affirmé qu’Ofcom a le soutien total du gouvernement pour aborder la question de manière décisive, déclarant : « C’est illégal. Nous ne le tolérerons pas, et j’ai demandé que toutes les options soient envisagées. »

Limitations actuelles de Grok

En vertu de la Loi sur la sécurité en ligne, Ofcom a le pouvoir de demander des ordonnances judiciaires visant à empêcher des tiers d’aider la plateforme à sécuriser un financement ou un accès au Royaume-Uni. Pour l’instant, Grok reste disponible en tant qu’outil gratuit, permettant aux utilisateurs d’interagir directement avec lui dans des publications ou des commentaires.

Cependant, la fonction a facilité des demandes de modifications d’images, aboutissant souvent à des représentations inappropriées d’individus. Des rapports indiquent que Grok a satisfait à de nombreuses demandes pour modifier des images de femmes de manière à leur faire ressentir un sentiment de « humiliation » et de « déshumanisation ». Depuis vendredi matin, Grok a informé les utilisateurs que les capacités d’édition d’images sont désormais réservées aux abonnés payants, qui peuvent débloquer ces fonctionnalités via un abonnement.

Les commentaires sur la plateforme suggèrent que seuls les utilisateurs avec une coche de vérification bleue, exclusive au niveau payant de X, sont capables de demander avec succès des modifications d’images via Grok. La Dre Daisy Dixon, une utilisatrice de la plateforme ayant connu une augmentation des modifications non désirées, a accueilli cette nouvelle restriction, mais a fait remarquer qu’elle semble être une solution temporaire.

« Grok nécessite une refonte complète avec des protections éthiques pour prévenir les abus futurs », a-t-elle déclaré. « Musk doit reconnaître ce problème pour ce qu’il est : une violation persistante fondée sur la discrimination de genre. »

La professeure McGlynn a noté que les actions récentes de X reflètent sa gestion antérieure des deepfakes pornographiques impliquant des personnalités publiques, telles que Taylor Swift, indiquant un schéma dans son approche. « Ses actions semblent viser à alimenter les débats autour de la liberté d’expression », a-t-elle suggéré, ajoutant que Musk pourrait arguer que la réglementation entrave l’utilisation de cette technologie. Pourtant, elle a souligné que la réglementation responsable ne demande que des mesures nécessaires pour minimiser les dommages.