La Malaisie et l’Indonésie bloquent Grok de Musk en raison de deepfakes explicites

La Malaisie et l’Indonésie ont pris la décision de restreindre l’accès au chatbot d’intelligence artificielle (IA) Grok d’Elon Musk, en raison de sa capacité à créer des deepfakes à caractère sexuel explicite.

Grok, un outil disponible sur la plateforme X de Musk, permet aux utilisateurs de générer des images, mais a récemment été utilisé pour modifier des photos de personnes réelles afin de les représenter dans des tenues suggestives.

Les nations d’Asie du Sud-Est ont exprimé leurs préoccupations, indiquant que Grok pourrait être employé pour produire des images pornographiques et non consensuelles impliquant des femmes et des enfants. Ces pays sont les premiers au monde à interdire cet outil d’IA.

Parallèlement, la pression monte au Royaume-Uni pour bloquer Grok, la secrétaire à la technologie du pays ayant affirmé qu’elle soutiendrait cette initiative, ce qui a conduit Musk à accuser le gouvernement de vouloir réprimer la liberté d’expression.

Les ministères des communications de la Malaisie et de l’Indonésie ont annoncé leur action contre Grok dans des déclarations distinctes au cours du week-end. La Commission malaisienne des communications et du multimédia a déclaré dimanche avoir émis des avis à X plus tôt dans l’année pour demander des mesures plus strictes après avoir constaté un « abus répété » de Grok pour générer du contenu nuisible.

Cependant, dans sa réponse, X a échoué à traiter les risques inhérents à la conception de sa plateforme, se concentrant principalement sur le processus de signalement pour les utilisateurs, selon le régulateur.

La Commission a ajouté que Grok sera bloqué jusqu’à ce que des mesures de sécurité efficaces soient mises en place et a exhorté le public à signaler tout contenu nuisible en ligne.

Utiliser Grok pour créer du contenu sexuellement explicite constitue une violation des droits humains, de la dignité et de la sécurité en ligne, a déclaré Meutya Hafid, la ministre indonésienne des communications et des affaires numériques, dans un post sur Instagram.

Le ministère a également demandé à X de Musk de fournir des clarifications sur l’utilisation de Grok.

Les autorités indonésiennes ont intensifié leur lutte contre d’autres sources en ligne de matériel pornographique ces dernières années, avec des plateformes telles que OnlyFans et Pornhub déjà interdites dans le pays.

Des utilisateurs indonésiens de X ayant découvert leurs photos manipulées sur la plateforme ont exprimé leur colère face à cette situation.

Kirana Ayuningtyas, une utilisatrice de fauteuil roulant qui partage en ligne ses expériences quotidiennes, a remarqué qu’un inconnu avait commenté sa photo en demandant à Grok de la représenter en bikini.

Ayuningtyas a déclaré qu’elle avait modifié ses paramètres de confidentialité et contacté la plateforme pour faire retirer l’image afin d’empêcher les utilisateurs de modifier ses photos.

« Malheureusement, rien de tout cela n’a vraiment fonctionné », a-t-elle ajouté, en exprimant sa difficulté à savoir si quelqu’un conservait les images.

Elle a demandé à ses amis de signaler les comptes qui publiaient ses images falsifiées, mais cette action a encore permis à plus de personnes de voir les photos modifiées, ce qui est très embarrassant pour elle.

La BBC a contacté la plateforme Grok pour obtenir un commentaire.

L’utilisation de Grok pour générer des images sexualisées a été condamnée par des dirigeants du monde entier, y compris le Premier ministre britannique Keir Starmer, qui l’a qualifiée de « honteuse » et de « dégoûtante ».

La secrétaire à la technologie du pays, Liz Kendall, a également affirmé qu’elle soutiendrait le régulateur Ofcom s’il bloquait l’accès au Royaume-Uni au site de médias sociaux X d’Elon Musk pour non-respect des lois sur la sécurité en ligne.

Elle a déclaré que la loi britannique sur la sécurité en ligne « inclut le pouvoir de bloquer l’accès à des services au Royaume-Uni, s’ils refusent de se conformer à la législation britannique » et que « si Ofcom décide d’utiliser ces pouvoirs, ils auront notre plein soutien ».