Une femme décrit son sentiment de « déshumanisation » après que l’IA ait modifié son image

Une femme a partagé avec les médias son profond sentiment de « déshumanisation » après que son image ait été altérée par l’IA Grok d’Elon Musk, entraînant la suppression numérique de ses vêtements.

Des cas similaires ont été signalés sur la plateforme sociale X, où des utilisateurs ont incité le chatbot à déshabiller des femmes, les présentant en maillots de bain ou dans des contextes à connotation sexuelle, et ce, sans leur accord.

La société derrière Grok, XAI, n’a pas fourni de commentaire substantiel lorsqu’elle a été contactée, se contentant de répondre par un message générique affirmant que les « médias traditionnels mentent ».

Samantha Smith, la femme qui a signalé la modification de son image, a partagé son expérience sur X, suscitant des réactions d’autres personnes ayant vécu des situations similaires, tandis que certains utilisateurs ont même demandé à Grok de générer d’autres images d’elle.

« Les femmes ne consentent pas à cela, » a-t-elle déclaré. « Même si ce n’était pas moi représentée dans des états provocateurs, cela me ressemblait et c’était aussi violent que si quelqu’un avait partagé une photo nue ou en maillot de bain de moi. »

Un représentant du ministère de l’Intérieur a indiqué qu’une législation était en cours pour interdire de telles technologies de nudification, affirmant que les personnes fournissant de tels outils pourraient encourir des peines d’emprisonnement et de lourdes amendes en vertu d’une nouvelle infraction pénale.

Ofcom, l’autorité de régulation, a souligné que les entreprises technologiques doivent évaluer les risques associés aux utilisateurs britanniques accédant à du contenu illégal sur leurs plateformes, bien qu’il reste flou s’il y a une enquête active sur X ou Grok concernant les images générées par l’IA.

Grok, qui est disponible en tant qu’assistant IA gratuit avec des fonctionnalités premium optionnelles, interagit avec les utilisateurs sur X lorsqu’il est mentionné dans des publications.

Bien qu’il offre principalement des réactions et des aperçus contextuels aux commentaires d’autres utilisateurs, il permet également l’édition d’images téléchargées via ses capacités d’IA, ce qui a attiré des critiques pour avoir facilité la création d’images et de vidéos contenant de la nudité et du contenu explicite.

Auparavant, Grok a fait l’objet de vives critiques pour avoir prétendument produit une vidéo à caractère sexuel impliquant Taylor Swift.

Clare McGlynn, professeur de droit à l’Université de Durham, a fait remarquer que X ou Grok disposent de la capacité d’éradiquer ces pratiques abusives si elles le souhaitaient, mais semblent fonctionner sans responsabilité.

« La plateforme a permis la création et la distribution de ces images pendant des mois sans prendre de mesures, et nous n’avons toujours pas observé d’intervention des régulateurs, » a-t-elle noté.

La politique d’utilisation acceptable de XAI interdit explicitement la représentation d’individus de manière pornographique.

Dans une déclaration, Ofcom a réaffirmé qu’il est illégal de créer ou de diffuser des images intimes non consensuelles ou du matériel d’abus sexuel sur des enfants, ce qui inclut les deepfakes sexuels générés par l’IA.

L’agence a également déclaré que des plateformes telles que X sont obligées de mettre en œuvre des mesures appropriées pour atténuer le risque que des utilisateurs britanniques rencontrent du contenu illégal et de retirer rapidement ce contenu une fois qu’elles en ont connaissance.

Pour ceux qui souhaitent rester informés des dernières avancées technologiques, un abonnement à une newsletter est disponible.