Quand l’IA renforce les violences faites aux femmes

La pornographie non consentie générée par l’intelligence artificielle (IA) détruit la vie des filles et des femmes. Ces images en ligne, sexualisées en un clic, révèlent à quel point les discours traditionnels invitant les femmes à la prudence sont irréalistes. Si la réglementation des produits d’IA qui encouragent les violences sexuelles constitue une première étape, un changement idéologique et intellectuel en matière de liberté des femmes s’impose.

Sur YouTube, derrière le pseudonyme « Woman Shot A.I », un utilisateur anonyme a publié, entre le 20 juin et la mi-septembre 2025, des vidéos intitulées « Lycéennes japonaises touchées à la poitrine », « Femme au foyer sexy touchée à la poitrine », « La fin tragique d’une journaliste » et « Portrait IA ». Ce contenu généré par l’IA, montrant des femmes implorant leur agresseur juste avant d’être poignardées, abattues d’une balle dans la poitrine ou décapitées, rassemblait plus d’un millier d’abonnés et comptait plus de 175 000 vues. « Woman Shot A.I » a donné vie à ses fantasmes à l’aide de Veo 3, un outil de Google AI Studio censé « offrir un réalisme accru […] tout en proposant un contrôle sans précédent pour donner vie à vos visions les plus ambitieuses ».

On ne parle pas ici des bas-fonds d’Internet, où l’on fouille dans les secrets les plus sombres des autres, ni de kétamine ou de munitions, mais de vidéos accessibles sur une plateforme vidéo mondiale utilisée chaque jour par des millions d’adultes et d’enfants. Le fait qu’aucun des mécanismes de vérification existants n’a réussi à détecter le problème – d’abord dans Veo 3, qui est censé bloquer toutes les suggestions contraires aux politiques et directives de Google, puis sur YouTube – montre à quel point la violence envers les femmes est prise à la légère. Le profil en question n’a été supprimé que lorsque le média indépendant 404 Media a abordé l’affaire et a demandé à YouTube de s’exprimer à ce sujet – en d’autres termes, seulement lorsque « Woman Shot A.I » est devenu un problème potentiel en matière de relations publiques. Alors que les plateformes continuent de s’enrichir, des contenus sexuels explicites et violents, interdits sur le papier, passent entre les mailles du filet.

Les véritables limites des deepfakes

On appelle « deepfakes » des images générées par l’IA qui n’ont aucune prise avec la réalité (je reviendrai sur cette formulation). Le premier contexte dans lequel ce terme a été utilisé révèle son objectif original, étrangement proche de l’usage qu’en fait « Woman Shot A.I » : dès 2017, des membres du subreddit1 « r/deepfakes » ont superposé les visages de femmes célèbres sur des contenus pornographiques existants. La panique suscitée par l’intrusion de l’IA dans toutes les sphères de notre vie s’est principalement concentrée sur le contexte politique et le potentiel de destruction d’une technologie qui fabrique de fausses histoires et propage la haine, ciblant des individus et des groupes sociaux spécifiques. Mais l’utilisation de l’IA pour humilier et intimider les femmes est un problème bien moins pris au sérieux – c’est-à-dire pour produire et diffuser de la misogynie, par le biais de deepfakes pornographiques et de la résurgence de fantasmes féminicides, à l’aide d’applications et de programmes disponibles à portée de main.

Ce n’est pas un hasard si les titres des deepfakes susmentionnés sonnent comme un mélange de reportage criminel et de contenu Pornhub. Dans chacune des vingt-sept vidéos supprimées, une silhouette masculine menaçante se dresse au-dessus d’une femme terrifiée, dos au public, une arme à la main, tirant à tout va.

Les statistiques nous rappellent régulièrement que les fantasmes consistant à tuer et à mutiler le corps féminin ne datent pas d’hier2, tout comme les tentatives visant à discréditer et à contrôler les femmes en les associant au sexe et à la sexualité. L’objectif reste le même, mais les moyens et les méthodes sont désormais plus sophistiqués sur le plan technologique. Ainsi, toute personne mal intentionnée disposant d’un peu d’argent sur son compte en banque peut se venger d’une ex-partenaire en la « déshabillant » numériquement à l’aide de l’intelligence artificielle et en partageant des images d’elle nue avec ses amis sur WhatsApp. Il suffit d’avoir quelques photos d’elle, ce qui, à l’ère de la dépendance extrême à la technologie, est loin d’être compliqué, et le tour est joué. Le temps que la victime découvre ce qui s’est passé – si tant est qu’elle le découvre – il est déjà trop tard.

Les contenus pornographiques, à l’instar des cafards, infiltrent les ordinateurs et autres appareils électroniques, les clouds et les « garde-mangers » numériques, pouvant même résister à une catastrophe nucléaire. Même s’il nous plaît de croire que nous pouvons distinguer la réalité d’un contenu généré artificiellement, l’IA apprend et progresse à une vitesse telle qu’elle est déjà capable de tromper même les yeux les plus avertis en matière de technologie. En pratique, cela signifie que les frontières entre les deux mondes deviennent de plus en plus floues. Même si un événement n’a pas réellement eu lieu, il intègre notre réalité dès lors que nous interagissons avec ce contenu et le consommons. Les conséquences des réalités générées par l’IA sont réelles : les victimes de deepfakes pornographiques comparent souvent leur expérience à celle d’un viol3.

Une psychothérapie non comprise

Les deepfakes deviennent un outil de chantage, de manipulation et d’intimidation. Dans son livre The New Age of Sexism, la journaliste et militante britannique Laura Bates emmène ses lecteurs à Almendralejo, en Espagne, une ville autrefois paisible, où plus de vingt lycéennes ont été victimes d’une attaque par IA en septembre 2023. Des images d’elles dénudées, créées à l’aide de l’application ClothOff, se sont mises à circuler dans des groupes WhatsApp locaux et sur Internet, poussant de nombreuses victimes – dont la plus jeune n’avait que 11 ans à l’époque – à se cloîtrer chez elles pendant des jours. Les auteurs, un groupe de garçons, leurs camarades de classe, ont traumatisé toute une génération de jeunes filles de la région par pur ennui.

Mais avant de jeter la pierre à ces garçons, je pense qu’il est bien plus important de s’interroger sur le fait même qu’il existe des applications accessibles à tous qui permettent de « déshabiller » n’importe qui, notamment des mineurs. Il ne faut pas considérer le comportement de ces adolescents comme un incident isolé. Au contraire, leur décision de sexualiser et d’humilier leurs camarades de classe féminines doit être interprétée à la lumière d’un contexte social plus large dans lequel la violence envers les femmes est régulièrement présentée comme normale.

La technologie ne fait que perpétuer les rapports de force existants.

Puisque les grandes entreprises technologiques alimentent leurs machines avec des informations imprégnées des valeurs et des idéologies dominantes de la société dans laquelle elles sont ancrées, la technologie ne fait que perpétuer les rapports de force existants. C’est pourquoi, par exemple, les systèmes de reconnaissance faciale ne parviennent pas à détecter les visages de femmes noires, et pourquoi de nombreuses applications de « déshabillage » ne fonctionnent pas lorsqu’on leur soumet des photos d’hommes. L’exemple le plus marquant de ce reflet idéologique réside dans la conception d’une nouvelle génération de robots sexuels féminins qui, comme nous l’apprend une vidéo publicitaire de RealDoll, « feront tout ça rien que pour vous », ce qui, en plus de leur silhouette en sablier, de leur peau blanche et de leurs tétons personnalisés, en fait des partenaires soi-disant parfaites. On peut seulement espérer que la coquette somme de 11 349, 99 dollars américains pour s’offrir Tanya comprenne des services de psychothérapie.

Au-delà de la sanction

Tout comme d’autres formes de violences basées sur le genre, la sensibilisation aux horreurs de la technologie moderne comprend habituellement un paragraphe expliquant que les filles et les femmes doivent se montrer plus prudentes dans les espaces numériques, faire plus attention aux personnes qu’elles acceptent comme amies et au type de photos qu’elles partagent, parce que, vous savez, il y a beaucoup de gens bizarres sur Internet. Plutôt que de se concentrer sur les auteurs de ces actes ou sur les entreprises technologiques telles que Meta, qui fait régulièrement la promotion d’applications permettant de créer des deepfakes, ou encore Google et YouTube, dont les mécanismes de contrôle échouent clairement à reconnaître les contenus explicites, la faute est une nouvelle fois rejetée sur les victimes. Pourquoi la seule solution évoquée consiste-t-elle à réduire les femmes au silence et à restreindre leur liberté de mouvement, d’abord la nuit, et désormais dans les espaces numériques ?

Laura Bates conclut avec justesse que le seul point positif de la technologie d’IA est qu’elle montre clairement que les victimes de pornographie de vengeance n’ont jamais été responsables des crimes et des souffrances qui leur ont été infligés : « Le plus ironique dans cette histoire, c’est que l’existence même des deepfakes prouve directement l’absurdité qu’il y a à blâmer les victimes. Lorsque les abus sexuels engendrés par des images ont fait leur apparition, […] l’une des réponses les plus courantes au problème […] a été la solution évidente selon laquelle les femmes devraient cesser de prendre des photos intimes d’elles-mêmes… Et puis est apparue la technologie des deepfakes, balayant d’un revers de main l’idée selon laquelle les femmes qui n’avaient jamais pris de photos intimes d’elles-mêmes étaient en quelque sorte protégées contre les abus pornographiques. Comme tous ces policiers, ces chefs d’établissement et ces éditorialistes paraissent ridicules aujourd’hui, maintenant que n’importe quelle femme, où qu’elle se trouve, qu’elle ait pris de telles photos ou non, peut se retrouver avec des photos d’elle nue diffusées partout sur Internet pour la victimiser et l’humilier. Pendant que nous étions trop occupés à surveiller les femmes, les auteurs de ces actes en ont profité pour développer des outils de “nudification” toujours plus sophistiqués4. »

Le terme de « pornographie non consentie », contrairement à celui de « pornographie de vengeance » déjà en usage, reconnaît que la raison pour laquelle une personne pourrait décider de partager le contenu intime d’une autre personne sans son autorisation pourrait être plus complexe qu’un simple désir de vengeance. Dans l’affaire d’Almendralejo, le désir de gagner en popularité auprès de ses pairs était prépondérant. Et n’oublions pas les marges nettes d’un secteur évalué à au moins quinze milliards de dollars américains, pouvant atteindre jusqu’à cent milliards de dollars américains, selon des estimations.

La récente affaire concernant l’utilisation du chatbot d’IA Grok, un produit de la société xAI d’Elon Musk, pour « déshabiller » des adultes et des mineurs vient confirmer la thèse selon laquelle le profit passe avant tout pour les grandes entreprises technologiques. À l’occasion du jour de l’an 2026, Elon Musk a partagé sur son réseau social X une photo de lui en bikini générée à l’aide de Grok, incitant d’autres utilisateurs à faire de même – mais pas, bien sûr, avec leurs propres photos. Ce n’est qu’après que les médias ont fait état d’une avalanche de deepfakes controversés sur l’ancien Twitter qu’Elon Musk a menacé de « conséquences » toute personne utilisant Grok pour créer du contenu pornographique infantile. Peu après, il s’est mis à faire payer l’accès à ce service de création de contenu par l’IA. Si l’on ajoute à cela l’annonce de Sam Altman, le PDG d’OpenAI, selon laquelle ChatGPT proposera bientôt un « mode adulte », il apparaît clairement que l’utilisation de l’intelligence artificielle pour assouvir les fantasmes pornographiques des utilisateurs, qu’ils soient innocents ou pathologiques, est activement encouragée.

Tous les États membres de l’Union européenne ont reconnu les dangers de la technologie d’IA. Par exemple, en Croatie, depuis 2022, l’article 144.a du Code pénal prévoit une peine d’un an d’emprisonnement pour toute personne ayant produit du contenu sexuel explicite, qui peut être étendue à trois ans si l’enregistrement a été diffusé auprès d’un large public. La question, toutefois, reste de savoir comment cette législation s’applique dans la pratique. Les jeunes d’Almendralejo, en Espagne, ont été punis, mais il s’agit davantage d’une exception que d’une règle. Même si je ne suggère pas qu’il faudrait poursuivre pénalement encore plus d’enfants, il est inacceptable que les auteurs de ces actes s’en tirent sans aucune conséquence alors que les corps de leurs victimes sont laissés à la merci des courants imprévisibles d’Internet, d’autant plus que près de 50 % des victimes de pornographie non consentie envisagent le suicide.

Des vidéos de chats se poursuivant sur des lits aux images dérangeantes de Donald Trump avec le pied d’Elon Musk dans la bouche, toute personne n’ayant pas encore supprimé ses comptes sur les réseaux sociaux vous dira qu’Internet est devenu une vaste décharge débordant d’ordures générées par l’IA. Si la mise en place d’un cadre réglementaire plus strict constitue une première étape, seul un changement idéologique et intellectuel pourra nous sauver de ce cauchemar dystopique dans lequel nous ne cessons de nous enfoncer. Bien sûr, il est essentiel d’apprendre aux enfants dès leur plus jeune âge à naviguer dans les eaux troubles du numérique, mais il est encore plus important de leur enseigner l’empathie et la solidarité, afin qu’il ne leur vienne jamais à l’esprit d’utiliser les photos de leurs camarades de classe pour créer de faux contenus pornographiques.

Ce texte a été publié par Vox Feminae dans le cadre de la série thématique “A gender lens for a more equal society”, cofinancée par le Fonds pour la promotion du pluralisme et de la diversité des médias électroniques.

Traduction de Maud Cigalla, Voxeurop

• 1. Un subreddit est une section de la plateforme Reddit, identifiée par « r/ » suivi de son nom. « r/deepfakes » était donc le nom d’une communauté Reddit consacrée aux deepfakes, ndlr.
• 2. En 2025, quinze femmes ont été assassinées en Croatie. Onze d’entre elles ont été tuées par leur partenaire (selon les informations fournies par l’organisation Croatian Femicide Watch).
• 3. Voir Laura Bates, The New Age of Sexism: How the AI Revolution is Reinventing Misogyny, Londres, Simon & Schuster, 2025.
• 4. L. Bates, The New Age of Sexism, op. cit., p. 32.