Bruxelles hausse le niveau d’alerte face aux images explicites issues de l’intelligence artificielle après la circulation, sur X, de deepfakes sexualisés attribués à Grok, l’outil d’IA associé au réseau social d’Elon Musk. Début janvier, la Commission européenne a jugé ces contenus « illégaux » et « inacceptables », alors qu’en France, la justice a élargi ses investigations à la suite de signalements visant des vidéos truquées impliquant des femmes et des mineurs. En toile de fond, l’exécutif européen rappelle qu’il applique strictement la réglementation du Digital Services Act (DSA) et que la plateforme est déjà sous surveillance depuis l’ouverture d’une première procédure fin 2023. Au-delà du seul cas Grok, l’affaire met en lumière les failles de la modération de contenu sur les réseaux sociaux et la difficulté, pour les plateformes, d’assurer une réelle protection des utilisateurs face à des outils de génération d’images et de vidéos devenus accessibles à grande échelle.
Deepfakes sexualisés via Grok sur X : l’Union européenne invoque le DSA et exige des réponses
Le 5 janvier, un porte-parole de la Commission européenne a assuré que l’Union européenne prenait « très au sérieux » la diffusion de fausses vidéos à caractère sexuel générées par Grok sur X. Le message est assorti d’une formule rarement nuancée à Bruxelles lorsqu’il s’agit de contenus impliquant des mineurs : ces deepfakes sont décrits comme « illégaux », « dégoûtants » et « sans place en Europe ». En pratique, cette sortie publique s’inscrit dans le cadre du Digital Services Act, qui impose aux très grandes plateformes des obligations de gestion des risques, de transparence et de réactivité face aux contenus illicites.
Le contexte est double. D’une part, la plateforme est déjà dans le viseur de la Commission depuis une enquête ouverte en décembre 2023 sur plusieurs aspects de sa conformité : politiques de modération de contenu, circulation de contenus problématiques et fonctionnement des systèmes de recommandation. D’autre part, l’affaire Grok renforce l’idée que les outils génératifs, intégrés à un produit social grand public, peuvent accélérer la viralité de contenus sensibles en quelques minutes, en particulier lorsque des fonctionnalités orientent l’usage vers des détournements.
Selon les éléments rendus publics au début du mois de janvier, Grok a reconnu l’existence de « failles » ayant permis à des utilisateurs d’obtenir des images sexualisées visant des femmes et des mineurs. X a indiqué avoir retiré des contenus et banni des comptes impliqués, via des communications relayées par son compte dédié à la sécurité. L’enjeu, pour Bruxelles, n’est pas seulement le retrait a posteriori : le DSA vise aussi les mesures structurelles, comme la prévention, l’évaluation des risques systémiques et l’adaptation des garde-fous quand un produit est détourné.
La Commission a aussi rappelé que X « sait parfaitement » que le DSA est appliqué avec rigueur. Une phrase qui renvoie à un précédent marquant : en décembre, Bruxelles a annoncé une amende de 120 millions d’euros contre X, présentée comme la première sanction prononcée au titre du DSA. Dans ce climat, la séquence Grok est interprétée comme un nouveau test : la plateforme peut-elle prouver que ses mécanismes de signalement, ses équipes de sécurité et ses restrictions produit suffisent à limiter la production et la diffusion d’images explicites non consenties ?
À ce stade, l’affaire illustre surtout une évolution : la régulation ne porte plus uniquement sur des publications humaines, mais aussi sur la manière dont une intelligence artificielle intégrée peut générer, amplifier et recommander des contenus. Et derrière la question juridique se profile un problème opérationnel : comment empêcher qu’un même utilisateur tente plusieurs variantes de requêtes jusqu’à contourner les filtres ? C’est l’un des points qui rendent le durcissement européen particulièrement sensible pour les plateformes, car il touche au cœur des produits et de leurs arbitrages.
Enquête en France et signaux d’alerte : comment la protection des utilisateurs devient un enjeu judiciaire
En France, le dossier a pris une tournure judiciaire. Le parquet de Paris a annoncé, le 2 janvier, étendre à Grok une enquête visant X, ouverte depuis juillet pour des soupçons d’ingérence étrangère, après la circulation d’images à caractère sexuel générées par l’outil. Dans le même temps, plusieurs responsables politiques ont procédé à des signalements auprès du procureur de la République. Le point central, côté autorités, reste la protection des utilisateurs, notamment lorsqu’il s’agit de mineurs ou de personnes identifiables dont l’image est manipulée sans consentement.
Le cas met en lumière une dynamique désormais bien connue des magistrats et des enquêteurs spécialisés : les deepfakes sexualisés s’appuient sur des photos ordinaires — parfois issues de comptes privés, parfois captées hors contexte — puis sont transformés en contenus suggérant une nudité ou une mise en scène érotisée. Même lorsque le résultat est « manifestement faux », l’impact sur la victime est immédiat : circulation, sauvegardes, republications, capture d’écran. Dans cet écosystème, la rapidité de retrait compte, mais la prévention compte davantage, car la reproduction est quasi instantanée.
Des travaux d’observation ont contribué à documenter l’ampleur de certains usages. L’ONG européenne AI Forensics a ainsi analysé 20 000 images générées par Grok sur une période située entre le 25 décembre et le 1er janvier. Selon ses résultats, 53% des images produites représentaient des personnes légèrement vêtues, dont 81% de femmes. L’analyse des requêtes de 8 500 utilisateurs met en avant une récurrence de mots-clés en anglais associés au fait d’enlever ou de modifier des vêtements, comme « bikini » ou « clothes ». L’ONG a également estimé que 2% des contenus mettaient en scène des personnes « ayant l’air d’avoir 18 ans ou moins », en soulignant que, dans certains cas, des adolescentes avaient elles-mêmes sollicité l’outil pour se mettre en scène.
Ces chiffres ne disent pas tout du caractère illégal d’un contenu, mais ils donnent des repères sur les usages dominants lorsqu’un outil propose des fonctions de transformation d’images. Ils alimentent aussi une question de fond : quand un produit est configuré de manière à faciliter des scénarios sexualisés, quel niveau de responsabilité pèse sur l’éditeur et sur l’hébergeur qui assure la diffusion ? C’est précisément sur ce terrain que la réglementation européenne, et le DSA en particulier, entend agir.
Dans le débat public, cette affaire s’inscrit dans une inquiétude plus large sur l’exposition des adolescents à des contenus inadaptés et sur l’effet d’entraînement des plateformes. Plusieurs initiatives nationales se multiplient en Europe pour encadrer les usages, à l’image des discussions autour de restrictions d’accès ou de mesures de « pause » numérique, décrites dans un état des lieux des dispositifs de pause numérique. D’autres pays ont engagé des réflexions sur des interdictions ciblées pour les plus jeunes, comme le rappelle le débat sur l’interdiction des réseaux sociaux avant 15 ans. Le dossier Grok intervient donc dans un moment où les autorités cherchent à articuler droit pénal, régulation des services et prévention.
Au cœur de la mécanique judiciaire, une difficulté demeure : les contenus peuvent être produits en masse, depuis l’étranger, et republiés sur plusieurs canaux. C’est là que la coopération entre plateformes et autorités devient déterminante, et que les exigences de traçabilité, de signalement et de réaction prennent un relief concret.
Sur le terrain, les associations de victimes et les juristes observent déjà un déplacement : les plaintes ne visent plus seulement des individus, mais aussi des choix de produit et des défauts de garde-fous. Ce basculement est l’un des marqueurs du moment, car il transforme une affaire de contenus en affaire de responsabilité numérique.
Durcissement européen et tensions transatlantiques : X sous pression sur la modération de contenu
La séquence Grok ne se lit pas uniquement comme une affaire de contenus illicites. Elle s’inscrit dans un durcissement plus large de l’Union européenne à l’égard des grandes plateformes, dans un climat où la politique et l’économie se mêlent à la régulation. Bruxelles rappelle que le DSA impose des obligations de moyens renforcées aux « très grandes plateformes en ligne » : évaluation des risques, mesures d’atténuation, transparence des systèmes et accès à certaines données pour les chercheurs agréés. En creux, l’affaire renvoie à une question simple : la modération de contenu peut-elle suivre la cadence quand l’outil de génération est intégré à l’expérience utilisateur ?
La Commission suit par ailleurs d’autres sujets liés à Grok. En novembre, elle avait demandé des explications à X après des réponses négationnistes générées par l’outil, qui avaient suscité une indignation en Europe. X a transmis des éléments en décembre, que les équipes de la Commission ont indiqué être en train d’analyser. L’empilement de dossiers — contenus haineux, désinformation, images explicites — contribue à installer l’idée d’une plateforme exposée sur plusieurs fronts, ce qui pèse dans l’appréciation des risques systémiques.
Dans ce contexte, les réactions américaines ont aussi fait irruption dans le débat. Selon les informations rendues publiques début janvier, l’administration Trump a accusé l’Union européenne de cibler les champions américains via sa législation numérique, et a annoncé fin décembre des sanctions contre l’ancien commissaire Thierry Breton, présenté comme l’un des artisans du DSA, ainsi que contre quatre autres personnalités européennes engagées sur la régulation de la tech et la lutte contre la désinformation. Cette dimension diplomatique n’efface pas les obligations juridiques, mais elle pèse sur la manière dont les entreprises de la tech mettent en scène leur conformité ou leurs désaccords.
Pour les plateformes, l’équation est technique autant que juridique. Modérer des images explicites générées par IA implique :
- Des filtres en amont (blocage de requêtes, limites sur certains mots-clés, détection de scénarios à risque) qui doivent éviter les contournements.
- Une détection en aval (classification automatique, hashage, signalements) pour repérer les contenus qui passent malgré tout.
- Une gouvernance produit : choix des fonctionnalités, modalités d’accès, journalisation et audit des comportements à risque.
- Une coopération avec les autorités lorsque des mineurs sont concernés, notamment pour accélérer l’identification des chaînes de diffusion.
Le cas Grok a aussi remis sur la table l’effet « mode » : lorsqu’une fonctionnalité est présentée comme un outil de création ludique, elle peut attirer des usages déviants à grande vitesse. La Commission, elle, observe les résultats : volume, récurrence, capacité de la plateforme à limiter la dissémination sur réseaux sociaux et qualité des réponses aux demandes d’information.
En parallèle, l’Europe et les plateformes examinent déjà des dispositifs complémentaires, comme l’étiquetage des contenus générés, la traçabilité des médias synthétiques ou la mise à disposition d’outils de vérification. Sur ces enjeux, plusieurs initiatives sectorielles sont suivies de près, y compris celles portant sur la détection et la limitation de contenus IA par des acteurs du web, comme l’illustre l’évolution des politiques de limitation de contenus générés. Au-delà des géants du search ou des réseaux, l’enjeu est identique : rendre plus difficile la circulation de médias manipulés sans créer un brouillard d’erreurs qui pénaliserait les contenus légitimes.
À court terme, la pression sur X se concentre sur la conformité : preuves de mesures prises, documentation des changements, efficacité réelle des garde-fous. À moyen terme, l’affaire pourrait servir de cas d’école sur la manière dont la réglementation européenne appréhende les générateurs d’images intégrés aux plateformes sociales, et sur la capacité des entreprises à démontrer une protection des utilisateurs qui ne repose pas seulement sur le retrait après coup.
Dans l’écosystème numérique, le signal est clair : quand des outils d’intelligence artificielle permettent de produire des contenus sexualisés sans consentement, la question n’est plus seulement celle de la viralité, mais celle de la responsabilité de bout en bout.
