Créer un deepfake sexuel d'un camarade, sans le diffuser, est-il punissable ?

Si la victime a moins de quinze ans, oui : l'article 227-23 du code pénal punit la simple fixation ou l'enregistrement d'une image pédopornographique, y compris sans intention de diffusion. Pour une victime majeure, seule la diffusion à un tiers ou à un public est punie par l'article 226-8-1.

Une IA grand public comme ChatGPT peut-elle légalement générer ce type de contenu ?

Non, ces usages violent les conditions d'utilisation de tous les grands fournisseurs d'IA générative, qui disposent de filtres de sécurité destinés à les bloquer. Leur contournement, documenté dans l'affaire de Mourmelon-le-Grand comme dans celle du militaire mis en examen à Metz, est le signe que ces filtres ne suffisent pas seuls, ce qui ne change rien à la qualification pénale des faits pour leur auteur.

Comment vérifier si une vidéo ou une image virale est un deepfake ?

Aucune méthode n'est infaillible face aux contenus les plus soignés. La recherche d'image inversée pour tracer l'origine, la vérification croisée avec plusieurs médias indépendants, et une prudence particulière face à tout contenu conçu pour provoquer une réaction émotionnelle forte restent les réflexes les plus utiles.

Deepfakes et désinformation : protéger sa famille

En juin 2026, entre neuf et douze plaintes ont été déposées par des élèves, enseignants et personnels du collège Henri-Guillaumet de Mourmelon-le-Grand, dans la Marne. Un suspect aurait récupéré des photos prises lors d'un événement scolaire, puis utilisé ChatGPT pour en générer de fausses images sexuelles de collégiennes, partagées ensuite dans un groupe entre camarades. Le parquet de Châlons-en-Champagne a ouvert une enquête confiée à la gendarmerie. Ce n'est pas un cas isolé : en mars 2025, douze à treize collégiennes de l'école Immaculée Conception à Saint-Hilaire-du-Harcouët, dans le Sud-Manche, avaient déjà vu leurs visages incrustés dans des montages à caractère sexuel par un jeune homme de vingt ans, condamné en comparution immédiate à deux ans de prison avec sursis. Ce guide complète mon guide des parents pour protéger ses enfants sur internet sur un point distinct du contact par un inconnu en ligne déjà traité : le contenu synthétique généré par IA, qu'il vise un enfant précis ou qu'il serve à désinformer plus largement.

Ce que la loi punit, et ce qu'elle ne punit pas

Deux textes distincts s'appliquent, et les confondre fait dire à la loi plus ou moins qu'elle ne dit. L'article 226-8-1 du code pénal, créé par la loi du 21 mai 2024, punit le fait de diffuser à un public ou à un tiers un montage ou un contenu à caractère sexuel généré par IA reproduisant l'image ou la voix d'une personne sans son consentement : deux ans d'emprisonnement et 60 000 euros d'amende, portés à trois ans et 75 000 euros en cas de diffusion en ligne. Point de vigilance : seule la diffusion est punie par cet article, pas la simple création pour soi.

Quand la victime est mineure, c'est un texte plus ancien et plus sévère qui s'applique : l'article 227-23 du code pénal, relatif aux images pédopornographiques, puni de cinq ans d'emprisonnement et 75 000 euros d'amende, sept ans et 100 000 euros en cas de diffusion via un réseau de communication électronique. Depuis un arrêt de la Cour de cassation de 2019, les représentations virtuelles ou synthétiques d'un mineur dans une situation sexuelle relèvent de cette qualification, dès lors qu'elles sont réalistes. Autre différence de taille avec l'article 226-8-1 : lorsque la représentation concerne un mineur de quinze ans, les faits sont punis même sans intention de diffusion. C'est ce texte, pas l'article sur les deepfakes en général, qui s'est appliqué au verdict de Saint-Hilaire-du-Harcouët, et qui s'appliquera vraisemblablement à Mourmelon-le-Grand si les faits sont confirmés.

L'ampleur du phénomène ne se limite pas aux établissements scolaires. Un sous-officier de 42 ans, sans antécédent judiciaire, a été mis en examen le 7 août 2026 à Metz pour avoir détourné un système d'IA du ministère des Armées : plus de 10 000 requêtes entre janvier et juin 2026 pour générer des images pédopornographiques, en plus d'avoir créé des images dénudées de deux collègues sans leur consentement et sollicité des mineurs de quinze ans sur les réseaux sociaux. L'absence de détection pendant six mois, sur un système ministériel censé être surveillé, donne une idée de la difficulté à endiguer ce type d'usage même dans un cadre professionnel contrôlé.

Reconnaître un deepfake

La détection devient plus difficile à mesure que la technologie progresse, les meilleurs deepfakes actuels n'ont plus les défauts grossiers d'il y a deux ou trois ans. Quelques signes restent toutefois utiles, surtout sur du contenu amateur ou généré rapidement : mouvements de tête mal coordonnés avec le corps, clignements des yeux absents ou anormalement réguliers, incohérences d'ombre ou de éclairage entre le visage et le reste de l'image, distorsions au niveau des lèvres en vidéo, et rendu du texte défaillant (une affiche, un panneau, une étiquette en arrière-plan) quand l'image est entièrement générée.

La recherche d'image inversée (Google Images, Bing Images) reste l'outil le plus fiable pour tracer l'origine d'une photo suspecte et vérifier si elle circule ailleurs sous une autre identité. L'examen des métadonnées EXIF, quand elles sont encore présentes, peut aussi révéler l'appareil ou le logiciel utilisé. Mais pour un contenu bien fait, aucun de ces signes n'est garanti : la vigilance humaine reste plus fiable en amont (d'où vient ce contenu, qui l'a partagé, pourquoi) qu'en aval (le contenu a-t-il l'air faux).

Le volet désinformation : un déficit de formation reconnu

À côté du deepfake ciblé, il y a la désinformation générée par IA à plus grande échelle, fausses vidéos d'actualité, faux témoignages, images générées présentées comme des photos réelles. Une enquête du groupe Milan Presse relayée par ICI (ex France Bleu) relève que 80 % des adolescents interrogés estiment manquer d'information sur le sujet et demandent davantage de cours pour apprendre à distinguer le vrai du faux. Le CLEMI, l'organisme public en charge de l'éducation aux médias, documente de longue date ce même déficit dans les pratiques informationnelles des adolescents.

La méthode que recommande un enseignant interrogé dans cette enquête tient en une règle simple, transposable en famille : avant de croire ou de partager une information choquante ou spectaculaire, vérifier si d'autres médias indépendants relaient la même chose. Une information réelle et significative n'est presque jamais rapportée par une seule source isolée.

Réagir si son enfant est visé

La marche à suivre reprend les grands principes déjà détaillés pour le contact par un inconnu en ligne, avec une priorité supplémentaire propre au deepfake : la vitesse de circulation. Une image, une fois partagée dans un groupe de classe ou sur un réseau social, échappe vite à tout contrôle.

Garder les preuves avant de signaler. Captures d'écran du contenu, du compte ou du groupe qui l'a diffusé, horodatage. Ces éléments sont nécessaires au signalement comme à un dépôt de plainte.

Signaler à la plateforme et à PHAROS. Chaque réseau social dispose d'un motif de signalement dédié aux contenus à caractère sexuel. Pour un contenu manifestement illicite impliquant un mineur, la plateforme PHAROS (internet-signalement.gouv.fr) permet un signalement direct aux autorités.

Contacter le 3018. Comme pour le harcèlement scolaire et le grooming, le 3018 traite spécifiquement les situations de violence numérique visant les mineurs, y compris les deepfakes, sept jours sur sept de 9h à 23h.

Déposer plainte. Au vu des peines encourues, cinq à sept ans pour une victime mineure au titre de l'article 227-23, un dépôt de plainte au commissariat ou à la gendarmerie, captures à l'appui, est la démarche à privilégier dès que les faits sont caractérisés.

Alerter l'établissement scolaire. Contrairement à un contact d'inconnu qui reste souvent extérieur au cercle social de l'enfant, un deepfake circule fréquemment entre camarades de classe, comme à Mourmelon-le-Grand ou à Saint-Hilaire-du-Harcouët : l'établissement a un rôle à jouer dans l'arrêt de la diffusion et dans l'accompagnement des victimes, au-delà de la seule réponse judiciaire.

Le cas particulier de la voix clonée

Un signalement distinct circule depuis juin 2026 sur les plateformes de prévention comme Cybermalveillance.gouv.fr et du côté de la Gendarmerie nationale : des arnaques au faux proche en détresse, construites à partir d'une voix clonée par IA à partir de quelques secondes d'audio prises sur les réseaux sociaux d'un adolescent. Je n'ai pas trouvé de chiffrage officiel précis et daté sur l'ampleur du phénomène en France à ce stade, seulement des alertes convergentes de plusieurs sources de prévention, donc je reste prudent sur les statistiques qui circulent. La parade la plus souvent recommandée reste simple : convenir en famille d'un mot de code que seul un proche connaît, à réclamer en cas d'appel demandant un virement en urgence, et raccrocher pour rappeler la personne sur son numéro habituel avant d'agir.

Prévenir, la même logique que le reste du dossier

Aucun réglage technique ne bloque un deepfake généré par un camarade de classe avec un outil grand public. C'est là que la démarche active détaillée dans mon guide des parents prend tout son sens : apprendre à l'enfant à vérifier une source avant de croire ou de partager un contenu choquant, construire une règle de confiance qui l'encourage à signaler sans peur d'être puni si un contenu le concernant circule, et rappeler qu'aucune photo, même anodine et postée par l'enfant lui-même, n'est à l'abri d'un détournement une fois en ligne.

En résumé : deux textes distincts s'appliquent aux deepfakes sexuels, l'article 226-8-1 du code pénal pour la diffusion en général (jusqu'à trois ans et 75 000 euros d'amende), et l'article 227-23 quand la victime est mineure, bien plus sévère (jusqu'à sept ans et 100 000 euros d'amende), applicable même sans diffusion pour un mineur de quinze ans. Deux affaires récentes, Mourmelon-le-Grand en juin 2026 et Saint-Hilaire-du-Harcouët en 2025, montrent que ces contenus circulent déjà entre camarades de classe avec des outils grand public comme ChatGPT. Face à un deepfake ciblant un enfant : garder les preuves, signaler à la plateforme et à PHAROS, contacter le 3018, déposer plainte, et alerter l'établissement scolaire. Sur la désinformation plus large, la vérification croisée entre plusieurs sources indépendantes reste le réflexe le plus simple et le plus efficace, à un âge où 80 % des adolescents interrogés se disent en demande de formation sur le sujet.

Pour aller plus loin : protéger ses enfants sur internet, le guide des parents, contact par un inconnu en ligne, reconnaître le danger et réagir

Sources : Légifrance, article 226-8-1 du code pénal · Légifrance, article 227-23 du code pénal · ICI Grand Est, plaintes après des deepfakes au collège de Mourmelon-le-Grand · ICI, procès des deepfakes dans le Sud-Manche · CNews, militaire mis en examen à Metz pour détournement de l'IA de l'armée · ICI, lycéens troublés par les deepfakes, enquête Milan Presse