Depuis des décennies, le développement des nouvelles technologies a bousculé nos habitudes de vie tant professionnelles que personnelles. Aujourd’hui, chacun d’entre nous dispose d’une vie et d’une identité aussi numérique et sur les réseaux sociaux.

Depuis toujours, le développement de ces nouvelles technologies a permis le déploiement de nouvelles formes de délinquance et de criminalité. De nos jours, de très nombreuses infractions se produisent tous les jours sur les réseaux ou via les réseaux. Internet, en permettant un anonymat supposé à l’auteur et en complexifiant les investigations permettant l’identification de celui-ci, a permis le développement de tout type d’infractions et de trafics (proxénétisme, trafic de stupéfiants, vente d’armes, pédocriminalité,…). Ainsi, internet et les nouvelles technologies ont été vus comme un nouvel Eldorado pour les criminels. Face à ces menaces nouvelles, le législateur adapte régulièrement la loi pénale afin de la rendre plus efficace face à ces nouvelles menaces. Cela s’est fait par des modifications de la procédure pénale permettant l’identification et l’interpellation plus facile des auteurs de ce type d’infraction, par la création de circonstances aggravantes[1] ou encore par la création de nouvelles infractions[2].

Depuis quelques années, la création de l’intelligence artificielle (IA) est venue donner de nouvelles perspectives aux criminels. L’IA générative, qui permet notamment de générer des images virtuelles paraissant parfois réelles, a notamment permis le développement d’une nouvelle forme de pédocriminalité sur internet. En effet, le déploiement de cette technologie a permis la création et la diffusion d’images et/ou vidéos à caractère pornographique représentant des mineurs (enfants et adolescents). Face à la prolifération de ces comportements, la Fondation pour l’Enfance a récemment diffusé un rapport sur le sujet[3]. Dans ce rapport, la Fondation pour l’Enfance juge la législation actuelle insuffisante face à ce phénomène nouveau et plaide pour la création de nouvelles infractions réprimant spécifiquement les activités pédocriminelles via l’IA. Elle milite notamment pour une modification de l’article 227-23 du code pénal afin d’y réprimer spécifiquement ces comportements.

Face à ce type de délinquance nouvelle, on peut en effet légitimement se poser la question de la nécessité d’une évolution et d’une adaptation du droit existant par la création de nouveaux textes législatifs afin de réprimer, ou de réprimer plus sévèrement, ce genre de comportement. Pour répondre à cette question, il convient de s’intéresser aux nouvelles menaces pédocriminelles liées au développement de l’intelligence artificielle (I), sur législation d’ores et déjà existante pour les créateurs, diffuseurs et consommateurs de tels contenus (II) ainsi qu’en ce qui concerne les plateformes d’échange (III).

              I/ L’INTELLIGENCE ARTIFICIELLE : NOUVELLE MENACE PEDOCRIMINELLE

L’IA générative, ou l’intelligence artificielle génératrice, est celle qui permet à l’utilisateur de créer des contenus à partir de contenus déjà existants. Elle permet à l’utilisateur de créer de nouveaux contenus tels que des textes, des images, des sons ou encore des vidéos à partir d’une requête de l’utilisateur.

Depuis toujours, le cyberespace et les nouvelles technologies ont été investis par les pédocriminels en tant que facilitateur pour la conception et le partage, imaginé anonyme, d’images pédopornographiques d’enfants et d’adolescents. L’intelligence artificielle générative n’a pas fait exception. Certains pédocriminels ont réussi à détourner cette technologie afin de permettre la création de contenus pédopornographiques (images et/ou vidéos) en vue de leur diffusion ou non. C’est aujourd’hui 871 signalements quotidiens à l’OFMIN de contenus pédopornographiques échangés en ligne[4].

La cyber-pédopornographie via l’intelligence artificielle peut prendre des formes diverses et variées et regroupe des comportements parfois très différents.

Il peut tout d’abord s’agir de la création de contenus (images et/ou vidéos) pédopornographiques par l’intelligence artificielle en contournant ses gardes fous. L’utilisation d’intelligence artificielle dite ‘open source’ peut permettre à certains pédocriminels de modifier les paramètres en vue de la création de contenus interdits. Ce processus permet de créer de nouveaux contenus totalement fictifs à partir de contenus réels ou non. En outre, une telle utilisation de l’intelligence artificielle entraîne pour son auteur ou le consommateur une certaine banalisation de ce type de comportement. Le consommateur, le diffuseur ou le créateur peuvent effectivement penser qu’il n’y a pas de victimes derrières ces images. Toutefois, ce type d’images, même fictives, est généré grâce à l’utilisation d’une bibliothèque de contenus réels et donc d’images réelles. En effet, l’intelligence artificielle génère des contenus via les bases de données mises à sa disposition. De surcroit, une telle banalisation entraîne aussi un risque de passage à l’acte accru en renforçant un sentiment d’absence de conséquences de ces faits.

Dans certains autres cas, il peut aussi s’agir de la création d’images, photos ou vidéos sexualisées à partir d’une image réelle. Cela peut alors être l’utilisation de l’intelligence artificielle afin de ‘nudifier’ une personne sur une photo ou une vidéo existante, voire de créer des contenus sexuels nouveau à partir de l’image réelle d’une personne. Ces pratiques peuvent aussi trouver place dans un stratégie de sextorsion[5], où le prédateur sexuel va utiliser une fausse image sexualisée du mineur afin de le faire chanter et de se faire remettre, soit une somme d’argent, soit de vraies photographies pornographiques du mineur. Ainsi, et grâce à l’utilisation d’une fausse image du mineur générée par l’IA, le prédateur peut faire ‘chanter’ sa victime.

Il peut aussi s’agir de la pratique du grooming. Le grooming consiste pour un adulte à mettre en place ‘un lien d’amitié’ avec un mineur via les réseaux sociaux à des fins délictuelles, et notamment l’obtention d’images et/ou vidéos sexualisées du mineur. Grâce à l’IA, le prédateur peut générer de fausses images lui permettant de se faire passer lui-même pour un mineur, voire transmettre de fausses images intimes afin d’en obtenir de l’autre. Ces nouvelles images rejoindront alors potentiellement la bibliothèque d’images pédopornographiques, voire pourront en générer de nouvelles via l’IA.

Ces développements permettent de montrer à quel point l’usage des nouvelles technologies et plus précisément de l’intelligence artificielle peut présenter des risques importants et nouveaux, via de nouveaux comportements. Face à ce tels comportements, la législation se doit d’être à la hauteur.

            II/ LA REPRESSION DE LA CYBERPEDOCRIMINALITE

La représentation pornographique d’un mineur est d’ores et déjà incriminée par le code pénal. L’alinéa 1er de l’article 227-23 du code pénal réprime en effet « Le fait, en vue de sa diffusion, de fixer, d'enregistrer ou de transmettre l'image ou la représentation d'un mineur lorsque cette image ou cette représentation présente un caractère pornographique est puni de cinq ans d'emprisonnement et de 75 000 euros d'amende. Lorsque l'image ou la représentation concerne un mineur de quinze ans, ces faits sont punis même s'ils n'ont pas été commis en vue de la diffusion de cette image ou représentation ». Il sera noté que ce texte réprime le fait de fixer, d’enregistrer ou de transmettre l’image ou la représentation d’un mineur lorsqu’elle est faite dans l’optique de sa diffusion pour les mineurs dont l’âge est compris entre 15 et 16 ans. Pour les mineurs de moins de 15 ans, la répression est possible dès lors qu’il y a fixation, enregistrement ou diffusion de l’image pornographique d’un mineur peu importe que cette fixation, cet enregistrement ou cette transmission ait pour but sa diffusion.

L’alinéa 2 étend la répression également au « fait d'offrir, de rendre disponible ou de diffuser une telle image ou représentation, par quelque moyen que ce soit, de l'importer ou de l'exporter, de la faire importer ou de la faire exporter ».

Les peines sont aggravées et portées à 7 ans d’emprisonnement et 75 000 € d’amende « lorsqu'il a été utilisé, pour la diffusion de l'image ou de la représentation du mineur à destination d'un public non déterminé, un réseau de communications électroniques » (article 227-23 alinéa 3 du code pénal).

En outre, ce même article réprime également « Le fait de consulter habituellement ou en contrepartie d'un paiement un service de communication au public en ligne mettant à disposition une telle image ou représentation, d'acquérir ou de détenir une telle image ou représentation par quelque moyen que ce soit est puni de cinq ans d'emprisonnement et de 75 000 euros d'amende » (article 227-26 alinéa 4 du même code).

Les peines sont aggravées et portées à 10 ans d’emprisonnement et 500 000 € d’amende lorsque ces faits sont commis en bande organisée.

Il en découle que le droit pénal réprime déjà, avec des peines importantes le fait de fixer, enregistrer, transmettre, offrir, rendre disponible, diffuser, consulter habituellement, acquérir ou détenir une image ou une représentation pornographique d’un mineur.

Dans le but de lutter contre les comportements pédophiles, ce texte réprime non seulement ces faits lorsqu’il s’agit de l’image d’un mineur (réel) mais également sa représentation (même fictive). Dans cette veine, la jurisprudence a ainsi pu sanctionner sur ce fondement la représentation pornographique d’un mineur dans un manga[6]. Naturellement, ce texte trouverait également à s’appliquer aux images ou vidéos créées via l’intelligence artificielle.

Il résulte de l’ensemble de ces développements, que le corpus législatif d’ores et déjà existants pourrait parfaitement trouver à s’appliquer à la création, à la diffusion, au partage et à la consultation de contenus pédopornographiques créés à l’aide de l’intelligence artificielle. Il semble dès lors inutile à première vue de créer de nouvelles infractions et d’alourdir une nouvelle fois le texte de loi. Une telle création n’aurait du sens que si elle venait à sanctionner plus sévèrement ce type de comportement lorsqu’ils sont commis à l’aide de cette technologie. Une telle aggravation ne semble toutefois pas se justifier en l’état. En effet, ce type de comportement est tout aussi grave, qu’il soit commis ou non avec l’aide de l’intelligence artificielle. En outre, ces comportements sont d’ores et déjà réprimés plus sévèrement lorsqu’ils sont effectués « pour la diffusion de l'image ou de la représentation du mineur à destination d'un public non déterminé, un réseau de communications électroniques » (article 227-23 alinéa 3 du code pénal). Il s’agit dans ce cas de la diffusion de tels contenus via internet ou les réseaux sociaux.

En revanche, une telle aggravation pourrait éventuellement trouver à se justifier dans la facilité et le sentiment faussement anodin de ce type de comportement via l’utilisation de cette technologie. L’idée serait de venir compenser cette facilité en dissuadant l’auteur ou le consommateur. Cela entraînerait toutefois le risque de bousculer l’échelle des peines et la graduation de la gravité des faits en fonction de la diffusion ou non via un réseau de communication électronique, ou en raison d’une bande organisée ou non. Enfin, une répression plus sévère en la matière ne semble pas opportune, les peines prévues étant déjà significatives. Il appartient plutôt aux magistrats et aux juridictions de jugement de réprimer ces comportements en appliquant les peines justes au regard de la gravité des faits jugés et de la personnalité de son auteur sans qu’il ne soit nécessaire de durcir textuellement les peines ; ce qui n’entraîne d’ailleurs pas forcément une majoration des peines prononcées par les juridictions de jugement.

À côté de l’aspect répressif, la pédophilie est une paraphilie[7] au sens des classifications psychiatriques (DSM-V et CIM 10). Ainsi, la peine peut souvent inclure des peines de soins pénalement ordonnés[8] afin de contraindre la personne à se soigner et tenter d’éviter ainsi un passage à l’acte ou une récidive.

Enfin, les comportements de sextorsion et/ou de grooming trouvent également une répression à la lecture de la législation existante, via les infractions d’extorsion, de cyberharcèlement, de chantage et/ou de corruption de mineurs.

III/ QUID DE LA RESPONSABILITE PENALE DES PLATEFORMES EN LIGNE

Si la loi pénale réprime les auteurs créateurs, exploitants, diffuseurs ou constants de ces contenus, il n’en demeure pas moins que la législation pourrait peut-être devoir s’armer plus efficacement contre la prolifération de ce type d’images. Il se pose alors la question de la responsabilité des entreprises gérant les plateformes permettant l’échange de tels contenus.

En effet, comme déjà indiqué, de très nombreuses images et vidéos pédopornographiques sont échangées tous les jours via internet et les réseaux sociaux. De la même manière, la réglementation de l’IA est aujourd’hui balbutiante, pour ne pas dire inexistante dans notre corpus juridique. La législation pourrait, et même si des efforts importants ont d’ores et déjà été réalisés, renforcer la responsabilisation des entreprises exploitant des réseaux permettant le partage de ces contenus (Facebook, X, Instragram, Télégramme,…) afin que ces entreprises mettent en place de véritables contrôles efficaces. De même, une véritable réglementation de l’intelligence artificielle pourrait certainement aider à la lutte contre la création de contenus pédopornographiques grâce à celle-ci.

Il sera en revanche souligné que la responsabilité pénale des personnes physiques et/ou morales exploitant les plates-formes en ligne sur lesquelles sont diffusés ce genre de contenus peut d’ores et déjà être engagée. Ces entreprises ont notamment l’obligation générale de surveiller les contenus diffusés sur leur plate-forme. La loi prévoit même que celles-ci doivent mettre en place spécifiquement des dispositifs permettant de lutter contre ces contenus. Elles doivent aussi concourir et faciliter l’intervention de la justice. Tout manquement à ces obligations est puni d’une peine d’un an d’emprisonnement et de 75 000 € d’amende pour les personnes physiques et de 375 000 € pour les personnes morales[9]. Des peines complémentaires peuvent également s’appliquer dont notamment l’interdiction d’exercer l’activité dans laquelle l’infraction a été réalisée pour une durée de 5 ans au maximum.

De même, l’article 323-3-2 du code pénal réprime notamment le fait « pour un opérateur de plateforme en ligne » de « permettre sciemment la cession de produits, de contenus ou de services dont la cession, l'offre, l'acquisition ou la détention sont manifestement illicites ». Est également réprimé par ce texte « le fait de proposer, par l'intermédiaire de ces plateformes ou au soutien de transactions qu'elles permettent, des prestations d'intermédiation ou de séquestre qui ont pour objet unique ou principal de mettre en œuvre, de dissimuler ou de faciliter » les faits précités. Il sera souligné le fait que l’emploi du terme ‘sciemment’ implique pour ces auteurs d’avoir eu pleinement connaissance du contenu illicite et d’avoir commis les faits en toute connaissance de cause. Autrement dit, les personnes morales et physiques devront avoir eu connaissance des contenus illicites diffusés. La peine est de 5 ans d’emprisonnement et 150 000 € d’amende pour les personnes physiques et de 750 000 € pour les personnes morales. Les peines sont portées à 10 ans d’emprisonnement et 500 000 € d’amende pour les personnes physiques et à 2 500 000 € d’amende pour les personnes morales lorsque les faits sont commis en bande organisée.

Ces deux textes trouveraient parfaitement à s’appliquer à la diffusion d’images à caractère pédopornographique générées par l’intelligence artificielle.

Toutefois, les difficultés naissent dans l’application de ces textes et dans la mise en mouvement de l’action publique et des poursuites. En effet, la répression de tels faits se trouve confrontée à des problématiques inter-étatiques, les contenus ou les auteurs se trouvant souvent à l’étranger et dans des pays différents. Si les juridictions françaises restent compétentes lorsque la personne ou l’entreprise coupable est française, ou lorsqu’une de ces infractions est constatés en France, il n’en demeure pas moins que les poursuites impliquent une entre-aide internationale. Ainsi, et bien que la répression existe dans la législation française, l’impunité est souvent de mise. Plutôt que de renforcer l’arsenal juridique français existant, il pourrait être opportun de renforcer les accords entre pays en vue de lutter contre ce type de comportement sur internet.

Dans tous les cas, et au-delà du caractère uniquement répressif de la question, les plateformes en ligne devrait aussi s’auto-discipliner et lutter efficacement contre ces contenus.

De la même manière, une prévention accrue à destination des mineurs sur les risques liés à l’usage du cyberespace et de l’usage de l’intelligence artificielle serait également la bienvenue. Une telle prévention pourrait les sensibiliser notamment aux risques de chantage existant et des moyens de lutter contre.

[1] Exemple : Délit de corruption de mineurs (article 227-22 du code pénal)

[2] Ce fut notamment le cas avec la création de l’agression sexuelle ou du viol dit à distance par la loi du 21 avril 2021 (loi n°2021-478). Sur la base de ce nouveau texte, un graphiste travaillant chez Disney a récemment été condamné pour des faits de viols d’enfants commis en live streaming. Cette même loi a également créé une nouvelle infraction consistant dans la commande d’un viol à distance même lorsque celle-ci n’est pas suivie d’effet (article 222-26-1 du code pénal).

[3] Rapport alarmant sur l’IA générative et la pédocriminalité – Fondation pour l’enfance – 29 octobre 2024 : https://www.fondation-enfance.org/2024/10/29/rapport-alarmant-sur-lia-generative-et-la-pedocriminalite/.

[4] Rapport « L’IA générative nouvelle arme de la pédocriminalité », Fondation pour l’Enfance, 29 octobre 2024

[5] La sextorsion est l’extorsion effectuée avec l’utilisation d’images ou de contenus sexualisés de la personne victime. Il s’agit pour l’auteur d’effectuer un chantage via de tels contenus afin de se voir remettre soit des sommes d’argent, soit tout autre avantage (exemple : un relation sexuelle). La sextorsion est possible avec la création de fausses images sexualisées de la personne, potentiellement mineure, avec l’IA.

[6] Chambre criminelle, 12 septembre 2007, pourvoi n°06-86.763 : « …En application de la loi du 17 juin 1998, qui a étendu l’objet du délit à toute représentation d’un mineur, les images non réelles représentant un mineur imaginaire, telles que des dessins ou des images résultant de la transformation d’une image réelle, entrent dans les prévisions de ce texte. En l’espèce, justifie sa décision la cour d’appel qui condamne les prévenus pour importation et diffusion d’une vidéo cassette de bandes dessinées représentant un personnage, manifestement un jeune enfant, ayant des relations sexuelles avec des femmes adultes… »

[7] Autrement appelé trouble de la préférence sexuelle

[8] Obligation de soins dans le cadre d’un sursis probatoire ou injonction de soins dans le cadre d’un suivi socio-judiciaire

[9] Article 6 de la loi n°2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique