RAPPORT CNIL 2025 | CYBERSECURITE & INTELLIGENCE ARTIFICIELLE

CYBERSECURITE         

CONSEILS AUX PERSONNES CONCERNEES         

CONSEILS AUX RT         

RAPPORT ANNUEL CNIL 2025

Cybersécurité & Intelligence Artificielle : deux défis structurants pour la régulation des données personnelles

PARTIE I — CYBERSÉCURITÉ ET VIOLATIONS DE DONNÉES PERSONNELLES : UN DÉFI PERMANENT À L’ÉCHELLE SYSTÉMIQUE

1. Un niveau de menace inédit : les violations de données atteignent un seuil critique

L’année 2025 marque une inflexion qualitative majeure dans le panorama des violations de données personnelles notifiées à la CNIL. Après le record historique établi en 2024 avec 5 629 notifications, l’exercice 2025 l’a dépassé, la CNIL enregistrant 6 167 notifications de violation de données personnelles, soit une hausse de +9,5 % par rapport à l’exercice précédent. Cette progression n’est pas anodine : elle traduit une menace structurellement aggravée, dont l’amplitude, la diversité des cibles et la sophistication des modes opératoires distinguent fondamentalement la période actuelle des exercices antérieurs.

Il convient de relever que ce chiffre de 6 167 notifications est lui-même le résultat d’un ajustement méthodologique significatif. En effet, la CNIL a fait le choix délibéré d’exclure de son bilan chiffré deux incidents massifs survenus chez des éditeurs de solutions de gestion de la relation client (CRM), dont le volume brut de notifications atteignait 17 802. Ces deux incidents, par leur nature de campagnes ciblées touchant simultanément l’ensemble de la clientèle de deux prestataires, avaient un effet multiplicateur artificiel sur les statistiques et ne reflétaient pas fidèlement la tendance de fond. L’autorité néerlandaise de protection des données a adopté la même approche méthodologique, confirmant la pertinence de ce choix. Il n’en reste pas moins que le volume ajusté de 6 167 constitue en soi un niveau élevé, qui atteste d’une menace persistante et en progression continue.

La prise en compte de ce phénomène par la CNIL s’inscrit dans une mobilisation à trois niveaux : en amont, par la prévention des risques et l’accompagnement doctrinal des responsables de traitement ; au moment de l’incident, par l’accompagnement de la gestion de crise ; et a posteriori, par le contrôle et, lorsque cela s’avère nécessaire, la sanction. Cette architecture d’intervention tripartite est centrale dans la doctrine de la CNIL pour l’exercice 2025-2026.

2. Anatomie des violations : une taxinomie consolidée

L’analyse des notifications reçues permet de dresser un tableau précis de la nature, des causes et de la répartition sectorielle des violations déclarées en 2025.

2.1 Nature et causes des incidents

La CNIL distingue traditionnellement trois catégories de violations selon leur effet sur les données : les violations de confidentialité (accès non autorisé), d’intégrité (modification illégitime) et de disponibilité (indisponibilité des données). Les statistiques 2024-2025 confirment que les violations de confidentialité demeurent structurellement prépondérantes, représentant 93 % des notifications reçues en 2024. Cette prédominance s’explique par la nature des attaques informatiques les plus répandues : le vol de données, l’exfiltration depuis des comptes compromis et l’exploitation de vulnérabilités permettant l’accès à des bases de données sont des actes aux conséquences immédiatement mesurables en termes de confidentialité.

S’agissant des causes, cinq modes opératoires structurent le paysage des violations :

• Le piratage informatique : représentant 50 % des notifications en 2025 (contre 62 % en 2024 pour cette même catégorie), il recouvre un spectre étendu de techniques — vol de données depuis un compte utilisateur légitime compromis, ransomware, hameçonnage (phishing), bourrage d’identifiants (credential stuffing) à partir de couples identifiant/mot de passe préalablement volés. La prévalence du credential stuffing mérite une attention particulière : il suppose l’existence préalable d’une base de couples identifiant/mot de passe issus d’autres violations, établissant ainsi une chaîne de causalité entre incidents distincts et soulignant le caractère systémique du phénomène.

• L’envoi de données à un mauvais destinataire : 13 % des notifications, traduisant des défaillances organisationnelles internes (absence de procédures de vérification, erreurs humaines dans les systèmes de messagerie ou d’export).

• Le vol ou la perte de matériel et de données : 7 % des notifications (clés USB non chiffrées, ordinateurs portables égarés, supports physiques non sécurisés).

• La publication non intentionnelle d’informations : 7 %, souvent consécutive à des erreurs de configuration dans les systèmes d’information accessibles en ligne.

• Les attaques par rançongiciel : bien que comprises dans la catégorie plus large du piratage, elles méritent un traitement distinct. En 2024, 596 notifications résultaient directement d’une attaque par ransomware, soit environ 10 % du volume total. Le ransomware présente la particularité de combiner une violation de confidentialité (les données sont souvent exfiltrées avant chiffrement) et une violation de disponibilité (les systèmes sont rendus inaccessibles). Sa progression est directement liée à son modèle économique : si les attaques opportunistes se soldent par des rançons de quelques centaines d’euros, les attaques ciblées contre des entités d’envergure peuvent atteindre plusieurs millions d’euros.

2.2 Répartition sectorielle

L’analyse par secteur révèle que l’administration publique demeure le premier secteur concerné (19 % des violations en 2025), suivie par la santé humaine et l’action sociale (15 %), les activités financières et d’assurance (12 %), les activités spécialisées, scientifiques et techniques (9 %) et le commerce et la réparation d’automobiles (8 %). Cette répartition confirme que les secteurs traitant des volumes importants de données sensibles ou présentant des systèmes d’information complexes et parfois vieillissants sont systématiquement en première ligne.

2.3 Les trois tendances structurelles de 2025

Le rapport CNIL 2025 identifie trois tendances qui se consolident d’exercice en exercice :

Première tendance : personne n’est épargné. La diversité des cibles atteintes en 2025 — opérateurs de téléphonie, ministères régaliens, fédérations sportives — témoigne d’une menace transversale qui ne ménage aucun secteur. Aucune taille d’organisme, aucun périmètre sectoriel ne confère d’immunité.

Deuxième tendance : les violations sont de plus en plus massives. Le nombre de violations touchant plus d’un million de personnes est passé d’une trentaine en 2024 à une quarantaine en 2025. Ces événements à fort impact sociétal posent des questions spécifiques de gestion de crise et de prise en charge des victimes. La vice-procureure en charge de la cybercriminalité au parquet de Paris, entendue dans le cadre du rapport, souligne à cet égard la réflexion commune engagée avec la CNIL sur l’adaptation des procédures de traitement des victimes : « Lorsqu’un incident concerne des dizaines de millions de personnes, il est matériellement impossible de traiter autant de plaintes individuelles sans engorger les services de police et de justice. »

Troisième tendance : les sous-traitants sont des maillons critiques. La CNIL relevait déjà en 2024 que 15 % des notifications de violations étaient consécutives à des incidents survenus chez seulement 8 sous-traitants. En 2025, cette tendance s’est confirmée et amplifiée avec les campagnes visant des éditeurs de solutions CRM. Une part significative des incidents implique un sous-traitant à la sécurité défaillante, et les intrusions ne sont souvent pas détectées par l’organisme responsable avant la mise en vente ou l’exploitation des jeux de données volés sur des forums clandestins. Ce phénomène rend incontournable une lecture de l’obligation de sécurité de l’article 32 RGPD comme s’étendant pleinement à la maîtrise de la chaîne de sous-traitance.

3. La réponse doctrinale de la CNIL : recommandations, mesures indispensables et sanctions

3.1 La recommandation sur l’authentification multifacteur (MFA) — délibération n° 2025-019 du 20 mars 2025

Constatant que les attaques reposent souvent sur les mêmes modes opératoires — usurpation de couples identifiant/mot de passe d’utilisateurs légitimes, exploitation d’accès à distance insuffisamment protégés — la CNIL a publié au printemps 2025 une recommandation formalisée sur l’authentification multifacteur (MFA). Celle-ci identifie l’authentification forte comme un rempart essentiel contre le credential stuffing et les intrusions via VPN ou interfaces d’administration exposées.

La CNIL a, dans le même temps, « fortement incité les organismes gérant de grandes bases de données à mettre en place une authentification multifacteur pour les accès à distance ». Il s’agit là d’une injonction à portée générale, formulée dans un contexte où la recommandation vaut avertissement : après avoir laissé un temps d’adaptation aux acteurs, la CNIL a annoncé que des contrôles seraient réalisés tout au long de l’année 2026 sur ce seul point. La MFA sur les accès distants constitue donc, à compter de 2026, une mesure dont l’absence est susceptible de fonder directement un manquement à l’article 32 RGPD.

3.2 Les mesures indispensables pour les grandes bases de données

Dans le prolongement de la recommandation MFA, la CNIL a rappelé au printemps 2025 un ensemble de mesures indispensables pour sécuriser les grandes bases de données. Ces mesures, qui s’inscrivent dans le cadre plus général du Guide sécurité des données personnelles (édition 2024, 25 fiches thématiques), couvrent notamment :

• La politique de mots de passe conforme à la recommandation CNIL (complexité, unicité, renouvellement, seuil de blocage en cas de tentatives répétées) ;
• La journalisation active des accès aux bases de données et la mise en place de systèmes de détection d’anomalies (SIEM) permettant d’identifier les intrusions avant l’exfiltration effective ;
• Le chiffrement des données au repos et en transit, présenté comme un rempart de dernière ligne essentiel ;
• La gestion rigoureuse des habilitations : suppression des accès obsolètes, revue périodique des droits, séparation des environnements de production et de test ;
• Les tests de sécurité avant mise en production de tout nouveau développement, afin de détecter les vulnérabilités (injections SQL, URL prédictibles, défauts d’authentification) avant exposition.

La CNIL insiste particulièrement sur la nécessité d’une défense en profondeur : « par-delà cette indispensable prise de conscience, on observe également la nécessité pour les acteurs de penser une défense en profondeur, afin de ne pas faire reposer toute la sécurité sur quelques éléments renforcés, aussi robustes soient-ils. » Cette formulation doctrinale est importante : elle signifie que la concentration de tous les efforts de sécurité sur un seul dispositif — aussi performant soit-il — ne satisfait pas à l’obligation de l’article 32 RGPD.

3.3 Le chiffrement des communications comme source de confiance

La CNIL a également pris position en 2025 sur la question du chiffrement de bout en bout dans un contexte de tensions législatives, tant en France qu’en Europe, concernant l’accès aux données par les forces de l’ordre (lutte contre la pédocriminalité, le terrorisme, le narcotrafic). Tout en reconnaissant la légitimité des objectifs poursuivis, la CNIL « a rappelé que les mesures doivent être proportionnées au regard de leur impact sur les personnes » et insiste sur le fait que « le chiffrement de bout en bout reste un outil essentiel pour garantir la sécurité et la confidentialité des communications électroniques, ainsi que du patrimoine informationnel ». Cette position constitue une prise de distance mesurée mais claire vis-à-vis de toute mesure législative visant à affaiblir le chiffrement.

3.4 Le régime de sanction applicable aux manquements à la sécurité

Le cadre répressif applicable aux manquements à l’obligation de sécurité est désormais clairement établi. En l’absence de mesures de sécurité adéquates au sens de l’article 32 RGPD, la CNIL peut prononcer une amende allant jusqu’à 10 millions d’euros ou 2 % du chiffre d’affaires annuel mondial — le montant le plus élevé étant retenu. La sécurité est vérifiée de manière systématique dans les plus de 300 procédures formelles de contrôle annuels, tant par la vérification du respect des principes de base (mots de passe, sécurisation des bases de données et du réseau) que par la vérification de l’existence d’un registre des violations. En 2024, 11 sanctions simplifiées concernaient au moins un manquement à la sécurité des données, illustrant la fréquence de ce type de manquement dans le panorama répressif de la CNIL.

La jurisprudence récente de la formation restreinte — notamment les décisions SAN-2026-001 (FREE MOBILE, 27 M€), SAN-2026-002 (FREE, 15 M€) et SAN-2026-003 (FRANCE TRAVAIL, 5 M€) — confirme que les manquements à l’article 32 RGPD constituent systématiquement l’un des fondements centraux des sanctions prononcées par la CNIL, souvent en concours avec des manquements aux articles 33 et 34 (notification et communication des violations). L’arrêt Natsionalna agentsia za prihodite (CJUE, 14 décembre 2023, C-340/21) a par ailleurs posé en droit européen que la seule survenance d’une violation de données ne suffit pas à établir le manquement à l’article 32, mais que la charge de la preuve du caractère adéquat des mesures repose sur le responsable de traitement.

3.5 La coopération institutionnelle dans l’écosystème cyber

La CNIL s’inscrit dans un écosystème cyber structuré, dont l’animation constitue l’un des axes majeurs de son action. Sa coopération avec l’ANSSI est qualifiée de « étroite depuis des années », que ce soit en matière de sensibilisation, d’accompagnement ou d’élaboration d’outils de droit souple. Toutes les recommandations de la CNIL touchant à la sécurité — recommandation sur l’authentification multifacteur, recommandation sur le vote électronique — font l’objet d’échanges approfondis avec l’ANSSI avant publication.

La CNIL participe également activement au Forum INCYBER (anciennement Forum International de la Cybersécurité) tenu à Lille en avril 2025, l’un des plus grands événements européens sur les questions de sécurité numérique, et collabore avec Cybermalveillance.gouv.fr (GIP ACYMA), France Services et l’UNAF pour la sensibilisation du grand public.

La coopération avec le parquet de Paris — spécialement la section de lutte contre la cybercriminalité — mérite une mention particulière. La vice-procureure chargée de la cybercriminalité décrit la CNIL comme un « partenaire essentiel dans la lutte contre la cybercriminalité », notamment pour ses signalements lorsqu’une violation de données présente un niveau de gravité significatif. Ces transmissions constituent un outil précieux pour l’action pénale : « certaines organisations hésitent à déposer plainte, alors même que les faits peuvent révéler l’action de groupes structurés ». La CNIL apporte également une expertise technique via des réquisitions adressées par le parquet, et participe à la réflexion sur la prise en charge des victimes de violations massives.

4. L’articulation RGPD / NIS 2 : vers une complémentarité renforcée

L’entrée en vigueur de la directive NIS 2 (Network and Information Security, version révisée) constitue un événement structurant pour l’écosystème de la cybersécurité européenne. En imposant des mesures plus strictes de prévention, de gestion des incidents et de coopération entre États membres, NIS 2 vient compléter l’obligation de sécurité du RGPD en élargissant le cercle des entités soumises à des exigences de cybersécurité et en renforçant le niveau d’exigence applicable.

La CNIL reconnaît que ce « lien va naturellement se renforcer avec NIS 2, mais son articulation avec le RGPD demande un peu de clarification sur nos rôles respectifs, notamment en cas d’incidents de sécurité ». Cette coordination est présentée comme « cruciale afin d’assurer la cohérence et la lisibilité pour les acteurs concernés ». Elle s’étendra également à la supervision des portefeuilles européens d’identité numérique (EUDI Wallet), appelés à se déployer à compter de 2025-2026.

L’articulation entre ces deux régimes doit être appréhendée dans une logique de complémentarité : NIS 2 définit des obligations de sécurité à l’échelle de l’entité et de ses systèmes d’information critiques, tandis que l’article 32 RGPD impose des mesures proportionnées aux risques pour les droits et libertés des personnes physiques résultant des traitements de données personnelles. Un incident de sécurité significatif sera ainsi susceptible de déclencher simultanément les régimes de notification NIS 2 (auprès de l’ANSSI) et RGPD (auprès de la CNIL), avec des délais et des périmètres d’appréciation distincts.

5. Les manquements récurrents : ce que les contrôles CNIL révèlent

L’examen systématique des sanctions prononcées en 2025 et 2026, croisé avec les thématiques de contrôle prioritaires, permet d’identifier les manquements récurrents que la CNIL rencontre lors de ses inspections :

PARTIE II — INTELLIGENCE ARTIFICIELLE : LA CNIL À L’HEURE D’UNE RÉGULATION EN CONSTRUCTION

1. Une année charnière : quatre rôles distincts confiés à la CNIL

L’année 2025 constitue, aux termes mêmes de la présidente Marie-Laure Denis, une « année charnière pour la CNIL, en ce qu’elle se voit attribuer, par l’exécutif, sous réserve de la confirmation du Parlement, quatre rôles distincts et complémentaires en matière de régulation de l’IA ». Ces quatre rôles méritent d’être précisément distingués, car ils correspondent à des régimes juridiques, des instruments de contrôle et des périmètres d’intervention fondamentalement différents.

Premier rôle : la CNIL conserve sa fonction historique d’autorité de protection des données régulant les algorithmes utilisant des données personnelles. Ce rôle s’exerce sur le fondement du RGPD, sans modification de son périmètre traditionnel.

Deuxième rôle : la CNIL contrôlera l’absence d’usage de systèmes d’IA interdits au sens de l’article 5 du Règlement sur l’intelligence artificielle (RIA). Cette disposition, applicable depuis le 2 février 2025, prohibe les systèmes d’IA présentant des risques inacceptables : notation sociale, manipulation subliminale, exploitation des vulnérabilités, reconnaissance d’émotions dans les lieux de travail et d’enseignement (sauf exceptions), catégorisation biométrique inférant des caractéristiques sensibles, identification biométrique à distance en temps réel dans les espaces publics (sous conditions strictes).

Troisième rôle : la CNIL exerce une fonction d’alerte en qualité d’autorité de protection des droits fondamentaux au sens du RIA. Ce rôle lui confère une capacité d’intervention transversale sur les systèmes d’IA à haut risque, y compris au-delà de son périmètre traditionnel de données personnelles.

Quatrième rôle : la CNIL agira comme autorité de surveillance du marché (ASM) pour une large partie des systèmes d’IA à haut risque au sens de l’Annexe III du RIA, notamment dans les domaines de la biométrie, de l’emploi et de la gestion des ressources humaines, de la migration et des usages répressifs. Ce rôle de surveillance du marché est qualitativement différent du rôle de régulateur de données : il implique de « réguler des secteurs d’activité, de procéder à la surveillance de marchés », d’élaborer une doctrine de bon usage de l’IA, d’accompagner les acteurs, de certifier leur conformité dans certains cas, et le cas échéant de contrôler et sanctionner les mauvaises pratiques.

2. Le cadre normatif : RIA et RGPD, deux régimes complémentaires

2.1 L’articulation RGPD/RIA

L’avis du Comité européen de la protection des données (CEPD) de décembre 2024 a précisé que le RGPD s’applique bien, dans de nombreux cas, aux modèles d’IA entraînés sur des données personnelles en raison de leurs capacités de mémorisation. Il revenait donc à la CNIL d’aider les professionnels à avancer et innover « en toute sécurité juridique, en étant sûrs de leur conformité ». L’articulation entre les deux textes s’organise selon une logique de superposition : le RGPD régit tous les traitements de données personnelles intervenant dans le cycle de vie d’un système d’IA (entraînement, déploiement, inférence), tandis que le RIA ajoute des exigences spécifiques liées aux risques systémiques des systèmes d’IA eux-mêmes, indépendamment de la question des données personnelles.

Les nouvelles missions de la CNIL au titre du RIA impliquent des compétences partagées avec d’autres régulateurs : la DGCCRF pour certains aspects du RIA et l’Arcom pour le DGA (Data Governance Act) ; l’Arcep pour les réseaux et communications électroniques. Cette situation illustre le passage, décrit par Marie-Laure Denis, d’une régulation en « monopole » à une régulation en réseau, caractérisée par une interrégulation croissante.

2.2 Le schéma national de gouvernance du RIA

Le schéma national de gouvernance du RIA, en cours d’examen au Parlement lors de la publication du rapport, confie à la CNIL des « prérogatives étendues, et ce sur un grand nombre de domaines : champ régalien, éducation, travail, processus démocratiques ». Pour anticiper ces responsabilités supplémentaires, la CNIL a mis en place en 2025 un groupe de travail interne qui se nourrit de l’expérience des ASM existantes et travaille avec les autres régulateurs pressentis — notamment la DGCCRF et l’Arcom. Ce groupe a notamment exploré en détail la question de l’articulation entre IA et RGPD, « avec l’ambition de formaliser une doctrine cohérente et prévisible pour les développeurs et les déployeurs ».

3. Le corpus de recommandations CNIL sur l’IA : 13 fiches pratiques et une liste de vérifications

3.1 Genèse et méthode

Les recommandations de la CNIL sur l’IA s’inscrivent dans un travail progressif engagé depuis le plan d’action IA de mai 2023. La démarche est caractérisée par son approche inclusive : la CNIL a troitement dialogué avec les acteurs — entreprises, chercheurs, universitaires, associations, conseils juridiques et techniques, syndicats, fédérations — pour aboutir à « des recommandations au plus proche de leurs préoccupations et de la réalité des usages de l’IA ».

En 2025, ce corpus s’est considérablement étoffé, avec la finalisation de 13 fiches pratiques couvrant l’ensemble des étapes du développement d’un système d’IA, complétées par une liste de vérifications (checklist) permettant aux concepteurs et développeurs de s’assurer que les principes du RGPD sont correctement mis en œuvre dès le départ.

3.2 Les recommandations publiées en 2025

Février 2025 — Information des personnes et exercice des droits : La CNIL a publié deux documents proposant des solutions concrètes et proportionnées pour informer et faciliter l’exercice des droits des personnes dans le contexte des systèmes d’IA. La première recommandation précise les obligations d’information lorsque des données personnelles servent à l’entraînement d’un modèle d’IA et sont potentiellement mémorisées par celui-ci. La seconde apporte des réponses opérationnelles aux concepteurs et développeurs sur la mise en œuvre des droits d’accès, de rectification, d’opposition et d’effacement dans un contexte de modèles d’IA — droits structurellement difficiles à exercer compte tenu de la nature des modèles génératifs.

Juillet 2025 — Recommandations sur le développement des systèmes d’IA : Publication des premières recommandations générales sur l’application du RGPD au développement des systèmes d’IA, avec pour objectif d’aider les professionnels à « concilier innovation et respect des droits des personnes ».

Juin 2025 — Recommandation sur l’intérêt légitime comme base légale : La CNIL a consacré une recommandation spécifique à l’intérêt légitime en tant que base légale pour la mise en œuvre d’un système d’IA. Souvent invoqué comme alternative au recueil du consentement, cet intérêt légitime suppose le respect de trois conditions cumulatives : l’intérêt poursuivi doit être légitime ; le traitement envisagé doit être nécessaire ; et il ne doit pas porter une atteinte disproportionnée aux droits et intérêts des personnes concernées.

3.3 La fiche sécurité des systèmes d’IA (fiche n° 24 du Guide sécurité CNIL)

Le Guide de la sécurité des données personnelles (édition 2024, intégré au Binder 2025) consacre une fiche spécifique — Fiche 24 : Intelligence artificielle — Conception et apprentissage — aux mesures de sécurité spécifiques aux systèmes d’IA. Le volume important de données d’entraînement et la complexité de ces systèmes « augmentent la surface d’attaque et le risque de défaillance pouvant avoir des conséquences graves sur la fiabilité du système ».

Les précautions élémentaires identifiées comprennent notamment : la constitution d’une équipe pluridisciplinaire sensibilisée aux vulnérabilités propres à l’IA ; la vérification de la qualité et de l’intégrité des données d’entraînement (absence de biais, fiabilité des sources, prévention de l’empoisonnement ou data poisoning) ; la restriction stricte des accès aux bases de données d’entraînement ; la construction d’un recueil documentaire complet couvrant la conception du système, ses performances, ses limitations d’usage et les résultats d’analyse des biais ; et la prévision d’un plan d’audit couvrant les éléments logiciels, matériels et organisationnels.

Parmi les interdictions expressément formulées par la CNIL figurent : l’entraînement d’un modèle sur des données dont la source est inconnue ou non fiable ; le déploiement d’un modèle sans vérification préalable de la qualité des sorties et de l’absence de données personnelles dans les outputs ; et l’utilisation d’un système sans en connaître les limitations.

4. Les initiatives opérationnelles : PANAME, outil de traçabilité, explicabilité

4.1 Le projet PANAME : l’audit de confidentialité des modèles d’IA

Le projet PANAME (Privacy AuditiNg of AI ModEls), lancé en juin 2025, constitue l’une des initiatives les plus significatives de l’année en matière de régulation technique de l’IA. Ce projet vise à développer une bibliothèque logicielle destinée à évaluer si un modèle traite ou non des données personnelles — question techniquement complexe dans le cas des modèles génératifs capables de mémoriser des données personnelles présentes dans leurs données d’entraînement.

PANAME associe des équipes de l’ANSSI, de la CNIL, d’Inria et du Pôle d’expertise de la régulation numérique (PEReN). Cette collaboration interinstitutionnelle est emblématique d’une approche où régulation et expertise technique avancent de pair. Comme le relève Bruno Sportisse, PDG d’Inria : « nous devons être capables d’analyser ces systèmes, de les auditer et de développer des méthodes scientifiques permettant de vérifier, par exemple, que des données personnelles utilisées lors de l’apprentissage ne sont pas restituées de manière inappropriée ».

4.2 L’outil expérimental de traçabilité des modèles d’IA en source ouverte

La CNIL a mis à disposition en décembre 2025 un outil expérimental pour explorer comment les droits des personnes — droits d’opposition, d’accès ou d’effacement — pourraient être exercés si leurs informations personnelles se retrouvaient dans un modèle d’IA. L’une des difficultés structurelles est que ces données peuvent être mémorisées dans un modèle en source ouverte, puis utilisées et mémorisées par d’autres modèles, créant ainsi une généalogie complexe de modèles. Il « devient donc essentiel de pouvoir naviguer dans la généalogie des modèles échangés pour pouvoir efficacement exercer ses droits ».

4.3 L’explicabilité de l’IA (Explainable AI — xAI)

Le LINC (Laboratoire d’innovation numérique de la CNIL) a publié en juillet 2025 les premiers résultats de ses recherches sur l’explicabilité de l’IA (explainable AI ou xAI). Ce champ scientifique vise à expliquer les informations, les prédictions ou les décisions générées par les systèmes d’IA. Le LINC s’intéresse notamment au « contexte social et institutionnel qui permet le développement de l’xAI », inscrivant ainsi la question de l’explicabilité dans une perspective à la fois technique, juridique et sociologique.

L’explicabilité est une exigence transversale du RIA (article 13 : transparence et fourniture d’informations aux déployeurs) et du RGPD (article 22 : droit à ne pas faire l’objet d’une décision automatisée, dont la mise en œuvre suppose un niveau minimal d’explicabilité). Les travaux du LINC constituent ainsi un apport scientifique direct à la mise en œuvre des obligations légales.

5. Le bac à sable sur l’IA et les services publics : enseignements et doctrine

La CNIL a accompagné en 2024, dans le cadre de son programme bac à sable, trois projets visant à améliorer les services publics grâce à l’IA : Conseils Personnalisés de France Travail, Ekonom-IA de Nantes Métropole et PRIV-IA avec la RATP. La synthèse des recommandations issues de cet accompagnement a été publiée en avril 2025, permettant de faire bénéficier l’ensemble des innovateurs des enseignements tirés.

Les équipes ont notamment travaillé sur des questions doctrinales transversales à fort enjeu pratique :

• La constitution d’une base de données aux fins d’apprentissage : quelles données peuvent légalement être utilisées pour entraîner un modèle ? Quelles bases légales mobiliser ? Quelle information donner aux personnes dont les données alimentent l’entraînement ?
• La notion d’intervention humaine significative : l’article 22 RGPD exige, pour les décisions automatisées produisant des effets juridiques ou affectant significativement les personnes, soit l’absence d’automatisation intégrale, soit une intervention humaine réelle et non cosmétique. La CNIL a précisé les critères permettant de caractériser une intervention humaine « significative » au sens de ce texte.
• La minimisation des données dans une IA générative : comment réduire au strict nécessaire les données personnelles traitées par un système génératif, compte tenu de sa nature même ?
• Une nouvelle forme de captation vidéo : quelles conditions légales encadrent le recours à des flux vidéo pour l’entraînement ou le déploiement de systèmes d’IA ?

6. La mobilisation autour du Sommet pour l’action sur l’IA (Paris, 6-11 février 2025)

La CNIL a participé activement au Sommet pour l’action sur l’IA organisé à Paris du 6 au 11 février 2025. L’objectif affiché était de « promouvoir l’idée que le développement de l’IA était compatible avec la protection des données personnelles et devait s’inscrire dans une démarche éthique, tout en permettant le développement de l’innovation européenne ». La présidente et plusieurs agents ont pris part à de nombreuses tables rondes, portant notamment sur la protection de la voix et de l’image des personnes à l’heure de l’IA.

En marge du Sommet, le 23 janvier 2025, la CNIL, l’Université Paris-Saclay et l’Université de Caen Normandie avaient organisé un événement spécifique sur ce thème, en amont des travaux officiels.

7. Le rôle des DPO dans la mise en œuvre du RIA : une étude révélatrice

Une étude menée en 2025 avec le ministère du Travail et des Solidarités et l’Association française des correspondants à la protection des données (AFCDP) révèle que l’IA transforme en profondeur le métier de DPO : 60 % des DPO se déclarent souvent impliqués dans les projets d’IA et manifestent, dans le même temps, un fort besoin d’accompagnement et de montée en compétences, tant sur le plan technique que juridique.

La CNIL tire de cette étude une conviction forte : « forts de leur expérience et de leurs compétences en matière de conformité, les DPO disposent des qualités pour jouer un rôle de premier plan dans la conformité au RIA ». La CNIL souhaite étendre sa collaboration avec eux sur ce sujet et les place au cœur du plan stratégique 2025-2028. Cette reconnaissance institutionnelle du rôle du DPO dans le périmètre RIA constitue un signal fort pour les professionnels de la conformité.

8. L’IA dans l’Éducation nationale : un cas d’usage sous surveillance

La problématique de l’utilisation de l’IA dans les établissements scolaires a fait l’objet d’une attention particulière de la CNIL en 2025, avec la publication en juin 2025 de deux FAQ spécifiques :

• L’une à destination des enseignants, centrée sur les usages pédagogiques concrets, les bonnes pratiques et les précautions à prendre en classe ;
• L’autre à destination des responsables de traitement (chefs d’établissement, ministère, autorités académiques), axée sur les obligations légales et les conditions de mise en conformité.

Ces FAQ s’inscrivent dans un contexte où l’IA générative — et notamment les agents conversationnels — soulève des questions spécifiques liées à la vulnérabilité des mineurs (confiance excessive vis-à-vis des résultats fournis, perte de confidentialité, approche standardisée de l’enseignement). La CNIL rappelle que tout utilisateur peut s’opposer à la réutilisation de ses données pour l’entraînement des modèles d’IA et a publié un article détaillant les modalités d’exercice du droit d’opposition pour les principaux fournisseurs de systèmes d’IA.

9. La décision sur les caméras augmentées de Nice : un arrêt structurant

Le 30 janvier 2026, le Conseil d’État a rejeté le recours de la commune de Nice contestant la délibération de la CNIL du 15 mai 2025. La CNIL avait estimé illégal le dispositif de traitement algorithmique des images des caméras de vidéosurveillance mis en place par Nice à l’entrée des écoles. La ville entendait détecter, via un algorithme, la présence de véhicules stationnant irrégulièrement devant les établissements scolaires.

Le Conseil d’État a jugé que le code de la sécurité intérieure « autorisait bien la mise en œuvre de systèmes de vidéosurveillance des voies publiques, mais ne permettait pas une analyse systématique et automatisée des images collectées ». Cette décision est structurante à plusieurs égards : elle valide la compétence de contrôle de la CNIL sur les systèmes de vidéoprotection augmentée ; elle pose une limite nette entre la captation vidéo passive (autorisée) et l’analyse automatisée systématique des images (soumise à des conditions supplémentaires) ; et elle confirme la grille d’analyse applicable aux caméras dites « augmentées ».

10. Les partenariats institutionnels au service d’une IA de confiance

10.1 Le partenariat CNIL-Inria

Formalisé par un accord renouvelé en 2025, le partenariat entre la CNIL et Inria — Institut national de recherche en sciences et technologies du numérique — structure un axe de collaboration scientifique durable sur l’évaluation des systèmes d’IA. Il se traduit par des projets de recherche communs, des échanges d’expertise, des mobilités entre équipes et le développement d’outils technologiques dédiés, dont le projet PANAME.

10.2 Le partenariat CNIL-Autorité de la concurrence

La CNIL et l’Autorité de la concurrence ont poursuivi en 2025 leur coopération pour accompagner les nouvelles règles européennes sur l’IA. Un séminaire commun du 5 mars 2025 a porté sur le fonctionnement concurrentiel du secteur de l’IA générative, la sécurisation juridique de l’entraînement des modèles d’IA, les enjeux économiques des modèles d’affaires de l’IA et de sa chaîne de valeur.

10.3 La coopération internationale : déclaration de Séoul

Lors de la 47e édition de l’Assemblée mondiale de la protection de la vie privée (Global Privacy Assembly) à Séoul, la CNIL et une vingtaine d’autorités de protection des données issues de différents pays ont signé une déclaration commune appelant à construire un cadre de gouvernance fiable pour une IA de confiance — marquant un engagement mondial en faveur d’une IA innovante et respectueuse de la vie privée. Le sujet de l’IA figurera également à l’ordre du jour de la table ronde des autorités de protection des données du G7 que la CNIL organisera en juin 2026 à Paris, en marge du G7 présidé par la France.

Armand-Ari BETTAN & Dominique KARPISEK-BETTAN

Avocats au Barreau des Hauts-de-Seine