DPIA et registres

Pourquoi ce chapitre est le pivot du dossier de conformité

Un projet d'IAintelligence artificielleIAEnsemble des techniques permettant à un programme d'accomplir une tâche qui demanderait de l'intelligence humaine. Le terme couvre aussi bien les systèmes à règles écrites que ceux qui apprennent de données.Voir dans le glossaire générative peut être techniquement solide, juridiquement défendable sur le fond, et pourtant incapable de résister à un contrôle. La raison est presque toujours la même : l'absence de trace écrite. Le RGPDRGPDConformitéRèglement européen sur la protection des données personnelles. Il s'applique dès qu'un système d'IA traite de telles données, et se cumule avec l'AI Act.Voir dans le glossaire ne demande pas seulement d'être conforme, il demande de pouvoir le démontrer — c'est le principe d'accountability posé par l'article 5.2. Sans AIPDAIPDConformitéAnalyse d'impact relative à la protection des données, obligatoire dès qu'un traitement est susceptible d'engendrer un risque élevé — ce qui couvre la plupart des systèmes de profilage.Voir dans le glossaire documentée et sans registre à jour, une organisation qui a pourtant pris les bonnes décisions se retrouve incapable de le prouver face à une autorité de contrôle, un client B2B qui audite ses sous-traitants, ou son propre comité de direction en cas d'incident.

Ce chapitre traite l'AIPD et les registres non comme des formalités administratives mais comme des outilstool callingIACapacité d'un agent ou d'un LLM à invoquer des outils externes (API, calcul, recherche) pendant le raisonnement.Voir dans le glossaire de pilotage de projet. Bien menée, une AIPD change les choix d'architecture avant qu'ils ne soient coûteux à corriger. Bien tenu, un registre devient la mémoire technique du système au moment où les personnes qui l'ont conçu ont changé de poste.

L'AIPD n'est pas un document qu'on rédige une fois pour solder un projet. C'est un processus vivant qui doit être repris à chaque évolution significative : changement de modèle, ajout d'une source de donnéesdonnéesIAEnsemble d'informations structurées ou non utilisées pour entraîner, évaluer ou alimenter un modèle. La qualité, la quantité et la représentativité des données sont les facteurs décisifs pour les performances en apprentissage automatique.Voir dans le glossaire, ouverture à un nouveau public, changement de sous-traitant hébergeant l'inférenceinférenceIAUtilisation d'un modèle déjà entraîné sur une donnée nouvelle. Peu coûteuse à l'unité mais répétée à chaque requête, elle constitue le coût récurrent d'exploitation.Voir dans le glossaire.

L'AIPD : ce que dit le texte, ce que cela signifie pour l'IA générative

L'article 35 du RGPD impose une analyse d'impact lorsqu'un traitement est « susceptible d'engendrer un risque élevéhaut risqueConformitéCatégorie de l'AI Act regroupant les usages soumis à conditions strictes : recrutement, crédit, éducation, infrastructures critiques. Elle impose documentation, examen des biais et contrôle humain effectif.Voir dans le glossaire pour les droits et libertés des personnes physiques ». La CNIL a précisé neuf critères cumulatifs — un traitement remplissant au moins deux critères doit en principe faire l'objet d'une AIPD :

• évaluation ou notation de personnes (scoring, profilage) ;
• décision automatisée avec effet juridique ou similaire ;
• surveillance systématique ;
• collecte de données sensibles ou à caractère hautement personnel ;
• traitement à grande échelle ;
• croisement ou combinaison d'ensembles de données ;
• personnes vulnérables concernées (patients, salariés, mineurs, demandeurs d'asile) ;
• usage innovant ou application de nouvelles solutions technologiques ou organisationnelles ;
• traitement faisant obstacle à l'exercice d'un droit ou à la conclusion d'un contrat.

Un système d'IA générative coche presque mécaniquement le critère d'usage innovant, et très souvent un second critère selon l'usage : un assistant RH qui présélectionne des candidatures relève de l'évaluation de personnes ; un chatbot de support client traitant des historiques de conversation à grande échelle relève du traitement à grande échelle ; un outil d'aide au diagnostic médical combine usage innovant et données de santé. Dans la pratique, la majorité des déploiements d'IA générative en environnement professionnel franchissent le seuil des deux critères dès qu'ils traitent des données concernant des personnes identifiées ou identifiables — ce qui exclut de facto peu de cas d'usage réels en entreprise.

Le registre des traitements répond à « quels traitements existent et sous quelle base légale ». L'AIPD répond à « ce traitement particulier présente-t-il un risque élevé, et si oui, comment le réduire ». On peut avoir un registre exhaustif et n'avoir mené aucune AIPD alors qu'elle était requise — c'est l'écart le plus fréquent constaté en audit.

Les quatre étapes d'une AIPD appliquée à un projet IA générative

La méthode CNIL structure l'analyse en quatre blocs. Voici comment chacun se décline concrètement sur un projet de type assistant conversationnel ou outil de génération de contenu.

1. Cartographie du traitement

Il s'agit de décrire, sans jugement de valeur à ce stade, ce que fait réellement le système : quelles données entrent (prompts des utilisateurs, documents joints, historiques de conversation, données de contextefenêtre de contexteIAQuantité de texte qu'un modèle peut prendre en compte simultanément : question, documents fournis et historique. Au-delà, les éléments les plus anciens sortent du champ.Voir dans le glossaire injectées automatiquement), quelles données sortent (réponses générées, logs, métriques d'usage), qui a accès à quoi, et où transitent les flux. Pour un système reposant sur une API d'un fournisseur tiers, cette cartographie doit inclure explicitly le sous-traitant, sa localisation d'hébergement, la durée de conservation qu'il applique de son côté, et l'usage qu'il fait ou non des données pour ré-entraîner ses propres modèles.

Cette étape échoue le plus souvent par omission : les logs applicatifs, les caches de débogage, les exports vers un outil d'analytics ne sont pas considérés comme faisant partie du traitement alors qu'ils contiennent les mêmes données personnelles que le flux principal.

2. Nécessité et proportionnalité

Cette étape interroge la finalité déclarée et la confronte aux moyens employés. Un chatbot de support n'a pas besoin de conserver l'historique complet des conversations pendant cinq ans pour répondre à une question ponctuelle. Un outil de génération de contenu marketing n'a pas besoin d'accéder au fichier client complet pour rédiger un e-mail type. La question à poser systématiquement : le volume et la nature des données injectées dans le promptpromptIAConsigne ou contexte fourni à un modèle de langage pour orienter sa réponse. La qualité du prompt conditionne souvent la qualité du résultat.Voir dans le glossaire sont-ils strictement nécessaires au résultat attendu, ou reflètent-ils une facilité d'implémentation ?

C'est également ici que se documente le choix entre plusieurs architectures possibles — modèle hébergé en interne, API externe avec clause de non-réutilisation, anonymisation préalable — et la justification du choix retenu.

3. Évaluation des risques pour les personnes

La grille CNIL structure les risques autour de trois événements redoutés : accès illégitime aux données, modification non désirée, disparition des données. Pour chacun, on évalue la gravité (conséquences pour la personne concernée) et la vraisemblance (probabilité que la source de risque exploite une vulnérabilité identifiée), sur une échelle qualitative simple — négligeable, limitée, importante, maximale.

Pour l'IA générative spécifiquement, deux risques doivent être ajoutés à la grille classique : la ré-identification par recoupement (un modèle peut restituer des fragments de données d'entraînement ou de contexte qui, combinés, identifient une personne) et la décision biaisée non détectée (un système entraîné ou affiné sur un jeu de données non représentatif produit des sorties discriminatoires sans qu'aucune erreur technique ne soit visible dans les logs).

4. Mesures et plan d'action

Chaque risque jugé non négligeable doit être associé à une mesure : technique (chiffrementchiffrementCybersécuritéTransformation d'une donnée lisible en une forme inintelligible à l'aide d'une clé. Le destinataire disposant de la clé peut retrouver le message original. C'est le socle de la confidentialité sur Internet.Voir dans le glossaire, anonymisation ou pseudonymisation en amont du prompt, filtrage de sortie, limitation de la fenêtre de contexte), organisationnelle (habilitation d'accès, formation des utilisateurs, procédure de revue humaine avant décision), ou contractuelle (clause de non-réutilisation des données par le fournisseur, clause d'audit, engagement de localisation des données). L'AIPD se conclut par une décision explicite — validation, validation sous réserve de mesures complémentaires, ou consultation préalable de la CNIL si le risque résiduel reste élevé après mesures.

Une entreprise déploie un assistant conversationnel qui aide les recruteurs à trier les candidatures en résumant les CV et en attribuant un score d'adéquation au poste. Deux critères CNIL sont remplis d'emblée : évaluation de personnes et usage innovant. L'AIPD révèle que le prompt système injecte l'intégralité du CV, y compris des mentions d'associations ou de convictions qui n'ont aucun rapport avec le poste. La mesure retenue : un filtrage préalable qui retire les champs non pertinents avant l'appel au modèle, et une revue humaine obligatoire avant toute décision d'élimination.

Le registre des traitements : la mémoire écrite du système

L'article 30 du RGPD impose la tenue d'un registre des activités de traitement, quelle que soit la taille de l'organisation dès lors que le traitement n'est pas occasionnel — ce qui est presque toujours le cas d'un outil d'IA générative en production. Pour un traitement impliquant de l'IA générative, le registre standard doit être enrichi de champs spécifiques que le formulaire type ne prévoit pas toujours :

• le ou les modèles utilisés (nom, version, fournisseur, date de mise à jour) ;
• le statut du sous-traitant vis-à-vis de la réutilisation des données (opt-out de ré-entraînement activé ou non, preuve contractuelle) ;
• la nature exacte des données injectées dans le contexte (prompt système, documents joints, mémoire de conversation) ;
• la durée de conservation des logs de conversation, distincte de la durée de conservation de la donnée métier d'origine ;
• le mécanisme de correction ou de suppression en cas d'exercice d'un droit d'accès ou d'effacement, sachant qu'un modèle ne peut pas toujours « désapprendre » une donnée sur laquelle il a été entraîné.

Le registre le plus fréquemment mis en défaut lors d'un audit n'est pas absent — il est obsolète. Un changement de fournisseur de modèle, une migration vers une version plus récente avec des conditions d'usage différentes, ou l'ajout d'une fonctionnalité de mémoire longue durée modifient la nature du traitement sans que le registre soit repris. Un registre qui date de plus de douze mois sur un projet d'IA générative doit être considéré comme suspect par défaut.

Documentation technique et AI Act : un registre de plus, mais pas redondant

Le règlement européen sur l'intelligence artificielleAI ActConformitéRèglement européen sur l'intelligence artificielle, adopté en 2024. Il classe les systèmes en quatre niveaux de risque selon leur usage — jamais selon leur technologie.Voir dans le glossaire introduit une couche de documentation distincte du RGPD, centrée non sur la donnée personnelle mais sur le système lui-même. Pour un système classé à haut risque, l'annexe IV impose une documentation technique détaillant l'architecture, les données d'entraînement, les métriques de performance, les mesures de supervision humaine et les résultats des tests de robustesse. Pour les systèmes à usage général et les systèmes ne relevant pas du haut risque, une obligation de journalisation minimale et de transparence demeure — traçabilité des interactions, capacité à démontrer qu'un contenu généré est identifiable comme tel.

Le tableau suivant distingue les trois dispositifs pour éviter de les confondre ou de dupliquer inutilement le travail :

Ces trois dispositifs partagent une grande partie de leurs sources d'information — la cartographie réalisée pour l'AIPD alimente directement le registre et sert de socle à la documentation technique. Il est inefficace et risqué de les faire rédiger par des équipes qui ne se parlent pas : les incohérences entre les trois documents sont précisément ce qu'un auditeur cherche en premier.

Organisez un seul entretien de cartographie avec l'équipe produit et le fournisseur technique, dont les réponses alimentent en parallèle l'AIPD, le registre et la documentation technique. Trois documents distincts, une seule source de vérité.

Constituer un dossier de preuve exploitable en audit

La accountability ne se limite pas à produire des documents, elle exige de pouvoir les produire rapidement et de démontrer qu'ils ont été suivis d'effet. Un dossier de conformité robuste pour un projet d'IA générative rassemble concrètement :

• l'AIPD signée et datée, avec ses versions successives conservées ;
• le registre des traitements à jour, horodaté ;
• les contrats ou avenants avec les fournisseurs d'IA précisant le régime des données (clauses de sous-traitance, localisation, durée de conservation, absence de ré-entraînement) ;
• les mentions d'information fournies aux personnes concernées (utilisateurs finaux, salariés) et la preuve de leur mise à disposition effective ;
• les comptes rendus de revue périodique, même sommaires, démontrant que le registre et l'AIPD ne sont pas des documents figés ;
• en cas de système à haut risque au sens de l'AI Act, la documentation technique et les journaux de fonctionnement.

Un audit — interne, client, ou de l'autorité de contrôle — commence presque toujours par demander ces documents avant même de regarder le système en fonctionnement. Leur absence ou leur incohérence oriente immédiatement l'attentionattentionIAMécanisme par lequel un modèle pondère l'importance de chaque token du contexte lorsqu'il en traite un autre, quelle que soit la distance qui les sépare.Voir dans le glossaire vers les points les plus fragiles, même quand le système technique ne pose par ailleurs aucun problème réel.

Pièges fréquents à anticiper

Les retours d'expérience convergent vers un nombre limité d'erreurs récurrentes, qu'il est plus efficace de prévenir que de corriger après coup.

• Sous-traitant IA absent du registre — l'API de génération est traitée comme un simple outil logiciel et non comme un sous-traitant au sens RGPD, alors qu'il traite des données personnelles pour le compte du responsable de traitement.
• Prompts considérés comme non structurés donc non documentés — le contenu d'un prompt contenant des données personnelles est une donnée traitée au même titre qu'un champ de base de données ; il doit apparaître dans la cartographie.
• AIPD réalisée une fois, jamais reprise — un changement de modèle sous-jacent (même chez le même fournisseur) peut modifier substantiellement le profil de risque, notamment la politique de rétention ou de ré-entraînement.
• Confusion entre anonymisation et pseudonymisation — un prompt dont on a retiré le nom mais conservé la date de naissance, le code postal et la fonction reste réidentifiant ; ce n'est pas une anonymisation au sens du RGPD.
• Registre rédigé par une seule personne sans validation du DPO — le registre engage la responsabilité de l'organisation ; son contenu doit être validé par la fonction protection des données, pas seulement rempli par l'équipe technique.

Checklist opérationnelle avant mise en production

1. Les neuf critères CNIL ont été passés en revue et le résultat est documenté, même en l'absence d'AIPD requise.
2. Si l'AIPD est requise, les quatre étapes ont été conduites et validées par le DPO ou, à défaut, par un responsable désigné.
3. Le registre des traitements intègre les champs spécifiques à l'IA générative (modèle, sous-traitant, politique de ré-entraînement).
4. Les contrats avec les fournisseurs d'IA comportent une clause explicite sur l'usage des données transmises.
5. Une procédure de revue périodique du registre et de l'AIPD est planifiée, avec une fréquence adaptée au rythme d'évolution du produit.
6. Les mentions d'information destinées aux personnes concernées sont rédigées, publiées et accessibles avant tout traitement effectif.
7. La documentation technique AI Act est engagée si le système entre dans une catégorie à haut risque ou soumise à des obligations de transparence spécifiques.

Cette checklist n'a pas vocation à être cochée une seule fois : elle doit être reprise à chaque changement substantiel du système, exactement comme le registre et l'AIPD qu'elle synthétise.