Enjeux de conformité de l'IA générative

Pourquoi cartographier les risques avant d'adopter l'IA générative

Un outil d'IAintelligence artificielleIAEnsemble des techniques permettant à un programme d'accomplir une tâche qui demanderait de l'intelligence humaine. Le terme couvre aussi bien les systèmes à règles écrites que ceux qui apprennent de données.Voir dans le glossaire générative ne présente pas un risque unique et homogène : il en concentre plusieurs, de nature différente, qui n'engagent ni les mêmes textes de loi, ni les mêmes responsables, ni les mêmes sanctions. Traiter « le risque IA » comme un bloc conduit à deux erreurs symétriques : soit une prudence excessive qui bloque des usages sans danger réel, soit une confiance excessive qui laisse passer une exposition sérieuse sous prétexte que l'outil « fonctionne bien ».

Ce chapitre construit une grille de lecture. Il ne traite pas encore les réponses techniques ou contractuelles détaillées — elles arrivent dans les chapitres suivants de cette formation. Son objectif est de vous donner, avant tout déploiement, la capacité de répondre à trois questions : quel type de risque est en jeu, à quel moment du cycle de vie du système il apparaît, et quelle gravité lui attribuer par rapport à sa probabilité réelle d'occurrence.

Un même outil d'IA générative peut être conforme sur un cas d'usage et non conforme sur un autre. La conformité ne se juge jamais au niveau de l'outil seul, mais au niveau du couple outil + cas d'usage + donnéesdonnéesIAEnsemble d'informations structurées ou non utilisées pour entraîner, évaluer ou alimenter un modèle. La qualité, la quantité et la représentativité des données sont les facteurs décisifs pour les performances en apprentissage automatique.Voir dans le glossaire traitées.

Trois familles de risques juridiques à distinguer

La propriété intellectuelle : entraînement, génération, réutilisation

Le risque de propriété intellectuelle se loge à trois endroits distincts, qu'il faut éviter de confondre.

Le premier concerne les données d'entraînement du modèle : certains modèles ont été entraînés sur des corpus incluant des œuvres protégées, sans autorisation systématique des ayants droit. Ce risque-là ne vous appartient pas directement en tant qu'utilisateur professionnel de l'outil ; il pèse d'abord sur l'éditeur du modèle. Mais il peut rejaillir sur vous par contrat, notamment si l'éditeur ne garantit aucune indemnisation en cas de mise en cause.

Le deuxième endroit est la génération elle-même : un contenu produit par un modèle génératif peut, par construction statistique, se rapprocher fortement d'une œuvre existante — un style graphique identifiable, une structure narrative, une mélodie. La frontière entre inspiration légitime et reproduction contrefaisante est appréciée au cas par cas par les tribunaux, et l'IA ne bénéficie d'aucun régime dérogatoire particulier à ce jour.

Le troisième est la réutilisation commerciale de ce contenu généré : publier, vendre ou intégrer un contenu généré dans un produit engage votre responsabilité en tant que diffuseur, indépendamment de la question de savoir si le modèle a été correctement entraîné.

Dans plusieurs juridictions, un contenu entièrement généré par une IA sans intervention créative humaine substantielle ne peut pas être protégé par le droit d'auteur. Cela signifie qu'un concurrent peut légalement reprendre un visuel ou un texte purement généré, sans que vous puissiez vous y opposer sur ce fondement.

Les données personnelles : RGPD et IA générative

Le deuxième bloc de risque concerne les données personnelles, et il se manifeste concrètement dans un geste très ordinaire : coller un extrait de document dans un promptpromptIAConsigne ou contexte fourni à un modèle de langage pour orienter sa réponse. La qualité du prompt conditionne souvent la qualité du résultat.Voir dans le glossaire. Ce document peut contenir des noms, des adresses, des données de santé, des informations RH — autant de données personnelles au sens du RGPDRGPDConformitéRèglement européen sur la protection des données personnelles. Il s'applique dès qu'un système d'IA traite de telles données, et se cumule avec l'AI Act.Voir dans le glossaire, dont le traitement est encadré dès qu'elles quittent votre système d'information pour être envoyées à un service tiers.

Trois questions RGPD se posent systématiquement lorsqu'un outil d'IA générative traite des données personnelles :

• Base légale — sur quel fondement (intérêt légitime, consentement, exécution contractuelle) ce traitement repose-t-il ?
• Localisation et sous-traitance — où sont hébergées les données envoyées au modèle, et l'éditeur de l'outil est-il correctement qualifié comme sous-traitant au sens de l'article 28 ?
• Durée de conservation — les prompts et leurs réponses sont-ils utilisés pour ré-entraîner le modèle, et pendant combien de temps sont-ils conservés ?

Une équipe RH utilise un assistant génératif pour préparer des synthèses d'entretiens annuels, en collant les comptes rendus bruts dans le prompt. Ces comptes rendus contiennent des appréciations nominatives, parfois des mentions de santé (arrêt maladie, aménagement de poste). Sans anonymisation préalable ni vérification du contrat de sous-traitance de l'éditeur, ce simple usage quotidien constitue un traitement de données personnelles, potentiellement de données sensibles, hors du cadre prévu.

Responsabilité algorithmique et cadre européen de l'IA

Le troisième bloc est le plus récent : le règlement européen sur l'intelligence artificielleAI ActConformitéRèglement européen sur l'intelligence artificielle, adopté en 2024. Il classe les systèmes en quatre niveaux de risque selon leur usage — jamais selon leur technologie.Voir dans le glossaire (AI Act), entré en application par paliers depuis 2024, introduit des obligations différenciées selon le niveau de risque du système utilisé. Sans entrer ici dans le détail de sa classification — objet d'un chapitre dédié plus loin dans cette formation — deux obligations transversales concernent d'ores et déjà quasiment tous les usages d'IA générative en entreprise.

La première est une obligation de transparence : un utilisateur final doit pouvoir savoir qu'il interagit avec un système d'IA ou qu'un contenu qu'on lui présente a été généré ou modifié par une IA, sauf exceptions limitées. La seconde est une obligation de traçabilité interne : être en mesure de documenter quel système a produit quel contenu, à quelle date, à partir de quelle instruction.

Même en dehors du champ d'application territorial strict de l'AI Act, la question « pouvez-vous prouver qui, de l'humain ou de la machine, a produit ce contenu » devient un standard de fait, y compris pour des raisons contractuelles (audits fournisseurs) ou de gestion de crise (contestation d'un contenu diffusé).

Le cycle de vie du risque : de l'entraînement à la sortie

Une erreur courante consiste à évaluer le risque uniquement au moment où le contenu est publié. En réalité, chaque étape du cycle de vie d'un système génératif introduit un risque de nature différente, et les mesures de mitigation ne sont pas les mêmes selon l'étape concernée.

<rect x="270" y="70" width="130" height="80" rx="8" fill="#22263a" stroke="#3a3f52"/>
<text x="335" y="115" text-anchor="middle" fill="#f1f2f7" font-size="14">Modèle</text>

<rect x="450" y="70" width="130" height="80" rx="8" fill="#22263a" stroke="#3a3f52"/>
<text x="515" y="105" text-anchor="middle" fill="#f1f2f7" font-size="14">Prompt</text>
<text x="515" y="123" text-anchor="middle" fill="#f1f2f7" font-size="14">utilisateur</text>

<rect x="630" y="70" width="130" height="80" rx="8" fill="#22263a" stroke="#3a3f52"/>
<text x="695" y="105" text-anchor="middle" fill="#f1f2f7" font-size="14">Sortie</text>
<text x="695" y="123" text-anchor="middle" fill="#f1f2f7" font-size="14">générée</text>

<rect x="810" y="70" width="130" height="80" rx="8" fill="#22263a" stroke="#3a3f52"/>
<text x="875" y="105" text-anchor="middle" fill="#f1f2f7" font-size="14">Diffusion</text>
<text x="875" y="123" text-anchor="middle" fill="#f1f2f7" font-size="14">/ usage</text>

<text x="335" y="185" text-anchor="middle">Biais, opacité</text>
<text x="335" y="202" text-anchor="middle">du raisonnement</text>

<text x="515" y="185" text-anchor="middle">Fuite de données</text>
<text x="515" y="202" text-anchor="middle">personnelles</text>

<text x="695" y="185" text-anchor="middle">Hallucination,</text>
<text x="695" y="202" text-anchor="middle">quasi-reproduction</text>

<text x="875" y="185" text-anchor="middle">Absence de mention,</text>
<text x="875" y="202" text-anchor="middle">contrefaçon publiée</text>

Ce découpageChunkingIADécoupage d'un document en segments de taille fixe ou sémantique avant indexation vectorielle, pour optimiser la récupération RAG.Voir dans le glossaire a une conséquence pratique directe : une mesure de mitigation placée au mauvais endroit du cycle ne protège pas contre le risque qu'elle est censée couvrir. Filtrer les sorties du modèle ne corrige rien si le problème est la nature des données d'entraînement. Anonymiser les prompts ne protège pas contre une hallucinationhallucinationIAProduction par un modèle d'un énoncé faux formulé avec la même assurance qu'un fait établi. Le phénomène est structurel : le modèle optimise la vraisemblance, pas la vérité.Voir dans le glossaire factuelle publiée sans relecture. Chaque étape appelle son propre contrôle.

Cartographier les risques par cas d'usage

Une fois les familles de risque identifiées et situées dans le cycle de vie, l'étape suivante consiste à les prioriser. Toutes les entreprises ne peuvent pas traiter tous les risques avec la même intensité dès le premier jour : il faut arbitrer, et l'arbitrage se fait en croisant deux axes, la gravité de la conséquence et la probabilité qu'elle se produise réellement dans votre contextefenêtre de contexteIAQuantité de texte qu'un modèle peut prendre en compte simultanément : question, documents fournis et historique. Au-delà, les éléments les plus anciens sortent du champ.Voir dans le glossaire d'usage.

Le tableau suivant illustre cette logique sur des cas d'usage courants en entreprise.

Cette matrice n'a pas vocation à être figée : un même cas d'usage peut changer de catégorie si le volume de données traitées augmente, si le contenu généré passe d'un usage interne à une diffusiondiffusionIAFamille de modèles génératifs qui synthétisent une image (ou autre signal) en dénisant progressivement un bruit.Voir dans le glossaire publique, ou si le fournisseur de l'outil modifie sa politique de traitement des données.

Un usage rare mais à conséquence grave (par exemple la génération d'un communiqué financier) mérite un contrôle plus strict qu'un usage quotidien mais à faible enjeu (reformulation d'un brouillon déjà validé). L'intuition inverse — sécuriser d'abord ce qui est le plus utilisé — conduit souvent à négliger les cas les moins fréquents mais les plus coûteux en cas d'incident.

Pièges fréquents observés en entreprise

Certains schémas reviennent régulièrement lors de l'introduction d'outilstool callingIACapacité d'un agent ou d'un LLM à invoquer des outils externes (API, calcul, recherche) pendant le raisonnement.Voir dans le glossaire d'IA générative, indépendamment du secteur d'activité.

• Le glissement d'usage non documenté — un outil validé pour un cas d'usage précis (résumés internes) est progressivement utilisé pour un cas différent (communication externe) sans nouvelle évaluation de risque.
• La confusion entre outil grand public et outil professionnel — un compte personnel gratuit d'un assistant génératif, dont les conditions d'utilisation autorisent le ré-entraînement sur les échanges, est utilisé pour traiter des données de l'entreprise.
• L'absence de traçabilité de la génération — aucun système ne conserve trace du prompt d'origine ni du modèle utilisé, ce qui rend impossible toute investigation a posteriori en cas de contenu contesté.
• La délégation totale de la vérification factuelle — un contenu généré est publié sans relecture humaine, sur la base d'une confiance acquise après plusieurs usages jugés satisfaisants.
• L'ignorance des conditions contractuelles de l'éditeur — les clauses relatives à la propriété du contenu généré, à la garantie en cas de mise en cause pour contrefaçon, et à la localisation des données ne sont pas lues avant la signature.

Ces pièges partagent un point commun : ils ne sont pas des défaillances techniques du modèle, mais des défaillances de gouvernance autour du modèle. C'est précisément ce que ce chapitre — et cette formation dans son ensemble — cherche à corriger.

Checklist de conformité avant tout déploiement

Avant d'autoriser un usage d'IA générative en production, les points suivants méritent une réponse explicite et documentée :

• Le cas d'usage a-t-il été formellement identifié et son niveau de risque évalué selon la matrice gravité × probabilité ?
• Des données personnelles transitent-elles par les prompts, et si oui, sur quelle base légale et avec quel contrat de sous-traitance ?
• Le contrat avec l'éditeur de l'outil précise-t-il le sort des données envoyées (ré-entraînement, conservation, localisation) ?
• Une obligation de transparence vis-à-vis de l'utilisateur final s'applique-t-elle, et est-elle respectée ?
• Un mécanisme de traçabilité permet-il de retrouver, pour un contenu donné, le prompt et le modèle d'origine ?
• Une étape de relecture humaine est-elle prévue avant toute diffusionmodèle de diffusionIAGénérateur d'images qui part de bruit pur et le retire progressivement, guidé par une description textuelle, jusqu'à faire apparaître une image cohérente.Voir dans le glossaire externe du contenu généré ?
• Le contenu généré présente-t-il un risque de proximité avec une œuvre protégée identifiable (style, structure, marque) ?
• Les équipes utilisatrices ont-elles reçu une consigne claire sur les usages autorisés et interdits ?

Cette liste n'épuise pas le sujet — les chapitres suivants approfondissent chacun de ces points, notamment la rédaction des clauses contractuelles et la mise en œuvre technique de la traçabilité. Elle constitue un filtre minimal, à appliquer systématiquement avant toute mise en production, quelle que soit la taille de l'organisation.

Ce qu'il faut retenir

La conformité de l'IA générative ne se résume pas à choisir un fournisseur réputé sérieux. Elle suppose de distinguer les familles de risque en jeu, de savoir à quel moment du cycle de vie du système elles apparaissent, et de prioriser les contrôles en fonction de la gravité réelle des conséquences plutôt que de la seule fréquence d'usage. Les chapitres suivants de cette formation reprennent chacun de ces axes en détail : cadre contractuel avec les éditeurs, exigences précises du RGPD appliquées à l'IA générative, classification des systèmes selon l'AI Act, et mise en place opérationnelle d'une gouvernance interne des usages.