Best practice

IA et données sensibles : quels sont les risques et comment les protéger ?

Résumer cet article avec :

Utiliser l'IA avec des données sensibles expose à deux risques principaux : la fuite d'informations et leur réutilisation par le modèle pour son propre apprentissage. Pour protéger ces données, utilisez des versions Entreprise ou des modèles d'IA privés, anonymisez vos requêtes avant de les soumettre et appliquez des politiques d'accès strictes, conformes au RGPD.

Sont concernées les informations de santé, les données bancaires, les secrets industriels et les données personnelles. Le risque augmente avec les usages non encadrés de l'IA en entreprise, d'où l'intérêt d'un accompagnement en intelligence artificielle pour sécuriser vos usages.

En résumé
  • Un contrat, une liste de clients ou un code source collé dans une IA publique peut être réutilisé pour entraîner le modèle.
  • Le RGPD classe comme sensibles les données de santé, génétiques, biométriques et celles qui révèlent des opinions politiques ou religieuses.
  • Les offres professionnelles comme ChatGPT Enterprise ou Copilot pour Microsoft 365 garantissent que vos documents ne servent pas à l'apprentissage global.
  • Pour les données médicales ou de défense, un modèle open source hébergé sur vos serveurs évite que les requêtes transitent sur le web.
  • Une charte d'utilisation de l'IA précise aux salariés ce qu'ils ont le droit de partager avec un outil.
  • L'AI Act prévoit des amendes pouvant atteindre 35 millions d'euros ou 7 % du chiffre d'affaires mondial.

Pourquoi l'IA représente-t-elle un danger pour les données confidentielles ?

Les intelligences artificielles génératives publiques (comme la version standard de ChatGPT, Claude ou Gemini) peuvent, selon l'offre et les paramètres choisis, réutiliser les échanges de leurs utilisateurs pour entraîner leurs modèles, ce qui renvoie directement au fonctionnement des modèles conversationnels.

Le mécanisme de mémorisation des modèles

Si un collaborateur soumet un contrat confidentiel, une liste de clients ou un code source propriétaire à une IA publique pour l'analyser ou la synthétiser, ces informations sont stockées par le fournisseur et peuvent, selon l'offre, servir à entraîner ses futurs modèles. Le risque est alors double :

  1. La fuite de données : l'IA pourrait régénérer ces informations sensibles lors d'une requête formulée par un utilisateur externe à votre entreprise.
  2. La violation légale : exposer les données personnelles de vos clients à un tiers non autorisé constitue une violation directe du RGPD.

‍

Cela illustre parfaitement les erreurs fréquentes avec ChatGPT en entreprise.

‍

L'IA peut-elle voler des données ?

Techniquement, une IA générative ne « vole » pas de données au sens d'un piratage informatique classique. Cependant, si un utilisateur insère volontairement des informations confidentielles dans un prompt, le modèle peut les assimiler dans sa base d'apprentissage. Le risque principal n'est donc pas un vol direct par la machine, mais bien une fuite accidentelle causée par une erreur humaine lors de l'utilisation d'outils non sécurisés.

Bon à savoir

En 2023, plusieurs multinationales de la tech et de la finance ont formellement interdit l'usage des IA génératives publiques à leurs employés après que des codes sources confidentiels ont été accidentellement divulgués lors de simples "prompts".

Quelles sont les données considérées comme sensibles face à l'IA ?

Toutes les données n'ont pas la même valeur ni le même niveau de protection juridique. Il est indispensable de cartographier vos données avant d'autoriser leur traitement par un algorithme.

‍

Quelles sont les données considérées comme sensibles par le RGPD ?

Le RGPD définit comme sensibles les données qui révèlent l'origine raciale ou ethnique, les opinions politiques, les convictions religieuses ou l'appartenance syndicale d'une personne. Cette catégorie stricte inclut également les données génétiques, les données biométriques, ainsi que toutes les informations concernant la santé ou l'orientation sexuelle d'un individu. Leur traitement est par principe interdit, sauf exceptions prévues par l'article 9 du RGPD, dont le consentement explicite.

Classification des niveaux de confidentialité

Pour mieux comprendre les risques, voici un tableau classant les différents types de données en entreprise :

Type de donnée Exemples courants Risque lié à l'IA Niveau de protection requis
Données publiques Articles de blog, communiqués de presse, rapports annuels publics. Nul (données déjà accessibles à tous). Faible
Données internes Organigrammes, notes de service générales, processus métiers non critiques. Faible (mais perte d'avantage concurrentiel possible). Moyen
Données personnelles Noms, emails, adresses, numéros de téléphone des clients. Élevé (Sanctions RGPD, perte de confiance). Fort (Anonymisation requise)
Données sensibles & critiques Dossiers médicaux, secrets industriels, codes sources, données bancaires. Critique (Faillite, amendes massives, poursuites pénales). Maximal (IA On-Premise exigée)

ChatGPT et consorts : que deviennent vos informations ?

La question du traitement des données par les leaders du marché est au centre des préoccupations des Directeurs des Systèmes d'Information (DSI).

Est-ce que ChatGPT conserve les données personnelles ?

Sur les offres Free, Go, Plus et Pro, OpenAI conserve l'historique des conversations et peut s'en servir par défaut pour entraîner ses futurs modèles. Pour empêcher cela, l'utilisateur doit désactiver l'option « Améliorer le modèle pour tous » dans les contrôles des données, ou l'entreprise doit souscrire une offre ChatGPT Business (ex-Team), Enterprise ou Edu, sur lesquelles les données ne servent pas à l'entraînement par défaut.

Les bonnes pratiques pour sécuriser vos informations

Pour tirer parti de la productivité offerte par l'IA sans compromettre vos données sensibles, plusieurs stratégies techniques et organisationnelles doivent être déployées en entreprise pour structurer l’usage de l’IA en entreprise sans compromettre les données sensibles.

L'anonymisation et la pseudonymisation des requêtes

Avant de soumettre un texte à une IA, il est vital de supprimer tout élément identifiant.

Comment anonymiser des données avant d'utiliser une IA ?

L'anonymisation consiste à supprimer ou modifier irréversiblement les éléments permettant d'identifier une personne ou une entité. Avant d'utiliser une IA, vous devez employer des outils de « Data Masking » automatiques ou caviarder manuellement les noms propres, adresses, numéros de sécurité sociale et montants financiers dans vos prompts, pour ne laisser que la structure et le contexte général du texte.

Privilégier les environnements fermés

  • Les versions "Entreprise" : Les éditeurs d'IA proposent des abonnements professionnels (ex. Copilot pour Microsoft 365, ChatGPT Business ou Enterprise). Ces environnements garantissent que vos documents restent dans votre espace locataire sécurisé et ne servent pas à l'apprentissage global.
  • Le déploiement de modèles locaux (On-Premise) : Pour les données du secteur médical ou de la défense, la meilleure solution consiste à héberger un modèle d'IA Open Source (comme Llama ou Mistral) directement sur les serveurs internes de l'entreprise. Ainsi, aucune requête ne transite sur le web.

Sensibiliser les collaborateurs

La technique seule ne suffit pas. La création d'une charte d'utilisation de l'IA en interne est indispensable pour former les employés sur ce qu'ils ont le droit de partager avec une machine.

L'impact des nouvelles réglementations (RGPD et AI Act)

La législation européenne est particulièrement stricte concernant le croisement entre les algorithmes intelligents et les données personnelles.

La conformité au RGPD

Toute entreprise utilisant l'IA doit s'assurer que les fournisseurs choisis respectent le RGPD et répondent aux exigences de conformité pour les projets IA. Cela implique de vérifier que l'hébergement des données s'effectue sur le sol européen et qu'une Analyse d'Impact sur la Protection des Données (AIPD) a été réalisée si le traitement présente un risque pour les droits des personnes.

L'arrivée de l'AI Act

Avec l'entrée en vigueur de l'AI Act européen (la première réglementation mondiale sur l'IA), le cadre se durcit. Les entreprises déployant des systèmes d'IA jugés à "haut risque" devront garantir une gouvernance totale et transparente des données utilisées. Le Digital Omnibus, entré en vigueur le 27 juillet 2026, a repoussé ces obligations au 2 décembre 2027 pour la plupart des systèmes concernés. Les amendes peuvent atteindre 15 millions d'euros ou 3 % du chiffre d'affaires mondial pour ces obligations, et 35 millions d'euros ou 7 % pour les pratiques interdites. Pour une PME, c'est le plus faible des deux montants qui sert de plafond.

Tableau récapitulatif - Menaces de l'IA et Solutions

L'anticipation des risques technologiques est la clé d'une adoption réussie. Voici une synthèse des enjeux à maîtriser :

Typologie du Risque Conséquences possibles Solution recommandée
Apprentissage des modèles Réutilisation de vos données privées par l'IA pour répondre à d'autres utilisateurs. Opter pour des licences "Entreprise" garantissant la non-réutilisation des données.
Erreur humaine Copier-coller de contrats, listes clients ou codes sources dans une IA publique. Créer une charte interne, former les équipes et automatiser le masquage de données.
Hébergement et Cloud Transfert de données européennes sensibles vers des serveurs étrangers non sécurisés. Héberger des modèles Open Source en local (On-Premise) sur vos propres serveurs.
Non-conformité légale Amendes de la CNIL pour violation du RGPD et perte de réputation. Cartographier les flux de données et réaliser une Analyse d'Impact (AIPD).

L'anticipation des risques technologiques est la clé d'une adoption réussie, qui passe par une démarche globale de transformation autour de l’IA.

Conclusion : Ce qu'il faut retenir pour une adoption sécurisée

L'intégration de l'intelligence artificielle dans les processus métiers offre un avantage compétitif indéniable, mais elle ne doit jamais se faire au détriment de la sécurité et de la confidentialité de l'entreprise. La protection des données sensibles face à l'IA repose sur un triptyque fondamental : des outils technologiques cloisonnés (IA privées ou locales), des processus de nettoyage des données (anonymisation), et une formation rigoureuse des collaborateurs. En respectant ces piliers, vous ferez de l'IA un allié performant et conforme aux exigences réglementaires.

C'est quoi les données sensibles ?

Le RGPD définit comme sensibles les données qui révèlent l'origine raciale ou ethnique, les opinions politiques, les convictions religieuses ou l'appartenance syndicale. Il y ajoute les données génétiques, biométriques, de santé et d'orientation sexuelle. Leur traitement est interdit par principe, sauf exceptions prévues par l'article 9 du RGPD, dont le consentement explicite.

Quelle IA ne garde pas les données ?

Les versions professionnelles comme ChatGPT Business (ex-Team), ChatGPT Enterprise ou Copilot pour Microsoft 365 garantissent contractuellement que vos données ne servent pas à entraîner les modèles. Pour un contrôle total, un modèle open source comme Mistral ou Llama hébergé sur vos propres serveurs ne transmet aucune requête à l'extérieur.

L'IA peut-elle voler des données ?

Non, pas au sens d'un piratage. Le risque vient d'une erreur humaine, quand un utilisateur insère des informations confidentielles dans un prompt et que l'offre utilisée permet de s'en servir pour entraîner le modèle. Il s'agit donc d'une fuite accidentelle liée à un outil non sécurisé.

Est-ce que ChatGPT conserve les données personnelles ?

Oui, sur les offres Free, Go, Plus et Pro, OpenAI conserve l'historique des conversations et peut s'en servir par défaut pour entraîner ses futurs modèles. Pour l'éviter, désactivez l'option « Améliorer le modèle pour tous » dans les contrôles des données ou souscrivez une offre ChatGPT Business, Enterprise ou Edu.

Comment anonymiser des données avant d'utiliser une IA ?

Supprimez ou modifiez de façon irréversible tout élément qui permet d'identifier une personne ou une entité. Utilisez un outil de masquage automatique ou caviardez à la main les noms, adresses, numéros de sécurité sociale et montants financiers. Ne laissez que la structure et le contexte général du texte.

Et si c’était votre tour ?