Shadow AI : pseudonymiser les prompts suffit-il à protéger l'entreprise ?

La scène ordinaire : un copier-coller hors des outils approuvés

Un collaborateur veut gagner dix minutes. Il copie dans une IA personnelle un document de travail contenant des informations sur des clients, des patients ou des salariés. Il n'a pas forcément conscience du risque et pense parfois qu'un simple masque sur les noms suffira.

Le « shadow AI » désigne les usages de systèmes d'IA qui échappent aux circuits de validation ou de gouvernance d'une organisation. L'existence de tels usages ne signifie pas, à elle seule, qu'un manquement a eu lieu. Elle signifie que la direction peut manquer de visibilité sur les outils, les destinataires et les données en circulation.

Pour un DSI, la question n'est donc pas uniquement « avons-nous acheté une passerelle ? », mais « quels canaux d'usage passent réellement par ses contrôles ? »

Ce que fait une passerelle, et ce qu'elle ne voit pas

Une passerelle correctement intégrée peut qualifier le contexte d'une requête, repérer certaines informations sensibles, puis appliquer une politique avant transmission : autoriser, transformer, bloquer, rediriger ou solliciter une validation. Son journal peut documenter les décisions prises sur les flux qu'elle traite.

En revanche, un compte personnel ou une application utilisée en dehors du canal intégré ne passe pas automatiquement par cette passerelle. Une promesse de « protection du shadow AI » doit être accompagnée d'une cartographie des points de passage effectivement instrumentés et des voies de contournement connues.

Pseudonymiser n'est pas anonymiser

La CNIL distingue clairement les deux opérations. La pseudonymisation modifie les données pour qu'elles ne puissent plus être attribuées directement à une personne sans informations supplémentaires. Elle réduit certains risques, notamment si les données complémentaires sont protégées séparément.

Mais une donnée pseudonymisée reste une donnée personnelle. Les obligations du RGPD continuent donc de s'appliquer lorsque le traitement entre dans son champ. Une bonne politique examine aussi la finalité, la base juridique, le destinataire, les mesures de sécurité, la conservation et les risques résiduels.

Un détecteur peut par ailleurs manquer un élément sensible noyé dans un récit ou laisser une combinaison d'indices indirects réidentifiante. Un pourcentage annoncé sans jeu de tests, périmètre et protocole de mesure n'est pas un indicateur probant.

Les six démonstrations à demander à un éditeur

Les acheteurs peuvent demander une démonstration reproductible sur des exemples fictifs. Il ne s'agit pas d'exiger une absence absolue d'erreurs, mais de connaître les capacités, les limites et la façon dont le produit signale l'incertitude.

• Quels canaux sont réellement observés ? Les comptes personnels et les applications hors réseau sont-ils inclus ou non ?
• Quelles catégories de données sont détectées et avec quels résultats sur un jeu de tests documenté ?
• Les données sont-elles pseudonymisées, anonymisées ou simplement masquées ? Les informations de correspondance restent-elles protégées ?
• Quelle règle autorise, bloque ou fait escalader chaque transmission, et selon quelle version ?
• Quelles décisions et traces sont exportables et vérifiables hors du tableau de bord ?
• Que se passe-t-il lorsque la détection échoue, que le contexte est incomplet ou qu'une validation humaine manque ?

La véritable différence commerciale : gouverner et pouvoir démontrer

Une organisation n'achète pas seulement un masque à données. Elle cherche une capacité de gouvernance sur les usages qu'elle est effectivement en mesure de contrôler : politiques explicites, interventions humaines, traitement des incidents et éléments d'audit.

NELSIA présente cette chaîne en trois temps : GATE avant la transmission sur les flux intégrés, CONTROL pour les systèmes instrumentés en fonctionnement, et AGENT avant certaines actions d'agents intégrés. Le périmètre exact des capacités et des connecteurs doit être établi lors d'une démonstration sur cas réel.