Conférence Transformation IA — Jeudi 10 décembre 2026, 18h Je réserve ma place

Vous allez brancher un agent IA sur votre ERP ou sur des données sensibles. Avant de lancer le pilote, vous cherchez une liste concrète de vérifications à mener pour éviter les fuites de données et les décisions automatisées à risque. Voici cette checklist, à remplir flux par flux pendant le pilote, avant toute mise en production.

L'hébergement chez vous ne suffit pas à lui seul

Quand vous choisissez une orchestration hébergée dans votre périmètre, vos flux ne transitent pas par des outils grand public. C'est un point de départ nécessaire. Mais ce qui reste réellement dans votre périmètre dépend aussi des modèles et des services que chaque agent appelle en cours de traitement. Un agent peut tourner sur votre infrastructure et pourtant envoyer des extraits de vos données vers un modèle externe si vous ne contrôlez pas ses appels un par un. Cette vérification flux par flux est d'autant plus importante que chaque agent peut appeler plusieurs modèles selon les tâches : un modèle pour la compréhension, un autre pour la génération, chacun avec sa propre politique de rétention des données. Cette documentation vous aide aussi à ne pas dépendre d'un seul fournisseur de modèle : si vous changez de modèle plus tard, vous savez exactement quels appels sont concernés et vous pouvez les rediriger.

Exemple fictif : prenez un flux de relance fournisseurs. Notez quels modèles sont appelés à chaque étape, quelles données partent avec chaque appel, et où elles sont traitées. Vous constaterez peut-être que certaines étapes envoient des montants de commande ou des noms de fournisseurs vers un service tiers hébergé hors de votre contrôle. C'est précisément ce point qu'il faut documenter et vérifier pendant le pilote, flux par flux, avant toute mise en production.

La checklist à remplir pour chaque flux pilote

Pour chaque flux que vous testez pendant le pilote, remplissez quatre blocs distincts. Premier bloc, les données en entrée et en sortie : quelles informations l'agent reçoit de votre ERP ou de vos outils, quelles informations il produit en retour, et où elles sont stockées temporairement ou définitivement. Deuxième bloc, les modèles et services appelés : la liste exacte des modèles utilisés à chaque étape, avec pour chacun la justification métier et la localisation des traitements. Troisième bloc, la journalisation : quels logs conservent les appels effectués, les décisions prises par l'agent et les validations humaines. Quatrième bloc, les seuils d'escalade : à partir de quel critère précis l'agent doit cesser d'agir seul et passer la main à un humain.

Pour explorer un flux et repérer les cas limites, un petit échantillon illustratif de dix dossiers suffit. Attention cependant : cet échantillon sert à explorer, pas à prouver un taux fiable ni à garantir la représentativité. Il ne vous dira pas le taux d'erreur réel sur l'ensemble de vos données, et il ne garantit pas que vous avez vu toutes les exceptions possibles. C'est un outil de repérage pour savoir où placer vos contrôles, pas une mesure définitive.

Mesurer le taux d'erreur pour décider où placer la validation humaine

Pendant le pilote, mesurez le taux d'erreur de l'agent sur vos cas réels, en distinguant bien la fréquence, la gravité et les permissions. La fréquence, c'est combien d'erreurs sur combien de dossiers traités. La gravité, c'est l'impact d'une erreur quand elle survient. Les permissions, c'est ce que l'agent a le droit de décider seul. Le taux d'erreur mesuré pendant le pilote fixe objectivement où placer la validation humaine : plus le taux est élevé sur un type de décision, plus la validation humaine doit être systématique.

Une action peut avoir un faible taux d'erreur mesuré et pourtant engager une décision sensible. Une relance fournisseur erronée envoyée automatiquement, ou un chiffre faux dans un dashboard de marge, peuvent avoir des conséquences importantes même si cela arrive rarement. Dans ce cas, la permission de décider seul ne se déduit pas du taux d'erreur : elle se décide en fonction de la gravité potentielle de la décision. Aucun agent n'est infaillible. Même si vous observez zéro erreur sur votre échantillon de dix dossiers, cela ne prouve pas l'absence de risque sur l'ensemble des cas futurs. C'est pourquoi la validation humaine se place là où la décision engage, indépendamment du taux mesuré. L'agent prépare la décision, un humain valide sur les cas sensibles.

Tester en simulation avant toute écriture ou envoi externe

Avant d'autoriser l'agent à agir réellement sur vos systèmes, faites tourner tous vos essais en simulation, ou sans envoi ni écriture externe. Un tirage au hasard dans vos dossiers ne garantit pas la couverture des exceptions : il peut manquer les cas rares mais graves qui posent problème. Préférez des scénarios construits délibérément sur les cas limites repérés à l'étape précédente, testés sans action réelle sur vos outils, jusqu'à ce que les seuils d'escalade vers l'humain soient fiables et documentés. Ces essais en simulation permettent de vérifier que les seuils d'escalade fonctionnent réellement avant que l'agent n'ait accès à vos outils en écriture. Documentez chaque scénario testé et le résultat obtenu, pour constituer la trace qui sera présentée lors du go/no-go.

Le go/no-go documenté comme livrable final

Fixez les critères de réussite chiffrés avant de commencer le pilote, pas après. À la fin de la période de test, produisez un document de go/no-go qui reprend chaque point de la checklist : le périmètre des données a été vérifié flux par flux, les modèles appelés sont documentés avec leur localisation, le taux d'erreur a été mesuré sur l'échantillon, et le placement de la validation humaine est justifié par la gravité des décisions concernées. Ce document montre que la sécurité ne repose pas sur une promesse de conformité, mais sur des contrôles exécutés et tracés pendant le pilote.

Ce document, rempli pour un flux pilote, est prêt à être présenté au RSSI et au CSE. Il montre que les contrôles ont été exécutés concrètement pendant le pilote, pas seulement promis dans un cahier des charges.

Pour passer à la suite

Vous avez maintenant la structure complète de la checklist. Prenez un flux métier réel, par exemple la relance fournisseurs ou la préparation de dashboards, et remplissez les quatre blocs : données en entrée et sortie, modèles appelés, journalisation, seuils d'escalade. Mesurez le taux d'erreur sur un petit échantillon pour explorer, puis décidez où placer la validation humaine en fonction de la gravité des décisions, pas seulement de la fréquence des erreurs observées. Ce document rempli constituera votre livrable de go/no-go, prêt à être présenté au RSSI et au CSE pour décider de la suite du déploiement.