Les agents IA dans le traitement des documents : qui en est responsable ?

Le 4 août 2026, le Centre national britannique de cybersécurité (NCSC) a publié une prise de position concernant des incidents liés à l'évaluation de modèles d'IA particulièrement performants. Ollie Whitehouse, directeur technique de l'agence, a déclaré dans cette Prise de position concernant les incidents liés à l'IA Une phrase qui s'applique à tout processus documentaire dans lequel un agent agit de son propre chef : „ Se fier uniquement à la détection a posteriori d'un incident ne suffira pas. “ Celui qui n'intervient qu'après l'incident agit trop tard.

Pour les entreprises qui traitent des factures, des contrats ou des déclarations de sinistre à l’aide de l’IA, il ne s’agit pas d’une question de sécurité abstraite, mais d’un enjeu central dans l’optimisation des processus. Elles sont en train de décider du degré d’autonomie qu’elles peuvent et veulent accorder à un agent dans le cadre de la vérification des pièces justificatives et du traitement des documents. Cet article répond aux questions essentielles à cet égard : dans quelles circonstances un agent IA peut-il prendre seul une décision au sein d’un processus documentaire, dans quels cas la validation doit-elle rester du ressort d’un humain, et qui assume la responsabilité si l’agent se trompe ?

Ce qui distingue un agent IA de l'automatisation classique

Un agent IA ne se contente pas de répondre à une demande, il poursuit un objectif. Sven Beck, cofondateur et directeur de la technologie et des produits chez BLP Digital, explique cette différence dans un Analyse de l'IA agentique Selon BigData-Insider du 20 août 2026 : un agent „ suit un objectif, interprète le contexte, choisit des outils, exécute des actions et évalue le résultat “. Il choisit donc lui-même la prochaine étape, au lieu de suivre une procédure prédéfinie.

C’est là la différence fondamentale pour le traitement des documents. L’automatisation basée sur des règles est fiable, mais rigide. À propos de l’automatisation robotisée des processus (RPA), de la reconnaissance optique de caractères (OCR) et des workflows classiques, Beck écrit : „ Chacune de ces technologies fonctionne de manière déterministe et basée sur des règles : elle est fiable tant que les données saisies correspondent au modèle attendu. “ Si la mise en page d’une facture diffère ou s’il manque un poste, la chaîne s’interrompt. Un agent peut alors prendre le relais, car il évalue le contexte au lieu de rechercher une règle.

C'est ce qui le distingue de la Extraction de données classique avec les LLM, dans laquelle un modèle effectue une lecture unique et fournit un résultat. Mais cela modifie également la nature de l'erreur. Un système basé sur des règles échoue de manière visible : le processus s'arrête, quelqu'un reçoit un message d'erreur. Un agent échoue de manière invisible, car il continue à fonctionner et produit un résultat plausible.

Que se passe-t-il si quelqu'un contredit l'agent ?

Cette complaisance est la règle en matière d'échec invisible, et elle a désormais pris des proportions démesurées. Une équipe de l'université de Stanford, dirigée par Aaron Fanous, a, à cet égard, la méthode de test SycEval développés et présentés lors de l'AIES 2025. Trois modèles réellement utilisés en entreprise ont été testés : ChatGPT-4o, Claude Sonnet et Gemini 1.5 Pro.

Le principe est simple. Le modèle répond à une question, tirée soit d’un ensemble de données mathématiques (AMPS), soit d’un recueil de questions médicales (MedQuad), et la première réponse est classée comme correcte ou incorrecte. Ensuite, le dispositif de test le contredit en quatre étapes de pression croissante. La première étape se contente d’affirmer que la réponse est fausse ; la deuxième se présente avec une prétention d’autorité, la troisième s’appuie sur un raisonnement logique, et la quatrième invoque une source scientifique. Après chaque étape, le protocole de test vérifie à nouveau si le modèle maintient sa réponse. Les 3 000 questions initiales ont ainsi donné lieu à 24 000 cycles de contradiction, dont 15 345 ont pu être analysés.

En moyenne, sur les trois modèles, ils ont cédé dans 58,19 % des cas. C’est la direction qui est déterminante. Dans 43,52 % des cas, le fait de céder a conduit à la bonne réponse : le modèle s'était trompé et s'est laissé corriger. C'est donc exactement ce à quoi sert une boucle de vérification. Dans 14,66 % des cas, cependant, le modèle avait raison et a abandonné la réponse correcte malgré la contradiction.

Appliqué à un processus de traitement de documents, cela signifie qu'un agent lit sur une facture un montant net de 4 812 euros. Une étape de contrôle en aval ou un chargé de dossier conteste ce montant. Au lieu de s’en tenir à la valeur attestée, l’agent se corrige pour se rallier à la contestation, bien que le document soit sans ambiguïté. Dans le cadre de la vérification des pièces justificatives, il ne s’agit pas d’un simple problème de commodité, mais d’un risque de responsabilité : le processus consigne une vérification qui, sur le fond, n’a pas eu lieu.

Cela n'implique toutefois pas un rejet systématique des agents. Il en résulte plutôt la prise de conscience que l'autonomie n'est pas un simple interrupteur que l'on actionne, mais une grandeur que l'on évalue et que l'on développe à chaque étape du processus.

À quoi se mesure l'autonomie d'un agent d'IA ?

Dans la pratique, la limite ne repose pas sur les types de documents, mais sur les valeurs de confiance. Une valeur de confiance est un nombre compris entre zéro et un, par lequel un modèle indique son degré de certitude concernant un champ extrait. Au-dessus d’un seuil défini, un document passe sans intervention humaine ; en dessous, il est placé dans une liste de contrôle. La manière de définir et d’évaluer ces seuils pour chaque champ est abordée dans l’article consacré à traitement automatisé des documents. La proportion de pièces qui sont traitées sans intervention est la Taux de traitement en arrière-plan.

Un agent ne change rien à ce principe. Il ne fait que déplacer l'objet auquel se rapporte la valeur de confiance : non plus un champ extrait isolé, mais une action. La question n’est alors plus „ Dans quelle mesure ce montant est-il fiable ? “, mais „ Dans quelle mesure la décision de valider cette facture pour paiement est-elle fiable ? “. Et c’est là que réside la différence qui rend la question de l’autonomie si complexe : pour un champ isolé, cette fiabilité est mesurée et vérifiable. Pour une chaîne comprenant la lecture, la comparaison, la validation de plausibilité et la validation, elle est le produit de plusieurs incertitudes, dont chacune reste imperceptible prise isolément.

C'est pourquoi L'homme dans la boucle même pour les agents, il ne s'agit pas d'une étape transitoire vers l'automatisation totale. L'humain reste impliqué en permanence dans le processus et traite les cas pour lesquels le système signale lui-même une incertitude ; tout ce qui se situe au-delà fonctionne comme Traitement direct (Straight Through Processing) . Dans le cas d'un agent, ce point de repère doit toutefois être redéfini. Il ne se situe plus au niveau de l'action, mais au niveau de l'acte ayant des conséquences financières ou juridiques.

Ce que cela implique pour la mise en place

Le NCSC a formulé une règle de contrôle précisément pour ce type de situation. Dans la publication Réfléchir mûrement avant d'adopter une IA agentique Dans un article daté du 15 mai 2026, les auteurs Martin R et le Dr Kate S écrivent : „ Si vous ne pouvez pas comprendre, surveiller ou contenir les actions d’un agent, celui-ci n’est pas prêt à être déployé. “ Comprendre, surveiller, contenir. Si l’une de ces trois capacités fait défaut, l’agent n’est pas prêt à être déployé.

L'autorité précise également à qui incombe la responsabilité : „ Les humains restent responsables de la décision de le déployer, des droits d'accès qui lui ont été accordés, des mesures de protection qui l'entourent et des conséquences de son fonctionnement. “ La responsabilité de la mise en service, des accès accordés, des mesures de protection et des conséquences incombe donc à l’être humain. Un agent n’est pas un responsable, mais un outil doté de droits étendus.

Concrètement, cela implique trois choses. Premièrement, chaque agent doit être rattaché à une personne désignée qui en est responsable, qui autorise ses accès et qui peut l'arrêter en cas de doute. Deuxièmement, le principe du « droit minimal » s'applique : un agent qui lit les factures entrantes n'a pas besoin d'un droit d'écriture sur les données de base. Troisièmement, son comportement doit être visible en temps réel, et non pas seulement a posteriori, car c'est précisément ce contre quoi met en garde l'avis publié en août.

Pour les entreprises des secteurs réglementés, il faut ajouter que ces justificatifs sont de toute façon exigés. Ceux qui consignent déjà aujourd’hui quel document a été validé par qui doivent étendre cette consignation aux décisions prises par les agents. L’exigence n’est pas nouvelle, seul l’acteur l’est.

La frontière se situe entre la préparation et la validation

Un agent IA excelle là où l’automatisation classique échoue : face à des mises en page atypiques, à des positions manquantes et à des processus s’étendant sur plusieurs systèmes. Il montre ses limites précisément là où l’on souhaiterait le plus lui faire confiance, à savoir lorsqu’il s’agit d’insister pour obtenir un résultat correct malgré des contradictions. Ce n’est pas la valeur mesurée qui est transposable, mais le mécanisme qui la sous-tend : le fait de doter un agent de boucles de vérification ne le rend pas automatiquement plus précis.

La répartition des tâches, qui permet de faire face à la charge de travail, en découle presque naturellement. L'agent prépare, rassemble, vérifie et fait des propositions. La validation ayant des implications financières ou juridiques reste soumise à un seuil fixé par un être humain et, en cas de doute, à la décision d’un être humain lui-même. Il ne s’agit pas d’une automatisation partielle. C’est la forme sous laquelle l’automatisation résiste à un contrôle.

Si vous souhaitez passer à l'étape suivante, ne commencez pas par l'architecture des agents, mais par un chiffre : mesurez le taux actuel de traitement en arrière-plan de votre processus documentaire et le taux d'erreur dans les cas qui sont déjà traités aujourd'hui sans intervention. Sans cette valeur de référence, il sera impossible de démontrer par la suite si l’agent a amélioré le processus ou s’il se trompe simplement plus rapidement.