Agentes de IA en el proceso de gestión documental: ¿quién asume la responsabilidad?

El 4 de agosto de 2026, el Centro Nacional de Ciberseguridad del Reino Unido (NCSC) publicó un comunicado sobre incidentes detectados en evaluaciones de modelos de IA especialmente potentes. Ollie Whitehouse, director tecnológico de la agencia, afirmó en dicho Declaración sobre incidentes relacionados con la IA Una frase que se aplica a cualquier proceso documental en el que un agente actúe por su cuenta: „No basta con basarse únicamente en la detección a posteriori de un incidente“. Quien no se da cuenta hasta después de que se haya producido el incidente, ya es demasiado tarde.

Para las empresas que tramitan facturas, contratos o reclamaciones de siniestros con la ayuda de la IA, esto no es una cuestión de seguridad abstracta, sino un aspecto fundamental en la optimización de procesos. En estos momentos están decidiendo cuánta autonomía pueden y quieren otorgar a un agente en la comprobación de documentos y el procesamiento de los mismos. Este artículo responde a las preguntas que realmente importan: ¿cuándo puede un agente de IA tomar decisiones por sí solo en un proceso documental?, ¿en qué casos debe seguir recayendo la aprobación en una persona?, y ¿quién asume la responsabilidad si el agente se equivoca?

En qué se diferencia un agente de IA de la automatización clásica

Un agente de IA no solo responde a una consulta, sino que persigue un objetivo. Sven Beck, cofundador y director de Tecnología y Producto de BLP Digital, describe la diferencia en un Análisis sobre la IA agentiva Según BigData-Insider, del 20 de agosto de 2026: un agente „persigue un objetivo, interpreta el contexto, elige herramientas, lleva a cabo acciones y evalúa el resultado“. Por lo tanto, es él mismo quien elige el siguiente paso, en lugar de seguir uno predeterminado.

Para el proceso de gestión documental, esa es la diferencia clave. La automatización basada en reglas es fiable, pero rígida. Sobre la automatización robótica de procesos (RPA), el OCR (reconocimiento óptico de caracteres) y los flujos de trabajo clásicos, Beck escribe: „Cada una de estas tecnologías funciona de forma determinista y basada en reglas: funciona de manera fiable siempre que los datos introducidos se ajusten al patrón esperado“. Si el formato de una factura difiere o falta una partida, la cadena se rompe. Un agente puede continuar trabajando en ese punto, ya que evalúa el contexto en lugar de buscar una regla.

Eso es lo que lo diferencia de la Extracción clásica de datos con modelos de lenguaje grande (LLM), en la que un modelo realiza una lectura y ofrece un resultado. Sin embargo, también cambia el tipo de error. Un sistema basado en reglas falla de forma visible: el proceso se detiene y alguien recibe un aviso. Un agente falla de forma invisible, porque sigue adelante y genera un resultado plausible.

¿Qué ocurre si alguien contradice al agente?

Esta complacencia es la norma en el fracaso invisible, y ya ha llegado a ser desmesurada. Un equipo de la Universidad de Stanford, dirigido por Aaron Fanous, ha... el procedimiento de evaluación SycEval Se desarrolló y se presentó el trabajo en la AIES 2025. Se evaluaron tres modelos que se utilizan realmente en las empresas: ChatGPT-4o, Claude Sonnet y Gemini 1.5 Pro.

El procedimiento es sencillo. El modelo responde a una pregunta, ya sea de un conjunto de datos matemáticos (AMPS) o de una recopilación de preguntas médicas (MedQuad), y la primera respuesta se califica como correcta o incorrecta. A continuación, el diseño de la prueba le contradice en cuatro niveles de presión creciente. El primer nivel se limita a afirmar que la respuesta es incorrecta; el segundo se presenta con tono autoritario; el tercero, con un razonamiento lógico; y el cuarto, recurriendo a una fuente científica. Tras cada nivel, el diseño de la prueba comprueba de nuevo si el modelo se mantiene firme en su respuesta. A partir de 3.000 preguntas iniciales se generaron así 24.000 rondas de contradicción, de las cuales 15.345 fueron evaluables.

Si se toma la media de los tres modelos, cedieron en el 58,19 % de los casos. Lo decisivo es la dirección. En el 43,52 % de los casos, el cambio de opinión condujo a la respuesta correcta: el modelo se había equivocado y se dejó corregir. Es decir, ocurrió exactamente lo que se espera de un bucle de verificación. Sin embargo, en el 14,66 % de los casos, el modelo tenía razón y abandonó la respuesta correcta a pesar de la contradicción.

Aplicado a un proceso de gestión documental, esto significa lo siguiente: un agente lee en una factura un importe neto de 4.812 euros. Un paso de verificación posterior o un gestor lo contradice. En lugar de insistir en el valor que figura en el documento, el agente corrige su lectura para ajustarse a la objeción, aunque el documento sea inequívoco. En la verificación de documentos, esto no es solo una cuestión de comodidad, sino un riesgo de responsabilidad: el proceso documenta una verificación que, en realidad, no se ha llevado a cabo.

Sin embargo, esto no implica un rechazo generalizado a los agentes. Más bien se deduce de ello la conclusión de que la autonomía no es un interruptor que se pueda activar o desactivar, sino una variable que hay que evaluar y desarrollar en cada paso del proceso.

Cómo se mide la autonomía de un agente de IA

En la práctica, el límite no se establece en función de los tipos de documentos, sino de los valores de confianza. Un valor de confianza es un número comprendido entre cero y uno con el que un modelo indica el grado de seguridad que tiene respecto a un campo extraído. Por encima de un umbral definido, un documento pasa sin intervención humana; por debajo, pasa a una lista de revisión. En el artículo sobre procesamiento automatizado de documentos. El porcentaje de documentos que se procesan sin intervención es el Porcentaje de procesamiento en la oscuridad.

Un agente no altera en nada este principio. Solo cambia el objeto al que se refiere el valor de confianza: ya no se refiere a un único campo extraído, sino a una acción. La pregunta ya no es „¿Qué grado de seguridad tiene el importe?“, sino „¿Qué grado de seguridad tiene la decisión de autorizar el pago de esta factura?“. Y ahí radica la diferencia que complica la cuestión de la autonomía: en el caso de un campo concreto, esta seguridad se mide y se puede comprobar. En el caso de una cadena de operaciones que incluye lectura, comparación, verificación de plausibilidad y autorización, es el resultado de varias incertidumbres, cada una de las cuales pasa desapercibida.

Por eso es Humano en el bucle ni siquiera en el caso de los agentes se trata de una fase de transición hacia la automatización total. El ser humano sigue formando parte del proceso de forma permanente y se encarga de los casos en los que el propio sistema señala una incertidumbre; todo lo demás se gestiona como Procesamiento directo (Straight Through Processing) . Sin embargo, en el caso de un agente, este punto de referencia debe redefinirse. Ya no se sitúa en el campo, sino en la acción con repercusiones financieras o jurídicas.

Qué implica esto para la implantación

El NCSC ha formulado una regla de comprobación precisamente para esta situación. En la publicación Reflexionar detenidamente antes de adoptar la IA agentiva En una carta del 15 de mayo de 2026, los autores Martin R y la Dra. Kate S escriben: „Si no se pueden comprender, supervisar o limitar las acciones de un agente, este no está listo para su implementación“. Comprender, supervisar, limitar. Si falta una de estas tres capacidades, el agente no está listo para su implementación.

La autoridad aclara además quién es el responsable: „Los seres humanos siguen siendo responsables de la decisión de implementarlo, del acceso que se le ha concedido, de las medidas de seguridad que lo rodean y de las consecuencias de su funcionamiento“. Por lo tanto, la responsabilidad sobre la puesta en funcionamiento, los accesos concedidos, las medidas de protección y las consecuencias recae en las personas. Un agente no es un responsable, sino una herramienta con derechos ampliados.

En la práctica, esto implica tres cosas. En primer lugar, cada agente necesita una persona designada que sea su responsable, que autorice sus accesos y que, en caso de duda, pueda detenerlo. En segundo lugar, se aplica el principio de derechos mínimos: un agente que lee las facturas recibidas no necesita acceso de escritura a los datos maestros. En tercer lugar, su comportamiento debe ser visible en todo momento, no solo a posteriori, pues eso es precisamente lo que advierte el dictamen de agosto.

En el caso de las empresas de sectores regulados, a esto se suma el hecho de que estos registros ya son obligatorios. Quienes ya registran qué documento ha sido autorizado y por quién deben ampliar este registro a las decisiones de los agentes. El requisito no es nuevo, solo lo es el actor.

La línea divisoria está entre la preparación y la aprobación

Un agente de IA destaca allí donde la automatización clásica falla: en diseños atípicos, posiciones que faltan y procesos que se ejecutan en varios sistemas. Es débil precisamente allí donde más se querría confiar en él, es decir, a la hora de insistir en un resultado correcto frente a contradicciones. Lo que se puede transferir no es la cifra medida, sino el mecanismo que hay detrás: el hecho de dotar a un agente de bucles de verificación no lo hace automáticamente más preciso.

De ello se deriva casi de forma natural una división del trabajo eficaz. El agente prepara, recopila, compara y propone. La autorización con efectos financieros o jurídicos se queda en un umbral fijado por una persona y, en caso de duda, depende de la propia persona. Esto no es una automatización a medias. Es la forma en la que la automatización resiste un examen.

Si quiere dar el siguiente paso, no empiece por la arquitectura de agentes, sino por una cifra: mida la tasa actual de procesamiento en segundo plano de su proceso documental y la tasa de errores en los casos que ya se tramitan hoy en día sin intervención alguna. Sin este valor de referencia, más adelante no se podrá demostrar si el agente ha mejorado el proceso o si simplemente se equivoca más rápido.