Poner una persona al final de cada respuesta parece prudente. A menudo produce lo contrario: cientos de revisiones rutinarias, atención degradada y un clic automático en “aprobar”. La supervisión existe en el diagrama, pero ha dejado de controlar nada.
El human in the loop funciona cuando el sistema envía a una persona las decisiones que necesitan criterio, autoridad o responsabilidad. No cuando convierte todo el trabajo en una cola manual.
“Hay una persona revisando” no describe un control
Para que exista supervisión efectiva hay que responder cinco preguntas: quién revisa, qué recibe, qué decisión puede tomar, cuánto tiempo tiene y qué ocurre después.
Una persona que solo ve la recomendación del modelo tiende a anclarse en ella. Una persona que no puede acceder a la fuente no puede comprobarla. Y una aprobación sin alternativa operativa es una formalidad.
NIST recomienda definir y diferenciar responsabilidades en configuraciones humano–IA, documentar la supervisión y medir anulaciones, quejas, errores y decisiones de avance o parada (NIST AI RMF, NIST Playbook).
Cuatro momentos distintos para intervenir
| Momento | Qué hace la persona | Ejemplo |
|---|---|---|
| Antes | autoriza objetivo, datos, límites o plan | aprobar una campaña o un pago propuesto |
| Durante | resuelve una excepción y devuelve el flujo | aclarar una identidad o política ambigua |
| Después | revisa una muestra y detecta deriva | auditar contratos ya clasificados |
| Fuera del caso | cambia reglas, datos o sistema | retirar una herramienta tras un patrón de fallos |
No todos los usos necesitan los cuatro. Una acción irreversible puede exigir aprobación previa; un clasificador de bajo impacto puede operar con muestreo posterior y alertas.
La matriz que decide dónde colocar a la persona
Aumenta la supervisión cuando crecen el impacto del error, la dificultad de corregirlo, la sensibilidad de los datos o la ambigüedad del caso. Redúcela cuando el resultado es verificable, reversible y acotado.
| Impacto y reversibilidad | Caso claro | Caso ambiguo |
|---|---|---|
| Bajo impacto y reversible | ejecución automática con logs | aclaración o muestreo |
| Impacto medio y reversible | reglas y revisión por excepción | revisión antes de actuar |
| Alto impacto o difícil de revertir | aprobación explícita | decisión humana con apoyo de IA |
La confianza declarada por el modelo no basta para enrutar. Conviene combinar señales observables: falta de documentación, conflicto entre fuentes, importe, categoría sensible, novedad, fallo de herramienta o salida fuera del esquema.
El revisor necesita independencia
Mostrar primero una conclusión contundente y después cien páginas de evidencia favorece la aceptación rápida. La interfaz puede presentar hechos, discrepancias y criterios antes de la recomendación, o pedir una valoración inicial en decisiones especialmente sensibles.
La independencia también exige separar incentivos. Si el equipo es penalizado por frenar el flujo, aprobará más. Si cada escalado empeora su métrica, el sistema aprenderá a ocultar incertidumbre.
En sistemas de alto riesgo, el AI Act exige que la persona asignada esté adecuadamente equipada y facultada para ejercer la supervisión. La Comisión subraya que el responsable del despliegue debe asignar esa función y monitorizar el sistema conforme a las instrucciones (Comisión Europea). Los detalles legales dependen del rol y el sistema; el principio operativo es más amplio: no hay supervisión si nadie puede intervenir.
Un ejemplo que parece seguro y no lo es
Un agente prepara reembolsos. Todos pasan por una persona. Al principio se revisan con cuidado; al mes, el 97% se aprueba y la cola crece. El equipo empieza a validar en bloque.
El rediseño separa tres rutas. Los importes bajos, con identidad confirmada y política inequívoca, se ejecutan automáticamente. Los casos con discrepancias muestran la regla, la evidencia y la acción propuesta. Los importes altos requieren doble comprobación independiente.
La revisión total baja, pero el control mejora: las personas dedican atención a las excepciones, y una muestra aleatoria de la ruta automática vigila deriva y fraude.
Supervisión por excepción no significa confiar a ciegas
La ruta automática necesita límites, trazas, pruebas y capacidad de parada. El muestreo debe cubrir segmentos, no solo una media: idioma, región, tipo de cliente, importe y casos nuevos.
Hay fallos que no generan una excepción visible. Un sistema puede tratar de forma consistentemente peor a un grupo sin superar ningún umbral por caso. Por eso la revisión individual se complementa con evaluación agregada e investigación de reclamaciones.
Cinco métricas para saber si el control funciona
- Tasa de anulación: cuántas propuestas cambia la persona y por qué.
- Precisión del escalado: cuántos casos remitidos necesitaban realmente criterio humano.
- Errores no detectados: incidentes encontrados después de aprobar o automatizar.
- Tiempo y carga: demora, volumen por revisor y señales de aprobación automática.
- Aprendizaje: fallos repetidos que se convierten en cambios de regla, datos o evaluación.
Una tasa de anulación cercana a cero puede significar un sistema excelente, un umbral demasiado conservador o revisores que no prestan atención. La métrica necesita contexto.
Cuándo no recomendamos una aprobación humana previa
- Cuando el resultado puede verificarse automáticamente con mayor fiabilidad.
- Cuando la acción es reversible y de impacto bajo.
- Cuando el volumen impide una revisión atenta.
- Cuando la persona no dispone de información o autoridad adicional.
- Cuando la revisión solo replica el juicio que el modelo ya automatizó.
En esos casos funcionan mejor reglas, pruebas, muestreo, alertas o revisión posterior.
Preguntas frecuentes
¿Human in the loop significa que la persona toma la decisión final?
No siempre. Puede aprobar antes, resolver excepciones, auditar después o cambiar el sistema. La posición depende del riesgo y del proceso.
¿Qué porcentaje de casos debe revisarse?
No existe un porcentaje universal. Se determina con impacto, desempeño medido, segmentos, novedad y capacidad de detección. Debe cambiar cuando cambia el riesgo.
¿Puede la IA revisar a otra IA?
Puede actuar como filtro o evaluador, pero no sustituye automáticamente la responsabilidad humana. Sus errores correlacionados y límites también deben medirse.
¿Cómo se evita la fatiga del revisor?
Reduciendo casos triviales, presentando evidencia clara, limitando carga, rotando tareas y midiendo tiempos y anulaciones. La calidad de la interfaz importa.
Supervisar menos puede controlar mejor
La presencia de una persona no convierte un proceso en responsable. Lo hace la capacidad de esa persona para detectar algo que el sistema no puede, actuar y mejorar el flujo.
Si todas las decisiones llegan al mismo revisor con el mismo formato, el diseño aún no ha decidido dónde necesita realmente juicio humano.
Fuentes consultadas
Fuentes y vigencia revisadas el 18 de agosto de 2026.