Añadir un botón de aprobación no crea supervisión. Si la persona no entiende el límite del sistema, recibe demasiados casos, carece de información o no puede detener la acción, la revisión solo desplaza la responsabilidad al último clic.
Esta guía permite diseñar una supervisión proporcional al daño, la reversibilidad y la incertidumbre. El resultado es un canvas con decisiones, roles, información, autoridad, tiempos, escalado y métricas que pueden probarse antes de ampliar la autonomía.
La pregunta correcta: ¿qué decisión debe poder cambiar una persona?
La supervisión útil empieza por una intervención observable. Puede impedir que una recomendación se convierta en acción, detectar una desviación, resolver una excepción, revisar una muestra, limitar permisos o detener el sistema. «Habrá un humano en el proceso» no especifica nada de eso.
El NIST AI RMF recuerda que no todos los sistemas necesitan supervisión humana y que las configuraciones pueden ir de completamente manuales a autónomas. También advierte de que la interacción puede amplificar sesgos y que presentar información útil a personas es complejo. Por tanto, más revisión no siempre significa más seguridad.
Antes de diseñar la intervención, documenta:
- La acción o decisión que produce el sistema.
- El daño posible y quién lo soporta.
- La facilidad para detectar el error.
- La reversibilidad y el tiempo disponible.
- La incertidumbre que el sistema puede expresar.
- La competencia y autoridad necesarias para intervenir.
El canvas de supervisión humana
Completa una ficha por decisión o acción relevante. Un mismo sistema puede necesitar patrones distintos: consulta automática para casos de bajo impacto, revisión de excepciones y aprobación previa para acciones irreversibles.
| Campo | Pregunta de diseño | Evidencia esperada |
|---|---|---|
| Decisión o acción | ¿Qué salida puede cambiar el estado del mundo? | Flujo y límites de autonomía |
| Riesgo que se controla | ¿Qué daño debe prevenir, detectar o contener la persona? | Escenario del registro de riesgos |
| Punto de intervención | ¿Antes, durante o después de la acción? | Diagrama del proceso |
| Disparador | ¿Se revisan todos los casos, excepciones, alertas o una muestra? | Regla reproducible |
| Información | ¿Qué contexto, fuente, incertidumbre y alternativa ve el revisor? | Prototipo de interfaz |
| Autoridad | ¿Puede rechazar, corregir, posponer, revertir o detener? | Permisos y procedimiento |
| Competencia | ¿Qué conocimiento y entrenamiento necesita? | Perfil y prueba de capacitación |
| Tiempo y carga | ¿Cuánto tarda un caso y cuántos llegan en el peor momento? | Simulación de capacidad |
| Escalado | ¿Qué ocurre si no puede decidir, no responde o discrepa? | Ruta, plazo y responsable |
| Registro | ¿Qué decisión, motivo, versión y evidencia se conservan? | Evento auditable |
| Métrica | ¿Cómo sabremos que la supervisión reduce el riesgo? | Umbral y revisión periódica |
El canvas debe enlazar con el registro de riesgos de IA. Si una intervención no controla ningún escenario identificado, puede ser fricción sin propósito. Si un riesgo crítico no tiene control ni autoridad de parada, el diseño está incompleto.
Cuatro patrones de intervención
| Patrón | Cuándo encaja | Riesgo principal |
|---|---|---|
| Aprobación previa | Acción de impacto alto o difícil de revertir | Fatiga, aprobación automática y cuello de botella |
| Revisión de excepciones | El sistema identifica incertidumbre o condiciones fuera de política | Que el disparador no detecte los casos realmente peligrosos |
| Monitorización y muestreo | Volumen alto, acciones reversibles y señales tempranas útiles | Detectar tarde un fallo sistemático o segmentado |
| Intervención por incidente | El sistema opera dentro de límites y puede detenerse de forma segura | No disponer de alertas, registros o procedimiento ensayado |
La aprobación previa no es la opción «más segura» por defecto. Si llegan mil decisiones similares y el revisor dispone de segundos, la interfaz puede convertir la salida de IA en ancla y reducir la atención. En casos reversibles y bien monitorizados, el muestreo estratificado y la revisión de excepciones pueden descubrir mejor los fallos.
Para elegir el patrón, combina impacto, reversibilidad, detectabilidad y tiempo. La guía para decidir la autonomía de un agente amplía esta relación entre riesgo y permisos.
Dónde colocar la revisión
La persona no sustituye controles técnicos: trabaja con ellos y deja una decisión trazable.
La revisión puede situarse antes del resultado, antes de una acción externa, durante la operación o después mediante auditoría. Elige el punto en el que todavía se pueda cambiar la consecuencia.
Revisar un informe después de enviarlo no evita el daño. Aprobar cada borrador antes de que el usuario lo lea puede ser innecesario. En un agente, suele ser más útil revisar el plan y las acciones con efectos que cada paso interno de razonamiento.
Qué debe mostrar la interfaz
Una interfaz de supervisión no debe limitarse a una recomendación y dos botones. El revisor necesita la información suficiente para formar un criterio independiente:
- Qué se propone y con qué efecto. Muestra la acción concreta, el objeto afectado y si puede revertirse.
- Qué evidencia utiliza. Presenta fuentes, versión, fecha y fragmentos relevantes, no una explicación genérica.
- Qué incertidumbre existe. Incluye límites conocidos, datos ausentes, conflicto entre fuentes o salida fuera de distribución.
- Qué alternativas tiene la persona. Rechazar, editar, pedir información, escalar, posponer y detener deben ser opciones reales cuando correspondan.
- Qué ocurrió antes. Historial, intentos, cambios y decisiones previas evitan revisar un caso aislado de su contexto.
El Reglamento europeo de IA exige para determinados sistemas de alto riesgo que las personas asignadas a supervisión puedan comprender capacidades y limitaciones, detectar anomalías, evitar la confianza excesiva, interpretar la salida, ignorarla o revertirla e intervenir o detener el sistema. El artículo 14 del texto consolidado también exige medidas proporcionales al riesgo, la autonomía y el contexto.
Estas obligaciones no convierten todas las aplicaciones en alto riesgo. Tras el AI Omnibus, las reglas de alto riesgo del anexo III se aplican desde el 2 de diciembre de 2027 y las de determinados productos del anexo I desde el 2 de agosto de 2028, según la Comisión Europea. Los principios de buen diseño pueden aplicarse voluntariamente antes o fuera de esos casos.
Competencia, tiempo y autoridad
Una persona puede conocer el negocio y aun así no estar preparada para supervisar el sistema. Debe reconocer los límites relevantes, comprender la interfaz, saber qué evidencia es fiable y practicar las intervenciones excepcionales.
La autoridad importa tanto como la capacitación. Si rechazar una salida reduce el KPI del revisor, detener el flujo exige llamar a un superior o cada anulación debe justificarse durante veinte minutos, la organización ha diseñado un incentivo para aceptar.
Prueba la capacidad con el volumen más exigente razonable. Incluye pausas, turnos, ausencias, picos y casos que necesitan una segunda opinión. El plan debe decir qué ocurre cuando nadie responde dentro del tiempo disponible: detener, pasar a modo manual, conservar la propuesta o ejecutar una alternativa segura.
Cómo probar la supervisión antes del lanzamiento
No informes al revisor de qué casos contienen errores. Inserta fallos representativos y mide si la configuración humano–IA mejora el resultado frente a la persona y el sistema por separado.
- Construye casos de prueba. Incluye errores obvios, errores plausibles, información incompleta, recomendaciones correctas y casos que deben escalarse.
- Prueba sin IA. Conserva una línea base de precisión, tiempo, desacuerdo y confianza de la persona.
- Prueba con la interfaz real. Utiliza el mismo contexto, presión de tiempo y volumen previstos; no una demostración guiada.
- Mide el efecto de anclaje. Observa si la persona corrige errores o cambia decisiones correctas para seguir al sistema.
- Ensaya autoridad y escalado. Comprueba que detener, revertir o pedir ayuda funciona técnica y organizativamente.
- Ajusta y repite. Cambia información, disparadores, carga o autonomía y vuelve a ejecutar una muestra reservada.
Métricas que distinguen control de trámite
| Métrica | Qué revela |
|---|---|
| Tasa de detección de errores relevantes | Si la persona encuentra los fallos que justifican la revisión |
| Anulaciones correctas e incorrectas | Si la intervención mejora o empeora el resultado |
| Errores compartidos humano–IA | Si ambos fallan en los mismos casos y el control no es independiente |
| Tasa y calidad de escalado | Si los casos inciertos llegan al nivel adecuado |
| Tiempo por caso y cola máxima | Si la capacidad existe también en picos |
| Uso de parada, reversión y modo manual | Si la autoridad se utiliza cuando corresponde |
| Diferencias por segmento o tipo de caso | Si una media agregada oculta grupos con peor control |
| Incidentes detectados tarde | Si el punto de intervención llega después del daño |
No fijes una tasa objetivo de anulaciones sin contexto. Cero anulaciones puede significar que el sistema es excelente o que nadie lo cuestiona. Un aumento puede revelar deterioro o una mejor cultura de intervención. Revisa motivos y resultados, no solo el porcentaje.
Ejemplo ilustrativo: priorizar facturas para revisión
Un sistema asigna prioridad a facturas con posibles discrepancias. La primera versión muestra una puntuación de riesgo y pide «aprobar» o «rechazar». Los revisores aceptan casi todo porque no ven el pedido, la regla incumplida ni el historial del proveedor.
El rediseño convierte la IA en propuesta: muestra los campos en conflicto, enlaza a la fuente y separa casos sin evidencia. Los importes altos o los cambios de cuenta requieren una segunda verificación; el resto se muestrea. El revisor puede corregir el motivo, escalar a fraude o devolver el caso al flujo manual.
La prueba descubre que la segunda verificación reduce errores en importes altos, pero añade cola innecesaria a discrepancias menores. La supervisión se mantiene donde cambia el riesgo y se simplifica donde solo repetía trabajo.
Cuándo la supervisión humana no es la respuesta
No utilices una persona para compensar un sistema que no cumple el umbral mínimo, datos sin permiso, una arquitectura con privilegios excesivos o una interfaz que oculta la evidencia. Tampoco para revisar a una velocidad imposible o asumir responsabilidad sin capacidad de decisión.
En algunos casos la respuesta adecuada es reducir autonomía, mejorar controles técnicos, limitar el uso, automatizar una regla determinista o no desplegar. La supervisión es una capa de control, no una exención para problemas no resueltos.
Preguntas frecuentes
¿Hay que revisar todas las salidas de un sistema de IA?
No. La cobertura debe responder al riesgo y al modo de fallo. Algunas acciones requieren aprobación previa; otras pueden gestionarse con excepciones, muestreo y monitorización. Revisarlo todo puede ser inviable y crear automatización por cansancio. Documenta por qué se elige cada patrón y prueba que detecta los casos importantes.
¿Quién debe realizar la supervisión?
La persona con conocimiento del dominio, formación sobre el sistema, acceso a la evidencia y autoridad para intervenir. Puede haber varios niveles: usuario operativo, especialista, seguridad o responsable de negocio. El proveedor técnico no debe decidir por sí solo qué riesgo residual acepta la organización desplegadora.
¿Una explicación del modelo evita el sesgo de automatización?
No por sí sola. Una explicación puede ayudar o reforzar una salida incorrecta si parece convincente. La interfaz debe facilitar una valoración independiente, mostrar fuentes y límites, y permitir comprobar alternativas. La eficacia se valida con pruebas de interacción, no dando por supuesto que más información produce mejores decisiones.
¿Cómo se documenta la supervisión para una auditoría?
Conserva el diseño del flujo, riesgos controlados, roles, capacitación, versiones, reglas de disparo, permisos, pruebas, decisiones y cambios. En producción registra la intervención de forma proporcionada: qué se propuso, quién decidió, qué hizo, por qué, con qué evidencia y cuál fue el resultado. Evita recoger datos personales innecesarios solo para aumentar trazabilidad.
El humano debe poder cambiar el resultado, no solo firmarlo
La supervisión útil no se mide por cuántas personas aparecen en el diagrama. Se mide por si una persona preparada detecta el problema a tiempo, comprende la evidencia y dispone de una acción segura que modifica la consecuencia.
En INSTINTIA diseñamos autonomía, permisos, interfaz, escalado y evaluación como un único sistema de control, y los probamos con el trabajo real antes de ampliar alcance.
Fuentes y lecturas recomendadas
- Reglamento (UE) 2024/1689, texto consolidado de 27 de julio de 2026, especialmente el artículo 14 sobre supervisión humana.
- Comisión Europea: AI Act y calendario de aplicación, actualizado en agosto de 2026.
- NIST AI RMF, apéndice C: gestión de riesgos e interacción humano–IA, consultado el 20 de agosto de 2026.
- NIST AI RMF Core, apartados sobre roles, capacitación, supervisión y evaluación, consultado el 20 de agosto de 2026. NIST informa de que AI RMF 1.0 está en revisión.
Fuentes y vigencia revisadas el 20 de agosto de 2026. El canvas, los patrones y las métricas son una propuesta metodológica de INSTINTIA y deben adaptarse al riesgo, el sector y la normativa aplicable.