Dos llamadas al mismo modelo pueden consumir tiempos muy distintos y devolver resultados de calidad diferente. No es necesariamente una anomalía. Los modelos de razonamiento actuales pueden dedicar más trabajo a una tarea difícil, explorar alternativas, usar herramientas y verificar partes de la respuesta antes de entregarla.
La inferencia ha dejado de ser una caja de duración casi fija. Para diseñar una aplicación fiable hay que decidir cuánto razonamiento merece cada tarea, qué puede comprobarse fuera del modelo y cuándo seguir pensando deja de compensar.
Razonar más no es responder más largo
El test-time compute es el trabajo adicional que un sistema realiza cuando resuelve una petición. Puede aparecer como mayor esfuerzo de razonamiento dentro del modelo, búsquedas sucesivas, generación de varias soluciones, ejecución de código o una revisión independiente.
OpenAI observó que el rendimiento de sus primeros modelos de razonamiento mejoraba al aumentar el tiempo de cómputo durante la inferencia (OpenAI). En agentes de búsqueda, el efecto también puede venir de explorar más fuentes o comparar varios intentos antes de elegir una respuesta (BrowseComp).
Nada de esto implica que todos los problemas se beneficien por igual. Clasificar un correo evidente, extraer una fecha o aplicar una política determinista no debería activar el modo más costoso. En cambio, conciliar cifras contradictorias o preparar una modificación de código con pruebas puede justificar más pasos.
El presupuesto debe formar parte de la arquitectura
El presupuesto puede expresarse en tiempo, tokens, llamadas, búsquedas o coste máximo. También necesita una condición de salida: una prueba superada, evidencia suficiente, un umbral de confianza operativo o la imposibilidad explícita de continuar.
Sin ese control, el agente puede mejorar marginalmente una respuesta durante varios minutos o repetir la misma estrategia con palabras distintas. Loop engineering resulta más útil que la instrucción genérica “piensa mejor”: cada vuelta debe producir nueva evidencia o acercar una comprobación.
Cuatro formas de gastar inferencia
| Mecanismo | Qué añade | Cuándo aporta valor | Riesgo habitual |
|---|---|---|---|
| Mayor esfuerzo interno | Más deliberación antes de responder | Problemas ambiguos o multietapa | Latencia y coste difíciles de prever |
| Herramientas verificables | Cálculo, código, bases de datos o búsqueda | Cuando existe una fuente externa de verdad | Herramienta mal elegida o dato desactualizado |
| Varios intentos | Soluciones independientes que se comparan | Tareas con variabilidad y criterio claro | Pagar diversidad sin un buen selector |
| Evaluador–corrector | Una salida se critica y revisa | Cuando la calidad puede describirse | Bucle de mejoras cosméticas |
La combinación correcta depende de la tarea. Para sumar una tabla es mejor ejecutar código que pedir una reflexión extensa. Para una investigación, buscar y citar supera a generar cinco respuestas sin fuentes. Para una decisión de alto impacto, una revisión independiente puede detectar supuestos que el primer intento arrastra.
Verificar cambia más que pensar
Los dominios con resultados comprobables aprovechan especialmente el cómputo adicional. Un cambio de software puede ejecutar pruebas; una consulta de datos, reconciliar totales; una planificación, comprobar restricciones. El sistema obtiene ground truth del entorno y corrige su trayectoria.
Cuando el criterio es subjetivo, aumentar intentos no garantiza convergencia. Tres modelos pueden coincidir en una recomendación porque comparten el mismo dato incorrecto. Hace falta diseñar verificadores distintos: reglas, fuentes primarias, simulaciones, revisión experta o consecuencias observables.
Los benchmarks también dependen del presupuesto y del entorno. OpenAI recomienda describir el rendimiento bajo un harness y un presupuesto concretos, no tratarlo como un techo fijo de capacidad (OpenAI). En producción ocurre lo mismo: cambiar el límite de búsqueda o el número de intentos puede alterar tanto el resultado como cambiar de modelo.
Ejemplo: conciliar un cierre financiero
Una primera pasada identifica partidas que no cuadran. El agente no redacta todavía una explicación. Ejecuta consultas de solo lectura, comprueba periodos y moneda, y separa diferencias reales de desfases de contabilización.
Si una discrepancia supera el umbral, genera dos hipótesis y busca evidencia para refutarlas. Un verificador recalcula los totales desde las fuentes. La tarea termina cuando todas las partidas están conciliadas o cuando queda una excepción con propietario, evidencia y siguiente acción.
El presupuesto alto se reserva para las excepciones. Las líneas que cuadran con una regla conocida no necesitan “pensar” durante más tiempo.
El razonamiento interno no sustituye una traza operativa
No conviene basar auditoría o seguridad en exigir que el modelo revele todo su razonamiento interno. Lo que la aplicación necesita registrar son hechos observables: instrucciones efectivas, fuentes consultadas, herramientas, entradas y salidas relevantes, decisiones de enrutamiento, verificaciones, aprobaciones y resultado.
La investigación sobre monitorización de cadenas de pensamiento sigue activa y muestra que su comportamiento cambia con el entrenamiento y el esfuerzo de inferencia (OpenAI). Para una empresa, la evidencia operativa y las comprobaciones externas ofrecen un contrato más estable.
Diseñar latencia variable sin castigar al usuario
Una interfaz debe distinguir entre una respuesta breve y un trabajo que puede tardar. Mostrar progreso, permitir cancelar y entregar resultados parciales útiles reduce la sensación de bloqueo. En procesos asíncronos, el usuario no necesita mantener una ventana abierta; sí necesita saber qué está ocurriendo y cuándo se detendrá.
El model routing puede asignar tareas sencillas a modelos rápidos y reservar el razonamiento profundo para casos difíciles. La decisión debe apoyarse en evaluaciones reales, no en la longitud del mensaje: una pregunta corta puede encerrar una operación de alto riesgo.
Lista de control para producción
- Existe un presupuesto máximo por tipo de tarea.
- Cada iteración debe añadir evidencia, ejecutar una prueba o cambiar de estrategia.
- Los verificadores son independientes del texto convincente de la respuesta.
- La latencia y el coste se miden por resultado aceptado.
- El usuario puede ver progreso, cancelar o escalar cuando corresponde.
- Los logs conservan acciones y evidencias sin depender de razonamientos privados.
Preguntas frecuentes
¿Un modelo de razonamiento siempre es mejor?
No. En tareas sencillas puede ser más lento y caro sin mejorar el resultado. La comparación debe hacerse con casos reales y una barra de calidad definida.
¿Más tokens de razonamiento garantizan precisión?
No. Pueden ayudar, pero también prolongar una estrategia equivocada. Las herramientas y verificaciones externas suelen marcar la diferencia.
¿Cómo se decide el esfuerzo adecuado?
Por dificultad, impacto del error, urgencia, coste y posibilidad de comprobar la salida. El enrutamiento puede ajustarse con datos históricos.
¿Conviene generar varias respuestas y votar?
Cuando los intentos son suficientemente independientes y existe un selector fiable. Un voto mayoritario puede reforzar un error compartido.
¿Qué debe medir una evaluación?
Éxito de tarea, coste completo, latencia, intentos, herramientas utilizadas, correcciones y escalados. El presupuesto probado debe quedar documentado.
La inteligencia también necesita un límite
El avance no consiste únicamente en modelos que pueden pensar durante más tiempo. Consiste en aplicaciones capaces de decidir cuándo merece la pena, cómo comprobar el trabajo y cuándo parar.
El mejor presupuesto no es el máximo. Es el menor que alcanza de forma repetible la calidad exigida para esa tarea.
Fuentes consultadas
- Learning to reason with LLMs — OpenAI
- BrowseComp: a benchmark for browsing agents — OpenAI
- A shared playbook for trustworthy third-party evaluations — OpenAI
- Evaluating chain-of-thought monitorability — OpenAI
- Demystifying evals for AI agents — Anthropic
Fuentes y vigencia técnica revisadas el 18 de agosto de 2026.