Humano en el bucle: dónde poner el visto bueno cuando trabajan los agentes

Imagina que llegas un lunes por la mañana y tu agente de IA ya ha enviado un email a trescientos clientes con una oferta que tenía un error de precio. O que ha movido fondos a una cuenta porque «la lógica decía que tocaba». O que ha borrado registros de una base de datos porque alguien no había especificado bien la condición.

No es ciencia ficción. Es exactamente lo que pasa cuando automatizas sin pensar en qué decisiones tiene que tomar una persona antes de que el agente actúe.

La supervisión humana en agentes de IA —o human in the loop, en inglés— es el principio de diseño que coloca a una persona en los puntos críticos del flujo antes de que el sistema ejecute una acción con consecuencias reales. No es eliminar la automatización, sino diseñar los puntos exactos donde alguien tiene que decir que sí antes de que algo ocurra. El arte está en elegir cuáles. Si los pones en todo, no ganas nada. Si no los pones en ninguno, corres un riesgo innecesario.

Y no es solo buena práctica: el Reglamento Europeo de Inteligencia Artificial (AI Act) establece explícitamente la supervisión humana (human oversight) como requisito para los sistemas de IA de alto riesgo. Si tu empresa usa agentes en contratación, gestión de crédito, infraestructura crítica o servicios similares, esto ya es marco regulatorio, no recomendación.

—

Cómo funciona la supervisión humana en agentes de IA en la práctica

El concepto, una vez definido, es intuitivo: hay al menos un paso en el proceso donde una persona tiene que aprobar antes de que el sistema continúe. No estás quitando al agente: estás poniendo un semáforo en las intersecciones que importan.

El principio de fondo es sencillo: autonomía total en lo reversible, aprobación humana en lo irreversible o de alto impacto.

Si el agente clasifica emails y se equivoca, lo revisas y lo corriges. Si el agente envía un email a mil clientes y se equivoca, el daño ya está hecho. La diferencia entre esas dos situaciones es lo que define dónde pones el gate.

No es un problema tecnológico. Es un problema de diseño de proceso.

—

La pregunta que tienes que hacerte antes de automatizar cualquier tarea

Antes de dejar que un agente haga algo de forma autónoma, hazte esta pregunta:

¿Si el agente se equivoca aquí, puedo deshacerlo en menos de diez minutos sin consecuencias graves?

Si la respuesta es sí, déjalo correr solo. Si la respuesta es no, pon un gate humano.

Es así de simple en teoría. La dificultad está en aplicarlo a cada paso de cada proceso. La mayoría de las empresas no lo piensan antes de desplegar, lo descubren después de algún incidente.

—

Dónde SÍ poner aprobación humana obligatoria

Hay cuatro categorías donde casi siempre merece la pena poner un gate:

1. Mover dinero o comprometer recursos económicos

Cualquier acción que genere un gasto, una transferencia, una compra o un compromiso de pago. Da igual que sea una compra de material por 200 euros o una renovación de contrato por 20.000. Si el agente puede equivocarse en el importe, en el destinatario o en el concepto, necesitas que un humano lo confirme antes.

Esto incluye aprobar facturas, emitir presupuestos, hacer pedidos a proveedores o ejecutar cualquier transacción financiera.

2. Enviar comunicaciones a clientes o terceros externos

Un email enviado no se puede «no enviar». Una notificación ya llegó. Un mensaje de WhatsApp Business ya fue leído. Cualquier comunicación que sale de tu empresa hacia alguien externo —clientes, proveedores, partners, medios— necesita que alguien lo haya revisado antes.

El agente puede preparar el email perfectamente. Puede redactarlo, personalizarlo, adjuntar el documento correcto. Pero el botón de enviar tiene que estar en manos de una persona, al menos hasta que tengas confianza consolidada en ese proceso.

3. Borrar o modificar datos de forma masiva o irreversible

Borrar es el verbo más peligroso de cualquier sistema automatizado. Pero modificar también puede serlo si se hace a escala. Si el agente va a actualizar el estado de cien contratos de una vez, o a cambiar precios en un catálogo, o a reclasificar registros históricos, ese es un gate obligatorio.

La regla práctica: si para deshacer la acción necesitas un backup o una restauración, ese es un punto de control humano.

4. Asumir compromisos legales o contractuales

Firmar, aceptar términos, hacer declaraciones en nombre de la empresa, responder a requerimientos oficiales. Cualquier cosa que tenga consecuencias legales necesita que alguien con autoridad lo haya aprobado. El agente puede prepararlo todo. No puede firmarlo.

—

Dónde NO poner aprobación humana (o te cargas la productividad)

El error opuesto también existe: poner gates en absolutamente todo porque «con la IA nunca se sabe». Eso convierte la automatización en un proceso más lento que el manual, porque ahora tienes que revisar cada paso.

Estas son las categorías donde el agente puede actuar solo sin que pierdas el sueño:

Clasificar, etiquetar y priorizar. Si el agente clasifica una bandeja de entrada, prioriza tickets de soporte o etiqueta documentos, el peor caso es que lo haya hecho mal y lo corrijas. El coste es bajo, la reversibilidad es total.

Resumir y redactar borradores. El agente puede escribir el primer borrador de un informe, resumir una reunión, preparar una respuesta. Tú lo lees y decides si lo envías. El borrador no hace daño por sí solo.

Buscar, recopilar y estructurar información. Si el agente busca en bases de datos internas, consolida datos de varios sistemas o prepara un análisis, no está tomando ninguna decisión. Está preparando el input para que tú decides.

Generar opciones o propuestas. El agente puede generar tres alternativas de presupuesto, proponer cinco candidatos para una reunión o sugerir un plan de acción. Proponer no es decidir.

La lógica de fondo: si la acción queda dentro del sistema y no sale al mundo real, el riesgo es manejable.

—

Cómo diseñar la supervisión humana sin que mate la velocidad

Un gate mal diseñado es peor que no tener ninguno. Si cada aprobación requiere buscar al responsable, explicarle el contexto y esperar a que tenga un hueco, habrás creado un cuello de botella.

Hay tres principios para que los gates funcionen en la práctica:

Primero, el contexto tiene que viajar con la aprobación. El agente no solo envía la acción que necesita aprobación: envía el razonamiento, los datos que usó y el impacto esperado. La persona que aprueba necesita poder hacerlo en treinta segundos, no en treinta minutos de investigación.

Segundo, el gate tiene que estar en el canal correcto. Si la aprobación llega por email a alguien que tiene quinientos emails sin leer, no funciona. Si llega por una notificación de Slack o Teams directamente al responsable con un botón de aprobar/rechazar, funciona.

Tercero, los gates no son permanentes. La idea es que al principio pones más control, observas si el agente se equivoca en ese punto, y si lleva semanas sin errores, revisas si ese gate sigue siendo necesario. Es un proceso de calibración, no una regla fija para siempre.

—

Un marco simple para empezar

Si tienes que diseñar un proceso con agentes desde cero, usa este esquema:

Haz una lista de todas las acciones que el agente va a ejecutar. Para cada una, responde a dos preguntas: ¿es reversible? y ¿afecta a alguien fuera de mi sistema interno?

Si la acción es irreversible o afecta a externos, pones gate. Si es reversible y queda en interno, dejas al agente actuar solo. Si tienes dudas, pones gate y lo quitas después de validar.

No necesitas más que eso para empezar. La sofisticación viene después, cuando ya tienes rodaje.

Leer también: Los agentes de IA críticos y Seguridad en sistemas multiagente.

—

Preguntas frecuentes

¿No es esto lo mismo que seguir haciendo las cosas a mano?

No. La diferencia es que el agente hace todo el trabajo hasta el punto de decisión y te presenta la aprobación lista para firmar en segundos. Tú no haces el trabajo: solo ejerces la autoridad. Es como tener un adjunto que prepara todo y te pone delante el documento para firmar, en lugar de hacértelo tú desde cero.

¿Cuántos gates son demasiados?

No hay un número, pero hay una señal: si el porcentaje de tareas que requieren aprobación supera el 20-30% del volumen total, probablemente estás poniendo gates en acciones que no los necesitan. El objetivo es que la mayor parte del trabajo fluya solo y tú solo intervengas en los puntos de alto impacto.

¿Qué pasa si el responsable tarda en aprobar y el agente se queda bloqueado?

Eso es un problema de diseño del proceso, no de la automatización. Tienes que definir un tiempo máximo de espera y qué ocurre si no hay respuesta: escalado a otra persona, rechazo automático de la acción o notificación de urgencia. El agente puede gestionar esa lógica, pero alguien tiene que haberla definido antes.

Fuente: Building Effective Agents (Anthropic).