La demo siempre sale bien. Alguien enseña un agente que lee el CRM, redacta el correo, actualiza la previsión financiera y cierra una tarea, todo solo, en treinta segundos. La sala aplaude. Y en ese aplauso se cuela una idea peligrosa: que eso está listo para soltarlo en tu empresa. No lo está. Porque lo que en una demo es magia, en una empresa real es una pregunta de auditoría. Darle a un agente acceso a tu CRM, tu correo y tus métricas financieras suena increíble cuando nadie responde por las consecuencias. En tu compañía, alguien responde. Y antes de que ese alguien seas tú a posteriori, conviene hacerse las preguntas a priori. McKinsey, en su State of AI 2025, observa que la seguridad y el gobierno son la principal barrera para escalar la IA agéntica, y que muy pocas organizaciones han desplegado agentes de forma generalizada en alguna función. No es timidez. Es sensatez. Las empresas serias no escalan agentes hasta que cuatro preguntas tienen respuesta operativa y creíble.
El diseño de gobierno de agentes no es una casilla técnica: es una decisión de negocio y riesgo que conviene no tomar solo. Habla con Sergio sobre el AI Advisory Board.
El error de base: confundir lo posible con lo permitido
En IT, la pregunta natural es "¿puede el agente hacer esto?". En dirección, la pregunta correcta es "¿debe el agente hacer esto solo?". Son preguntas distintas, y confundirlas es el origen de casi todos los incidentes que vienen. Un agente capaz de enviar un correo a un cliente, modificar un registro o ejecutar un pago es técnicamente impresionante. Pero la capacidad no es permiso. Que algo sea posible no significa que deba ocurrir sin un humano delante, sin dejar rastro o sin posibilidad de deshacerlo. La autonomía no es una propiedad del modelo; es una decisión que toma la empresa, acción por acción, según lo que esté en juego. Por eso el gobierno de agentes no se delega entero en seguridad o en IT. Ellos implementan, y muy bien. Pero qué nivel de autonomía merece cada acción —cuánto riesgo aceptas a cambio de cuánta eficiencia— es una decisión de negocio. Y las decisiones de negocio tienen dueño.
El framework: las cuatro preguntas que gobiernan a un agente
Antes de dar autonomía a cualquier agente, sobre cualquier sistema, responde estas cuatro preguntas. Si alguna no tiene respuesta clara, no estás listo para escalar. 1. Acceso — ¿a qué llega? A qué datos y sistemas puede acceder, y con qué alcance. El principio es de mínimo privilegio: el agente accede solo a lo que necesita para su tarea, no a todo "por si acaso". Copiar a un agente los permisos amplios de un humano de confianza es el primer error. 2. Autonomía — ¿qué ejecuta solo? Qué acciones puede completar sin intervención humana y cuáles requieren una aprobación. Esto no es binario: se decide por niveles, según el impacto y la reversibilidad de cada acción. 3. Auditoría — ¿qué deja traza? Toda acción relevante debe quedar registrada de forma que se pueda reconstruir qué hizo el agente, cuándo y por qué. Si no deja rastro, no es supervisable; y lo que no es supervisable, no debería tener autonomía. 4. Reversibilidad — ¿se puede deshacer y parar? Qué acciones son reversibles y cuáles no, y cómo se detiene al agente si algo va mal. Un agente sin freno de emergencia no es un asistente; es un riesgo con buena dicción. La regla que ordena las cuatro: a más impacto y menos reversibilidad de una acción, menos autonomía y más supervisión. Enviar un borrador interno puede ser autónomo; ejecutar un pago o escribir a un cliente clave, no. La autonomía se gana acción por acción, no se concede en bloque.
El semáforo de la autonomía
Una forma práctica de aplicarlo es clasificar las acciones de un agente en tres niveles según su riesgo:
- Verde — Bajo impacto, reversible · El agente actúa solo, con traza · Clasificar, resumir, preparar borradores internos
- Ámbar — Impacto medio o parcialmente reversible · Humano en el bucle: el agente propone, una persona aprueba · Responder a un cliente, modificar un registro relevante
- Rojo — Alto impacto o irreversible · Nunca sin aprobación explícita · Ejecutar pagos, firmar, borrar datos, comprometer a la empresa
El valor de este semáforo no es la lista, sino la conversación que obliga a tener: ¿en qué color está cada cosa que queremos automatizar, y estamos de acuerdo en ello? Esa conversación es, en sí misma, gran parte del gobierno.
Lo que la demo enseña vs lo que la producción exige
- Acceso — En la demo: A todo, para impresionar · En tu empresa real: Mínimo privilegio, por tarea
- Autonomía — En la demo: Total, "mira qué solo lo hace" · En tu empresa real: Por niveles de riesgo
- Errores — En la demo: No hay; está guionizado · En tu empresa real: Ocurren, y alguien responde
- Trazabilidad — En la demo: Irrelevante · En tu empresa real: Obligatoria por diseño
- Responsabilidad — En la demo: Del que presenta · En tu empresa real: De un dueño definido
La distancia entre estas dos columnas es la distancia entre un aplauso y una auditoría.
Errores que vemos repetidamente
Dar acceso amplio "para que funcione". Es la vía rápida a la demo y la vía lenta al incidente. El mínimo privilegio cuesta más al principio y ahorra disgustos después. Confundir capacidad con permiso. Que el agente pueda hacer algo no significa que deba hacerlo solo. La autonomía es una decisión, no una característica. No registrar lo que hace el agente. Sin traza, cuando algo sale mal no hay forma de saber qué pasó. Y con flujos no deterministas, algo saldrá mal alguna vez. No definir quién responde. Cuando un agente se equivoca, la pregunta "¿de quién era esto?" no puede quedar sin respuesta. Cada agente necesita un dueño humano. Tratar la seguridad como un freno. El gobierno no es lo que ralentiza la IA; es lo que permite escalarla sin miedo. Sin él, no es que vayas más despacio: es que no puedes ir. Copiar los permisos de un humano al agente. Un humano tiene juicio, contexto y miedo a las consecuencias. Un agente, no. Heredar sus accesos sin repensarlos multiplica la superficie de riesgo.
Qué significa esto para un CEO
La autonomía es una decisión de negocio, no un ajuste técnico. Cuánto riesgo aceptas a cambio de cuánta eficiencia lo decides tú con criterio, no el equipo de implementación por defecto. Clasifica antes de desplegar. Aplica el semáforo a cada acción que quieras automatizar. La conversación de "¿esto es verde, ámbar o rojo?" vale más que cualquier herramienta de seguridad. Exige trazabilidad por diseño. No como añadido posterior, sino como condición para que un agente tenga cualquier nivel de autonomía. Asigna dueños. Cada agente, una persona que responde. Sin nombre, no hay despliegue. No lo decidas en solitario ni lo delegues entero. Esta es una zona donde el criterio independiente —que cruce negocio, riesgo y tecnología— evita decisiones que se pagan caras. Es exactamente el tipo de decisión que un advisory board ayuda a ordenar.
Diseñar el gobierno de agentes antes de escalar es criterio puro, y equivocarse aquí sale muy caro. Si quieres una mirada independiente que cruce negocio, riesgo y tecnología, habla con Sergio sobre el AI Advisory Board.
Preguntas frecuentes
¿Es seguro dar acceso a agentes de IA a los sistemas de la empresa?
Puede serlo, si se hace con gobierno: acceso de mínimo privilegio, autonomía por niveles de riesgo, trazabilidad de todas las acciones relevantes y un dueño responsable. Sin ese gobierno, dar acceso amplio a un agente es escalar riesgo, no productividad.
¿Qué es human in the loop?
Un diseño en el que el agente propone o prepara una acción, pero una persona la revisa y aprueba antes de que se ejecute. Se aplica a acciones de impacto medio o alto, donde la autonomía total no es aceptable.
¿Qué debe dejar traza un agente de IA?
Toda acción relevante: a qué accedió, qué decidió, qué ejecutó, cuándo y con qué resultado, de forma que se pueda reconstruir y auditar. La trazabilidad es condición para conceder cualquier nivel de autonomía.
¿Quién responde si un agente se equivoca?
Un dueño humano definido de antemano. La responsabilidad no desaparece porque la acción la ejecute un agente; por eso cada agente debe tener una persona que responda por él.
¿Por qué las grandes empresas no despliegan agentes a escala?
Porque seguridad, compliance y trazabilidad aún no tienen, en muchos casos, una respuesta operativa creíble. Según McKinsey, ese es el principal freno para escalar la IA agéntica, por encima de la capacidad de los modelos.
¿Por dónde empezar con el gobierno de agentes?
Por clasificar las acciones que quieres automatizar según su impacto y reversibilidad (el semáforo verde/ámbar/rojo), aplicar el mínimo privilegio, exigir trazabilidad y asignar dueños. Y por decidir todo eso con criterio de negocio, no solo técnico.
La autonomía se gana, no se concede
Damos por hecho que el reto de los agentes es de inteligencia. No lo es: los modelos ya son capaces de sobra. El reto es de confianza, y la confianza, en una empresa, no se regala en una demo: se construye con permisos, trazas y responsables, acción por acción. Las empresas que ganen con agentes no serán las que les den más libertad antes, sino las que les concedan autonomía a la velocidad a la que se la ganan. Porque la demo nunca pasa por una auditoría. Tu empresa, sí.
¿Vas a escalar agentes y quieres hacerlo sin sustos? Habla con Sergio sobre el AI Advisory Board.
Última actualización: [AAAA-MM-DD]. Dato de McKinsey (The State of AI 2025) verificado a fecha de redacción. Las referencias a normativa (AI Act de la UE, protección de datos) deben contrastarse con la versión vigente y la jurisdicción aplicable antes de publicar.
