flowchart LR
A[Agente prepara antecedentes] --> B[Persona revisa]
B --> C[Persona decide]
Cuándo NO utilizar un agente
Cinco situaciones en que agregar decisión autónoma suele ser una mala arquitectura: juicio profesional final sin revisión, fuentes no controlables, acciones irreversibles, ausencia de trazabilidad y costo de error excesivo.
Después de estudiar agentes durante más de veinte páginas puede aparecer una presión implícita:
si conocemos la tecnología, deberíamos encontrar una forma de utilizarla.
Esa conclusión sería contraria al propósito del curso.
Una arquitectura madura no se distingue por utilizar el componente más sofisticado disponible.
Se distingue por escoger el nivel de complejidad adecuado para el problema.
Hay tareas donde un agente añade valor.
Hay otras donde un prompt, una skill, un workflow determinista o simplemente trabajo humano son opciones mejores.
Por eso debemos aprender a decir no.
Idea central
No conviene utilizar un agente sólo porque una tarea sea compleja.
Las clases identifican cinco señales especialmente fuertes para evitar o reducir agencia:
- juicio profesional final sin revisión humana real;
- fuentes no controlables;
- acciones irreversibles sin permiso humano incorporado;
- ausencia de trazabilidad;
- costo de error superior al beneficio de automatizar.
Estas señales no son prohibiciones universales. Funcionan como criterios de arquitectura y gobierno.
1. Juicio profesional final sin revisión humana real
Un agente puede ayudar a preparar una decisión.
Puede:
- organizar hechos;
- extraer cláusulas;
- recuperar fuentes;
- identificar inconsistencias;
- comparar con criterios;
- preparar alternativas.
Pero algunas tareas culminan en un juicio profesional que una persona debe asumir.
Ejemplos:
- decidir la estrategia procesal final;
- emitir asesoría jurídica definitiva en un asunto complejo;
- determinar qué riesgo aceptar en nombre del cliente;
- presentar una posición a un tribunal;
- aprobar una excepción contractual de alto impacto.
El problema no es sólo “precisión”
Aunque el agente fuera muy competente, continúa existiendo una pregunta de autoridad y responsabilidad.
El sistema puede seleccionar una recomendación.
No se sigue de ello que deba adoptar la decisión institucional.
La ABA señala que los abogados siguen siendo responsables por el trabajo, las representaciones que realizan y la revisión apropiada de outputs. El CCBE insiste en competencia, independencia y verificación según el caso de uso.
Qué hacer en lugar de eliminar toda IA
No usar un agente para la decisión final no significa prohibir IA en todo el proceso.
Podemos diseñar:
La autonomía se reserva para preparación, no para autoridad final.
2. Fuentes no controlables
Un agente de investigación necesita algún universo informativo sobre el cual operar.
Si no podemos definir razonablemente:
- qué fuentes están autorizadas;
- cuáles son fiables;
- cómo se identifica vigencia;
- qué hacer ante contradicciones;
- cuándo reconocer información faltante;
la investigación autónoma puede producir una apariencia engañosa de exhaustividad.
Ejemplo
Encargo:
“Investiga todo lo relevante sobre esta cuestión y decide qué norma aplica.”
El agente tiene acceso irrestricto a información web, sin jerarquía de fuentes ni control de vigencia.
Puede producir un informe extenso.
Pero no podemos determinar fácilmente:
- qué dejó fuera;
- qué priorizó;
- por qué una fuente recibió más peso;
- si una norma está vigente;
- si mezcló jurisdicciones.
El problema no es que internet sea inutilizable.
Es que la tarea exige más gobierno de fuentes del que la arquitectura proporciona.
Alternativa
Podemos reducir el universo:
“Busca exclusivamente en estas bases y entrega resultados para revisión humana.”
O utilizar el agente para descubrimiento exploratorio, sin permitir que su resultado se trate como conclusión final.
3. Acciones irreversibles
La agencia es especialmente riesgosa cuando una acción produce efectos que no pueden deshacerse fácilmente.
Ejemplos:
- enviar información confidencial;
- presentar un escrito;
- eliminar registros;
- aceptar obligaciones;
- transferir recursos;
- cerrar definitivamente un caso;
- modificar permisos críticos.
Irreversible no significa literalmente imposible de revertir
Muchas acciones pueden “deshacerse” técnicamente.
Un correo puede enviarse seguido de una corrección.
Un registro puede restaurarse.
Pero el efecto inicial ya ocurrió.
La información fue divulgada.
La contraparte recibió una posición.
Un proceso se activó.
Por eso hablamos de reversibilidad práctica.
Señal de diseño
Si una acción es de alto impacto y difícil de revertir, la arquitectura debería incorporar un human gate o mantenerla completamente fuera del alcance del agente.
Si no es posible hacerlo, puede ser preferible no utilizar agencia en esa parte del proceso.
4. Ausencia de trazabilidad
Un agente toma decisiones durante varios pasos.
Si no existen logs, traces o alguna forma de reconstruir el proceso, perdemos capacidad para:
- supervisar;
- detectar desvíos;
- investigar incidentes;
- corregir errores;
- demostrar que se siguieron controles.
Ejemplo
El sistema recomienda rechazar un proveedor.
Preguntamos:
“¿Qué fuente produjo esta conclusión?”
Respuesta:
“No existe un registro detallado; sólo se conserva el informe final.”
Para una tarea exploratoria de bajo impacto quizá sea tolerable.
Para una decisión material puede no serlo.
La regla práctica
Cuanto mayor sea la autonomía y el impacto, menos razonable es operar con una caja negra operacional.
Sin observabilidad suficiente, la supervisión humana puede convertirse en confianza ciega sobre una interfaz.
5. Costo de error excesivo
Toda automatización implica un balance entre beneficio y error.
Un agente puede ahorrar horas.
Pero si un error poco frecuente puede producir una pérdida desproporcionada, la eficiencia promedio puede ser una mala métrica.
Ejemplo simple
Un sistema procesa 10.000 documentos con 99,5% de acierto.
Parece excelente.
Pero quedan 50 errores.
Si cada error significa clasificar incorrectamente una fecha administrativa de bajo impacto, quizá el riesgo sea aceptable.
Si cada error puede producir una renuncia de derechos procesales, el mismo porcentaje tiene una lectura completamente diferente.
La unidad correcta de análisis
No debemos preguntar solamente:
“¿Con qué frecuencia falla?”
También:
“¿Qué ocurre cuando falla?”
La severidad importa tanto como la frecuencia.
Las cinco señales pueden combinarse
Los casos más claros suelen acumular varias.
Imaginemos un agente que:
- investiga libremente en fuentes no controladas;
- decide una estrategia jurídica final;
- envía el resultado directamente a un tercero;
- no conserva traces;
- opera en un asunto de alto impacto.
No tenemos un problema aislado.
Tenemos una arquitectura donde casi todas las condiciones de prudencia están ausentes.
Una prueba rápida de exclusión
Antes de diseñar un agente podemos preguntar:
| Pregunta | Si la respuesta es “sí” |
|---|---|
| ¿El sistema adoptaría juicio profesional final sin revisión real? | reducir o descartar agencia |
| ¿No podemos definir fuentes autorizadas? | limitar investigación |
| ¿Ejecutaría acciones difíciles de revertir? | introducir gate o excluir acción |
| ¿No podemos reconstruir la trayectoria? | no escalar autonomía |
| ¿Un error puede superar ampliamente el beneficio? | preferir control humano/determinista |
La tabla no reemplaza un análisis de riesgos.
Sirve como filtro inicial.
“No agente” no significa “manual”
Esta distinción es importante.
Si descartamos un agente todavía existen muchas alternativas.
Prompt o skill
Para una tarea puntual o metodológicamente estable.
RAG sin agencia
Para responder con fuentes controladas sin permitir selección compleja de acciones.
Workflow determinista
Para procesos con rutas claras.
Copiloto
Para proponer acciones pero reservar la selección a una persona.
Automatización clásica
Para reglas precisas y repetibles.
Trabajo humano
Cuando el juicio y el costo de error justifican mantener la tarea fuera de automatización.
La elección no es “agente o nada”.
Cinco respuestas posibles antes de llegar a “agente”
Cuando una tarea no satisface las condiciones de agencia, conviene preguntarse cuál es la arquitectura inmediatamente más simple que conserva utilidad.
1. Sólo respuesta
La persona formula cada encargo y revisa el resultado.
Útil para tareas puntuales y exploratorias.
2. Template o skill
La organización estabiliza la metodología pero mantiene la ejecución bajo control humano.
Útil cuando el problema principal es consistencia de instrucciones.
3. RAG controlado
El sistema recupera fuentes autorizadas y produce una respuesta, sin ejecutar acciones externas.
Útil cuando el principal problema es disponibilidad de conocimiento.
4. Workflow
Una secuencia fija ejecuta etapas conocidas.
Útil cuando las transiciones pueden expresarse de antemano.
5. Copiloto
El sistema propone el siguiente paso y una persona decide.
Útil cuando existe variabilidad contextual, pero la selección no debería delegarse todavía.
Sólo después aparece el agente como una opción adicional.
Esta escalera evita tratar la autonomía como el estado por defecto al que todo sistema debería evolucionar.
Un ejemplo jurídico: presentación judicial
Supongamos que queremos automatizar la preparación y presentación de escritos.
Mala arquitectura
El agente:
- investiga libremente;
- redacta;
- verifica consigo mismo;
- presenta automáticamente.
La acción final puede ser difícil de revertir y la obligación profesional exige revisión.
Arquitectura más prudente
El agente:
- organiza documentos;
- recupera fuentes autorizadas;
- prepara borrador;
- marca afirmaciones que requieren verificación;
- entrega a abogado.
La persona:
- revisa autoridades y hechos;
- decide la estrategia;
- autoriza o realiza la presentación.
La IA sigue aportando valor, pero no se utiliza como agente autónomo en el tramo crítico.
Un ejemplo contractual: eliminar versus preparar
Supongamos que un agente detecta contratos expirados.
Puede ser razonable que:
- identifique registros;
- prepare una lista;
- calcule fechas;
- proponga archivo.
Puede ser inadecuado que:
- elimine definitivamente documentos sin retención verificada.
No necesitamos rechazar la automatización completa.
Necesitamos ubicar la frontera de agencia.
El principio de simplicidad suficiente
Una arquitectura más simple suele ser preferible cuando resuelve el problema con menor variabilidad y mejor control.
Podemos expresarlo así:
si una regla fija basta
→ use regla fija
si una secuencia conocida basta
→ use workflow
si una persona debe elegir el siguiente paso
→ use copiloto
si existe variabilidad real que justifica selección dinámica
→ considere agenteNo es una ley técnica.
Es una disciplina contra la complejidad ornamental.
No confundir “no ahora” con “no nunca”
Una tarea puede no ser adecuada para agencia en su estado actual y volverse más gobernable después de rediseñar el proceso.
Por ejemplo, hoy una revisión puede depender de criterios tácitos y fuentes dispersas. En vez de construir inmediatamente un agente, la organización puede primero:
- documentar el procedimiento;
- identificar fuentes autorizadas;
- definir criterios mínimos;
- establecer puntos de aprobación;
- mejorar trazabilidad.
Después de ese trabajo, la misma tarea puede presentar mejores condiciones para automatización.
A veces el primer paso hacia un buen agente no es programar: es hacer explícito el trabajo que hasta ahora vivía únicamente en prácticas informales.
Qué puede salir mal al decir “no”
También podemos ser demasiado conservadores.
Descartar agentes por cualquier posibilidad de error impediría utilizar sistemas útiles en tareas de bajo impacto y alta revisión.
Por eso estas cinco señales deben analizarse respecto del caso concreto.
La pregunta no es:
“¿Existe algún riesgo?”
Siempre existirá.
La pregunta es:
“¿Puede este riesgo gobernarse de manera proporcional y observable sin destruir el beneficio de la automatización?”
Qué debes recordar
No debemos introducir agencia cuando la capacidad de selección dinámica no justifica el riesgo y la complejidad que agrega.
Las señales más fuertes son:
- juicio profesional final sin revisión;
- fuentes no controlables;
- acciones irreversibles;
- ausencia de trazabilidad;
- costo de error excesivo.
Y recordar algo igualmente importante:
rechazar un agente no implica rechazar IA.
Puede significar escoger una arquitectura más simple y adecuada.
El problema que todavía queda abierto
La página siguiente formula la pregunta inversa.
¿Qué condiciones hacen que un agente sí sea una opción razonable?
No buscaremos una lista de tareas de moda.
Buscaremos propiedades estructurales del trabajo: repetición, múltiples etapas, criterios explicitables, fuentes identificables, revisión humana y ganancias reales de consistencia o trazabilidad.