flowchart TD
A[Agente analiza] --> B[Selecciona próximo paso]
B --> C{¿Acción de lectura?}
C -- Sí --> D[Ejecutar]
C -- No --> E{¿Acción externa?}
E -- Sí --> F[Pedir aprobación]
E -- No --> G[Ejecutar según permiso]
F --> H{¿Aprobada?}
H -- Sí --> G
H -- No --> I[Cancelar o replantear]
Qué NO es un agente
Cuatro límites conceptuales para evitar antropomorfismo, exageración comercial y confusión entre capacidad técnica, autoridad y autonomía.
La palabra agente resulta intuitiva precisamente porque ya existe en nuestro lenguaje cotidiano.
Hablamos de agentes humanos que reciben encargos, representan intereses, toman decisiones, actúan por cuenta de alguien y pueden responder por lo que hacen.
Ese vocabulario puede ayudarnos a comprender algunas funciones de un sistema de IA.
También puede inducirnos a errores graves.
Si una aplicación «persigue un objetivo», parece tener intención.
Si «decide», parece tener criterio propio.
Si «actúa», parece poseer autoridad.
Si «recuerda», parece disponer de una memoria comparable a la humana.
Si la llamamos «agente», puede parecer incluso que hemos transferido a la máquina una función profesional completa.
Nada de eso se sigue necesariamente de la arquitectura.
Idea central
En este curso, agente describe una forma de organizar un sistema de IA alrededor de objetivos, contexto, medios, ciclos y controles.
No describe una nueva persona ni un nuevo sujeto profesional.
Por eso debemos mantener cuatro negaciones desde el comienzo:
no es una persona · no es autoridad · no es magia · no implica autonomía ilimitada.
Por qué necesitamos comenzar por lo que no es
En tecnologías nuevas existe una tendencia comprensible a explicar lo desconocido mediante categorías familiares.
Decimos:
«el agente piensa»;
«el agente mira el expediente»;
«el agente decide»;
«el agente habla con otro agente».
Como abreviaturas pedagógicas, estas expresiones pueden ser útiles.
El problema aparece cuando la metáfora comienza a sustituir la descripción técnica.
Supongamos que un proveedor afirma:
«Nuestro agente jurídico entiende el contrato, razona como un abogado y decide qué acciones tomar.»
Esa frase mezcla al menos cuatro niveles diferentes:
- capacidad del modelo: puede producir análisis lingüísticamente sofisticados;
- arquitectura: la aplicación puede seleccionar acciones;
- permiso: determinadas acciones pueden estar habilitadas;
- autoridad: alguien debe tener competencia para adoptar una decisión jurídicamente relevante.
Si no separamos esos niveles, una etiqueta comercial puede convertirse silenciosamente en una atribución de autoridad que nunca fue justificada.
No es una persona
Un agente de IA no es una persona por el hecho de participar en una tarea que antes realizaba una persona.
Esto parece obvio, pero sus consecuencias no siempre se respetan en el lenguaje.
Cuando decimos:
«el agente leyó el contrato»
lo que puede haber ocurrido es que:
- una aplicación extrajo texto;
- ese texto fue incorporado a un contexto;
- un modelo generó una representación o respuesta;
- la orquestación actualizó el estado.
Cuando decimos:
«el agente decidió revisar privacidad»
podría significar que:
- un clasificador detectó datos personales;
- una regla activó una ruta;
- un modelo seleccionó una herramienta;
- un workflow pasó a otro estado.
El verbo cotidiano no identifica por sí solo el mecanismo.
«Entender» necesita cautela
Una respuesta puede mostrar relaciones complejas, identificar excepciones y formular argumentos convincentes.
Eso permite utilizar términos pedagógicos como «analizar» o incluso «razonar» en sentido funcional.
Pero no debemos transformar esa conducta observable en una afirmación innecesaria sobre conciencia, intención o comprensión humana.
Para gobernar un sistema necesitamos describir operaciones observables:
- qué entrada recibió;
- qué contexto tenía;
- qué salida produjo;
- qué acción seleccionó;
- qué herramienta ejecutó;
- qué resultado obtuvo.
Eso resulta mucho más útil que discutir si «realmente entendió».
No tiene responsabilidad profesional propia
En trabajo jurídico esta diferencia es especialmente importante.
Un abogado puede tener deberes de:
- competencia;
- confidencialidad;
- supervisión;
- diligencia;
- independencia;
- comunicación con el cliente.
El hecho de que utilice una herramienta agente no desplaza automáticamente esos deberes hacia el sistema.
Las orientaciones profesionales de la ABA y del CCBE sobre IA generativa insisten precisamente en que el uso de estas herramientas debe mantenerse dentro de las obligaciones profesionales de quienes las emplean.
Por eso una formulación como:
«el agente se equivocó»
puede describir un evento técnico.
No responde todavía:
«¿quién debía revisar?», «¿quién autorizó el uso?», «¿qué control existía?» o «¿quién responde frente al cliente?».
No es autoridad
La segunda negación es todavía más importante.
Un sistema puede ser técnicamente capaz de producir una decisión o ejecutar una acción sin estar autorizado a hacerlo.
Capacidad y autoridad son preguntas diferentes
Comparemos:
CAPACIDAD
El sistema puede generar una aprobación.
AUTORIDAD
¿Quién tiene facultad para aprobar?O:
CAPACIDAD
El sistema puede enviar un correo.
PERMISO
¿Está autorizado a enviarlo sin revisión?O:
CAPACIDAD
El sistema puede cambiar el estado de un contrato a "aprobado".
RESPONSABILIDAD
¿Quién responde por esa aprobación?Las respuestas pueden ser completamente distintas.
Un ejemplo contractual
Supongamos que el agente analiza una desviación de responsabilidad y concluye:
«Riesgo bajo. Recomiendo aceptar.»
La organización tiene una política interna:
toda desviación del cap de responsabilidad debe ser aprobada por Legal Director.
Entonces el agente puede tener capacidad para:
- identificar la desviación;
- medirla;
- explicar su impacto;
- preparar una recomendación.
Pero no tiene por ello permiso para:
- aceptar la cláusula;
- registrar la excepción como aprobada;
- comunicar aceptación a la contraparte.
Su próximo paso correcto puede ser:
pedir aprobación.
Autoridad humana también necesita diseño
No basta con decir:
«siempre revisa una persona».
Debemos saber:
- qué persona;
- en qué momento;
- con qué información;
- con qué autoridad;
- qué puede modificar;
- si su intervención queda registrada.
Un sistema gobernado no reemplaza una autoridad humana difusa por una autoridad automática. Define claramente dónde se encuentran las decisiones.
Cuatro preguntas que nunca deben fusionarse
¿Puede hacerlo?
Capacidad técnica.
¿Está autorizado a hacerlo?
Permiso.
¿Puede seleccionar hacerlo sin una nueva instrucción?
Autonomía operacional.
¿Quién responde por esa actuación?
Responsabilidad.
Una respuesta afirmativa a la primera no responde las otras tres.
No es «magia»
La tercera negación protege contra una forma diferente de confusión.
Una aplicación agente puede parecer sorprendentemente flexible.
Recibe una tarea amplia, busca información, abre documentos, llama herramientas, corrige errores y entrega un resultado.
Desde fuera puede parecer que existe una única inteligencia que «se las arregla» para resolver todo.
Pero un sistema agente depende de componentes concretos.
Puede incluir:
modelo
+
instrucciones
+
contexto
+
herramientas
+
estado
+
orquestación
+
permisos
+
validaciones
+
logs
+
intervención humanaLa calidad del resultado depende de esa combinación.
Un agente no elimina los problemas anteriores
Si RAG recupera un documento incorrecto, el agente puede razonar sobre evidencia equivocada.
Si una herramienta tiene permisos excesivos, el agente puede ejecutar acciones que no deberían estar disponibles.
Si el prompt es ambiguo, puede seleccionar una estrategia inadecuada.
Si el estado está desactualizado, puede repetir una tarea.
Si el criterio de cierre es malo, puede terminar demasiado pronto o continuar demasiado tiempo.
Si no existen logs suficientes, quizá no podamos reconstruir la trayectoria.
La agencia compone capacidades.
También compone sus posibles fallas.
La demostración no muestra toda la arquitectura
Un proveedor puede mostrar:
«Pídele que revise un contrato y mira cómo investiga todo automáticamente.»
La demo muestra que el sistema puede producir cierta trayectoria bajo ciertas condiciones.
No demuestra automáticamente:
- tasa de éxito;
- cobertura documental;
- comportamiento ante excepciones;
- calidad de fuentes;
- permisos;
- resistencia a errores;
- observabilidad;
- seguridad;
- costo operacional;
- estabilidad ante cambios de modelo.
La pregunta profesional debe pasar de:
«¿qué tan impresionante parece?»
hacia:
«¿cómo está construido, qué puede hacer, qué lo limita y cómo sabemos si funcionó?»
No implica autonomía ilimitada
La cuarta negación es probablemente la más importante para comprender sistemas agentes modernos.
Existe una tendencia a imaginar la autonomía como una propiedad binaria:
manual / autónomoLa realidad es más gradual.
Un sistema puede ser autónomo respecto de una decisión y totalmente controlado respecto de otra.
Autonomía por dimensión
Consideremos un agente contractual.
Podría tener autonomía para:
- decidir qué cláusula revisar primero;
- elegir entre tres buscadores internos;
- repetir una búsqueda si falla;
- seleccionar una skill de análisis.
Pero no para:
- enviar correos externos;
- aceptar una excepción;
- modificar permisos;
- cerrar un contrato;
- borrar información.
Podemos describirlo así:
| Acción | Autonomía posible |
|---|---|
| Leer documentos autorizados | alta |
| Elegir orden de revisión | alta |
| Preparar borrador | media-alta |
| Crear registro interno | media |
| Enviar comunicación externa | baja / aprobación |
| Aprobar excepción | humana |
| Acción irreversible crítica | prohibida o doble aprobación |
La autonomía se diseña por función.
Un agente puede ser muy controlado
Un sistema puede seguir siendo agente aunque cada acción de alto impacto esté bloqueada hasta recibir autorización.
Por ejemplo:
La arquitectura conserva decisión contextual, pero limita el efecto.
«Autónomo» tampoco significa «sin humanos»
Puede existir intervención humana en varios puntos:
- antes de ejecutar;
- después de un hallazgo;
- cuando falta evidencia;
- ante una contradicción;
- antes de comunicar;
- para cerrar la tarea.
La presencia de humanos no anula la agencia.
Define su perímetro.
Las metáforas ayudan, pero necesitan fecha de vencimiento
La documentación sobre agentes utiliza metáforas muy intuitivas:
- modelo = cerebro;
- tools = manos;
- orchestration = sistema nervioso;
- deployment = cuerpo.
Pueden ser útiles para introducir funciones diferentes.
Pero tienen límites importantes.
La analogía ayuda porque…
permite entender rápidamente que:
- el modelo no es todo el sistema;
- las herramientas realizan acciones;
- la orquestación coordina;
- la infraestructura permite operar.
La analogía deja de servir cuando…
sugiere que:
- existe una mente central comparable a la humana;
- el modelo tiene intención;
- las herramientas obedecen como extremidades sin controles intermedios;
- el sistema constituye una unidad orgánica con responsabilidad propia.
Después de introducir la intuición debemos regresar a términos técnicos.
El peligro de los nombres profesionales
Algunos agentes se presentan como:
- «abogado de IA»;
- «investigador jurídico»;
- «analista de compliance»;
- «negociador»;
- «legal counsel autónomo».
Estas etiquetas pueden describir funciones de producto.
No deben interpretarse automáticamente como equivalentes institucionales de las profesiones que nombran.
Un «agente investigador» puede ser una aplicación diseñada para:
- buscar fuentes;
- recuperar documentos;
- resumir resultados;
- organizar citas.
La etiqueta no demuestra:
- competencia profesional;
- habilitación legal;
- independencia;
- responsabilidad;
- cobertura suficiente;
- capacidad para emitir una opinión final.
Una buena práctica consiste en traducir el nombre comercial a acciones observables.
En vez de preguntar:
«¿qué hace su abogado de IA?»
pregunte:
«¿qué fuentes puede consultar, qué operaciones realiza, qué resultados produce, qué acciones ejecuta y cuáles requieren revisión humana?»
Antropomorfismo y causalidad
El lenguaje antropomórfico también puede ocultar causas técnicas.
Supongamos que el agente entrega una fuente incorrecta.
Decir:
«el agente se confundió»
no ayuda demasiado.
El problema podría haber ocurrido porque:
- la consulta de búsqueda fue deficiente;
- la base contenía versiones antiguas;
- el ranking recuperó un documento irrelevante;
- el contexto mezcló fuentes;
- el modelo interpretó mal el texto;
- la interfaz mostró una referencia equivocada.
La frase humana «se confundió» comprime toda la cadena.
Para corregir el sistema necesitamos reconstruir componentes.
Un caso completo: el agente que «aprueba» contratos
Imaginemos una demo comercial.
El proveedor escribe:
«Agente de contratación autónomo: analiza y aprueba contratos en minutos.»
Antes de aceptar esa descripción necesitamos descomponerla.
¿Qué hace realmente?
Tal vez:
- extrae cláusulas;
- compara con una checklist;
- asigna niveles de riesgo;
- prepara una recomendación;
- cambia el estado del expediente cuando se cumplen ciertas reglas.
¿Dónde está la persona?
Quizá:
- aprueba desviaciones altas;
- revisa contratos críticos;
- define criterios;
- autoriza el cierre.
¿Qué significa «aprobar»?
Podría significar:
- emitir una etiqueta «apto»;
- completar una etapa administrativa;
- registrar una aprobación jurídicamente relevante.
Son cosas distintas.
¿Cuál es la descripción más precisa?
Tal vez no sea:
«agente que aprueba contratos».
Sino:
sistema que ejecuta una revisión contractual, clasifica desviaciones según criterios internos y puede cerrar automáticamente casos de bajo riesgo previamente definidos, manteniendo aprobación humana para excepciones y casos críticos.
La segunda descripción permite gobernar.
La primera vende una imagen.
Qué no debe perderse en Derecho
Los agentes aumentan la importancia de cuatro distinciones transversales.
Capacidad ≠ permiso
Que el sistema pueda ejecutar una acción no significa que deba tenerla habilitada.
Permiso ≠ responsabilidad
Que una organización autorice una herramienta no convierte a la herramienta en responsable del resultado.
Output ≠ decisión jurídica
Una recomendación puede ser un insumo para decidir.
No necesariamente la decisión misma.
Automatización ≠ autonomía institucional
Un proceso puede funcionar sin intervención humana en etapas operativas y seguir dependiendo jurídicamente de reglas y autoridades humanas.
Qué debes recordar
Un agente no es una nueva persona digital.
No adquiere autoridad porque pueda producir decisiones.
No se convierte en un sistema confiable por utilizar la palabra agente.
Y no necesita operar sin límites para ser útil.
La descripción adecuada debe mantenerse en el terreno de la arquitectura:
qué objetivo recibe
qué contexto utiliza
qué acciones puede seleccionar
qué herramientas tiene disponibles
qué permisos existen
qué controles se aplican
cuándo interviene una personaEse vocabulario es menos espectacular.
También es mucho más útil para contratar, evaluar y gobernar.
El problema que todavía queda abierto
Hemos protegido la definición contra cuatro exageraciones.
Ahora podemos utilizar con más precisión verbos como observar, decidir, actuar y corregir sin confundirlos con facultades humanas.
El siguiente paso es abrir la caja negra de la iteración.
¿Cómo pasa un agente desde un objetivo a una secuencia de actuaciones?
¿Cómo utiliza el resultado de una acción para decidir la siguiente?
Eso requiere estudiar el bucle del agente.