Volver a Aprende/Operación
Las reglas que delimitan lo que un agente puede hacer y lo que no, aplicadas fuera del modelo: permisos, validación de argumentos y condiciones de rechazo.
Un guardrail es una restricción ejecutable, no una recomendación en el prompt. Decirle al modelo "no modifiques precios" es una instrucción; impedir que la herramienta de actualización de precios esté en su lista de herramientas es un guardrail. La diferencia se nota el día en que el prompt se ignora.
Los guardrails útiles se concentran en tres lugares: qué herramientas existen, qué argumentos son válidos y qué condiciones detienen la ejecución. A eso se suma el límite de efecto externo: acciones como enviar dinero, firmar o publicar exigen confirmación humana explícita, sin importar la confianza que se tenga en el modelo.
Un guardrail sin registro no se puede auditar. Cada rechazo debería quedar documentado con su motivo, porque el patrón de rechazos es el mejor diagnóstico de que las reglas están mal calibradas: si rechaza todo, el alcance es demasiado estrecho; si no rechaza nada, probablemente no está evaluando.