Volver a Aprende/Operación
Cuando una instrucción maliciosa escondida en un documento, una página o un mensaje intenta que el agente ignore sus reglas. Es un riesgo de contenido no confiable, no un problema de redacción.
Un agente que lee datos externos —correo, facturas, páginas de portal, mensajes de terceros— trata ese contenido como material de trabajo. La inyección ocurre cuando ese material contiene instrucciones dirigidas al modelo, por ejemplo un texto que le pide revelar información, cambiar de destinatario o ejecutar una acción no solicitada.
La defensa real no es pedirle al modelo que ignore instrucciones ajenas: es reducir el daño posible. Herramientas con alcance mínimo, confirmación humana para acciones de efecto externo, validación de argumentos en el entorno y separación clara entre datos e instrucciones. Si el peor caso posible de una inyección es que el agente redacte mal, el riesgo es tolerable; si es que transfiera dinero, no lo es.
También se diseña el registro: cada ejecución debe permitir reconstruir qué contenido leyó el agente y qué acción autorizó. Sin ese rastro, una inyección exitosa se descubre tarde y por el síntoma, no por la causa.