c5.6 Endurece los prompts del agente y valida la entrada con Guardrails
Protege el razonamiento del agente contra la manipulación con guardrails, endurecimiento de instrucciones y una capa de validación de preprocesamiento, para que los ataques de prompt no puedan redirigir al agente.
Guía de implementación
Cómo implementarlo en AWS
Despliega un guardrail de Bedrock versionado invocado como parte de la generación de respuesta del agente, con filtros de contenido, temas denegados y filtros de palabras personalizados. Endurece las instrucciones del agente para resistir la manipulación y agrega un Lambda de preprocesamiento que sanee/valide la entrada antes de llegar al agente. Prueba con regularidad con técnicas adversarias. Haz cumplir el uso de guardrails en la invocación directa de Amazon Bedrock con la clave de condición IAM bedrock:GuardrailIdentifier, para que una llamada al modelo sin el guardrail aprobado se deniegue.
Criterios de aceptación
Un guardrail versionado corre en el bucle del agente; las instrucciones están endurecidas; existe una capa de validación de preprocesamiento; las pruebas adversarias pasan. Una invocación directa del modelo sin el guardrail aprobado se deniega.
Implementación práctica
Cómo se implementa este control en cada arquitectura de referencia:
Un guardrail versionado corre dentro del bucle de respuesta del agente en la cuenta de IA generativa, las instrucciones están endurecidas y un Lambda de preprocesamiento valida la entrada antes de llegar al agente.
- Despliega un guardrail de Bedrock versionado invocado como parte de la generación de respuesta del agente, con filtros de contenido, temas denegados y filtros de palabras personalizados.Cuenta de IA generativa
Amazon Bedrock - Haz cumplir el uso de guardrails, no solo configurarlos. Asocia una política de identidad IAM que deniegue bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream, bedrock:Converse y bedrock:ConverseStream salvo que la clave de condición bedrock:GuardrailIdentifier coincida con el guardrail y la versión aprobados. Para aplicar un guardrail en varias OU o cuentas, usa una política de Amazon Bedrock en AWS Organizations que apunte a un guardrail versionado. Esto aplica a la invocación directa de Amazon Bedrock; mantén el content guarding en modo comprehensive para que los llamadores no puedan omitir la evaluación con guard content tags.OU de IA generativa Amazon Bedrock
IAM 
AWS Organizations - Endurece las instrucciones del agente para resistir la manipulación y agrega un Lambda de preprocesamiento que sanee/valide la entrada antes de llegar al agente.Cuenta de IA generativa
AWS Lambda - Ejecuta técnicas de prueba adversarias con regularidad contra el bucle del agente.
Cómo validar: Un guardrail versionado corre en el bucle del agente; las instrucciones están endurecidas; existe una capa de validación de preprocesamiento; las pruebas adversarias pasan. Una invocación directa del modelo sin el guardrail aprobado se deniega.
Evita: Confiar solo en el system prompt para resistir la injection. Agrega un guardrail en el bucle y una capa de validación; los prompts no son una frontera de seguridad.
Un guardrail versionado en el bucle del agente, instrucciones endurecidas y un Lambda de validación de preprocesamiento protegen el razonamiento del agente dentro de la cuenta.
- Ejecuta un guardrail de Bedrock versionado en la generación de respuesta del agente con filtros de contenido, temas denegados y palabras personalizadas.Capa de IA generativa (rol IAM) Amazon Bedrock
- Haz cumplir el uso de guardrails, no solo configurarlos. Asocia una política de identidad IAM que deniegue bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream, bedrock:Converse y bedrock:ConverseStream salvo que la clave de condición bedrock:GuardrailIdentifier coincida con el guardrail y la versión aprobados. Como alternativa o complemento, configura la aplicación forzada de guardrails a nivel de cuenta en cada Región que uses. Esto aplica a la invocación directa de Amazon Bedrock. La clave de condición IAM por sí sola no impide que un llamador omita la evaluación del prompt con guard content tags, así que configura el content guarding en modo comprehensive en la configuración de aplicación forzada a nivel de cuenta. No uses un rol con esta condición para APIs que invocan modelos en tu nombre, como RetrieveAndGenerate, InvokeAgent o InvokeInlineAgent, porque algunas de esas llamadas internas no llevan guardrail y se deniegan.Capa de IA generativa (rol IAM) Amazon Bedrock IAM
- Endurece las instrucciones y agrega un Lambda de preprocesamiento que valide la entrada antes del agente.Capa de IA generativa (rol IAM) AWS Lambda
- Prueba con regularidad con técnicas adversarias.Capa de IA generativa (rol IAM) Amazon Bedrock
Cómo validar: Un guardrail versionado corre en el bucle; las instrucciones están endurecidas; existe una capa de validación; las pruebas adversarias pasan. Una invocación directa del modelo sin el guardrail aprobado se deniega.
Evita: Sin guardrail dentro del bucle del agente. La injection puede redirigir al agente; filtra y valida en cada turno.
Amenazas que atiende
- Prompt injection que manipula el razonamiento del agente hacia acciones no previstas.
- Comportamiento alucinado o no deseado de un agente sin protección.
Servicios AWS
Amazon Bedrock Guardrails AWS Lambda Mapeos de frameworks
OWASP GenAI/LLM Top 10 (2026)
- LLM01 Prompt Injection
- LLM07 Misinformation
NIST AI Risk Management Framework (AI 100-1)
- MEASURE.2 AI systems are evaluated for trustworthy characteristics
- MANAGE.1 AI risks are prioritized, responded to and managed
AWS Well-Architected Generative AI Lens (Security)
- GENSEC04-BP01 Implement a secure prompt catalog
- GENSEC04-BP02 Sanitize and validate user inputs to foundation models
OWASP GenAI Top 10 for Agentic Applications (2025)
- ASI01 Agent Goal Hijack
Recursos de aprendizaje
Referencias
- AWS SRA para IA — Capacidad 5, Seguridad de aplicación