c6.3 Filtra las entradas del usuario y las salidas de IA con guardrails
Aplica filtrado de contenido y validación a lo que los usuarios envían y a lo que la IA devuelve, para que la app no pueda usarse indebidamente para prompt injection o para generar contenido dañino.
Guía de implementación
Cómo implementarlo en AWS
Aplica Amazon Bedrock Guardrails (filtros de contenido, temas denegados, filtros de PII, filtros de ataques de prompt) a las entradas del usuario y a las salidas generadas por la IA en todos los tipos de aplicación, invocando un guardrail versionado en cada petición.
Criterios de aceptación
Los guardrails corren sobre las entradas del usuario y las salidas de IA; un intento de prompt injection y una muestra de contenido dañino se bloquean; la PII se redacta.
Implementación práctica
Cómo se implementa este control en cada arquitectura de referencia:
Un guardrail versionado se invoca en cada petición desde la cuenta de aplicación para que las entradas del usuario y las salidas de IA se filtren por ataques de prompt, contenido dañino y PII.
- Configura un guardrail de Bedrock versionado con filtros de contenido, temas denegados, filtros de PII y filtros de ataques de prompt.Cuenta de IA generativa
Amazon Bedrock - Invoca el guardrail en cada petición en todos los tipos de aplicación (entradas y salidas generadas por la IA).Cuenta de aplicación → Cuenta de IA generativa Amazon Bedrock
- Redacta la PII tanto en entradas como en salidas antes de que el contenido llegue al modelo o al usuario.Cuenta de IA generativa Amazon Bedrock
Cómo validar: Los guardrails corren sobre las entradas del usuario y las salidas de IA; un intento de prompt injection y una muestra de contenido dañino se bloquean; una muestra de PII se redacta.
Evita: Filtrar solo lo que devuelve el modelo. Los usuarios fabrican injection en la entrada; filtra tanto entradas como salidas.
Un guardrail versionado corre en cada petición en la capa de IA generativa, filtrando las entradas del usuario y las salidas de IA y redactando PII.
- Configura un guardrail de Bedrock versionado (filtros de contenido, temas denegados, PII, ataques de prompt).Capa de IA generativa (rol IAM) Amazon Bedrock
- Invócalo en cada petición para entradas y salidas.Capa de aplicación (rol IAM) Amazon Bedrock
- Redacta la PII en entradas y salidas.Capa de IA generativa (rol IAM) Amazon Bedrock
Cómo validar: Los guardrails corren sobre entradas y salidas; la injection y el contenido dañino se bloquean; la PII se redacta.
Evita: Asumir que los usuarios de la app son benignos. Filtra cada petición; la interfaz es una superficie de ataque.
Amenazas que atiende
- Prompt injection o uso inapropiado a través de la interfaz de la app.
- Contenido dañino o sensible en las salidas generadas por la IA que llega a los usuarios.
Servicios AWS
Amazon Bedrock Guardrails Mapeos de frameworks
OWASP GenAI/LLM Top 10 (2026)
- LLM01 Prompt Injection
- LLM02 Sensitive Information Disclosure
NIST AI Risk Management Framework (AI 100-1)
- MEASURE.2 AI systems are evaluated for trustworthy characteristics
- MANAGE.1 AI risks are prioritized, responded to and managed
AWS Well-Architected Generative AI Lens (Security)
- GENSEC02-BP01 Implement guardrails to mitigate harmful or incorrect model responses
- GENSEC04-BP02 Sanitize and validate user inputs to foundation models
Recursos de aprendizaje
Referencias
- AWS SRA para IA — Capacidad 6, Protección de datos