c1.8 Detecta y redacta PII en prompts y respuestas
Agrega detección y redacción de PII en tiempo real sobre las entradas y salidas del modelo, para que los datos personales sensibles no se envíen ni sean devueltos por el modelo sin necesidad.
Guía de implementación
Cómo implementarlo en AWS
Aplica la detección de PII de Amazon Comprehend o los filtros de PII de Bedrock Guardrails a entradas y salidas, redactando en tiempo real para apps interactivas y por lotes para conversaciones almacenadas. Usa Macie para encontrar datos sensibles en los almacenes de prompts/respuestas. Alarma cuando la detección de PII supere la línea base.
Criterios de aceptación
La PII se redacta en la E/S de inferencia; Macie escanea los buckets de prompts/logs; hay alarmas de CloudWatch ante tasas anómalas de PII.
Implementación práctica
Cómo se implementa este control en cada arquitectura de referencia:
La PII se redacta en línea en la cuenta de IA generativa vía guardrail/Comprehend, y Macie escanea los almacenes de prompts/respuestas por lo que se haya escapado.
- Habilita los filtros de PII de Bedrock Guardrails (o un paso de PII de Amazon Comprehend) en entradas y salidas en la cuenta de IA generativa, redactando en tiempo real para flujos interactivos.Cuenta de IA generativa
Amazon Comprehend 
Amazon Bedrock - Ejecuta Amazon Macie contra los buckets S3 que almacenan prompts, respuestas y logs para descubrir datos sensibles residuales.Cuenta de IA generativa
Amazon Macie 
Amazon S3 - Alarma en CloudWatch cuando las tasas de detección o redacción de PII superen la línea base, y enruta los hallazgos de Macie a Security Hub.Cuenta de IA generativa → Herramientas de seguridad
CloudWatch 
Security Hub
Cómo validar: Una muestra de PII en un prompt se redacta en la E/S; Macie reporta sobre los buckets de prompts/logs; un pico en la detección de PII levanta una alarma.
Evita: Almacenar prompts y respuestas crudos sin redactar 'para depurar'. Redacta en línea y escanea los almacenes; la PII no gestionada en logs es una brecha en espera.
Redacción de PII en línea sobre la E/S del modelo más un escaneo de Macie de los buckets de prompts/logs de la cuenta evita que se acumulen datos personales.
- Activa los filtros de PII de Bedrock Guardrails o un paso de detección de PII de Comprehend en entradas y salidas en la capa de IA generativa.Capa de IA generativa (rol IAM) Amazon Comprehend Amazon Bedrock
- Apunta Amazon Macie a los buckets que contienen prompts, respuestas y logs para encontrar datos sensibles que no se redactaron.Registro en la cuenta Amazon Macie Amazon S3
- Alarma ante tasas anómalas de PII en CloudWatch.Registro en la cuenta CloudWatch
Cómo validar: La PII se redacta en la E/S de inferencia; Macie escanea los buckets de prompts/logs; CloudWatch alarma ante tasas anómalas de PII.
Evita: Asumir que los usuarios no pegarán PII. Detéctala y redáctala en cada petición y respuesta, y escanea donde aterrizan los prompts.
Amenazas que atiende
- Usuarios pegando PII en los prompts; modelos repitiendo PII en las respuestas.
- Violaciones de privacidad/cumplimiento por datos personales no gestionados.
Servicios AWS
Amazon Comprehend Amazon Bedrock Guardrails Amazon Macie Mapeos de frameworks
OWASP GenAI/LLM Top 10 (2026)
- LLM02 Sensitive Information Disclosure
NIST AI Risk Management Framework (AI 100-1)
- MAP.4 Risks and impacts are mapped
- MANAGE.1 AI risks are prioritized, responded to and managed
AWS Well-Architected Generative AI Lens (Security)
- GENSEC01-BP03 Implement least privilege access to data stores
Recursos de aprendizaje
Referencias
- AWS SRA para IA — Capacidad 1, Seguridad de datos