c1.8 Detecte e redija PII em prompts e respostas
Adicione detecção e redação de PII em tempo real sobre as entradas e saídas do modelo, para que dados pessoais sensíveis não sejam enviados nem devolvidos pelo modelo desnecessariamente.
Guia de implementação
Como implementar na AWS
Aplique a detecção de PII do Amazon Comprehend ou os filtros de PII do Bedrock Guardrails a entradas e saídas, redigindo em tempo real para apps interativos e em lote para conversas armazenadas. Use o Macie para encontrar dados sensíveis nos armazenamentos de prompts/respostas. Alarme quando a detecção de PII exceder a linha de base.
Critérios de aceitação
A PII é redigida na E/S de inferência; o Macie varre os buckets de prompts/logs; há alarmes do CloudWatch para taxas anômalas de PII.
Implementação prática
Como este controle é implementado em cada arquitetura de referência:
A PII é redigida em linha na conta de IA generativa via guardrail/Comprehend, e o Macie varre os armazenamentos de prompts/respostas por qualquer coisa que tenha escapado.
- Habilite os filtros de PII do Bedrock Guardrails (ou um passo de PII do Amazon Comprehend) em entradas e saídas na conta de IA generativa, redigindo em tempo real para fluxos interativos.Conta de IA generativa
Amazon Comprehend 
Amazon Bedrock - Execute o Amazon Macie contra os buckets S3 que armazenam prompts, respostas e logs para descobrir dados sensíveis residuais.Conta de IA generativa
Amazon Macie 
Amazon S3 - Alarme no CloudWatch quando as taxas de detecção ou redação de PII excederem a linha de base, e roteie os achados do Macie para o Security Hub.Conta de IA generativa → Ferramentas de segurança
CloudWatch 
Security Hub
Como validar: Uma amostra de PII em um prompt é redigida na E/S; o Macie reporta sobre os buckets de prompts/logs; um pico na detecção de PII levanta um alarme.
Evite: Armazenar prompts e respostas brutos sem redação 'para depurar'. Redija em linha e varra os armazenamentos; PII não gerenciada em logs é uma violação à espera.
Redação de PII em linha sobre a E/S do modelo mais uma varredura do Macie dos buckets de prompts/logs da conta evita o acúmulo de dados pessoais.
- Ative os filtros de PII do Bedrock Guardrails ou um passo de detecção de PII do Comprehend em entradas e saídas na camada de IA generativa.Camada de IA generativa (papel IAM) Amazon Comprehend Amazon Bedrock
- Aponte o Amazon Macie para os buckets que contêm prompts, respostas e logs para encontrar dados sensíveis que não foram redigidos.Registro na conta Amazon Macie Amazon S3
- Alarme em taxas anômalas de PII no CloudWatch.Registro na conta CloudWatch
Como validar: A PII é redigida na E/S de inferência; o Macie varre os buckets de prompts/logs; o CloudWatch alarma em taxas anômalas de PII.
Evite: Supor que os usuários não colarão PII. Detecte-a e redija-a em cada requisição e resposta, e varra onde os prompts chegam.
Ameaças atendidas
- Usuários colando PII nos prompts; modelos repetindo PII nas respostas.
- Violações de privacidade/conformidade por dados pessoais não gerenciados.
Serviços AWS
Amazon Comprehend Amazon Bedrock Guardrails Amazon Macie Mapeamentos de frameworks
OWASP GenAI/LLM Top 10 (2026)
- LLM02 Sensitive Information Disclosure
NIST AI Risk Management Framework (AI 100-1)
- MAP.4 Risks and impacts are mapped
- MANAGE.1 AI risks are prioritized, responded to and managed
AWS Well-Architected Generative AI Lens (Security)
- GENSEC01-BP03 Implement least privilege access to data stores
Recursos de aprendizado
Referências
- AWS SRA para IA — Capacidade 1, Segurança de dados