c2.7 Detecte vazamento de dados de treinamento com canários
Semeie strings canário únicas nos dados de treinamento e alerte se aparecerem na saída do modelo, revelando que o modelo memoriza e reproduz dados de treinamento.
Guia de implementação
Como implementar na AWS
Introduza strings canário únicas e identificáveis nos dados de treinamento que nunca deveriam aparecer nas saídas. Habilite o registro de prompts/respostas e configure alertas do CloudWatch para disparar quando um canário for detectado na saída do modelo.
Critérios de aceitação
Os canários estão embutidos nos dados de treinamento; o registro de saídas está habilitado; um alerta dispara se um canário aparecer em uma resposta.
Implementação prática
Como este controle é implementado em cada arquitetura de referência:
Strings canário únicas são semeadas nos dados de treinamento; o registro de invocação na conta de IA generativa e um alarme do CloudWatch detectam se um canário aparece na saída.
- Semeie strings canário únicas e identificáveis nos dados de treinamento que nunca deveriam aparecer legitimamente na saída do modelo.Conta de IA generativa
Amazon S3 - Habilite o registro de invocação (prompt/resposta) do Bedrock e varra as saídas pelos valores canário.Conta de IA generativa
Amazon Bedrock 
CloudTrail 
CloudWatch - Configure um alarme do CloudWatch (e um achado do Security Hub) que dispare no momento em que um canário aparecer em uma resposta, e encaminhe os logs ao Log archive.Conta de IA generativa → Log archive CloudWatch
Security Hub
Como validar: Os canários estão presentes nos dados de treinamento; o registro de respostas está ativado; um teste sintético que provoca um canário dispara o alarme.
Evite: Supor que o modelo não memorizará os dados de treinamento. Plante canários para que o vazamento seja detectável em vez de apenas esperado que não ocorra.
Strings canário nos dados de treinamento mais o registro de respostas na conta e um alarme do CloudWatch revelam memorização/vazamento.
- Embuta strings canário únicas nos dados de treinamento.Camada de IA generativa (papel IAM) Amazon S3
- Ative o registro de invocação de modelos e varra as respostas pelos canários.Registro na conta Amazon Bedrock CloudTrail CloudWatch
- Alarme no CloudWatch quando um canário aparecer na saída.Registro na conta CloudWatch
Como validar: Os canários estão embutidos; o registro de saídas está habilitado; um canário em uma resposta levanta um alarme.
Evite: Não ter como saber se o modelo repete dados de treinamento. Os canários transformam um risco invisível em um risco monitorado.
Ameaças atendidas
- Modelo que memoriza e reproduz indevidamente dados de treinamento.
- Vazamento não detectado de conteúdo de treinamento proprietário ou sensível.
Serviços AWS
Amazon CloudWatch AWS CloudTrail Mapeamentos de frameworks
OWASP GenAI/LLM Top 10 (2026)
- LLM02 Sensitive Information Disclosure
- LLM05 Data and Model Poisoning
NIST AI Risk Management Framework (AI 100-1)
- MEASURE.3 Mechanisms for tracking AI risks are in place
- MANAGE.4 Risk treatments, monitoring and response are documented and applied
AWS Well-Architected Generative AI Lens (Security)
- GENSEC03-BP01 Implement control plane and data access monitoring
Recursos de aprendizado
Referências
- AWS SRA para IA — Capacidade 2, Justificativa