c3.9 Fundamente e valide as respostas contra as fontes recuperadas
Verifique que as respostas geradas estejam fundamentadas na base de conhecimento aprovada e valide a saída antes de usá-la, para que as alucinações ou o conteúdo injetado não cheguem aos usuários ou sistemas a jusante.
Guia de implementação
Como implementar na AWS
Habilite a fundamentação contextual do Bedrock Guardrails para verificar que as respostas sejam semanticamente consistentes com as fontes recuperadas e aprovadas, e valide/redija a saída antes do uso a jusante. Trate o conteúdo recuperado como entrada não confiável e reaplique a filtragem de entrada.
Critérios de aceitação
As respostas são verificadas por fundamentação contra as fontes recuperadas; uma resposta fabricada ou fora de fonte é capturada; o contexto recuperado é tratado como não confiável.
Implementação prática
Como este controle é implementado em cada arquitetura de referência:
A fundamentação contextual na conta de IA generativa verifica cada resposta contra as fontes recuperadas e sancionadas, e o contexto recuperado é refiltrado como entrada não confiável.
- Habilite a fundamentação contextual do Bedrock Guardrails para que as respostas sejam verificadas por consistência semântica com as fontes recuperadas e aprovadas.Conta de IA generativa
Amazon Bedrock - Trate o contexto recuperado como não confiável: reaplique a filtragem de entrada antes de ele chegar ao modelo, pois um documento envenenado poderia carregar instruções injetadas.Conta de IA generativa Amazon Bedrock
- Valide/redija a saída final antes de devolvê-la à conta de aplicação para uso a jusante.Conta de IA generativa → Conta de aplicação
AWS Lambda
Como validar: As respostas são verificadas por fundamentação contra as fontes recuperadas; uma resposta fabricada ou fora de fonte é capturada; instruções injetadas no contexto recuperado são filtradas.
Evite: Confiar nos documentos recuperados porque vieram da 'sua' base de conhecimento. Um documento envenenado é entrada não confiável; refiltre e fundamente a resposta.
As verificações de fundamentação e o refiltro do contexto recuperado na camada de IA generativa impedem que o conteúdo alucinado ou injetado chegue aos usuários.
- Habilite as verificações de fundamentação contextual para que as respostas devam ser consistentes com as fontes recuperadas e aprovadas.Camada de IA generativa (papel IAM) Amazon Bedrock
- Reaplique a filtragem de entrada ao contexto recuperado antes de ele chegar ao modelo.Camada de IA generativa (papel IAM) Amazon Bedrock
- Valide/redija a saída antes de a camada de aplicação usá-la.Camada de aplicação (papel IAM) AWS Lambda
Como validar: As respostas são verificadas por fundamentação; uma resposta fora de fonte é capturada; o contexto recuperado é tratado como não confiável.
Evite: Retornar o que o modelo disser acima do texto recuperado. Fundamente a resposta e trate o conteúdo recuperado como não confiável, especialmente diante de injection indireta.
Ameaças atendidas
- Respostas fabricadas ou não deriváveis das fontes aprovadas.
- Conteúdo injetado no contexto recuperado influenciando a resposta.
Serviços AWS
Amazon Bedrock Guardrails Mapeamentos de frameworks
OWASP GenAI/LLM Top 10 (2026)
- LLM07 Misinformation
- LLM08 Hidden Context Exposure
- LLM10 Improper Output Handling
NIST AI Risk Management Framework (AI 100-1)
- MEASURE.2 AI systems are evaluated for trustworthy characteristics
- MANAGE.1 AI risks are prioritized, responded to and managed
AWS Well-Architected Generative AI Lens (Security)
- GENSEC02-BP01 Implement guardrails to mitigate harmful or incorrect model responses
Recursos de aprendizado
Referências
- AWS SRA para IA — Capacidade 3, Validação de entradas e saídas