c5.6 Endureça os prompts do agente e valide a entrada com o Guardrails
Proteja o raciocínio do agente contra a manipulação com guardrails, endurecimento de instruções e uma camada de validação de pré-processamento, para que os ataques de prompt não possam redirecionar o agente.
Guia de implementação
Como implementar na AWS
Implante um guardrail do Bedrock versionado invocado como parte da geração de resposta do agente, com filtros de conteúdo, tópicos negados e filtros de palavras personalizados. Endureça as instruções do agente para resistir à manipulação e adicione um Lambda de pré-processamento que higienize/valide a entrada antes de chegar ao agente. Teste regularmente com técnicas adversariais. Imponha o uso de guardrails na invocação direta do Amazon Bedrock com a chave de condição IAM bedrock:GuardrailIdentifier, para que uma chamada ao modelo sem o guardrail aprovado seja negada.
Critérios de aceitação
Um guardrail versionado roda no loop do agente; as instruções são endurecidas; existe uma camada de validação de pré-processamento; os testes adversariais passam. Uma invocação direta do modelo sem o guardrail aprovado é negada.
Implementação prática
Como este controle é implementado em cada arquitetura de referência:
Um guardrail versionado roda dentro do loop de resposta do agente na conta de IA generativa, as instruções são endurecidas e um Lambda de pré-processamento valida a entrada antes de chegar ao agente.
- Implante um guardrail do Bedrock versionado invocado como parte da geração de resposta do agente, com filtros de conteúdo, tópicos negados e filtros de palavras personalizados.Conta de IA generativa
Amazon Bedrock - Imponha o uso de guardrails, não apenas o configure. Anexe uma política de identidade IAM que negue bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream, bedrock:Converse e bedrock:ConverseStream, a menos que a chave de condição bedrock:GuardrailIdentifier corresponda ao guardrail e à versão aprovados. Para aplicar um guardrail em várias OUs ou contas, use uma política do Amazon Bedrock no AWS Organizations que aponte para um guardrail versionado. Isso se aplica à invocação direta do Amazon Bedrock; mantenha o content guarding em modo comprehensive para que os chamadores não possam pular a avaliação com guard content tags.OU de IA generativa Amazon Bedrock
IAM 
AWS Organizations - Endureça as instruções do agente para resistir à manipulação e adicione um Lambda de pré-processamento que higienize/valide a entrada antes de chegar ao agente.Conta de IA generativa
AWS Lambda - Execute técnicas de teste adversariais regularmente contra o loop do agente.
Como validar: Um guardrail versionado roda no loop do agente; as instruções são endurecidas; existe uma camada de validação de pré-processamento; os testes adversariais passam. Uma invocação direta do modelo sem o guardrail aprovado é negada.
Evite: Confiar apenas no system prompt para resistir à injection. Adicione um guardrail no loop e uma camada de validação; os prompts não são uma fronteira de segurança.
Um guardrail versionado no loop do agente, instruções endurecidas e um Lambda de validação de pré-processamento protegem o raciocínio do agente dentro da conta.
- Execute um guardrail do Bedrock versionado na geração de resposta do agente com filtros de conteúdo, tópicos negados e palavras personalizadas.Camada de IA generativa (papel IAM) Amazon Bedrock
- Imponha o uso de guardrails, não apenas o configure. Anexe uma política de identidade IAM que negue bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream, bedrock:Converse e bedrock:ConverseStream, a menos que a chave de condição bedrock:GuardrailIdentifier corresponda ao guardrail e à versão aprovados. Como alternativa ou complemento, configure a imposição de guardrail em nível de conta em cada Região que você usa. Isso se aplica à invocação direta do Amazon Bedrock. A chave de condição IAM sozinha não impede que um chamador pule a avaliação do prompt com guard content tags, então configure o content guarding em modo comprehensive na configuração de imposição em nível de conta. Não use uma role com essa condição para APIs que chamam modelos em seu nome, como RetrieveAndGenerate, InvokeAgent ou InvokeInlineAgent, porque algumas dessas chamadas internas não carregam guardrail e são negadas.Camada de IA generativa (papel IAM) Amazon Bedrock IAM
- Endureça as instruções e adicione um Lambda de pré-processamento que valide a entrada antes do agente.Camada de IA generativa (papel IAM) AWS Lambda
- Teste regularmente com técnicas adversariais.Camada de IA generativa (papel IAM) Amazon Bedrock
Como validar: Um guardrail versionado roda no loop; as instruções são endurecidas; existe uma camada de validação; os testes adversariais passam. Uma invocação direta do modelo sem o guardrail aprovado é negada.
Evite: Sem guardrail dentro do loop do agente. A injection pode redirecionar o agente; filtre e valide a cada turno.
Ameaças atendidas
- Prompt injection manipulando o raciocínio do agente para ações não previstas.
- Comportamento alucinado ou indesejado de um agente sem proteção.
Serviços AWS
Amazon Bedrock Guardrails AWS Lambda Mapeamentos de frameworks
OWASP GenAI/LLM Top 10 (2026)
- LLM01 Prompt Injection
- LLM07 Misinformation
NIST AI Risk Management Framework (AI 100-1)
- MEASURE.2 AI systems are evaluated for trustworthy characteristics
- MANAGE.1 AI risks are prioritized, responded to and managed
AWS Well-Architected Generative AI Lens (Security)
- GENSEC04-BP01 Implement a secure prompt catalog
- GENSEC04-BP02 Sanitize and validate user inputs to foundation models
OWASP GenAI Top 10 for Agentic Applications (2025)
- ASI01 Agent Goal Hijack
Recursos de aprendizado
Referências
- AWS SRA para IA — Capacidade 5, Segurança de aplicação