c6.3 Filtre as entradas do usuário e as saídas de IA com guardrails
Aplique filtragem de conteúdo e validação ao que os usuários enviam e ao que a IA devolve, para que a app não possa ser usada indevidamente para prompt injection ou para gerar conteúdo nocivo.
Guia de implementação
Como implementar na AWS
Aplique o Amazon Bedrock Guardrails (filtros de conteúdo, tópicos negados, filtros de PII, filtros de ataques de prompt) às entradas do usuário e às saídas geradas pela IA em todos os tipos de aplicação, invocando um guardrail versionado em cada requisição.
Critérios de aceitação
Os guardrails rodam sobre as entradas do usuário e as saídas de IA; uma tentativa de prompt injection e uma amostra de conteúdo nocivo são bloqueadas; a PII é redigida.
Implementação prática
Como este controle é implementado em cada arquitetura de referência:
Um guardrail versionado é invocado em cada requisição a partir da conta de aplicação para que as entradas do usuário e as saídas de IA sejam filtradas por ataques de prompt, conteúdo nocivo e PII.
- Configure um guardrail do Bedrock versionado com filtros de conteúdo, tópicos negados, filtros de PII e filtros de ataques de prompt.Conta de IA generativa
Amazon Bedrock - Invoque o guardrail em cada requisição em todos os tipos de aplicação (entradas e saídas geradas pela IA).Conta de aplicação → Conta de IA generativa Amazon Bedrock
- Redija a PII tanto em entradas quanto em saídas antes de o conteúdo chegar ao modelo ou ao usuário.Conta de IA generativa Amazon Bedrock
Como validar: Os guardrails rodam sobre as entradas do usuário e as saídas de IA; uma tentativa de prompt injection e uma amostra de conteúdo nocivo são bloqueadas; uma amostra de PII é redigida.
Evite: Filtrar apenas o que o modelo retorna. Os usuários fabricam injection na entrada; filtre tanto entradas quanto saídas.
Um guardrail versionado roda em cada requisição na camada de IA generativa, filtrando as entradas do usuário e as saídas de IA e redigindo PII.
- Configure um guardrail do Bedrock versionado (filtros de conteúdo, tópicos negados, PII, ataques de prompt).Camada de IA generativa (papel IAM) Amazon Bedrock
- Invoque-o em cada requisição para entradas e saídas.Camada de aplicação (papel IAM) Amazon Bedrock
- Redija a PII em entradas e saídas.Camada de IA generativa (papel IAM) Amazon Bedrock
Como validar: Os guardrails rodam sobre entradas e saídas; a injection e o conteúdo nocivo são bloqueados; a PII é redigida.
Evite: Supor que os usuários da app são benignos. Filtre cada requisição; a interface é uma superfície de ataque.
Ameaças atendidas
- Prompt injection ou uso inadequado pela interface da app.
- Conteúdo nocivo ou sensível nas saídas geradas pela IA chegando aos usuários.
Serviços AWS
Amazon Bedrock Guardrails Mapeamentos de frameworks
OWASP GenAI/LLM Top 10 (2026)
- LLM01 Prompt Injection
- LLM02 Sensitive Information Disclosure
NIST AI Risk Management Framework (AI 100-1)
- MEASURE.2 AI systems are evaluated for trustworthy characteristics
- MANAGE.1 AI risks are prioritized, responded to and managed
AWS Well-Architected Generative AI Lens (Security)
- GENSEC02-BP01 Implement guardrails to mitigate harmful or incorrect model responses
- GENSEC04-BP02 Sanitize and validate user inputs to foundation models
Recursos de aprendizado
Referências
- AWS SRA para IA — Capacidade 6, Proteção de dados