AI Security Maturity Model·AWS v1.0.0

Arraste para explorar · faça pinça para ampliar
Início / Matriz / Capacidade 5 / c5.8
Aprimorada Segurança da aplicação de IACamada de defesa em profundidade: Aplicação de IA Capacidade 5 · Agentes de IA generativaCaso de uso: IA que age 👤 ClienteModelo de Responsabilidade Compartilhada da AWS: quem implementa e opera este controle. Cliente = é seu; AWS = a AWS opera e você o herda; Compartilhada = ambos têm obrigações.

c5.8 Limite as operações destrutivas e justifique cada ferramenta

Avalie quais capacidades um agente realmente precisa e restrinja as operações mutativas ou destrutivas, para que o raio de impacto do agente permaneça proporcional ao seu propósito.

Fundacional
Aprimorada
Avançada
Esforço: Alto Impacto: Alto Scopes de IA generativaDa AWS Generative AI Security Scoping Matrix.: 3 · Modelos pré-treinados; 4 · Modelos ajustados (fine-tuned) Dimensões de segurança agênticaDa AWS Agentic AI Security Scoping Matrix.: Limites operacionais, Orquestração e fluxo

Guia de implementação

Como implementar na AWS

Avalie a arquitetura de ferramentas: para cada capacidade, decida se o valor justifica o risco. Limite o acesso do agente a operações mutativas ou destrutivas, adicione controles adicionais (aprovação, IAM mais estrito) para ações de alto impacto e remova as ferramentas de que o agente não precisa. Autorize cada chamada de ferramenta com o AgentCore Policy (Cedar) no gateway, que nega por padrão.

Critérios de aceitação

Cada ferramenta do agente é justificada frente ao seu risco; as operações destrutivas/mutativas são restritas ou controladas; as ferramentas desnecessárias são removidas. Uma chamada de ferramenta sem política que a permita é negada.

Implementação prática

Como este controle é implementado em cada arquitetura de referência:

Uma revisão documentada de risco de ferramentas na conta de IA generativa mantém o raio de impacto do agente proporcional: as operações destrutivas são controladas ou removidas, as de alto impacto recebem controles extras.

  1. Revise a arquitetura de ferramentas do agente: para cada capacidade, decida se o valor justifica o risco, e remova as ferramentas de que o agente não precisa.
    Conta de IA generativa Bedrock AgentCore IAM
  2. Restrinja o acesso a operações mutativas ou destrutivas, e adicione controles extras (portão de aprovação, IAM mais estrito) para as ações de alto impacto.
    Conta de IA generativa IAM Step Functions
  3. Use o AgentCore Policy (Cedar) no gateway para permitir as ferramentas destrutivas ou mutativas apenas aos principais e condições de entrada específicos que precisam delas. O mecanismo nega por padrão, então qualquer outra chamada a essas ferramentas é bloqueada.
    Conta de IA generativa AgentCore Gateway
  4. Registre a justificativa de cada ferramenta mantida para que a decisão seja auditável.
    Conta de IA generativa Amazon Bedrock

Como validar: Cada ferramenta do agente é justificada frente ao seu risco; as operações destrutivas/mutativas são restritas ou controladas; as ferramentas desnecessárias são removidas. Uma chamada de ferramenta sem política que a permita é negada.

Evite: Dar ao agente todas as ferramentas 'por precaução'. As ferramentas destrutivas sem uso são puro risco; justifique cada uma e remova o resto.

OU de IA generativa (multi-conta) →

Uma revisão de risco de ferramentas na conta reduz o agente a ferramentas justificadas, controla as operações destrutivas e adiciona controles às ações de alto impacto.

  1. Avalie o valor vs. risco de cada ferramenta e remova as de que o agente não precisa.
    Camada de IA generativa (papel IAM) Bedrock AgentCore IAM
  2. Restrinja as operações destrutivas/mutativas e controle as ações de alto impacto com aprovação e IAM mais estrito.
    Camada de IA generativa (papel IAM) IAM Step Functions
  3. Use o AgentCore Policy (Cedar) no gateway para permitir as ferramentas destrutivas ou mutativas apenas aos principais e condições de entrada específicos que precisam delas. O mecanismo nega por padrão, então qualquer outra chamada a essas ferramentas é bloqueada.
    Camada de IA generativa (papel IAM) AgentCore Gateway
  4. Documente a justificativa de cada ferramenta mantida.
    Camada de IA generativa (papel IAM) Amazon Bedrock

Como validar: Cada ferramenta é justificada; as operações destrutivas são restritas ou controladas; as ferramentas desnecessárias são removidas. Uma chamada de ferramenta sem política que a permita é negada.

Evite: Um agente com amplas ferramentas de escrita/exclusão que raramente usa. Mantenha o conjunto de ferramentas mínimo e controle as partes perigosas.

Conta única (ponto de entrada) →

Ameaças atendidas

  • Um agente com capacidades destrutivas/mutativas desnecessárias.
  • Esgotamento de recursos ou dano por ferramentas de agente amplas demais.

Serviços AWS

Amazon Bedrock AgentCore AWS IAM

Mapeamentos de frameworks

OWASP GenAI/LLM Top 10 (2026)

  • LLM03 Excessive Agency
  • LLM06 Unbounded Consumption

NIST AI Risk Management Framework (AI 100-1)

  • MAP.4 Risks and impacts are mapped
  • MANAGE.1 AI risks are prioritized, responded to and managed

AWS Well-Architected Generative AI Lens (Security)

  • GENSEC05-BP01 Implement least privilege and permission boundaries for agentic workflows

OWASP GenAI Top 10 for Agentic Applications (2025)

  • ASI01 Agent Goal Hijack
  • ASI02 Tool Misuse and Exploitation

Recursos de aprendizado

Referências

  • AWS SRA para IA — Capacidade 5, Segurança de aplicação