AI Security Maturity Model·AWS v1.0.0

Arraste para explorar · faça pinça para ampliar
Início / Matriz / Capacidade 5 / c5.9
Avançada Registro e monitoramentoCamada de defesa em profundidade: Aplicação de IA Capacidade 5 · Agentes de IA generativaCaso de uso: IA que age 👤 ClienteModelo de Responsabilidade Compartilhada da AWS: quem implementa e opera este controle. Cliente = é seu; AWS = a AWS opera e você o herda; Compartilhada = ambos têm obrigações.

c5.9 Rastreie o raciocínio, a memória e as cadeias de ferramentas do agente

Capture a cadeia de decisão completa (prompts, rastros de raciocínio, eventos de memória, invocações de ferramentas) para que o comportamento do agente seja observável, auditável e as anomalias detectáveis.

Fundacional
Aprimorada
Avançada
Esforço: Médio Impacto: Alto Scopes de IA generativaDa AWS Generative AI Security Scoping Matrix.: 3 · Modelos pré-treinados; 4 · Modelos ajustados (fine-tuned) Dimensões de segurança agênticaDa AWS Agentic AI Security Scoping Matrix.: Registro e responsabilidade, Orquestração e fluxo

Guia de implementação

Como implementar na AWS

Habilite o AgentCore Observability (CloudWatch Transaction Search) para rastrear os prompts de entrada/saída, os rastros de raciocínio e as invocações de ferramentas. Configure o AgentCore Memory para emitir eventos do plano de dados (CreateEvent, DeleteEvent, RetrieveMemoryRecords) ao CloudWatch, alarme para métricas anômalas de ferramentas e agregue todos os logs do agente à conta de Log Archive.

Critérios de aceitação

Os rastros de raciocínio e as invocações de ferramentas são capturados; os eventos de acesso à memória são registrados e auditados; os logs do agente são centralizados com alarmes de anomalias.

Implementação prática

Como este controle é implementado em cada arquitetura de referência:

O AgentCore Observability rastreia a cadeia de decisão completa na conta de IA generativa, os eventos de memória são registrados e todos os logs do agente são agregados ao Log archive com alarmes de anomalias.

  1. Habilite o AgentCore Observability (CloudWatch Transaction Search) para rastrear os prompts de entrada/saída, os rastros de raciocínio e as invocações de ferramentas.
    Conta de IA generativa AgentCore Observability CloudWatch
  2. Configure o AgentCore Memory para emitir eventos do plano de dados (CreateEvent, DeleteEvent, RetrieveMemoryRecords) ao CloudWatch e alarme para métricas anômalas de ferramentas.
    Conta de IA generativa AgentCore Memory CloudWatch
  3. Agregue todos os logs do agente à conta de Log archive para retenção resistente a adulteração.
    Conta de IA generativa → Log archive CloudTrail Amazon S3

Como validar: Os rastros de raciocínio e as invocações de ferramentas são capturados; os eventos de acesso à memória são registrados e auditados; os logs do agente são centralizados com alarmes de anomalias.

Evite: Registrar apenas a resposta final. Sem rastros de raciocínio e de eventos de memória você não consegue reconstruir por que um agente agiu nem detectar manipulação.

OU de IA generativa (multi-conta) →

Os rastros do AgentCore Observability, o registro de eventos de memória e os logs centralizados na conta com alarmes de anomalias tornam o comportamento do agente auditável.

  1. Habilite o AgentCore Observability para rastrear prompts, raciocínio e invocações de ferramentas.
    Camada de IA generativa (papel IAM) AgentCore Observability CloudWatch
  2. Emita os eventos do plano de dados do AgentCore Memory ao CloudWatch e alarme para anomalias.
    Registro na conta AgentCore Memory CloudWatch
  3. Agregue os logs do agente ao bucket com Object Lock da conta.
    Registro na conta CloudTrail Amazon S3

Como validar: Os rastros de raciocínio e as invocações de ferramentas são capturados; os eventos de memória são registrados; os logs do agente são centralizados com alarmes de anomalias.

Evite: Sem rastro da cadeia de decisão do agente. Capture o raciocínio e os eventos de memória para que o mau comportamento seja detectável e explicável.

Conta única (ponto de entrada) →

Ameaças atendidas

  • Impossibilidade de reconstruir por que um agente tomou uma ação.
  • Mau comportamento do agente ou manipulação de memória não detectados.

Serviços AWS

Amazon Bedrock AgentCore Observability Amazon CloudWatch AWS CloudTrail

Mapeamentos de frameworks

OWASP GenAI/LLM Top 10 (2026)

  • LLM03 Excessive Agency

NIST AI Risk Management Framework (AI 100-1)

  • MEASURE.3 Mechanisms for tracking AI risks are in place
  • MANAGE.4 Risk treatments, monitoring and response are documented and applied

AWS Security Hub — AI Security Best Practices

  • BedrockAgentCore.6 Bedrock AgentCore custom browsers should have session recording enabled

AWS Well-Architected Generative AI Lens (Security)

  • GENSEC03-BP01 Implement control plane and data access monitoring

OWASP GenAI Top 10 for Agentic Applications (2025)

  • ASI08 Cascading Failures

Assista

Vídeo da AWS: uma introdução ao Amazon Bedrock AgentCore Observability — como capturar e rastrear o raciocínio do agente, os eventos de memória e as invocações de ferramentas para que o comportamento do agente seja observável e auditável.

Recursos de aprendizado

Referências

  • AWS SRA para IA — Capacidade 5, Registro e monitoramento