AI Security Maturity Model·AWS v1.0.0

Arraste para explorar · faça pinça para ampliar
Início / Matriz / Capacidade 4 / c4.8
Avançada Registro e monitoramentoCamada de defesa em profundidade: Aplicação de IA Capacidade 4 · FerramentasCaso de uso: IA que age 👤 ClienteModelo de Responsabilidade Compartilhada da AWS: quem implementa e opera este controle. Cliente = é seu; AWS = a AWS opera e você o herda; Compartilhada = ambos têm obrigações.

c4.8 Registre as invocações de ferramentas com atribuição de usuário e observabilidade

Registre quem invocou qual ferramenta, com quais parâmetros, e rastreie as cadeias de ferramentas, para que o uso indevido e o comportamento anômalo sejam detectáveis e auditáveis.

Fundacional
Aprimorada
Avançada
Esforço: Médio Impacto: Médio Scopes de IA generativaDa AWS Generative AI Security Scoping Matrix.: 3 · Modelos pré-treinados; 4 · Modelos ajustados (fine-tuned) Dimensões de segurança agênticaDa AWS Agentic AI Security Scoping Matrix.: Registro e responsabilidade, Orquestração e fluxo

Guia de implementação

Como implementar na AWS

Habilite o CloudTrail (trail de organização) para registrar as invocações de ferramentas com atribuição de contexto de usuário e encaminhe-as para a conta de Log Archive. Monitore taxas de invocação, duração e falhas com alarmes do CloudWatch. Use o AgentCore Observability para rastrear cadeias de ferramentas e fluxos multiagente; para ferramentas de SO, registre via Systems Manager Session Manager.

Critérios de aceitação

As invocações de ferramentas são registradas com atribuição de usuário e de forma centralizada; há alarmes do CloudWatch para métricas anômalas de ferramentas; os rastros de cadeias de ferramentas estão disponíveis.

Implementação prática

Como este controle é implementado em cada arquitetura de referência:

As invocações de ferramentas são registradas com atribuição de usuário via o CloudTrail de organização para o Log archive, o AgentCore Observability rastreia as cadeias de ferramentas e o CloudWatch alarma em anomalias.

  1. Habilite o CloudTrail de organização para registrar as invocações de ferramentas com atribuição de contexto de usuário e encaminhá-las para a conta de Log archive.
    Conta de IA generativa → Log archive CloudTrail Amazon S3
  2. Use o AgentCore Observability para rastrear cadeias de ferramentas e fluxos multiagente; para ferramentas no nível de SO registre via Systems Manager Session Manager.
    Conta de IA generativa AgentCore Observability Systems Manager
  3. Alarme no CloudWatch em anomalias de taxa de invocação, duração e falhas das ferramentas.
    Conta de IA generativa CloudWatch

Como validar: As invocações de ferramentas são registradas com atribuição de usuário e de forma centralizada no Log archive; há alarmes do CloudWatch para métricas anômalas de ferramentas; os rastros de cadeias de ferramentas estão disponíveis.

Evite: Registrar que uma ferramenta rodou mas não quem a disparou nem com quais parâmetros. Sem atribuição de usuário você não consegue investigar o uso indevido de ferramentas.

OU de IA generativa (multi-conta) →

O CloudTrail na conta com atribuição de usuário, os rastros do AgentCore Observability e os alarmes de anomalias do CloudWatch tornam o uso indevido de ferramentas detectável e auditável.

  1. Registre as invocações de ferramentas com atribuição de contexto de usuário via CloudTrail no bucket de logs com Object Lock da conta.
    Registro na conta CloudTrail Amazon S3
  2. Rastreie as cadeias de ferramentas com o AgentCore Observability; registre as ferramentas no nível de SO via Systems Manager Session Manager.
    Registro na conta AgentCore Observability Systems Manager
  3. Alarme em taxa de invocação, duração e falhas anômalas de ferramentas no CloudWatch.
    Registro na conta CloudWatch

Como validar: As invocações de ferramentas são registradas com atribuição de usuário; há alarmes do CloudWatch para métricas anômalas; os rastros de cadeias de ferramentas estão disponíveis.

Evite: Sem rastro ao longo de uma cadeia de ferramentas de várias etapas. Capture a cadeia para poder reconstruir uma sequência anômala de chamadas.

Conta única (ponto de entrada) →

Ameaças atendidas

  • Uso indevido de ferramentas ou padrões de invocação anômalos passando despercebidos.
  • Sem trilha de auditoria que atribua uma ação de ferramenta a um usuário.

Serviços AWS

AWS CloudTrail Amazon CloudWatch Amazon Bedrock AgentCore Observability

Mapeamentos de frameworks

OWASP GenAI/LLM Top 10 (2026)

  • LLM03 Excessive Agency
  • LLM06 Unbounded Consumption

NIST AI Risk Management Framework (AI 100-1)

  • MEASURE.3 Mechanisms for tracking AI risks are in place
  • MANAGE.4 Risk treatments, monitoring and response are documented and applied

AWS Security Hub — AI Security Best Practices

  • BedrockAgentCore.6 Bedrock AgentCore custom browsers should have session recording enabled

AWS Well-Architected Generative AI Lens (Security)

  • GENSEC03-BP01 Implement control plane and data access monitoring

OWASP GenAI Top 10 for Agentic Applications (2025)

  • ASI08 Cascading Failures

Recursos de aprendizado

Referências

  • AWS SRA para IA — Capacidade 4, Registro e monitoramento