AI Security Maturity Model·AWS v1.0.0

Arrastra para explorar · pellizca para ampliar
Inicio / Matriz / Capacidad 5 / c5.9
Avanzada Registro y monitoreoCapa de defensa en profundidad: Aplicación de IA Capacidad 5 · Agentes de IA generativaCaso de uso: IA que actúa 👤 ClienteModelo de Responsabilidad Compartida de AWS: quién implementa y opera este control. Cliente = es tuyo; AWS = lo opera AWS y tú lo heredas; Compartida = ambos tienen obligaciones.

c5.9 Traza el razonamiento, la memoria y las cadenas de herramientas del agente

Captura la cadena de decisión completa (prompts, trazas de razonamiento, eventos de memoria, invocaciones de herramientas) para que el comportamiento del agente sea observable, auditable y las anomalías detectables.

Fundacional
Mejorada
Avanzada
Esfuerzo: Medio Impacto: Alto Scopes de IA generativaDe la AWS Generative AI Security Scoping Matrix.: 3 · Modelos preentrenados; 4 · Modelos ajustados (fine-tuned) Dimensiones de seguridad agénticaDe la AWS Agentic AI Security Scoping Matrix.: Registro y responsabilidad, Orquestación y flujo

Guía de implementación

Cómo implementarlo en AWS

Habilita AgentCore Observability (CloudWatch Transaction Search) para trazar los prompts de entrada/salida, las trazas de razonamiento y las invocaciones de herramientas. Configura AgentCore Memory para emitir eventos del plano de datos (CreateEvent, DeleteEvent, RetrieveMemoryRecords) a CloudWatch, alarma ante métricas anómalas de herramientas y agrega todos los logs del agente a la cuenta de Log Archive.

Criterios de aceptación

Las trazas de razonamiento y las invocaciones de herramientas se capturan; los eventos de acceso a memoria se registran y auditan; los logs del agente están centralizados con alarmas de anomalías.

Implementación práctica

Cómo se implementa este control en cada arquitectura de referencia:

AgentCore Observability traza la cadena de decisión completa en la cuenta de IA generativa, los eventos de memoria se registran y todos los logs del agente se agregan al Log archive con alarmas de anomalías.

  1. Habilita AgentCore Observability (CloudWatch Transaction Search) para trazar los prompts de entrada/salida, las trazas de razonamiento y las invocaciones de herramientas.
    Cuenta de IA generativa AgentCore Observability CloudWatch
  2. Configura AgentCore Memory para emitir eventos del plano de datos (CreateEvent, DeleteEvent, RetrieveMemoryRecords) a CloudWatch y alarma ante métricas anómalas de herramientas.
    Cuenta de IA generativa AgentCore Memory CloudWatch
  3. Agrega todos los logs del agente a la cuenta de Log archive para una retención resistente a manipulación.
    Cuenta de IA generativa → Log archive CloudTrail Amazon S3

Cómo validar: Las trazas de razonamiento y las invocaciones de herramientas se capturan; los eventos de acceso a memoria se registran y auditan; los logs del agente están centralizados con alarmas de anomalías.

Evita: Registrar solo la respuesta final. Sin trazas de razonamiento y de eventos de memoria no puedes reconstruir por qué actuó un agente ni detectar manipulación.

OU de IA generativa (multi-cuenta) →

Las trazas de AgentCore Observability, el registro de eventos de memoria y los logs centralizados en la cuenta con alarmas de anomalías hacen auditable el comportamiento del agente.

  1. Habilita AgentCore Observability para trazar prompts, razonamiento e invocaciones de herramientas.
    Capa de IA generativa (rol IAM) AgentCore Observability CloudWatch
  2. Emite los eventos del plano de datos de AgentCore Memory a CloudWatch y alarma ante anomalías.
    Registro en la cuenta AgentCore Memory CloudWatch
  3. Agrega los logs del agente al bucket con Object Lock de la cuenta.
    Registro en la cuenta CloudTrail Amazon S3

Cómo validar: Las trazas de razonamiento y las invocaciones de herramientas se capturan; los eventos de memoria se registran; los logs del agente están centralizados con alarmas de anomalías.

Evita: Sin traza de la cadena de decisión del agente. Captura el razonamiento y los eventos de memoria para que el mal comportamiento sea detectable y explicable.

Cuenta única (punto de entrada) →

Amenazas que atiende

  • Imposibilidad de reconstruir por qué un agente tomó una acción.
  • Mal comportamiento del agente o manipulación de memoria no detectados.

Servicios AWS

Amazon Bedrock AgentCore Observability Amazon CloudWatch AWS CloudTrail

Mapeos de frameworks

OWASP GenAI/LLM Top 10 (2026)

  • LLM03 Excessive Agency

NIST AI Risk Management Framework (AI 100-1)

  • MEASURE.3 Mechanisms for tracking AI risks are in place
  • MANAGE.4 Risk treatments, monitoring and response are documented and applied

AWS Security Hub — AI Security Best Practices

  • BedrockAgentCore.6 Bedrock AgentCore custom browsers should have session recording enabled

AWS Well-Architected Generative AI Lens (Security)

  • GENSEC03-BP01 Implement control plane and data access monitoring

OWASP GenAI Top 10 for Agentic Applications (2025)

  • ASI08 Cascading Failures

Ver video

Video de AWS: una introducción a Amazon Bedrock AgentCore Observability — cómo capturar y rastrear el razonamiento del agente, los eventos de memoria y las invocaciones de herramientas para que el comportamiento del agente sea observable y auditable.

Recursos de aprendizaje

Referencias

  • AWS SRA para IA — Capacidad 5, Registro y monitoreo