AI Security Maturity Model·AWS v1.0.0

Arrastra para explorar · pellizca para ampliar
Inicio / Matriz / Capacidad 4 / c4.8
Avanzada Registro y monitoreoCapa de defensa en profundidad: Aplicación de IA Capacidad 4 · HerramientasCaso de uso: IA que actúa 👤 ClienteModelo de Responsabilidad Compartida de AWS: quién implementa y opera este control. Cliente = es tuyo; AWS = lo opera AWS y tú lo heredas; Compartida = ambos tienen obligaciones.

c4.8 Registra las invocaciones de herramientas con atribución de usuario y observabilidad

Registra quién invocó qué herramienta, con qué parámetros, y traza las cadenas de herramientas, para que el uso indebido y el comportamiento anómalo sean detectables y auditables.

Fundacional
Mejorada
Avanzada
Esfuerzo: Medio Impacto: Medio Scopes de IA generativaDe la AWS Generative AI Security Scoping Matrix.: 3 · Modelos preentrenados; 4 · Modelos ajustados (fine-tuned) Dimensiones de seguridad agénticaDe la AWS Agentic AI Security Scoping Matrix.: Registro y responsabilidad, Orquestación y flujo

Guía de implementación

Cómo implementarlo en AWS

Habilita CloudTrail (trail de organización) para registrar las invocaciones de herramientas con atribución de contexto de usuario y reenvíalas a la cuenta de Log Archive. Monitorea tasas de invocación, duración y fallos con alarmas de CloudWatch. Usa AgentCore Observability para trazar cadenas de herramientas y flujos multiagente; para herramientas de SO, registra vía Systems Manager Session Manager.

Criterios de aceptación

Las invocaciones de herramientas se registran con atribución de usuario y de forma centralizada; hay alarmas de CloudWatch ante métricas anómalas de herramientas; las trazas de cadenas de herramientas están disponibles.

Implementación práctica

Cómo se implementa este control en cada arquitectura de referencia:

Las invocaciones de herramientas se registran con atribución de usuario vía el CloudTrail de organización al Log archive, AgentCore Observability traza las cadenas de herramientas y CloudWatch alarma ante anomalías.

  1. Habilita el CloudTrail de organización para registrar las invocaciones de herramientas con atribución de contexto de usuario y reenviarlas a la cuenta de Log archive.
    Cuenta de IA generativa → Log archive CloudTrail Amazon S3
  2. Usa AgentCore Observability para trazar cadenas de herramientas y flujos multiagente; para herramientas a nivel de SO registra vía Systems Manager Session Manager.
    Cuenta de IA generativa AgentCore Observability Systems Manager
  3. Alarma en CloudWatch ante anomalías de tasa de invocación, duración y fallos de las herramientas.
    Cuenta de IA generativa CloudWatch

Cómo validar: Las invocaciones de herramientas se registran con atribución de usuario y de forma centralizada en el Log archive; hay alarmas de CloudWatch ante métricas anómalas de herramientas; las trazas de cadenas de herramientas están disponibles.

Evita: Registrar que una herramienta corrió pero no quién la disparó ni con qué parámetros. Sin atribución de usuario no puedes investigar el uso indebido de herramientas.

OU de IA generativa (multi-cuenta) →

CloudTrail en la cuenta con atribución de usuario, trazas de AgentCore Observability y alarmas de anomalías de CloudWatch hacen detectable y auditable el uso indebido de herramientas.

  1. Registra las invocaciones de herramientas con atribución de contexto de usuario vía CloudTrail en el bucket de logs con Object Lock de la cuenta.
    Registro en la cuenta CloudTrail Amazon S3
  2. Traza las cadenas de herramientas con AgentCore Observability; registra las herramientas a nivel de SO vía Systems Manager Session Manager.
    Registro en la cuenta AgentCore Observability Systems Manager
  3. Alarma ante tasa de invocación, duración y fallos anómalos de herramientas en CloudWatch.
    Registro en la cuenta CloudWatch

Cómo validar: Las invocaciones de herramientas se registran con atribución de usuario; hay alarmas de CloudWatch ante métricas anómalas; las trazas de cadenas de herramientas están disponibles.

Evita: Sin traza a lo largo de una cadena de herramientas de varios pasos. Captura la cadena para poder reconstruir una secuencia anómala de llamadas.

Cuenta única (punto de entrada) →

Amenazas que atiende

  • Uso indebido de herramientas o patrones de invocación anómalos que pasan desapercibidos.
  • Sin traza de auditoría que atribuya una acción de herramienta a un usuario.

Servicios AWS

AWS CloudTrail Amazon CloudWatch Amazon Bedrock AgentCore Observability

Mapeos de frameworks

OWASP GenAI/LLM Top 10 (2026)

  • LLM03 Excessive Agency
  • LLM06 Unbounded Consumption

NIST AI Risk Management Framework (AI 100-1)

  • MEASURE.3 Mechanisms for tracking AI risks are in place
  • MANAGE.4 Risk treatments, monitoring and response are documented and applied

AWS Security Hub — AI Security Best Practices

  • BedrockAgentCore.6 Bedrock AgentCore custom browsers should have session recording enabled

AWS Well-Architected Generative AI Lens (Security)

  • GENSEC03-BP01 Implement control plane and data access monitoring

OWASP GenAI Top 10 for Agentic Applications (2025)

  • ASI08 Cascading Failures

Recursos de aprendizaje

Referencias

  • AWS SRA para IA — Capacidad 4, Registro y monitoreo