AI Security Maturity Model·AWS v1.0.0

Arrastra para explorar · pellizca para ampliar

Fundacional Registro y monitoreoCapa de defensa en profundidad: Aplicación de IA Capacidad 1 · Inferencia de modelosCaso de uso: IA que responde 👤 ClienteModelo de Responsabilidad Compartida de AWS: quién implementa y opera este control. Cliente = es tuyo; AWS = lo opera AWS y tú lo heredas; Compartida = ambos tienen obligaciones.

c1.4 Registra cada invocación del modelo con CloudTrail y CloudWatch

Captura quién invocó qué modelo, cuándo y con qué configuración, para que la actividad de inferencia sea auditable y las anomalías detectables.

Fundacional
Mejorada
Avanzada
Esfuerzo: Bajo Impacto: Medio Scopes de IA generativaDe la AWS Generative AI Security Scoping Matrix.: 3 · Modelos preentrenados

Guía de implementación

Cómo implementarlo en AWS

Habilita CloudTrail para las llamadas a la API de Amazon Bedrock y activa el registro de invocación de modelos hacia CloudWatch/S3. Rastrea tasa de invocación, latencia, uso de tokens y tasa de error con métricas de CloudWatch, y alarma ante desviaciones de la línea base.

Haz auditable la actividad de inferencia

Dos registros distintos responden a dos preguntas distintas:

  • AWS CloudTrail registra la actividad de la API y del plano de control: quién llamó a qué operación de Bedrock, desde dónde y cuándo. Está activo de forma predeterminada para los eventos de gestión y es tu rastro de auditoría de quién hizo qué.
  • El registro de invocación del modelo captura el plano de datos: los prompts, las respuestas y los metadatos reales de las llamadas hechas a través del endpoint bedrock-runtime. Está desactivado de forma predeterminada y debes habilitarlo explícitamente.

Juntos permiten reconstruir tanto las acciones administrativas como la inferencia en sí.

Activa el registro de invocación del modelo

Habilita el registro de invocación y envíalo a CloudWatch Logs (o a S3). CloudWatch es conveniente para filtros de métricas y alarmas; S3 es mejor para retención económica de largo plazo. El rol de entrega debe permitir que Bedrock escriba en el destino:

aws bedrock put-model-invocation-logging-configuration \
  --logging-config '{
    "cloudWatchConfig": {
      "logGroupName": "/aws/bedrock/model-invocations",
      "roleArn": "arn:aws:iam::111122223333:role/BedrockInvocationLoggingRole"
    },
    "textDataDeliveryEnabled": true,
    "imageDataDeliveryEnabled": false,
    "embeddingDataDeliveryEnabled": true
  }'
Nota: el registro de invocación solo captura las llamadas a través del endpoint bedrock-runtime (InvokeModel, Converse y las APIs compatibles con OpenAI en ese endpoint). Las llamadas a través de otros endpoints no se capturan.

Alarma sobre las señales que importan

Una vez que los registros lleguen a CloudWatch, añade filtros de métricas y alarmas para lo que vale la pena vigilar: un aumento repentino de intervenciones del guardrail, errores de throttling o un salto inusual en el volumen de invocaciones de un principal. Los prompts y las respuestas pueden contener datos sensibles, así que cifra el destino con tu clave administrada por el cliente (consulta el control de KMS) y acota quién puede leer el grupo de logs o el bucket.

Vigila el costo

  • CloudWatch Logs factura por ingesta y almacenamiento; los prompts/respuestas pueden ser grandes, así que dirige las cargas de alto volumen a S3 y usa CloudWatch para una ventana de alerta más corta.
  • Configura una regla de ciclo de vida en S3 para expirar o archivar los registros de invocación antiguos.

Criterios de aceptación

CloudTrail registra las llamadas a la API de Bedrock; los logs de invocación se entregan; existen alarmas de CloudWatch para patrones de invocación anómalos.

Implementación práctica

Cómo se implementa este control en cada arquitectura de referencia:

CloudTrail y los logs de invocación de Bedrock de la cuenta de IA generativa fluyen a la cuenta central de Log archive, donde son inmutables y se monitorean.

  1. Habilita CloudTrail de organización capturando eventos de gestión y de datos de Bedrock, y activa el registro de invocación de modelos en la cuenta de IA generativa.
    Cuenta de IA generativa CloudTrail Amazon Bedrock
  2. Entrega esos logs al bucket WORM central (Object Lock) en la cuenta de Log archive para que la actividad de inferencia sea resistente a manipulación y se retenga de forma central.
    Cuenta de IA generativa → Log archive Amazon S3 CloudTrail
  3. Publica métricas de tasa de invocación, latencia, uso de tokens y tasa de error en CloudWatch y alarma ante desviaciones de la línea base.
    Cuenta de IA generativa CloudWatch

Cómo validar: CloudTrail muestra las llamadas de Bedrock; los logs de invocación aterrizan en el bucket de Log archive bajo Object Lock; un pico de invocación simulado dispara una alarma de CloudWatch.

Evita: Registrar solo en la misma cuenta que ejecuta la carga. Un atacante que llegue a esa cuenta puede manipular la evidencia; envía los logs a una cuenta separada de Log archive.

OU de IA generativa (multi-cuenta) →

CloudTrail y los logs de invocación se quedan en la cuenta pero se exportan a un bucket con acceso controlado y Object Lock que podrás centralizar al graduarte.

  1. Habilita CloudTrail para las llamadas a la API de Bedrock y activa el registro de invocación de modelos hacia CloudWatch y S3.
    Registro en la cuenta CloudTrail Amazon Bedrock CloudWatch
  2. Envía los logs a un bucket S3 dedicado con Object Lock y una política de bucket restrictiva, separado de los datos de aplicación, para que resistan manipulación incluso dentro de una sola cuenta.
    Registro en la cuenta Amazon S3
  3. Crea métricas y alarmas de CloudWatch para tasa de invocación, uso de tokens y tasa de error para detectar abuso o costo desbocado.
    Registro en la cuenta CloudWatch

Cómo validar: CloudTrail registra las llamadas de Bedrock; los logs de invocación se entregan al bucket con Object Lock; un patrón de invocación anómalo levanta una alarma.

Evita: Escribir logs en un bucket que el rol de la aplicación puede borrar o sobrescribir. Aísla el bucket de logs con su propia política y Object Lock para que las credenciales en ejecución no puedan borrar la traza.

Cuenta única (punto de entrada) →

Amenazas que atiende

  • Abuso o acceso a datos no detectado cuando las invocaciones no se registran.
  • Sin traza de auditoría para reconstruir un incidente.

Servicios AWS

AWS CloudTrail Amazon CloudWatch Amazon Bedrock

Precios

Bedrock no cobra por habilitar el registro de invocación en sí; pagas los cargos estándar de CloudWatch Logs o S3 por los datos entregados y almacenados. Los eventos de gestión de CloudTrail son gratuitos; los eventos de datos (si se habilitan) se facturan por evento. Consulta Monitor model invocation using CloudWatch Logs and Amazon S3.

Mapeos de frameworks

OWASP GenAI/LLM Top 10 (2026)

  • LLM02 Sensitive Information Disclosure

NIST AI Risk Management Framework (AI 100-1)

  • MEASURE.3 Mechanisms for tracking AI risks are in place
  • MANAGE.4 Risk treatments, monitoring and response are documented and applied

AWS Well-Architected Generative AI Lens (Security)

  • GENSEC01-BP04 Implement access monitoring to generative AI services and foundation models
  • GENSEC03-BP01 Implement control plane and data access monitoring

Recursos de aprendizaje

Referencias

  • AWS SRA para IA — Capacidad 1, Defensa en profundidad