AI Security Maturity Model·AWS v1.0.0

Arrastra para explorar · pellizca para ampliar
Inicio / Matriz / Capacidad 2 / c2.7
Mejorada Registro y monitoreoCapa de defensa en profundidad: Aplicación de IA Capacidad 2 · Personalización de modelosCaso de uso: IA que construyes 👤 ClienteModelo de Responsabilidad Compartida de AWS: quién implementa y opera este control. Cliente = es tuyo; AWS = lo opera AWS y tú lo heredas; Compartida = ambos tienen obligaciones.

c2.7 Detecta fugas de datos de entrenamiento con canarios

Siembra cadenas canario únicas en los datos de entrenamiento y alerta si aparecen en la salida del modelo, revelando que el modelo memoriza y reproduce datos de entrenamiento.

Fundacional
Mejorada
Avanzada
Esfuerzo: Medio Impacto: Medio Scopes de IA generativaDe la AWS Generative AI Security Scoping Matrix.: 4 · Modelos ajustados (fine-tuned); 5 · Modelos entrenados por ti

Guía de implementación

Cómo implementarlo en AWS

Introduce cadenas canario únicas e identificables en los datos de entrenamiento que nunca deberían aparecer en las salidas. Habilita el registro de prompts/respuestas y configura alertas de CloudWatch que se disparen cuando se detecte un canario en la salida del modelo.

Criterios de aceptación

Los canarios están embebidos en los datos de entrenamiento; el registro de salidas está habilitado; se dispara una alerta si un canario aparece en una respuesta.

Implementación práctica

Cómo se implementa este control en cada arquitectura de referencia:

Cadenas canario únicas se siembran en los datos de entrenamiento; el registro de invocación en la cuenta de IA generativa y una alarma de CloudWatch detectan si un canario aparece en la salida.

  1. Siembra cadenas canario únicas e identificables en los datos de entrenamiento que nunca deberían aparecer legítimamente en la salida del modelo.
    Cuenta de IA generativa Amazon S3
  2. Habilita el registro de invocación (prompt/respuesta) de Bedrock y escanea las salidas por los valores canario.
    Cuenta de IA generativa Amazon Bedrock CloudTrail CloudWatch
  3. Configura una alarma de CloudWatch (y un hallazgo de Security Hub) que se dispare en el momento en que un canario aparezca en una respuesta, y reenvía los logs al Log archive.
    Cuenta de IA generativa → Log archive CloudWatch Security Hub

Cómo validar: Los canarios están presentes en los datos de entrenamiento; el registro de respuestas está activado; una prueba sintética que provoca un canario dispara la alarma.

Evita: Asumir que el modelo no memorizará los datos de entrenamiento. Planta canarios para que la fuga sea detectable en vez de solo esperar que no ocurra.

OU de IA generativa (multi-cuenta) →

Cadenas canario en los datos de entrenamiento más el registro de respuestas en la cuenta y una alarma de CloudWatch revelan memorización/fuga.

  1. Embebe cadenas canario únicas en los datos de entrenamiento.
    Capa de IA generativa (rol IAM) Amazon S3
  2. Activa el registro de invocación de modelos y escanea las respuestas por los canarios.
    Registro en la cuenta Amazon Bedrock CloudTrail CloudWatch
  3. Alarma en CloudWatch cuando un canario aparezca en la salida.
    Registro en la cuenta CloudWatch

Cómo validar: Los canarios están embebidos; el registro de salidas está habilitado; un canario en una respuesta levanta una alarma.

Evita: No tener forma de saber si el modelo repite datos de entrenamiento. Los canarios convierten un riesgo invisible en uno monitoreado.

Cuenta única (punto de entrada) →

Amenazas que atiende

  • Modelo que memoriza y reproduce indebidamente datos de entrenamiento.
  • Fuga no detectada de contenido de entrenamiento propietario o sensible.

Servicios AWS

Amazon CloudWatch AWS CloudTrail

Mapeos de frameworks

OWASP GenAI/LLM Top 10 (2026)

  • LLM02 Sensitive Information Disclosure
  • LLM05 Data and Model Poisoning

NIST AI Risk Management Framework (AI 100-1)

  • MEASURE.3 Mechanisms for tracking AI risks are in place
  • MANAGE.4 Risk treatments, monitoring and response are documented and applied

AWS Well-Architected Generative AI Lens (Security)

  • GENSEC03-BP01 Implement control plane and data access monitoring

Recursos de aprendizaje

Referencias

  • AWS SRA para IA — Capacidad 2, Justificación