AI Security Maturity Model·AWS v1.0.0

Arrastra para explorar · pellizca para ampliar
Inicio / Matriz / Capacidad 3 / c3.8
Avanzada Registro y monitoreoCapa de defensa en profundidad: Aplicación de IA Capacidad 3 · Generación aumentada por recuperación (RAG)Caso de uso: IA que conecta 👤 ClienteModelo de Responsabilidad Compartida de AWS: quién implementa y opera este control. Cliente = es tuyo; AWS = lo opera AWS y tú lo heredas; Compartida = ambos tienen obligaciones.

c3.8 Rastrea el linaje y la procedencia de los datos en el pipeline de RAG

Registra de dónde vinieron los datos de RAG y cómo se transformaron, para auditar el manejo, investigar incidentes y analizar el impacto de los cambios de datos.

Fundacional
Mejorada
Avanzada
Esfuerzo: Alto Impacto: Medio Scopes de IA generativaDe la AWS Generative AI Security Scoping Matrix.: 3 · Modelos preentrenados; 4 · Modelos ajustados (fine-tuned)

Guía de implementación

Cómo implementarlo en AWS

Rastrea el linaje con AWS Glue Data Catalog a lo largo de los pipelines de procesamiento de datos, captura la actividad de API con CloudTrail y monitorea la calidad de datos y la deriva con CloudWatch. Mantén la procedencia desde la fuente hasta la ingesta y la recuperación.

Criterios de aceptación

El linaje se registra de la fuente al vector store; CloudTrail captura la actividad de API de RAG; la procedencia soporta auditorías y análisis de incidentes.

Implementación práctica

Cómo se implementa este control en cada arquitectura de referencia:

Glue Data Catalog rastrea el linaje a lo largo del pipeline de RAG, CloudTrail (al Log archive) captura la actividad de API y CloudWatch vigila la calidad/deriva de datos.

  1. Rastrea el linaje con AWS Glue Data Catalog a lo largo del pipeline de procesamiento de datos desde la fuente pasando por la ingesta hasta el vector store.
    Cuenta de IA generativa AWS Glue Amazon S3
  2. Captura la actividad de API de RAG con CloudTrail y reenvíala al Log archive central para una retención resistente a manipulación.
    Cuenta de IA generativa → Log archive CloudTrail Amazon S3
  3. Monitorea la calidad de datos y la deriva con CloudWatch y alarma ante anomalías.
    Cuenta de IA generativa CloudWatch

Cómo validar: El linaje se registra de la fuente al vector store; CloudTrail captura la actividad de API de RAG en el Log archive; la procedencia soporta una consulta de auditoría o incidente.

Evita: Sin registro de dónde vino un dato recuperado. Cuando surge una mala respuesta no puedes rastrearla; mantén el linaje desde la fuente hasta la recuperación.

OU de IA generativa (multi-cuenta) →

Linaje de Glue, CloudTrail (a un bucket con Object Lock en la cuenta) y monitoreo de deriva con CloudWatch dan procedencia de la fuente a la recuperación.

  1. Rastrea el linaje con AWS Glue Data Catalog a lo largo del pipeline de RAG.
    Capa de IA generativa (rol IAM) AWS Glue Amazon S3
  2. Captura la actividad de API de RAG con CloudTrail en el bucket de logs con Object Lock de la cuenta.
    Registro en la cuenta CloudTrail Amazon S3
  3. Monitorea la calidad de datos y la deriva con CloudWatch.
    Registro en la cuenta CloudWatch

Cómo validar: El linaje se registra de fuente a store; CloudTrail captura la actividad de RAG; la procedencia soporta auditorías.

Evita: Tratar el store de RAG como una caja negra. Rastrea la procedencia para poder investigar una respuesta envenenada o incorrecta.

Cuenta única (punto de entrada) →

Amenazas que atiende

  • Sin traza de auditoría del origen y las transformaciones de datos durante una investigación.
  • Impacto aguas abajo desconocido cuando los datos fuente cambian.

Servicios AWS

AWS Glue Data Catalog AWS CloudTrail Amazon CloudWatch

Mapeos de frameworks

OWASP GenAI/LLM Top 10 (2026)

  • LLM08 Hidden Context Exposure

NIST AI Risk Management Framework (AI 100-1)

  • MAP.2 AI system categorization and capabilities are documented
  • MEASURE.3 Mechanisms for tracking AI risks are in place

AWS Well-Architected Generative AI Lens (Security)

  • GENSEC03-BP01 Implement control plane and data access monitoring

Recursos de aprendizaje

Referencias

  • AWS SRA para IA — Capacidad 3, Linaje y procedencia de datos