AI Security Maturity Model·AWS v1.0.0

Arrastra para explorar · pellizca para ampliar
Inicio / Matriz / Capacidad 2 / c2.6
Mejorada Seguridad de la aplicación de IACapa de defensa en profundidad: Aplicación de IA Capacidad 2 · Personalización de modelosCaso de uso: IA que construyes 👤 ClienteModelo de Responsabilidad Compartida de AWS: quién implementa y opera este control. Cliente = es tuyo; AWS = lo opera AWS y tú lo heredas; Compartida = ambos tienen obligaciones.

c2.6 Importa modelos de forma segura con Safetensors, no pickle

Al importar un modelo personalizado en otro lado, usa el formato de serialización Safetensors para que los artefactos no confiables no puedan ejecutar código al cargarse.

Fundacional
Mejorada
Avanzada
Esfuerzo: Bajo Impacto: Alto Scopes de IA generativaDe la AWS Generative AI Security Scoping Matrix.: 4 · Modelos ajustados (fine-tuned); 5 · Modelos entrenados por ti

Guía de implementación

Cómo implementarlo en AWS

Usa Custom Model Import de Amazon Bedrock con Safetensors como formato de serialización. A diferencia de pickle, Safetensors almacena solo datos de tensores (sin objetos Python arbitrarios), eliminando el riesgo de ejecución de código desde archivos no confiables. Valida la procedencia de los modelos importados.

Criterios de aceptación

Los modelos importados usan Safetensors; no se aceptan artefactos basados en pickle; la procedencia del modelo se registra.

Implementación práctica

Cómo se implementa este control en cada arquitectura de referencia:

Los modelos importados entran por la cuenta de IA generativa solo como Safetensors, con la procedencia registrada y los artefactos pickle rechazados antes de importar.

  1. Usa Custom Model Import de Amazon Bedrock y acepta solo el formato de serialización Safetensors, que almacena tensores sin objetos Python ejecutables.
    Cuenta de IA generativa Amazon Bedrock
  2. Rechaza los artefactos basados en pickle en el paso de ingesta y registra la procedencia del modelo (origen, hash, quién aprueba) antes de importar.
    Cuenta de IA generativa Amazon S3 IAM
  3. Almacena los artefactos de importación aprobados en un bucket controlado y registra cada importación en el Log archive.
    Cuenta de IA generativa → Log archive Amazon S3 CloudTrail

Cómo validar: Los modelos importados son Safetensors; un artefacto pickle es rechazado; la procedencia se registra y la importación se registra.

Evita: Importar un checkpoint pickle de una fuente no confiable. Deserializarlo puede ejecutar código arbitrario; exige Safetensors y verifica la procedencia.

OU de IA generativa (multi-cuenta) →

Las importaciones de modelos en la cuenta se restringen a Safetensors con procedencia registrada, para que un artefacto no confiable no pueda ejecutar código al cargarse.

  1. Usa Custom Model Import de Bedrock solo con Safetensors; no aceptes artefactos en formato pickle.
    Capa de IA generativa (rol IAM) Amazon Bedrock
  2. Registra la procedencia (origen, hash, quién aprueba) y almacena los artefactos aprobados en un bucket controlado.
    Capa de IA generativa (rol IAM) Amazon S3 IAM
  3. Registra cada importación en el bucket de logs de la cuenta.
    Registro en la cuenta CloudTrail Amazon S3

Cómo validar: Las importaciones son Safetensors; los artefactos pickle son rechazados; la procedencia se registra y las importaciones se registran.

Evita: Cargar checkpoints de la comunidad en formato pickle directamente. Convierte a y exige Safetensors, y verifica de dónde vino el modelo.

Cuenta única (punto de entrada) →

Amenazas que atiende

  • Ejecución de código arbitrario al deserializar (unpickle) un artefacto de modelo no confiable.
  • Compromiso de la cadena de suministro mediante un modelo importado manipulado.

Servicios AWS

Amazon Bedrock Amazon S3 AWS IAM

Mapeos de frameworks

OWASP GenAI/LLM Top 10 (2026)

  • LLM04 Supply Chain
  • LLM05 Data and Model Poisoning

NIST AI Risk Management Framework (AI 100-1)

  • GOVERN.6 Policies for third-party software, data and supply chain risk
  • MAP.4 Risks and impacts are mapped
  • MANAGE.3 Third-party risks and benefits are managed

AWS Well-Architected Generative AI Lens (Security)

  • GENSEC06-BP01 Implement data purification filters for model training workflows

Recursos de aprendizaje

Referencias

  • AWS SRA para IA — Capacidad 2, Justificación