AI Security Maturity Model·AWS v1.0.0

Arrastra para explorar · pellizca para ampliar

Modelo de Madurez de Seguridad de IA para AWS

Las 6 capacidades de seguridad de IA de AWS cruzadas con controles de seguridad tácticos a lo largo de 3 fases de madurez.

ⓘ Los controles son acumulativos: cada capacidad se construye sobre la Inferencia de modelos, y cada fase sobre la anterior. Nunca empiezas de cero.

Densidad
Capacidad
Fundacional
De cero a prototipo
Mejorada
De prototipo a producción
Avanzada
Mejora continua y escala
Capacidad 1
Inferencia de modelos
IA que responde
5 Fundacional, 5 Mejorada, 2 Avanzada
c1.1 Acota el acceso al modelo con IAM de mínimo privilegio
LLM02, LLM03 GENSEC01-BP01 Cliente
c1.2 Cifra los datos de inferencia con claves KMS gestionadas por el cliente
LLM02 GENSEC01-BP03 Cliente
c1.3 Filtra entradas y salidas con Amazon Bedrock Guardrails
LLM01, LLM02 GENSEC02-BP01, GENSEC04-BP02 Cliente
c1.4 Registra cada invocación del modelo con CloudTrail y CloudWatch
LLM02 GENSEC01-BP04, GENSEC03-BP01 Cliente
c1.5 Autentica a los usuarios antes de que lleguen al modelo
LLM02 GENSEC01-BP01 Cliente
c1.6 Protege el endpoint con AWS WAF y limitación de tasa
LLM01, LLM06 GENSEC04-BP02 Cliente
c1.7 Mantén privado el acceso al modelo con endpoints de VPC
LLM02 GENSEC01-BP02 Cliente
c1.8 Detecta y redacta PII en prompts y respuestas
LLM02 GENSEC01-BP03 Cliente
c1.9 Valida las salidas del modelo antes de usarlas aguas abajo
LLM07, LLM10 GENSEC02-BP01 Cliente
c1.10 Habilita detección de amenazas consciente de IA
LLM02, LLM06 GENSEC03-BP01 Cliente
c1.11 Aísla las cargas de IA entre cuentas con guardrails
LLM05 GENSEC03-BP01 Cliente
c1.12 Evalúa los modelos y monitorea la deriva
LLM05, LLM07 GENSEC02-BP01 Cliente
Capacidad 2
Personalización de modelos
IA que construyes
3 Fundacional, 4 Mejorada, 2 Avanzada
c2.1 Cifra el job de personalización, los datos y el modelo con una CMK
LLM05 GENSEC01-BP03 Cliente
c2.2 Usa un rol de servicio de mínimo privilegio para personalización e importación
LLM05 GENSEC01-BP01 Cliente
c2.3 Protege la integridad de los datos de entrenamiento con S3 Object Lock y versionado
LLM05 GENSEC06-BP01 Cliente
c2.4 Ejecuta la personalización de forma privada en una VPC sin internet
LLM02 GENSEC01-BP02 Cliente
c2.5 Descubre datos sensibles en los sets de entrenamiento con Macie
LLM02, LLM05 GENSEC06-BP01 Cliente
c2.6 Importa modelos de forma segura con Safetensors, no pickle
LLM04, LLM05 GENSEC06-BP01 Cliente
c2.7 Detecta fugas de datos de entrenamiento con canarios
LLM02, LLM05 GENSEC03-BP01 Cliente
c2.8 Asegura el flujo de promoción de modelos entre cuentas
LLM04, LLM05 GENSEC01-BP01 Cliente
c2.9 Monitorea los modelos personalizados por deriva y sesgo
LLM05, LLM07 GENSEC03-BP01 Cliente
Capacidad 3
Generación aumentada por recuperación (RAG)
IA que conecta
2 Fundacional, 5 Mejorada, 2 Avanzada
c3.1 Cifra la base de conocimiento y el vector store con una CMK
LLM02 GENSEC01-BP03 Cliente
c3.2 Usa un rol de servicio de mínimo privilegio para la base de conocimiento
LLM02 GENSEC01-BP03 Cliente
c3.3 Aplica control de acceso a la recuperación con filtrado por metadatos
LLM02, LLM08 GENSEC01-BP03 Cliente
c3.4 Valida y escanea los documentos antes de la ingesta
LLM01, LLM05 GENSEC06-BP01 Cliente
c3.5 Clasifica y etiqueta los datos en la ingesta
LLM02, LLM08 GENSEC01-BP03 Cliente
c3.6 Mantén el vector store en conectividad privada
LLM02 GENSEC01-BP02 Cliente
c3.7 Asegura el vector store y la integridad de los embeddings
LLM09 GENSEC01-BP03 Cliente
c3.8 Rastrea el linaje y la procedencia de los datos en el pipeline de RAG
LLM08 GENSEC03-BP01 Cliente
c3.9 Fundamenta y valida las respuestas contra las fuentes recuperadas
LLM07, LLM08, LLM10 GENSEC02-BP01 Cliente
Capacidad 4
Herramientas
IA que actúa
3 Fundacional, 4 Mejorada, 1 Avanzada
c4.1 Acota los roles de las herramientas con mínimo privilegio y permission boundaries
LLM03, LLM06 ASI03, ASI02 GENSEC05-BP01 Cliente
c4.2 Intermedia las credenciales de las herramientas con AgentCore Identity
LLM03 ASI03 GENSEC05-BP01 Cliente
c4.3 Cifra la E/S de las herramientas y aísla las sesiones
LLM02 ASI06 GENSEC01-BP03 Compartida
c4.4 Centraliza las herramientas tras AgentCore Gateway con límites de tasa
LLM03, LLM06 ASI02 GENSEC05-BP01, GENSEC04-BP02 Cliente
c4.5 Filtra las entradas y salidas de herramientas con Guardrails
LLM01, LLM03 ASI01, ASI02 GENSEC02-BP01 Cliente
c4.6 Mantén la integración de herramientas en conectividad privada
LLM02 ASI07 GENSEC01-BP02 Cliente
c4.7 Restringe las herramientas basadas en Lambda
LLM06 ASI05 GENSEC05-BP01 Cliente
c4.8 Registra las invocaciones de herramientas con atribución de usuario y observabilidad
LLM03, LLM06 ASI08 GENSEC03-BP01 Cliente
Capacidad 5
Agentes de IA generativa
IA que actúa
3 Fundacional, 5 Mejorada, 2 Avanzada
c5.1 Da a cada agente su propia identidad acotada
LLM03 ASI03 GENSEC05-BP01 Cliente
c5.2 Aísla las sesiones del agente y asegura su memoria
LLM02 ASI06 GENSEC05-BP01 Compartida
c5.3 Previene el envenenamiento de la memoria del agente
LLM01, LLM05 ASI06 GENSEC06-BP01, GENSEC05-BP01 Cliente
c5.4 Otorga a los agentes roles de mínimo privilegio sin ruta de escalada
LLM03 ASI03 GENSEC05-BP01 Cliente
c5.5 Exige aprobación humana para acciones de alta consecuencia
LLM03 ASI09 GENSEC05-BP01 Cliente
c5.6 Endurece los prompts del agente y valida la entrada con Guardrails
LLM01, LLM07 ASI01 GENSEC04-BP01, GENSEC04-BP02 Cliente
c5.7 Mantén los agentes privados y protege las apps de agentes públicas
LLM02, LLM06 ASI07 GENSEC01-BP02 Cliente
c5.8 Limita las operaciones destructivas y justifica cada herramienta
LLM03, LLM06 ASI01, ASI02 GENSEC05-BP01 Cliente
c5.9 Traza el razonamiento, la memoria y las cadenas de herramientas del agente
LLM03 ASI08 GENSEC03-BP01 Cliente
c5.10 Prueba y revisa los agentes de forma adversaria
LLM01, LLM03 ASI10, ASI04 GENSEC05-BP01 Cliente
Capacidad 6
Aplicaciones de IA
IA que responde
3 Fundacional, 4 Mejorada, 1 Avanzada
c6.1 Centraliza la identidad y el acceso de mínimo privilegio para las apps de IA
LLM02 GENSEC01-BP01 Cliente
c6.2 Cifra los datos del usuario y aísla las sesiones
LLM02 GENSEC01-BP03 Compartida
c6.3 Filtra las entradas del usuario y las salidas de IA con guardrails
LLM01, LLM02 GENSEC02-BP01, GENSEC04-BP02 Cliente
c6.4 Protege la interfaz de la app con WAF y TLS
LLM01, LLM06 GENSEC04-BP02 Cliente
c6.5 Mantén el acceso a los servicios de IA en conectividad privada
LLM02 GENSEC01-BP02 Cliente
c6.6 Guarda las credenciales de la aplicación en Secrets Manager
LLM02 GENSEC01-BP03 Cliente
c6.7 Monitorea el uso de la aplicación de IA con logs de auditoría atribuidos
LLM02, LLM06 GENSEC03-BP01 Cliente
c6.8 Automatiza la respuesta a eventos de seguridad de la aplicación de IA
LLM06 GENSEC03-BP01 Cliente