AI Security Maturity Model·AWS v1.0.0

Arrastra para explorar · pellizca para ampliar

Avanzada Gobernanza y cumplimientoCapa de defensa en profundidad: Aplicación de IA Capacidad 6 · Aplicaciones de IACaso de uso: IA que responde 👤 ClienteModelo de Responsabilidad Compartida de AWS: quién implementa y opera este control. Cliente = es tuyo; AWS = lo opera AWS y tú lo heredas; Compartida = ambos tienen obligaciones.

c6.8 Automatiza la respuesta a eventos de seguridad de la aplicación de IA

Dispara respuestas automatizadas ante accesos no autorizados, violaciones de política y uso anómalo, para que los eventos de seguridad en las apps de IA se manejen rápido y de forma consistente.

Fundacional
Mejorada
Avanzada
Esfuerzo: Medio Impacto: Medio Scopes de IA generativaDe la AWS Generative AI Security Scoping Matrix.: 3 · Modelos preentrenados

Guía de implementación

Cómo implementarlo en AWS

Configura reglas de Amazon EventBridge para automatizar respuestas a eventos de seguridad (intentos de acceso no autorizado, violaciones de política, uso anómalo), agrega los hallazgos en AWS Security Hub, impón líneas base con AWS Config y reenvía los logs a la cuenta de Security Tooling para análisis y retención centralizados.

Convierte las detecciones en acción automática

El registro y las alertas te dicen que algo pasó; la respuesta automatizada hace algo al respecto antes de que un humano despierte. Para una aplicación de IA, los eventos que vale la pena atender son cosas como un aumento repentino de bloqueos del guardrail, hallazgos de GuardDuty sobre el cómputo de la app, una ráfaga de autenticaciones fallidas o un volumen anómalo de invocaciones de un principal. Amazon EventBridge es el concentrador: los servicios de seguridad le emiten eventos, y tú escribes reglas que enrutan los eventos coincidentes a un objetivo de respuesta (Lambda, SSM Automation, Step Functions, SNS).

Empareja los eventos que importan

Una regla de EventBridge filtra por un patrón de evento; aquí, hallazgos de GuardDuty de alta severidad (severidad 7+):

{
  "source": ["aws.guardduty"],
  "detail-type": ["GuardDuty Finding"],
  "detail": { "severity": [ { "numeric": [">=", 7] } ] }
}

Crea la regla y adjunta una función de respuesta como su objetivo:

aws events put-rule \
  --name "ai-app-high-severity-response" \
  --event-pattern file://pattern.json

aws events put-targets \
  --rule "ai-app-high-severity-response" \
  --targets 'Id=1,Arn=arn:aws:lambda:us-east-1:111122223333:function:AutoRespond'

Haz la respuesta proporcionada y reversible

El objetivo debe tomar una acción acotada y bien entendida; por ejemplo: deshabilitar una credencial de aplicación filtrada (rotar el secreto en Secrets Manager), revocar una sesión, aislar el grupo de seguridad de una tarea comprometida, o levantar un ticket y paginar al on-call. Prefiere contener y luego notificar por encima de la automatización destructiva: pon en cuarentena el recurso y abre un caso en lugar de terminar cosas de golpe, para que una respuesta automatizada no se convierta ella misma en una interrupción.

Mantén al respondedor con mínimo privilegio y auditado

La Lambda/automatización de respuesta se ejecuta con su propio rol: acótalo solo a las acciones de contención que realiza, y registra cada acción automatizada (qué se disparó, qué hizo) para que la respuesta sea a su vez auditable. Combínalo con el control de logs de auditoría atribuidos para poder reconstruir la línea de tiempo completa de detección → respuesta.

Nota de nomenclatura: reemplaza el id de cuenta y el ARN de la función, y ajusta el umbral de severidad. Empieza la automatización en un modo de solo notificación y revisa qué habría hecho antes de habilitar la contención activa.

Cómo encaja todo

Security signals GuardDuty findings Guardrail blocks Auth anomalies EventBridge rule + event pattern severity ≥ 7 events Response target Lambda · SSM · Step Fns rotate secret · isolate revoke session · quarantine Notify ticket · page on-call Contain then notify: quarantine the resource and open a case rather than acting destructively. Start in notify-only mode; enable active containment after review.
Las señales de seguridad (hallazgos de GuardDuty, bloqueos del guardrail, anomalías de autenticación) emiten eventos a EventBridge; una regla empareja los que importan (por ejemplo, severidad ≥ 7) y los enruta a un objetivo de respuesta que contiene el problema — rotar un secreto, aislar un recurso, revocar una sesión — y luego notifica al on-call. Contener y luego notificar, empezando en modo solo notificación.

Criterios de aceptación

EventBridge automatiza respuestas a los eventos de seguridad definidos de la app de IA; los hallazgos se agregan en Security Hub; Config impone líneas base; los logs están centralizados.

Implementación práctica

Cómo se implementa este control en cada arquitectura de referencia:

Las reglas de EventBridge automatizan respuestas a eventos de seguridad de la app de IA, los hallazgos se agregan en Security Hub en la cuenta de Herramientas de seguridad, Config impone líneas base en toda la org y los logs se centralizan al Log archive.

  1. Configura reglas de Amazon EventBridge para automatizar respuestas a eventos de seguridad (intentos de acceso no autorizado, violaciones de política, uso anómalo).
    Cuenta de aplicación EventBridge AWS Lambda
  2. Agrega los hallazgos en AWS Security Hub e impón líneas base con AWS Config en toda la OU.
    Herramientas de seguridad Security Hub AWS Config
  3. Reenvía los logs a la cuenta de Herramientas de seguridad / Log archive para análisis y retención centralizados.
    Cuenta de aplicación → Log archive Amazon S3 CloudTrail

Cómo validar: EventBridge automatiza respuestas a los eventos de seguridad definidos de la app de IA; los hallazgos se agregan en Security Hub; Config impone líneas base; los logs están centralizados.

Evita: Manejar cada alerta de la app de IA a mano. Automatiza las respuestas comunes para que la reacción sea rápida y consistente.

OU de IA generativa (multi-cuenta) →

La automatización con EventBridge, la agregación en Security Hub y las líneas base de Config responden a los eventos de seguridad de la app de IA dentro de la cuenta.

  1. Configura reglas de EventBridge para automatizar respuestas a acceso no autorizado, violaciones de política y uso anómalo.
    Registro en la cuenta EventBridge AWS Lambda
  2. Agrega los hallazgos en Security Hub e impón líneas base con AWS Config.
    Registro en la cuenta Security Hub AWS Config
  3. Reenvía los logs al bucket con acceso controlado para análisis y retención centralizados.
    Registro en la cuenta Amazon S3 CloudTrail

Cómo validar: EventBridge automatiza respuestas; los hallazgos se agregan en Security Hub; Config impone líneas base; los logs están centralizados.

Evita: Respuesta solo manual a los eventos de la app de IA. Automatiza la cadena detección-a-respuesta y centraliza los hallazgos incluso en una sola cuenta.

Cuenta única (punto de entrada) →

Amenazas que atiende

  • Respuesta lenta o inconsistente a eventos de seguridad de la aplicación de IA.
  • Violaciones de política y uso anómalo manejados solo de forma manual.

Servicios AWS

Amazon EventBridge AWS Security Hub AWS Config

Precios

EventBridge cobra por millón de eventos para eventos personalizados/de socios (los eventos de servicios de AWS en el bus predeterminado son gratuitos de emparejar). Pagas los costos normales de Lambda/SSM/Step Functions por el objetivo de respuesta. Es económico frente a la reducción del tiempo medio de respuesta. Consulta Processing GuardDuty findings with Amazon EventBridge.

Mapeos de frameworks

OWASP GenAI/LLM Top 10 (2026)

  • LLM06 Unbounded Consumption

NIST AI Risk Management Framework (AI 100-1)

  • GOVERN.1 Policies, processes, procedures and accountability structures
  • MEASURE.3 Mechanisms for tracking AI risks are in place
  • MANAGE.4 Risk treatments, monitoring and response are documented and applied

AWS Well-Architected Generative AI Lens (Security)

  • GENSEC03-BP01 Implement control plane and data access monitoring

Recursos de aprendizaje

Referencias

  • AWS SRA para IA — Capacidad 6, Registro y monitoreo