AI Security Maturity Model·AWS v1.0.0

Arraste para explorar · faça pinça para ampliar

Avançada Governança e conformidadeCamada de defesa em profundidade: Aplicação de IA Capacidade 6 · Aplicações de IACaso de uso: IA que responde 👤 ClienteModelo de Responsabilidade Compartilhada da AWS: quem implementa e opera este controle. Cliente = é seu; AWS = a AWS opera e você o herda; Compartilhada = ambos têm obrigações.

c6.8 Automatize a resposta a eventos de segurança da aplicação de IA

Dispare respostas automatizadas a acessos não autorizados, violações de política e uso anômalo, para que os eventos de segurança nas apps de IA sejam tratados rápida e consistentemente.

Fundacional
Aprimorada
Avançada
Esforço: Médio Impacto: Médio Scopes de IA generativaDa AWS Generative AI Security Scoping Matrix.: 3 · Modelos pré-treinados

Guia de implementação

Como implementar na AWS

Configure regras do Amazon EventBridge para automatizar respostas a eventos de segurança (tentativas de acesso não autorizado, violações de política, uso anômalo), agregue os achados no AWS Security Hub, imponha linhas de base com o AWS Config e encaminhe os logs para a conta de Security Tooling para análise e retenção centralizadas.

Transforme as detecções em ação automática

O registro e os alertas dizem que algo aconteceu; a resposta automatizada faz algo a respeito antes que um humano acorde. Para uma aplicação de IA, os eventos que valem a reação são coisas como um pico de bloqueios do guardrail, achados do GuardDuty sobre a computação da app, uma rajada de autenticações com falha ou um volume anômalo de invocações de um principal. O Amazon EventBridge é o concentrador: os serviços de segurança emitem eventos para ele, e você escreve regras que encaminham os eventos correspondentes a um alvo de resposta (Lambda, SSM Automation, Step Functions, SNS).

Combine os eventos que importam

Uma regra do EventBridge filtra por um padrão de evento — aqui, achados do GuardDuty de alta severidade (severidade 7+):

{
  "source": ["aws.guardduty"],
  "detail-type": ["GuardDuty Finding"],
  "detail": { "severity": [ { "numeric": [">=", 7] } ] }
}

Crie a regra e anexe uma função de resposta como seu alvo:

aws events put-rule \
  --name "ai-app-high-severity-response" \
  --event-pattern file://pattern.json

aws events put-targets \
  --rule "ai-app-high-severity-response" \
  --targets 'Id=1,Arn=arn:aws:lambda:us-east-1:111122223333:function:AutoRespond'

Torne a resposta proporcional e reversível

O alvo deve tomar uma ação limitada e bem compreendida — por exemplo: desabilitar uma credencial de aplicação vazada (rotacionar o segredo no Secrets Manager), revogar uma sessão, isolar o grupo de segurança de uma tarefa comprometida, ou abrir um ticket e paginar o on-call. Prefira conter e depois notificar em vez da automação destrutiva: coloque o recurso em quarentena e abra um caso em vez de encerrar coisas de imediato, para que uma resposta automatizada não se torne, ela mesma, uma interrupção.

Mantenha o respondedor com privilégio mínimo e auditado

A Lambda/automação de resposta é executada com sua própria função — restrinja-a apenas às ações de contenção que realiza, e registre cada ação automatizada (o que disparou, o que fez) para que a resposta seja, ela mesma, auditável. Combine com o controle de logs de auditoria atribuídos para poder reconstruir a linha do tempo completa de detecção → resposta.

Nota de nomenclatura: substitua o id da conta e o ARN da função, e ajuste o limite de severidade. Comece a automação em um modo somente notificação e revise o que ela teria feito antes de habilitar a contenção ativa.

Como tudo se encaixa

Security signals GuardDuty findings Guardrail blocks Auth anomalies EventBridge rule + event pattern severity ≥ 7 events Response target Lambda · SSM · Step Fns rotate secret · isolate revoke session · quarantine Notify ticket · page on-call Contain then notify: quarantine the resource and open a case rather than acting destructively. Start in notify-only mode; enable active containment after review.
Os sinais de segurança (achados do GuardDuty, bloqueios do guardrail, anomalias de autenticação) emitem eventos para o EventBridge; uma regra combina os que importam (por exemplo, severidade ≥ 7) e os encaminha a um alvo de resposta que contém o problema — rotacionar um segredo, isolar um recurso, revogar uma sessão — e depois notifica o on-call. Conter e depois notificar, começando em modo somente notificação.

Critérios de aceitação

O EventBridge automatiza respostas aos eventos de segurança definidos da app de IA; os achados são agregados no Security Hub; o Config impõe linhas de base; os logs são centralizados.

Implementação prática

Como este controle é implementado em cada arquitetura de referência:

As regras do EventBridge automatizam respostas a eventos de segurança da app de IA, os achados são agregados no Security Hub na conta de Ferramentas de segurança, o Config impõe linhas de base em toda a org e os logs são centralizados no Log archive.

  1. Configure regras do Amazon EventBridge para automatizar respostas a eventos de segurança (tentativas de acesso não autorizado, violações de política, uso anômalo).
    Conta de aplicação EventBridge AWS Lambda
  2. Agregue os achados no AWS Security Hub e imponha linhas de base com o AWS Config em toda a OU.
    Ferramentas de segurança Security Hub AWS Config
  3. Encaminhe os logs para a conta de Ferramentas de segurança / Log archive para análise e retenção centralizadas.
    Conta de aplicação → Log archive Amazon S3 CloudTrail

Como validar: O EventBridge automatiza respostas aos eventos de segurança definidos da app de IA; os achados são agregados no Security Hub; o Config impõe linhas de base; os logs são centralizados.

Evite: Tratar cada alerta da app de IA manualmente. Automatize as respostas comuns para que a reação seja rápida e consistente.

OU de IA generativa (multi-conta) →

A automação com EventBridge, a agregação no Security Hub e as linhas de base do Config respondem aos eventos de segurança da app de IA dentro da conta.

  1. Configure regras do EventBridge para automatizar respostas a acesso não autorizado, violações de política e uso anômalo.
    Registro na conta EventBridge AWS Lambda
  2. Agregue os achados no Security Hub e imponha linhas de base com o AWS Config.
    Registro na conta Security Hub AWS Config
  3. Encaminhe os logs para o bucket com acesso controlado para análise e retenção centralizadas.
    Registro na conta Amazon S3 CloudTrail

Como validar: O EventBridge automatiza respostas; os achados são agregados no Security Hub; o Config impõe linhas de base; os logs são centralizados.

Evite: Resposta apenas manual aos eventos da app de IA. Automatize a cadeia detecção-a-resposta e centralize os achados mesmo em uma única conta.

Conta única (ponto de entrada) →

Ameaças atendidas

  • Resposta lenta ou inconsistente a eventos de segurança da aplicação de IA.
  • Violações de política e uso anômalo tratados apenas manualmente.

Serviços AWS

Amazon EventBridge AWS Security Hub AWS Config

Preços

O EventBridge cobra por milhão de eventos para eventos personalizados/de parceiros (os eventos de serviços da AWS no barramento padrão são gratuitos para combinar). Você paga os custos normais de Lambda/SSM/Step Functions pelo alvo de resposta. É econômico diante da redução do tempo médio de resposta. Consulte Processing GuardDuty findings with Amazon EventBridge.

Mapeamentos de frameworks

OWASP GenAI/LLM Top 10 (2026)

  • LLM06 Unbounded Consumption

NIST AI Risk Management Framework (AI 100-1)

  • GOVERN.1 Policies, processes, procedures and accountability structures
  • MEASURE.3 Mechanisms for tracking AI risks are in place
  • MANAGE.4 Risk treatments, monitoring and response are documented and applied

AWS Well-Architected Generative AI Lens (Security)

  • GENSEC03-BP01 Implement control plane and data access monitoring

Recursos de aprendizado

Referências

  • AWS SRA para IA — Capacidade 6, Registro e monitoramento