AI Security Maturity Model·AWS v1.0.0

Arraste para explorar · faça pinça para ampliar

Fundacional Proteção de dadosCamada de defesa em profundidade: Identidade e dados Capacidade 2 · Personalização de modelosCaso de uso: IA que você constrói 👤 ClienteModelo de Responsabilidade Compartilhada da AWS: quem implementa e opera este controle. Cliente = é seu; AWS = a AWS opera e você o herda; Compartilhada = ambos têm obrigações.

c2.1 Criptografe o job de personalização, os dados e o modelo com uma CMK

Criptografe os dados de treinamento/validação, as métricas de saída e o modelo personalizado resultante com uma chave KMS gerenciada pelo cliente que você possui, para que os artefatos de personalização nunca sejam legíveis com uma chave padrão.

Fundacional
Aprimorada
Avançada
Esforço: Baixo Impacto: Alto Scopes de IA generativaDa AWS Generative AI Security Scoping Matrix.: 4 · Modelos ajustados (fine-tuned); 5 · Modelos treinados por você

Guia de implementação

Como implementar na AWS

Crie uma chave KMS gerenciada pelo cliente e especifique-a ao iniciar o job de personalização do Bedrock (ou SageMaker) para que os arquivos de entrada, as métricas de saída e o modelo personalizado sejam criptografados com ela. Use a política da chave para conceder seu uso apenas aos papéis que executam o job e invocam o modelo.

O que criptografar em um trabalho de personalização

Um trabalho de personalização toca vários artefatos sensíveis: os dados de treinamento e validação no S3, as métricas de saída e o modelo personalizado resultante. Por padrão, o modelo personalizado é criptografado com uma chave de propriedade da AWS que você não pode inspecionar. Passar sua própria chave gerenciada pelo cliente (CMK) coloca tudo isso sob uma chave cujo acesso você controla e audita — importante porque um modelo ajustado pode memorizar e, mais tarde, revelar fragmentos de seus dados de treinamento.

Deixe o Bedrock usar sua chave no trabalho

O Bedrock cria um grant na sua CMK para que o trabalho assíncrono possa criptografar/descriptografar artefatos enquanto é executado. Sua política de chave deve permitir ao principal de serviço do Bedrock as operações necessárias, restritas ao Bedrock com kms:ViaService:

{
  "Sid": "AllowBedrockCustomizationUseOfKey",
  "Effect": "Allow",
  "Principal": { "Service": "bedrock.amazonaws.com" },
  "Action": [
    "kms:Encrypt",
    "kms:Decrypt",
    "kms:GenerateDataKey",
    "kms:CreateGrant",
    "kms:DescribeKey"
  ],
  "Resource": "*",
  "Condition": {
    "StringEquals": { "kms:ViaService": "bedrock.us-east-1.amazonaws.com" }
  }
}

Referencie a chave ao criar o trabalho

Passe a CMK como customModelKmsKeyId no trabalho de personalização para que o modelo resultante seja criptografado com ela:

aws bedrock create-model-customization-job \
  --job-name "finetune-support-bot" \
  --custom-model-name "support-bot-v1" \
  --role-arn "arn:aws:iam::111122223333:role/BedrockCustomizationRole" \
  --base-model-identifier "arn:aws:bedrock:us-east-1::foundation-model/amazon.titan-text-express-v1" \
  --custom-model-kms-key-id "arn:aws:kms:us-east-1:111122223333:key/<key-id>" \
  --training-data-config '{"s3Uri":"s3://my-bedrock-training-data/train.jsonl"}' \
  --output-data-config '{"s3Uri":"s3://my-bedrock-custom-output/"}' \
  --hyper-parameters '{"epochCount":"2"}'

Não esqueça os buckets de dados

Criptografar o modelo é apenas metade do trabalho — o bucket de dados de treinamento deve usar a mesma CMK para criptografia do lado do servidor, e a função de serviço de personalização precisa de kms:Decrypt sobre essa chave (uma causa comum de falhas de "acesso negado" no trabalho). Faça a chave coincidir nos dados, no trabalho e na saída para que nada recaia em uma chave padrão.

Nota de nomenclatura: substitua o ARN da chave, o ARN da função, o id da conta e a região. Use uma CMK local à região correspondente ao valor de kms:ViaService.

Critérios de aceitação

O job de personalização, seus buckets S3 e o modelo personalizado são criptografados com uma chave gerenciada pelo cliente; a política da chave limita a descriptografia/uso a papéis aprovados.

Implementação prática

Como este controle é implementado em cada arquitetura de referência:

Uma chave gerenciada pelo cliente na conta de IA generativa (ou em uma conta de treinamento dedicada da OU) criptografa as entradas, saídas e o modelo personalizado resultante do job.

  1. Crie uma chave KMS gerenciada pelo cliente e passe-a ao job de personalização do Bedrock (ou SageMaker) para que os arquivos de entrada, as métricas de saída e o modelo personalizado sejam criptografados com ela.
    Conta de IA generativa AWS KMS Amazon Bedrock Amazon SageMaker
  2. Restrinja a política da chave para que apenas o papel de serviço de personalização e o papel de invocação possam usar a chave, e habilite a rotação.
    Conta de IA generativa AWS KMS IAM
  3. Criptografe os buckets S3 de treinamento/validação com a mesma chave e mantenha os administradores da chave na equipe de plataforma, separados do papel do job.
    Conta de IA generativa AWS KMS Amazon S3

Como validar: O job, seus buckets S3 e o modelo personalizado mostram a chave gerenciada pelo cliente; a política da chave limita o uso aos papéis de job e invocação; a rotação está habilitada.

Evite: Criptografar os buckets mas deixar o Bedrock usar a chave padrão para o artefato do modelo. Criptografe toda a cadeia —entradas, métricas e o modelo— com sua própria chave.

OU de IA generativa (multi-conta) →

Uma chave gerenciada pelo cliente na conta criptografa o job de personalização, seus dados e o modelo personalizado, com uso restrito apenas ao papel do job.

  1. Crie uma chave KMS dedicada gerenciada pelo cliente e aplique-a ao job de personalização para que entradas, métricas de saída e o modelo personalizado sejam criptografados com ela.
    Camada de IA generativa (papel IAM) AWS KMS Amazon Bedrock Amazon SageMaker
  2. Restrinja o uso da chave na política de chave ao papel de serviço de personalização e ao papel de invocação; habilite a rotação.
    Camada de IA generativa (papel IAM) AWS KMS IAM
  3. Mantenha a administração da chave separada dos papéis em execução e do job para que não possam desabilitá-la nem alterá-la.
    Camada de aplicação (papel IAM) AWS KMS IAM

Como validar: O job de personalização, os buckets e o modelo personalizado usam a chave gerenciada pelo cliente; apenas os papéis de job/invocação podem usá-la; a rotação está habilitada.

Evite: Reutilizar uma chave de propósito geral com política ampla para os artefatos de treinamento. Use uma chave dedicada restrita aos papéis de personalização e invocação.

Conta única (ponto de entrada) →

Ameaças atendidas

  • Dados de treinamento sensíveis ou artefatos do modelo personalizado legíveis se as chaves padrão ou o armazenamento forem comprometidos.
  • Uso não autorizado do modelo personalizado para inferência.

Serviços AWS

AWS KMS Amazon S3 Amazon Bedrock

Preços

A CMK tem uma pequena taxa mensal mais cobranças por solicitação do KMS durante o trabalho. Elas são menores diante do custo de computação da personalização; o benefício é que os dados de treinamento e o modelo ajustado ficam sob uma chave que você controla e audita. Consulte Encryption of model customization jobs and artifacts.

Mapeamentos de frameworks

OWASP GenAI/LLM Top 10 (2026)

  • LLM05 Data and Model Poisoning

NIST AI Risk Management Framework (AI 100-1)

  • MANAGE.1 AI risks are prioritized, responded to and managed

AWS Security Hub — AI Security Best Practices

  • SageMaker.17 SageMaker feature group offline stores should be encrypted with AWS KMS keys
  • SageMaker.18 SageMaker feature group online stores with standard storage should be encrypted with AWS KMS keys
  • SageMaker.21 SageMaker notebook instances should be encrypted with customer managed AWS KMS keys
  • SageMaker.23 SageMaker inference experiments should have instance storage volume encrypted with customer managed AWS KMS keys
  • SageMaker.24 SageMaker inference experiments should have data storage encrypted with customer managed AWS KMS keys

AWS Well-Architected Generative AI Lens (Security)

  • GENSEC01-BP03 Implement least privilege access to data stores

Recursos de aprendizado

Referências

  • AWS SRA para IA — Capacidade 2, Proteção de dados