c1.4 Registre cada invocação do modelo com CloudTrail e CloudWatch

Torne a atividade de inferência auditável

Dois registros distintos respondem a duas perguntas distintas:

• AWS CloudTrail registra a atividade da API e do plano de controle: quem chamou qual operação do Bedrock, de onde e quando. Está ativo por padrão para eventos de gerenciamento e é sua trilha de auditoria de quem fez o quê.
• O registro de invocação do modelo captura o plano de dados: os prompts, as respostas e os metadados reais das chamadas feitas pelo endpoint bedrock-runtime. Está desativado por padrão e você precisa habilitá-lo explicitamente.

Juntos, permitem reconstruir tanto as ações administrativas quanto a própria inferência.

Ative o registro de invocação do modelo

Habilite o registro de invocação e envie-o para o CloudWatch Logs (e/ou S3). O CloudWatch é conveniente para filtros de métrica e alarmes; o S3 é melhor para retenção econômica de longo prazo. A função de entrega deve permitir que o Bedrock grave no destino:

aws bedrock put-model-invocation-logging-configuration \
  --logging-config '{
    "cloudWatchConfig": {
      "logGroupName": "/aws/bedrock/model-invocations",
      "roleArn": "arn:aws:iam::111122223333:role/BedrockInvocationLoggingRole"
    },
    "textDataDeliveryEnabled": true,
    "imageDataDeliveryEnabled": false,
    "embeddingDataDeliveryEnabled": true
  }'

Nota: o registro de invocação só captura as chamadas pelo endpoint bedrock-runtime (InvokeModel, Converse e as APIs compatíveis com OpenAI nesse endpoint). Chamadas por outros endpoints não são capturadas.

Alarme sobre os sinais que importam

Quando os registros chegarem ao CloudWatch, adicione filtros de métrica e alarmes para o que vale a pena acompanhar: um pico de intervenções do guardrail, erros de throttling ou um salto incomum no volume de invocações de um principal. Prompts e respostas podem conter dados sensíveis, então criptografe o destino com sua chave gerenciada pelo cliente (veja o controle de KMS) e restrinja quem pode ler o grupo de logs ou o bucket.

Fique de olho no custo

• O CloudWatch Logs cobra por ingestão e armazenamento; prompts/respostas podem ser grandes, então direcione as cargas de alto volume para o S3 e use o CloudWatch para uma janela de alerta mais curta.
• Configure uma regra de ciclo de vida no S3 para expirar ou arquivar os registros de invocação antigos.