c1.6 Proteja o endpoint com AWS WAF e limitação de taxa

Coloque um escudo à frente do endpoint do modelo

Endpoints de inferência de IA são alvos atraentes: atacantes os sondam com cargas de injeção e abusadores os saturam para inflar contas de tokens ou esgotar a capacidade. O AWS WAF fica à frente da sua API (via CloudFront, Application Load Balancer ou API Gateway) e inspeciona cada solicitação antes de ela chegar à sua aplicação e ao modelo. Duas camadas são as mais importantes aqui:

• Grupos de regras gerenciadas que capturam ataques web comuns e entradas conhecidas como maliciosas.
• Regras baseadas em taxa que limitam qualquer cliente que envie solicitações rápido demais.

Limite a taxa de chamadores abusivos

Uma regra baseada em taxa conta as solicitações por chave de agregação (IP do cliente por padrão) durante uma janela de avaliação e bloqueia uma chave que exceda seu limite até que ela reduza o ritmo. Isso limita o gasto descontrolado de tokens e mitiga ataques de negação de carteira:

{
  "Name": "RateLimitPerIp",
  "Priority": 1,
  "Statement": {
    "RateBasedStatement": {
      "Limit": 300,
      "EvaluationWindowSec": 300,
      "AggregateKeyType": "IP"
    }
  },
  "Action": { "Block": {} },
  "VisibilityConfig": {
    "SampledRequestsEnabled": true,
    "CloudWatchMetricsEnabled": true,
    "MetricName": "RateLimitPerIp"
  }
}

Aqui, um IP de cliente é bloqueado assim que ultrapassa 300 solicitações em qualquer janela de 5 minutos. Ajuste Limit para logo acima do seu pico legítimo por cliente.

Agregue por algo melhor que o IP quando puder

Atrás de NAT ou de um proxy, muitos usuários compartilham um IP, então limitar só por IP é grosseiro. O WAF pode agregar por chaves personalizadas — um IP encaminhado, um cabeçalho de chave de API ou um identificador de sessão — para que você limite o abusador real em vez de todos atrás do mesmo gateway. Combine a regra de taxa com uma instrução de redução de escopo para que ela só conte as solicitações que atingem seu caminho de inferência (por exemplo, /v1/generate), não os ativos estáticos.

Comece no modo contagem

Implante as novas regras primeiro no modo Count e observe as métricas do CloudWatch; depois de confirmar que não capturam tráfego legítimo, mude a ação para Block. Isso evita tirar seus próprios usuários do ar com um limite mal ajustado.