c1.6 Protege el endpoint con AWS WAF y limitación de tasa

Pon un escudo frente al endpoint del modelo

Los endpoints de inferencia de IA son objetivos atractivos: los atacantes los sondean con cargas de inyección y los abusadores los saturan para disparar facturas de tokens o agotar la capacidad. AWS WAF se sitúa frente a tu API (mediante CloudFront, Application Load Balancer o API Gateway) e inspecciona cada solicitud antes de que llegue a tu aplicación y al modelo. Dos capas son las más importantes aquí:

• Grupos de reglas administradas que atrapan ataques web comunes y entradas conocidas como maliciosas.
• Reglas basadas en tasa que limitan a cualquier cliente que envíe solicitudes demasiado rápido.

Limita la tasa de los llamadores abusivos

Una regla basada en tasa cuenta las solicitudes por clave de agregación (IP del cliente de forma predeterminada) durante una ventana de evaluación y bloquea una clave que exceda tu límite hasta que reduzca el ritmo. Esto acota el gasto descontrolado de tokens y mitiga los ataques de denegación de billetera:

{
  "Name": "RateLimitPerIp",
  "Priority": 1,
  "Statement": {
    "RateBasedStatement": {
      "Limit": 300,
      "EvaluationWindowSec": 300,
      "AggregateKeyType": "IP"
    }
  },
  "Action": { "Block": {} },
  "VisibilityConfig": {
    "SampledRequestsEnabled": true,
    "CloudWatchMetricsEnabled": true,
    "MetricName": "RateLimitPerIp"
  }
}

Aquí una IP de cliente se bloquea una vez que supera las 300 solicitudes en cualquier ventana de 5 minutos. Ajusta Limit justo por encima de tu pico legítimo por cliente.

Agrega por algo mejor que la IP cuando puedas

Detrás de NAT o de un proxy, muchos usuarios comparten una IP, así que limitar solo por IP es tosco. WAF puede agregar por claves personalizadas —una IP reenviada, un encabezado de clave de API o un identificador de sesión— para que limites al abusador real en lugar de a todos los que están detrás del mismo gateway. Combina la regla de tasa con una sentencia de reducción de alcance para que solo cuente las solicitudes que llegan a tu ruta de inferencia (p. ej. /v1/generate), no los activos estáticos.

Empieza en modo conteo

Despliega las reglas nuevas primero en modo Count y observa las métricas de CloudWatch; una vez que confirmes que no atrapan tráfico legítimo, cambia la acción a Block. Esto evita dejar sin servicio a tus propios usuarios con un límite mal ajustado.