AI Security Maturity Model·AWS v1.0.0

Arrastra para explorar · pellizca para ampliar
Inicio / Matriz / Capacidad 5 / c5.8
Mejorada Seguridad de la aplicación de IACapa de defensa en profundidad: Aplicación de IA Capacidad 5 · Agentes de IA generativaCaso de uso: IA que actúa 👤 ClienteModelo de Responsabilidad Compartida de AWS: quién implementa y opera este control. Cliente = es tuyo; AWS = lo opera AWS y tú lo heredas; Compartida = ambos tienen obligaciones.

c5.8 Limita las operaciones destructivas y justifica cada herramienta

Evalúa qué capacidades necesita realmente un agente y restringe las operaciones mutativas o destructivas, para que el radio de impacto del agente se mantenga proporcional a su propósito.

Fundacional
Mejorada
Avanzada
Esfuerzo: Alto Impacto: Alto Scopes de IA generativaDe la AWS Generative AI Security Scoping Matrix.: 3 · Modelos preentrenados; 4 · Modelos ajustados (fine-tuned) Dimensiones de seguridad agénticaDe la AWS Agentic AI Security Scoping Matrix.: Límites operativos, Orquestación y flujo

Guía de implementación

Cómo implementarlo en AWS

Evalúa la arquitectura de herramientas: para cada capacidad, decide si el valor justifica el riesgo. Limita el acceso del agente a operaciones mutativas o destructivas, agrega controles adicionales (aprobación, IAM más estricto) para acciones de alto impacto y elimina las herramientas que el agente no necesita. Autoriza cada llamada a herramienta con AgentCore Policy (Cedar) en el gateway, que deniega por defecto.

Criterios de aceptación

Cada herramienta del agente se justifica frente a su riesgo; las operaciones destructivas/mutativas se restringen o se controlan; las herramientas innecesarias se eliminan. Una llamada a herramienta sin política que la permita se deniega.

Implementación práctica

Cómo se implementa este control en cada arquitectura de referencia:

Una revisión documentada de riesgo de herramientas en la cuenta de IA generativa mantiene el radio de impacto del agente proporcional: las operaciones destructivas se controlan o eliminan, las de alto impacto reciben controles extra.

  1. Revisa la arquitectura de herramientas del agente: para cada capacidad, decide si el valor justifica el riesgo, y elimina las herramientas que el agente no necesita.
    Cuenta de IA generativa Bedrock AgentCore IAM
  2. Restringe el acceso a operaciones mutativas o destructivas, y agrega controles extra (puerta de aprobación, IAM más estricto) para las acciones de alto impacto.
    Cuenta de IA generativa IAM Step Functions
  3. Usa AgentCore Policy (Cedar) en el gateway para permitir las herramientas destructivas o mutativas solo a los principales y condiciones de entrada específicos que las necesitan. El motor deniega por defecto, así que cualquier otra llamada a esas herramientas se bloquea.
    Cuenta de IA generativa AgentCore Gateway
  4. Registra la justificación de cada herramienta que se conserva para que la decisión sea auditable.
    Cuenta de IA generativa Amazon Bedrock

Cómo validar: Cada herramienta del agente se justifica frente a su riesgo; las operaciones destructivas/mutativas se restringen o se controlan; las herramientas innecesarias se eliminan. Una llamada a herramienta sin política que la permita se deniega.

Evita: Darle al agente todas las herramientas 'por si acaso'. Las herramientas destructivas sin uso son puro riesgo; justifica cada una y quita el resto.

OU de IA generativa (multi-cuenta) →

Una revisión de riesgo de herramientas en la cuenta recorta al agente a herramientas justificadas, controla las operaciones destructivas y agrega controles a las acciones de alto impacto.

  1. Evalúa el valor vs. riesgo de cada herramienta y elimina las que el agente no necesita.
    Capa de IA generativa (rol IAM) Bedrock AgentCore IAM
  2. Restringe las operaciones destructivas/mutativas y controla las acciones de alto impacto con aprobación e IAM más estricto.
    Capa de IA generativa (rol IAM) IAM Step Functions
  3. Usa AgentCore Policy (Cedar) en el gateway para permitir las herramientas destructivas o mutativas solo a los principales y condiciones de entrada específicos que las necesitan. El motor deniega por defecto, así que cualquier otra llamada a esas herramientas se bloquea.
    Capa de IA generativa (rol IAM) AgentCore Gateway
  4. Documenta la justificación de cada herramienta que se conserva.
    Capa de IA generativa (rol IAM) Amazon Bedrock

Cómo validar: Cada herramienta se justifica; las operaciones destructivas se restringen o se controlan; las herramientas innecesarias se eliminan. Una llamada a herramienta sin política que la permita se deniega.

Evita: Un agente con amplias herramientas de escritura/borrado que rara vez usa. Mantén el conjunto de herramientas mínimo y controla las partes peligrosas.

Cuenta única (punto de entrada) →

Amenazas que atiende

  • Un agente con capacidades destructivas/mutativas innecesarias.
  • Agotamiento de recursos o daño por herramientas de agente demasiado amplias.

Servicios AWS

Amazon Bedrock AgentCore AWS IAM

Mapeos de frameworks

OWASP GenAI/LLM Top 10 (2026)

  • LLM03 Excessive Agency
  • LLM06 Unbounded Consumption

NIST AI Risk Management Framework (AI 100-1)

  • MAP.4 Risks and impacts are mapped
  • MANAGE.1 AI risks are prioritized, responded to and managed

AWS Well-Architected Generative AI Lens (Security)

  • GENSEC05-BP01 Implement least privilege and permission boundaries for agentic workflows

OWASP GenAI Top 10 for Agentic Applications (2025)

  • ASI01 Agent Goal Hijack
  • ASI02 Tool Misuse and Exploitation

Recursos de aprendizaje

Referencias

  • AWS SRA para IA — Capacidad 5, Seguridad de aplicación