Comply · Estándares globales y marcos sectoriales
OWASP Top 10 para aplicaciones de LLM
Los principales riesgos de seguridad para aplicaciones de LLM.
El OWASP Top 10 de LLM Applications cataloga los riesgos de seguridad más críticos en los sistemas de modelos de gran lenguaje, incluyendo inyección rápida, manejo de salidas inseguras, envenenamiento de datos de capacitación, divulgación de información sensible, vulnerabilidades de cadena de suministro, agencia excesiva y sobreconfianza — como una lista de verificación práctica para asegurar aplicaciones de IA.
A quién se aplica
Cualquiera que construya, despliegue o asegure aplicaciones y agentes propulsados por LLM.
Obligaciones clave
- Defender contra la inyección rápida y el manejo de salida insegura
- Proteger contra la divulgación de información confidencial y la intoxicación de datos
- Constrain excesiva agencia y permisos de herramientas
- Secure la cadena de suministro modelo y monitor para uso indebido
Cómo Maetra mapea agentes a OWASP LLM Top 10
Este es el módulo Secure de Maetra directamente: escaneo en tiempo real para la inyección rápida, la exfiltración de datos y la escalada de privilegios, además de los límites de Govern en agencia de agentes para acciones consiguientes.
En la práctica, Maetra:
- Escaneos y huellas dactilares de cada agente. Discover reads the agent’s code — its tools, data access and sensitivity, actions, model, and environment — into an evidence-backed profile tied to the exact file and commit.
- Decide lo que se aplica. Ese perfil determina si OWASP LLM Top 10 está en alcance para el agente y cuál de sus requisitos se aplican.
- Controles de auto-detectos y brechas de superficies. Controla su código ya satisfios se detectan automáticamente desde el escaneo; el resto se convierte en una lista clara de vacíos, cada uno vinculado al requisito y la evidencia que todavía necesita.
- Probarlo y mantenerlo actualizado. Cerrar las brechas con pruebas vinculadas o documentos generados — reutilizados en cada marco el mismo control soporta— y Maetra vuelve a comprobar cada rescan y marca evidencia que se ha estancado.
Marcos conexos
Promoción OWASP LLM Top 10 cumplimiento de Maetra
Clasifique a sus agentes de IA una vez y Maetra los mapea para OWASP LLM Top 10 y cualquier otro marco que apoye, generando las pruebas y la documentación, rastreando las lagunas y los plazos, y sellando cada decisión en una ruta de auditoría inmutable.