OWASP Top 10 para aplicaciones LLM: los riesgos de seguridad de la IA

Las aplicaciones con LLM introducen una superficie de ataque nueva que las prácticas de seguridad tradicionales no cubren del todo. OWASP, la organización detrás del conocido Top 10 de seguridad web, mantiene una lista específica para LLM. Esta es la edición 2025:

¿Cuáles son los 10 riesgos (2025)?

1. 1LLM01 — Inyección de prompts: entradas que manipulan al modelo para saltarse instrucciones o ejecutar acciones no deseadas. El riesgo número uno.
2. 2LLM02 — Divulgación de información sensible: el modelo expone datos privados, confidenciales o regulados.
3. 3LLM03 — Cadena de suministro: vulnerabilidades en modelos, datasets o componentes de terceros.
4. 4LLM04 — Envenenamiento de datos y modelos: datos maliciosos en entrenamiento o ajuste que alteran el comportamiento.
5. 5LLM05 — Manejo inadecuado de salidas: confiar en la salida del modelo sin validar puede provocar XSS, inyección u otros fallos aguas abajo.
6. 6LLM06 — Agencia excesiva: dar al modelo demasiada autonomía o permisos para actuar sobre sistemas reales.
7. 7LLM07 — Filtración del prompt de sistema: exponer instrucciones del sistema que revelan lógica o secretos.
8. 8LLM08 — Debilidades de vectores y embeddings: fallos en sistemas RAG y bases vectoriales (fugas, envenenamiento del índice).
9. 9LLM09 — Desinformación: el modelo genera información falsa presentada con apariencia fiable.
10. 10LLM10 — Consumo no acotado: uso descontrolado de recursos que provoca degradación o costes desbocados.

¿Cómo se mitigan los más críticos?

• Contra inyección de prompts: separa instrucciones de datos, valida y delimita las entradas, y nunca concedas confianza implícita a contenido externo recuperado.
• Contra divulgación de datos: minimiza el contexto sensible, aplica control de acceso en la capa de herramientas y filtra salidas.
• Contra agencia excesiva: aplica mínimo privilegio a cada herramienta, exige confirmación humana en acciones críticas y registra todo.
• Contra manejo inadecuado de salidas: trata la salida del LLM como entrada no confiable; sanea antes de ejecutar o renderizar.

La regla de oro de la seguridad en IA: nunca confíes implícitamente ni en la entrada que llega al modelo ni en la salida que produce.

El Top 10 enumera los riesgos técnicos; para gestionarlos de forma sistemática a nivel organizativo conviene apoyarse en marcos como NIST AI RMF y Google SAIF, y aplicar estos controles al diseñar agentes empresariales.