OWASP GenAI Security Project

У OWASP есть отдельный проект, посвященный безопасности Generative AI и LLM-приложений - OWASP GenAI Security Project.

В проекте собраны материалы по основным направлениям AI Security:

- OWASP Top 10 for LLM and GenAI - ключевые риски для приложений на базе LLM;
- Agentic App Security - безопасность AI-агентов и многошаговых AI-систем;
- AI Threat Intelligence - новые техники атак и злоупотребления GenAI;
- AI Security Governance - управление рисками и безопасностью AI;
- AI Bill of Materials - безопасность AI supply chain;
- Data Security - защита обучающих и retrieval-данных;
- Red Teaming & Evaluation - методы проверки AI-систем на устойчивость к атакам.

Отдельно развивается OWASP GenAI LLM Top 10 2026 с наиболее критичными рисками для LLM-приложений.

🔗 https://genai.owasp.org
#links