Назад към всички workshop-и
AI Advanced Cybersecurity Приключил

AI Security Offensive: Hands-On LLM Security Training

Научи как да идентифицираш и експлоатираш System Prompt Leakage, Excessive Agency и Data Poisoning за 8 часа
Виктор Марес Senior Penetration Tester @ SoCyber
Дата
Формат
4 сесии · Online - Live stream

Този уъркшоп ще ти донесе практическо и задълбочено разбиране за реалните уязвимости в съвременните приложения, базирани на Large Language Models (LLM) и GenAI. В рамките на четири интензивни сесии (по два часа) ще откриеш как работят агентните системи, RAG архитектурите и инструментите, които свързват LLM с външния свят -  и най-важното, как могат да бъдат атакувани.

Обучението е изцяло ориентирано към практиката и следва OWASP Top 10 за LLM & GenAI - официалната класация на най-рисковите уязвимости в GenAI приложенията. Всеки риск се разглежда чрез реалистичен пример и хакерски сценарий, включително чрез Gandalf Agent Breaker - платформа за експлоатация на LLM агенти, както и чрез специално подготвени уязвими backend компоненти.

Извън сесиите ще имаш възможност да общуваш с другите участниците в Discord група, с активно участие на лектора, който ще е на разположение и една седмица след завършвана на последната сесия.

В края на уъркшопа ще можеш уверено да идентифицираш, експлоатираш и предотвратяваш уязвимости в LLM-базирани приложения, както и да изграждаш по-сигурни и устойчиви AI решения в своите проекти.

Уъркшопът се провежда онлайн, на живо, без запис. 

Какво ще научиш

  1. 01

    Да оценяваш рисковете при интеграция на LLM в реални системи

  2. 02

    Да откриваш и елиминираш уязвимости преди да попаднат в продукция

  3. 03

    Да проектираш по-сигурни AI агенти, инструменти и RAG системи

  4. 04

    Да предотвратяваш течове на чувствителна информация

  5. 05

    Да разработваш AI функционалности без да отваряш нови attack vectors

  6. 06

    Да избягваш costly DoS атаки, халюцинации и логически грешки

За кого е подходящ този Workshop

  • Ако имаш базови познания по AI/LLM, prompt engineering или софтуерна разработка.

  • Ако имаш интерес към киберсигурност, AI агенти, RAG, LLM интеграции.

  • Разбиране как работят API-та и основни web технологии.

  • Разработчици

  • AI инженери

  • DevOps

  • QA

  • Pentesters

  • Cybersecurity специалисти

  • Data инженери

  • Tехнически лидери

Структура на сесиите

  1. How LLM Apps Break: Architecture, OWASP & First Exploit

    Ще научиш как работи архитектурата на съвременните GenAI приложения, какви са основните им уязвимости и как да ги откриваш и анализираш на практика.

    How LLM Apps Break: Architecture, OWASP & First Exploit

    • Архитектура на модерни GenAI приложения: LLM, агенти, RAG, memory, tool calling.
    • Защо LLM системите са фундаментално различни от класическия софтуер.
    • Въведение в OWASP Top 10 for LLM & GenAI - логика и категории уязвимости.
    • Live hacking: LLM10 - Unbounded Consumption (Custom Backend Lab)
    • Анализ на кода и защо тези уязвимости съществуват
  2. Architecture-Level Attacks: Misinformation & RAG Exploits

    Ще научиш как да разпознаваш уязвимости в LLM приложения, свързани с подвеждаща информация, embedding и similarity search и изтичане на системни инструкции.

    Architecture-Level Attacks: Misinformation & RAG Exploits

    • LLM09: Misinformation (PortfolioIQ Advisor) - подвеждане на AI при инвестиционни оценки.
    • LLM08: Vector & Embedding Weaknesses (Clause AI) - Как embedding и similarity search водят до неочаквани резултати.
    • LLM07: System Prompt Leakage (Cycling Coach) - извличане на скрити инструкции и правила.
  3. Agents, System Prompts & Excessive Agency

    Ще научиш как да разпознаваш и анализираш рискове при AI агенти, свързани с неоторизирани действия, опасен AI output и манипулиране на данни и памет.

    Agents, System Prompts & Excessive Agency

    Как AI агентите разкриват тайните си и вършат „повече, отколкото трябва“

    • LLM06: Excessive Agency (Thingularity & CorpConnect) - tool enumeration, unauthorized actions, impersonation.
    • LLM05: Improper Output Handling (Solace AI) - опасен AI output при чувствителни сценарии.
    • LLM04: Data & Model Poisoning (MindfulChat) - poisoned memory и дългосрочно поведение.
  4. Poisoning, Supply Chain & Prompt Injection

    Ще научиш как да разпознаваш и анализираш уязвимости в AI системи, свързани с компрометирани зависимости, изтичане на чувствителна информация и prompt injection атаки.

    Poisoning, Supply Chain & Prompt Injection

    • LLM03: Supply Chain Vulnerabilities (Curs-ed CodeReview) - компрометирани AI правила и зависимости.
    • LLM02: Sensitive Information Disclosure (OmniChat Desktop) - изтичане на PII чрез tool misuse.
    • LLM01: Prompt Injection (Trippy Planner) - indirect prompt injection чрез външен контент.
    • Кратък финален walk-through: как да мислим като AI attacker vs AI defender.

За лектора

  • Виктор Марес

    Senior Penetration Tester @ SoCyber

    Виктор е Senior Penetration Tester с почти 7 години опит в ИТ сферата, специализиран в офанзивната сигурност на Web, Mobile, API, мрежови и AI системи. С над 100 проведени одита и богат практически опит, той комбинира класически хакерски техники с най-актуалните методи за атака срещу LLM модели и AI агенти.

    Той е един от малкото сертифицирани AI/ML Pentester-и в региона и активно оценява сигурността на LLM и AI-базирани решения. Открил е CVE-2025-7104 и CVE-2025-7106 в LibreChat - open-source AI платформа с над 32 хиляди звезди в GitHub и почти 8 милиона изтегляния в Docker Hub.

    Освен това той е докладвал уязвимости чрез Bug Bounty програми на компании като Netflix, Coca-Cola, Indeed, Medium, Major League Baseball и други. Виктор споделя опита си чрез своя блог, участия в конференции, създаване на CTF-и и обучения, включително OWASP Bulgaria, BSides Sofia и SoftUni.

За нас

Общността зад AI Workshops

DEV.BG е общността, която вече повече от 10 години свързва и развива технологичните специалисти в България — с над 1800 събития и десетки хиляди участници през годините. AI Workshops е нашата програма за практични AI обучения: кратки и интензивни формати, водени от доказани експерти, създадени за конкретни аудитории и различни нива на AI зрялост.