Skip to main content
RansomLeak Навчання з кібербезпеки

Кожна вправа проіндексована за назвою та посиланнями на CWE, OWASP, MITRE ATT&CK, CIS, NIST CSF, GDPR і Закон ЄС про ШІ.

Спробуйте

Увесь каталог

Навчання з безпеки ШІ та LLM

Розпізнайте промпт-ін’єкції, діпфейки та ШІ-фішинг, перш ніж зловмисники обернуть ваші ШІ-інструменти проти вас.

57 вправ 5 курсів Безкоштовно, без реєстрації

01

ШІ на роботі

15 вправ
02

OWASP Top 10 для LLM-застосунків

10 вправ
03

OWASP Top 10 для агентних застосунків

10 вправ
04

OWASP MCP Top 10

10 вправ
05

Безпечна розробка з ШІ-помічниками

12 вправ

Поширені запитання

Що таке промпт-ін’єкція в ШІ?

Промпт-ін’єкція в ШІ — це атака, коли зловмисні інструкції ховають у документах, листах або на веб-сторінках, які обробляє ШІ-асистент. Прочитавши такий контент, ШІ виконує приховані інструкції замість того, чого хотів користувач.

Через це ШІ може розкрити чутливі дані, проігнорувати правила безпеки або виконати несанкціоновані дії, а користувач навіть не помітить, що вхідні дані було підроблено.

Як промпт-ін’єкція може призвести до викрадення даних?

Зловмисник вбудовує в документ інструкції, які наказують ШІ додати чутливі дані у відповідь, закодувати їх в URL або надіслати на зовнішні адреси.

Оскільки ШІ обробляє весь текст документа, він може виконати ці інструкції разом із легітимним контентом і відправити конфіденційну інформацію тим, кому вона не призначалася.

Що таке OWASP Top 10 для LLM-застосунків?

OWASP Top 10 for LLM Applications — це галузевий стандарт, який визначає десять найкритичніших ризиків безпеки при впровадженні великих мовних моделей.

Він охоплює промпт-ін’єкцію (LLM01), розкриття чутливої інформації (LLM02), вразливості ланцюга постачання (LLM03), отруєння даних (LLM04), некоректну обробку вихідних даних (LLM05), надмірні повноваження (LLM06), витік системного промпта (LLM07), слабкі місця векторів і ембедингів (LLM08), дезінформацію (LLM09) та необмежене споживання ресурсів (LLM10). Наш курс містить одну практичну вправу на кожен ризик.

Що таке OWASP Top 10 для агентних застосунків?

OWASP Top 10 for Agentic Applications — це фреймворк 2025 року, присвячений ризикам безпеки автономних ШІ-агентів, які користуються інструментами, ухвалюють рішення та діють самостійно.

Він охоплює перехоплення цілі агента (ASI01), зловживання інструментами та їх експлуатацію (ASI02), зловживання ідентичністю та привілеями (ASI03), вразливості агентного ланцюга постачання (ASI04), неочікуване виконання коду (ASI05), отруєння пам’яті та контексту (ASI06), небезпечну комунікацію між агентами (ASI07), каскадні збої (ASI08), експлуатацію довіри людини до агента (ASI09) та неконтрольованих агентів (ASI10).