Беляев Дмитрий на IT Elements | Доклад «SkyNet уже здесь: когда нейросети идут в атаку»

Как нейросети атакуют бизнес и как выжить в этой реальности? Узнайте, как с помощью ИИ взламывают LLM, создают дипфейки руководителей компаний и крадут миллионы (как в случае с 25 миллионами долларов в Гонконге). Дмитрий Беляев рассказывает о главных угрозах 2024 года: промпт-инъекциях, джейлбрейк-атаках, вредоносном ПО на нейросетях и сервисах DarkGPT. Мы покажем, как защититься: от DLP и UEBA до использования ИИ против ИИ. Реальные кейсы, инструменты с открытым исходным кодом и стратегии для «синей команды».

00:01:11 — Революция ИИ: рост мощностей, объёмов данных и угроз
00:02:34 — 51% экспертов считают ИИ главной киберугрозой
00:04:21 — Злоумышленники используют ИИ: промпт-инъекции, джейлбрейк, DarkGPT
00:06:45 — Дело из Гонконга: мошенничество с Deepfake CEO и потеря 25 миллионов долларов
00:08:20 — Avast Top 10 для LLM: «минное поле» уязвимостей нейросетей
00:09:48 — Как работают промпт-инъекции и джейлбрейк-атаки
00:13:19 — Защита: DLP, изоляция LLM, мониторинг трафика, принцип «доверяй, но проверяй»
00:15:59 — Обнаружение дипфейков: признаки на видео и технические решения
00:17:16 — Использование ИИ в защите: GPT + SIEM, «синяя команда» против «красной команды»
00:18:20 — Топ-10 нейросетей для защиты и расследований (Blue Team)

Видео Беляев Дмитрий на IT Elements | Доклад «SkyNet уже здесь: когда нейросети идут в атаку» канала Belyaev_Security