18. "Противодействие состязательным атакам с помощью «объяснения» моделей", Константин Архипенко

Уязвимость к состязательным атакам и недостаточная интерпретируемость нейронных сетей ограничивают их внедрение в production. Некоторые статьи показывают, что с помощью explainable AI («объяснимого» ИИ, XAI) можно не только отлаживать модели, но и противостоять атакам. Лекция состоит из введения в две области (состязательные атаки и XAI) и обзора этих статей.

Автор лекции Константин Архипенко, сотрудник Института системного программирования РАН, преподаватель трека "Искусственный интеллект" IT Академии Samsung на ВМК МГУ.

Ссылка на презентацию - https://drive.google.com/file/d/1DUjrWW_tO91ptKp_SB1bvUs6pUDu65mf/view?usp=sharing

Это лекция - часть цикла вебинаров "Samsung Innovation Campus" для тех, кто уже освоил основы нейронных сетей и задач по CV/NLP и двигается дальше. Авторы - специалисты Samsung Research Russia, Института системного программирования РАН, Сбербанка и других компаний и университетов.

Ссылка на все лекции цикла Samsung Innovation Campus по искусственному интеллекту - https://myitacademy.ru/ai/ai_lectures/

Бесплатные курсы по нейронным сетям от Samsung Research Russia - https://stepik.org/org/srr

Видео 18. "Противодействие состязательным атакам с помощью «объяснения» моделей", Константин Архипенко канала IT Академия Samsung