Пятое открытое заседание Ученого совета ФКН. Доклады Максима Рахубы и Дениса Деркача

1. «Тензорные разложения в глубинном обучении»

Доклад старшего научного сотрудника международной лаборатории теоретической информатики, старшего научного сотрудника международной лаборатории стохастических алгоритмов и анализа многомерных данных (HDI Lab), доцента департамента больших данных и информационного поиска Максима Рахубы.

Наряду с матрицами многомерные массивы (тензоры) являются фундаментальной структурой данных, возникающей в широком круге приложений.
В частности, в глубинном обучении с помощью тензоров естественным образом представляются как сами данные, так и параметры нейронных сетей. Причем количество параметров в современных нейросетях может быть очень велико (сотни миллиардов параметров в самых больших моделях), что затрудняет их использование на устройствах с ограниченными ресурсами.
В докладе пойдет речь об одном из эффективных способов уменьшения числа параметров в нейросетях – о подходе тензорных разложений. Помимо вопроса сжатия в докладе будет рассмотрен контроль константы Липшица в процессе обучения нейронных сетей, которая, в свою очередь, влияет на обобщающую способность и устойчивость к состязательным атакам. В частности, я расскажу о новом применении тензорных разложений для повышения эффективности существующих методов контроля константы Липшица сверточных слоев.

2. «Применение генеративных моделей машинного обучения в физике частиц»

Доклад старшего научного сотрудника научно-учебной лаборатории методов анализа больших данных (LAMBDA), доцента департамента больших данных и информационного поиска Дениса Деркача.

Применение методов машинного обучения стало стандартом при анализе данных в физике частиц. Эти методы применяются на всех стадиях от первичного сбора данных до финального анализа.
Новый запуск Большого адронного коллайдера, запланированный на 2022 год, откроет новую страницу применения машинного обучения из-за возросшей скорости обработки данных и новых технологий, доступных для их анализа.
Одной из важных проблем при этом станет наличие достаточного количества симулированных событий, необходимых для детального понимания происходящего в данных.
В докладе мы опишем специфические требования к генеративных моделей для быстрой симуляции взаимодействия частиц с детектором, рассмотрим текущие разработки и подходы, а также обсудим направления и точки приложения усилий для будущего развития этого направления.

14 апреля 2022

Ученый совет ФКН: https://cs.hse.ru/council

ФКН: https://cs.hse.ru​​
Подписывайтесь на нас в социальных сетях: https://vk.com/cshse​​, https://www.facebook.com/hsecs/​​, https://twitter.com/CS_HSE​

Видео Пятое открытое заседание Ученого совета ФКН. Доклады Максима Рахубы и Дениса Деркача канала ФКН ВШЭ