[Открытые лекции] НейроДиффуры: что будет, если сделать в резидьюальных сетях континуум слоев

Дмитрий Ветров, профессор-исследователь департамента больших данных и информационного поиска

Резидьюальные сети стали одним из самых успешных архитектурных решений в области глубинного обучения за последние годы. На таких архитектурах достигнут ряд state-of-the-art результатов на различных задачах машинного обучения. Недавняя статья, получившая приз за лучшую работу на NIPS2018, представляет новый взгляд на процессы, происходящие при обучении резидьюальных сетей. Трактовка резидьюальных сетей как настраиваемого дифференциального уравнения позволяет получить несколько интересных расширений базовой модели и расширяет наше понимание принципов работы нейронных сетей. В докладе будет рассмотрена модель нейродифференциальных уравнений, даны идеи доказательства основных теорем, показано, какими преимуществами обладает получившийся алгоритм, а также обозначены пути для его дальнейших улучшений.

Видео [Открытые лекции] НейроДиффуры: что будет, если сделать в резидьюальных сетях континуум слоев канала ФКН ВШЭ