Domain Adaptation of GANs [in Russian]
Speaker: Aibek Alanov, AIRI, Higher School of Economics
Slides: https://github.com/bayesgroup/bayesgroup.github.io/blob/master/bmml_sem/2022/Alanov_DomainAdaptationofGANs_09.12.2022.pdf
Современные модели ГАНов требуют больших датасетов высокого качества для успешного обучения, что является серьезным ограничением на практике. Мы рассмотрим методы доменной адаптации, которые позволяют обучить ГАН на доменах, которые представлены небольшим числом примеров. Основной подход в этой задаче - это файнтьюнинг модели, обученной на большой выборке, на новый домен. В качестве такой модели мы будем рассматривать sota-модель StyleGAN, обученный на датасете лиц FFHQ.
В докладе будет сделан обзор существующих методов доменной адаптации StyleGAN. Далее будут представлены наши результаты по тому, как можно уменьшить на порядки число дообучаемых параметров при файнтьюнинге StyleGAN и как это позволяет решать задачу мульти-доменной адаптации, когда мы хотим дообучить модель сразу на несколько доменов.
Во второй части доклада будет предложен подробный анализ важности каждой компоненты архитектуры StyleGAN для доменной адаптации в зависимости от схожести целевого домена с исходным. Далее мы рассмотрим, как этот анализ позволяет улучшить существующие методы адаптации и открывает новые интересные свойства этих методов.
Chat: https://drive.google.com/file/d/1-8rt6RmLLXjOs0ykR8Zm6tjyXMefs7Rl/view?usp=sharing
Видео Domain Adaptation of GANs [in Russian] канала BayesGroup.ru
Slides: https://github.com/bayesgroup/bayesgroup.github.io/blob/master/bmml_sem/2022/Alanov_DomainAdaptationofGANs_09.12.2022.pdf
Современные модели ГАНов требуют больших датасетов высокого качества для успешного обучения, что является серьезным ограничением на практике. Мы рассмотрим методы доменной адаптации, которые позволяют обучить ГАН на доменах, которые представлены небольшим числом примеров. Основной подход в этой задаче - это файнтьюнинг модели, обученной на большой выборке, на новый домен. В качестве такой модели мы будем рассматривать sota-модель StyleGAN, обученный на датасете лиц FFHQ.
В докладе будет сделан обзор существующих методов доменной адаптации StyleGAN. Далее будут представлены наши результаты по тому, как можно уменьшить на порядки число дообучаемых параметров при файнтьюнинге StyleGAN и как это позволяет решать задачу мульти-доменной адаптации, когда мы хотим дообучить модель сразу на несколько доменов.
Во второй части доклада будет предложен подробный анализ важности каждой компоненты архитектуры StyleGAN для доменной адаптации в зависимости от схожести целевого домена с исходным. Далее мы рассмотрим, как этот анализ позволяет улучшить существующие методы адаптации и открывает новые интересные свойства этих методов.
Chat: https://drive.google.com/file/d/1-8rt6RmLLXjOs0ykR8Zm6tjyXMefs7Rl/view?usp=sharing
Видео Domain Adaptation of GANs [in Russian] канала BayesGroup.ru
Показать
Комментарии отсутствуют
Информация о видео
19 января 2023 г. 20:45:00
01:25:26
Другие видео канала
Scalable Bayesian Inference in Low-Dimensional SubspacesAutoformer and Autoregressive Denoising Diffusion Models for Time Series Forecasting [in Russian]Stochastic computational graphs: optimization and applications in NLP, Maksim Kretov[DeepBayes2018]: Day 2, lecture 4. Discrete latent variablesSparse Bayesian Variational Learning with Matrix Normal DistributionsTensor Train Decomposition for Fast Learning in Large Scale Gaussian Process Models, Dmitry KropotovСлучайные матрицы: теория и приложенияNeural Program Synthesis, part 2 [in Russian]Hyperbolic Deep Learning [in Russian]Tensor Programs, part 2 [in Russian]Discovering Faster Matrix Multiplication Algorithms with Reinforcement Learning [in Russian]Learning Differential Equations that are easy to solve [in Russian]SketchBoost: быстрый бустинг для multiclass/multilabel классификации и multitask регрессии[DeepBayes2018]: Day 3, Practical session 5. Distributional reinforcement learningOn Power Laws in Deep Ensembles [in Russian][DeepBayes2018]: Day 2, practical session 5. Variational autoencoders[DeepBayes2019]: Day 5, Sponsor talkMathematical Models of the Genetic Architecture in Complex Human DisordersControlling GANs Latent Space [in Russian][DeepBayes2019]: Day 2, practical session 2. Variational autoencodersPredicting Oil Movement in a Development System using Deep Latent Dynamics Models