Llama 3.1: разбор статьи. Часть 2. Architecture & Scaling laws.
Разбираем статью "The Llama 3 Herd of Models" (2024) со слушателями нашей AI-школы.
Предыдущее видео:
1. Intro & Data mix: https://youtu.be/YoRsqImynUE
Таймкоды:
00:00 Приветствие
03:54 3.2 Model Architecture
42:35 3.2.1 Scaling Laws
Все видео плейлиста:
1. Intro & Data mix: https://youtu.be/YoRsqImynUE
2. Model Architecture & Scaling laws: https://youtu.be/fR8flHXcvLs
3. Pre-training: https://youtu.be/1Ut-3-Ost0w
4. Reward modeling & Supervised Fine-tuning: https://youtu.be/4aUYhAgW5h4
5. DPO: https://youtu.be/2_RDSMu61YQ
6. Post-training data: https://youtu.be/RLAiyZP-Fvw
Плейлист с разбором Llama 3.1:
https://www.youtube.com/playlist?list=PL6-BrcpR2C5QXuCaev_DJ_o9lqYkAxSmo
Телеграм-канал:
https://t.me/razinkov_ai
Список моих открытых курсов по AI на YouTube:
https://t.me/razinkov_ai/622
Предварительная регистрация в следующий поток AI-школы:
https://razinkov.ai/school
Видео Llama 3.1: разбор статьи. Часть 2. Architecture & Scaling laws. канала Евгений Разинков
Предыдущее видео:
1. Intro & Data mix: https://youtu.be/YoRsqImynUE
Таймкоды:
00:00 Приветствие
03:54 3.2 Model Architecture
42:35 3.2.1 Scaling Laws
Все видео плейлиста:
1. Intro & Data mix: https://youtu.be/YoRsqImynUE
2. Model Architecture & Scaling laws: https://youtu.be/fR8flHXcvLs
3. Pre-training: https://youtu.be/1Ut-3-Ost0w
4. Reward modeling & Supervised Fine-tuning: https://youtu.be/4aUYhAgW5h4
5. DPO: https://youtu.be/2_RDSMu61YQ
6. Post-training data: https://youtu.be/RLAiyZP-Fvw
Плейлист с разбором Llama 3.1:
https://www.youtube.com/playlist?list=PL6-BrcpR2C5QXuCaev_DJ_o9lqYkAxSmo
Телеграм-канал:
https://t.me/razinkov_ai
Список моих открытых курсов по AI на YouTube:
https://t.me/razinkov_ai/622
Предварительная регистрация в следующий поток AI-школы:
https://razinkov.ai/school
Видео Llama 3.1: разбор статьи. Часть 2. Architecture & Scaling laws. канала Евгений Разинков
Показать
Комментарии отсутствуют
Информация о видео
Другие видео канала
Машинное обучение (2023). Лекция 6. Деревья решенийСверточные нейронные сети. Лекция 14.Глубокое обучение. Лекция 3. Обратное распространениеПринципы построения сверточных архитектур. Лекция 6 по глубокому обучениюMonte Carlo Learning. Off-Policy Evaluation and Control. Лекция 6 по обучению с подкреплением.Что делать когда данных мало? Лекция 3 по машинному обучениюБыстрое обнаружение аномалий на изображениях. Лекция 6 по обнаружению аномалийГлубокое обучение. Лекция 7. Регуляризация глубоких нейронных сетейAI: от основ до трансформеров. Регрессия. Лекция 3.Self-supervised learning: BYOL. Последняя лекция на факультете ВМК КФУ.Философия глубокого обучения. Лекция 6 по Modern Deep Learning.Глубокое обучение. Лекция 3.1. Обратное распространение (продолжение)Математические основы AdaBoost. Лекция 9 по машинному обучениюОбратное распространение через MLP . Лекция 5 по Modern Deep Learning (2023).Llama 3.1: разбор статьи. Часть 9. Long context & Tool useSelf-Supervised Learning. Часть 1. Лекция 5 по Advanced Computer VisionБонус) Скринкаст лекции. Линейные модели регрессии (весна 2020, курс "Введение в машинное обучение")Логистическая регрессия. Лекция 8.Так обучается любая нейронная сеть. Лекция 3 по глубокому обучениюВведение в AdaBoost. Лекция 8 по машинному обучению