нейронные сети - краткая история
История развития нейронных сетей. Архитектура.
https://github.com/TAUforPython/BioMedAI.git
0:00:01 Введение в нейронные сети
00:03:01 История и междисциплинарность
• Нейронные сети как междисциплинарное знание.
• История зарождения искусственного интеллекта в 1950-х годах.
• Важность работ Мак-Каллока и Питтса в 1943 году.
00:05:48 Развитие моделей нейронных сетей
• Современные исследования нейронных связей.
• Фрэнк Розенблат и его работа с персептроном в 1958 году.
• Открытие эры искусственного интеллекта в 1950-х годах.
00:10:46 Проблемы и ограничения
• Проблемы воссоздания искусственного интеллекта.
• Проклятие размерностей и необходимость мощных компьютеров.
• Задача Марвина Минского 1971 года и её сложность.
00:14:05 Трагическая гибель Фрэнка Розенблата
• В 1971 году Фрэнк Розенблат погиб в день своего рождения, катаясь на лодке.
• Его смерть оборвала золотую эру развития нейронных сетей и искусственного интеллекта.
• В Минске никто не решился противоречить Розенблату, что задержало развитие нейронных сетей.
00:14:33 Проблемы персептрона
• Персептрон решал только узкую задачу и не мог решать линейно неразделимые задачи.
• В то время компьютерная техника использовала алгоритмы фон Неймана, что ограничивало возможности нейронных сетей.
• Решение проблемы потребовало создания дополнительных скрытых слоев.
00:17:18 Метод обратного распространения ошибки
• В 1974 году Пауль Вербоуз предложил метод обратного распространения ошибки.
• В 1998 году Цыбенко доказал, что нейронные сети могут решать любые задачи.
00:24:23 Теорема Хэкета-Нильсона
• Теорема Хэкета-Нильсона показывает, как определять количество скрытых слоев и нейронов.
• Это помогает в выборе архитектуры нейронной сети для конкретной задачи.
00:25:37 Сверточные нейронные сети
• Сверточные нейронные сети обучаются за счет изменения весовых коэффициентов.
• Они используются для работы с изображениями и другими большими данными.
00:28:42 Рекуррентные нейронные сети
• Рекуррентные нейронные сети запоминают предыдущие шаги и метки времени.
• Они содержат обратную связь и могут запоминать большие последовательности.
00:32:06 Введение в автоэнкодеры
• Рекуррентные нейронные сети позволяли строить последовательности и прогнозировать.
• Объединение рекуррентных сетей с сверточными создало автоэнкодеры.
• Автоэнкодеры тренируются для получения скрытого пространства, что привело к созданию языковых моделей.
00:33:48 Фильтрация и внимание
• Автоэнкодеры могут фильтровать шум, что позволяет создавать системы фильтрации.
• В 2017 году статья добавила механизм внимания в автоэнкодеры.
• Внимание позволяет выделять важные элементы в последовательности, что улучшает понимание текста.
00:36:59 Условная вероятность и внимание
• Условная вероятность помогает нейронным сетям понимать контекст.
• Пример с романом "Война и мир" показывает, как сеть может распознавать важные элементы.
• Внимание и условная вероятность формируют алгоритм, который выбирает наиболее вероятный контекст.
00:39:22 Генеративные модели и дискриминаторы
• Генеративные модели, такие как GPT-5, используют дискриминаторы для отбраковки нереальных данных.
• Это создает искусственный интеллект, который может генерировать и отбраковывать данные.
• В 2024 году появилась новая постановка задачи, основанная на теореме Колмогорова-Арнольда.
00:42:41 Обучение нейронных сетей
• Нейронные сети обучаются на дата-сетах, разделенных на блоки для обучения, проверки и тестирования.
• Метод трансферного обучения позволяет использовать обученные модели для новых задач.
• Пример с медицинскими данными показывает, как нейронные сети могут применяться в медицине.
00:46:18 Практическое применение
• Нейронные сети содержат слои и нейроны, что позволяет решать задачи регрессии и классификации.
• Пример с простой задачей регрессии показывает, как сеть справляется с задачей.
• Переобучение сети можно имитировать, усложняя структуру, что приводит к ухудшению результатов.
00:49:32 Обзор моделей генерации изображений
00:51:56 Генерация видео
• Переход к генерации видео в DeepAI.
• Пример: студент, изучающий data science.
• Ошибки нейронных сетей: неправильные изображения рук и других деталей.
00:53:06 Решение математических задач
• Использование предобученной математической модели.
• Пример задачи из ЕГЭ: поиск объема правильного четырехугольника.
• Модель распознает картинку и подставляет формулы для решения задачи.
00:55:27 Анализ кардиосигнала
• Пример с кардиосигналом и записями врачей.
• Объединение данных в имбединг и формирование нового датасета.
• Обучение нейронной сети с помощью платформы BlueCast Emel.
Видео нейронные сети - краткая история автора BaumanAI_video
Видео нейронные сети - краткая история автора BaumanAI_video
Информация
19 ноября 2024 г. 1:54:42
00:58:50
Похожие видео