Создание продуктов как ChatGPT за 15 мин. Лекция от Andrej Karpathy (май 2023)

🌟 Узнайте, как работают большие языковые модели и агенты LLM!
Простые объяснения и примеры. Лекция для всех, кто хочет понять будущее искусственного интеллекта.

Пишу полезное в блоге Telegram: https://t.me/blog_hanzo
Ссылки на оригинальное видео в первом комментарии
👇👇👇

👨🏻‍💻 Кто я?
Я создаю автоматизации для бизнеса через чат-боты в telegram и whatsapp.
Активно использую нейросети в своих проектах.
Мой путь это 10 лет инженерного опыта, диплом MBA, управление процессами на заводе IKEA и 3 года бизнес-анализа в 15 компаниях.

*Ключевые моменты*
- Обучение GPT-ассистентов
- Этапы обучения
- Предварительное обучение
- Использование больших датасетов
- Сравнение GPT-3 и LLaMA
- Супервизированное дообучение (SFT)
- Обучение с подкреплением от человеческой обратной связи (RLHF)
- Техники улучшения работы модели
- Разделение сложных запросов
- Использование методов самооптимизации

Discover how large language models and LLM agents work! Simple explanations, real-world examples, and their applications in education, medicine, finance, and more. A podcast for anyone curious about the future of artificial intelligence.

Odkryj, jak działają duże modele językowe i agenci LLM! Proste wyjaśnienia, przykłady z życia wzięte i ich zastosowania w edukacji, medycynie, finansach i nie tylko. Podcast dla każdego, kto jest ciekawy przyszłości sztucznej inteligencji.

Үлкен тілдік модельдер мен LLM агенттері қалай жұмыс істейтінін біліңіз! Түсінікті мысалдар, қарапайым түсіндірулер және олардың білім беру, медицина, қаржы сияқты салалардағы қолданылуы. Жасанды интеллекттің болашағын түсінгісі келетіндерге арналған подкаст.
Foundation of LLMs
Reasoning
Planning, tool use
LLM agent infrastructure
Retrieval-augmented generation
Multimodal agents,
Human-agent interaction, personalization, alignment
Multi-agent collaboration
pretraining data (internet)
tokenization
neural network
pretraining to post-training
post-training data (conversations)
hallucinations, tool use, knowledge, working memory

#llm #chatgpt #нейросети #ai

Видео Создание продуктов как ChatGPT за 15 мин. Лекция от Andrej Karpathy (май 2023) канала Peter Hanzo