SVDQuant Flux ComfyUI ускорение в 2 раза
Сегодня мы поговорим о технологии SVDQuant - это новое квантование моделей. Появилась новая возможность ускорить генерации на моделях Flux в 2-3 раза с небольшой потерей качества. И еще для многих — это будет даже более важно – сильное снижение потребления видеопамяти. Flux можно будет запустить на видеокартах от 4Гб Vram. Всё это становится возможным благодаря новым методам квантизации моделей Int4 и Fp4. Это квантование поддерживает Lora и схемы, которые у вас есть с flux моделями будут работать, как и раньше, но значительно быстрее и потреблять меньше VRAM.
SVDQ быстрее и проще чем triton и качественнее чем TeaCache или WaveSpeed.
МЕНЮ
00:00 - Обзор SVDQuant
03:15 - Установка ComfyUI
03:43 - Установка моделей и библиотек SVDQuant
09:22 - Разбор схемы генерации Flux Dev 1 и настройки узлов svdq
18:24 - Сравнение качества генераций и скорости svdq - чистой flux - wavwspeed
20:05 - Схема Flux Outpaint с моделями int4 swdquant
20:57 - Схема Flux Tools Canny Depth с моделями int4 swdq
22:55 - Квантуем модели lora в swdq int4
25:26 - Эпилог
🔥 Мой курс по "AUTOMATIC 1111" с моей поддержкой на сайте https://stabledif.ru
🔥 Мой курс по "ComfyUI" с моей поддержкой на сайте https://stabledif.ru/comfyui
🔑 Все ссылки и файлы доступны на Boosty:
https://boosty.to/stabledif/posts/e6cfef1a-b45c-46aa-bb42-59731983ca3c?share=post_link
Инструкция по установки от разработчика SVDQuant: https://github.com/mit-han-lab/nunchaku/tree/main/comfyui
Настроенная portable ComfyUI: https://boosty.to/stabledif/posts/808aeb79-d23e-4581-a442-0b3f367dee23?share=post_link
✔️Телеграм-канал: https://t.me/stabledif_lesson
✔️ Telegram ЧАТ: https://t.me/stable_dif
✔️VK Prompts: https://vk.com/stabledif
Видео SVDQuant Flux ComfyUI ускорение в 2 раза автора StableDif | ComfyUI | Automatic1111
Видео SVDQuant Flux ComfyUI ускорение в 2 раза автора StableDif | ComfyUI | Automatic1111
Информация
13 марта 2025 г. 10:00:27
00:27:51
Похожие видео