Загрузка...

🔥 LLM em PC FRACO SEM GPU! Eu consegui (e te ensino como)

Neste vídeo eu mostro como configurar e usar o Ollama para rodar uma LLM em um PC fraco, sem GPU e usando apenas CPU.

⚠️ O vídeo foi gravado em uma máquina mais forte, mas o processo mostrado foi pensado para funcionar em hardware limitado.

Você vai aprender:

* Como instalar o Ollama
* Como baixar modelos leves para CPU
* Quais modelos funcionam melhor em PCs fracos
* Como reduzir consumo de memória usando versões quantizadas
* Como rodar tudo localmente, sem internet e sem GPU

Modelos recomendados para PC fraco:
* qwen2 usado no video
* TinyLlama
* Phi-2
* Gemma 2B
* Mistral 7B quantizado
* Llama 3 8B quantizado (para máquinas um pouco melhores)

Exemplo de comando mostrado no vídeo:
ollama run qwen2:0.5b

Se você tem um notebook antigo, um PC básico ou simplesmente não quer gastar com placa de vídeo, esse tutorial mostra o caminho completo 🚀
um verdadeiro "llm on a weak computer"
#Ollama #LLM #CPUOnly #SemGPU #IA #InteligenciaArtificial #Dev,

Видео 🔥 LLM em PC FRACO SEM GPU! Eu consegui (e te ensino como) канала Gleison luiz
Яндекс.Метрика
Все заметки Новая заметка Страницу в заметки
Страницу в закладки Мои закладки
На информационно-развлекательном портале SALDA.WS применяются cookie-файлы. Нажимая кнопку Принять, вы подтверждаете свое согласие на их использование.
О CookiesНапомнить позжеПринять