Llama in Docker su Ubuntu il mio laboratorio AI senza cloud

In questo video racconto il mio esperimento con Llama.cpp su Ubuntu dentro Docker.

L’idea è semplice: preparare un ambiente AI locale usando uno script Bash, senza dover rifare ogni volta tutti i passaggi a mano. Lo script installa Docker, prepara l’ambiente, permette di scegliere l’immagine llama.cpp e di usare modelli GGUF scaricati manualmente.

Non è una guida perfetta da manuale, ma un test reale fatto sul mio PC, con prove, errori, comandi e spiegazioni passo passo.

Nell’articolo trovi il codice dello script, le note su Docker, i comandi per avviare il modello, il server su localhost e le spiegazioni su dove mettere i file GGUF.

Tutto è disponibile qui:

https://epicstrike.altervista.org/

Il mio laboratorio AI locale continua da qui.

Видео Llama in Docker su Ubuntu il mio laboratorio AI senza cloud канала Sergio De Rossi