ChatGPT "klón" PC , Windows 10 8GB RAM / Core I

VicunaGPT a ChatGPT-hez hasonló mesterséges intelligencián alapuló chatbot. Öntanuló alguritmus ggml-vicuna-7b-1.1-q4_2 változata, létezik egy fejlettebb változat ahhoz minimum 16 Gb RAM kell és mai felsőkategóriás számítógép.

Futtatási környezet: https://github.com/ggerganov/llama.cpp
Nyelvi modell: https://huggingface.co/eachadea/legacy-ggml-vicuna-13b-4bit/tree/main

run.bat paraméterezés és indítás, tartalma:

title llama.cpp
:start
main -i --interactive-first -r "### Human:" --temp 0 -c 2048 -n -1 --ignore-eos --repeat_penalty 1.2 --instruct -m ggml-vicuna-7b-1.1-q4_2.bin
pause
goto start

Elvileg van lehetőség text.txt -s -save majd text.txt -l -load paraméterezni, hogy újraindítás után is emlékezzen a beszélgetésre nekem nem működött..

Видео ChatGPT "klón" PC , Windows 10 8GB RAM / Core I канала Brian Smith