🤍💚❤️

Това репо предоставя JSON описания на българските езикови модели BgGPT, подходящи за инсталиране в чатбота Jan.

Jan е алтернатива на ChatGPT, която може да се използва локално и не изисква интернет връзка след сваляне на езиковите модели.

📥 В релийзите на това репо ще намерите .zip файлове, които съдържат JSON описания на моделите.

1. Инсталирайте Jan на компютъра си, ако вече не сте го направили.
2. От последния релийз на това репо изтеглете .zip файла.
3. Разархивирайте съдържанието на .zip файла в директорията на Jan:
   • Linux и macOS: ~/jan/models
   • Windows: C:\Users\<your_user_name>\jan\models
4. Рестартирайте Jan, ако в момента е стартиран.
5. От менюто Hub в Jan намерете и изтеглете избрания модел.

BgGPT идва в няколко различни квантувани размера. Може да изберете модел, който да отговаря на вашите нужди, като вземете предвид размера на диска и изискването за VRAM.

ℹ️ По-малките модели в повечето случаи са по-бързи при по-малко налична VRAM, но генерират по-некачествени резултати.

✨ Препоръчани модели, базирани на тази дискусия в llama.cpp. VRAM = 1.25 * Disk

• INSAIT @ Hugging Face
• Jan @ GitHub