Запускаем локально ChatGPT
Оболочки для работы с моделями
alpaca-electron: github.com/ItsPi3141/alpaca-e...
koboldcpp: github.com/LostRuins/koboldcp...
Модели (чем больше квантов, тем требовательнее к ПК)
huggingface.co/Pi3141/alpaca-...
huggingface.co/TheBloke/Wizar...
huggingface.co/TheBloke/hippo...
Плейлист про нейросети:
• Нейросети
Пікірлер: 12
Спасибо большое! Информативно и эмоционально. Нейросетки можно изучать и с помощью колаба, пока не накопите на нормальное железо.
загрузил альпаку,,,, скачал несколько моделей по ссылке - а альпака их не видит!!! не различает! не находит GGUF model Есть какая то хитрость,?
@MamedovInfo
Ай бұрын
Да вроде нет.
@_chkMyStyle_
16 күн бұрын
@@MamedovInfoтакая же фигня
Какую версию alpaca-electron вы используете в этом видео? Перепробовал все версии вплоть до 1.0.0 - везде пишет что не может загрузить модель. Модель WizardLM-30B-Uncensored.ggmlv3.q8_0.bin
Конечно же, .bin она у меня не приняла, просит .gguf. Как конвертировать, не понимаю. Может, я что-то не то скачал?
@MamedovInfo
5 ай бұрын
Всё как в видео делал?
@everybodydice
5 ай бұрын
@@MamedovInfo Конечно. Видимо, новая версия просто не принимает .bin. Не зря 30 гигов качал
@everybodydice
3 ай бұрын
@@Retroromancer Дак уж давно. Всё равно, не пригодилось. Не знаю, откуда берут эти проценты, но даже большие модели тупее Gpt-3
Скажите а будет-ли работать с DDR3-1833MHz (24GB) разогнанной до 2200Mhz и процессором i7-4770K?
@MamedovInfo
4 ай бұрын
Трудно сказать, только проверять.
@WhiteDemonStudio
4 ай бұрын
@@MamedovInfoработает, да. Но у меня почему-то только "кобольт" ответы даёт. но долго всё равно, около 20 мин. на полноценный ответ требуется в одно предложение в среднем. Карта кстати 1060 6Gb. Грузит тоже под завязку всё, и категорично с SSD накопителя модели запускать.