Запускаем локально ChatGPT

Оболочки для работы с моделями
alpaca-electron: github.com/ItsPi3141/alpaca-e...
koboldcpp: github.com/LostRuins/koboldcp...
Модели (чем больше квантов, тем требовательнее к ПК)
huggingface.co/Pi3141/alpaca-...
huggingface.co/TheBloke/Wizar...
huggingface.co/TheBloke/hippo...
Плейлист про нейросети:
• Нейросети

Пікірлер: 12

  • @user-gs2hs3er3b
    @user-gs2hs3er3b11 ай бұрын

    Спасибо большое! Информативно и эмоционально. Нейросетки можно изучать и с помощью колаба, пока не накопите на нормальное железо.

  • @artdikson1360
    @artdikson1360Ай бұрын

    загрузил альпаку,,,, скачал несколько моделей по ссылке - а альпака их не видит!!! не различает! не находит GGUF model Есть какая то хитрость,?

  • @MamedovInfo

    @MamedovInfo

    Ай бұрын

    Да вроде нет.

  • @_chkMyStyle_

    @_chkMyStyle_

    16 күн бұрын

    @@MamedovInfoтакая же фигня

  • @Retroromancer
    @Retroromancer3 ай бұрын

    Какую версию alpaca-electron вы используете в этом видео? Перепробовал все версии вплоть до 1.0.0 - везде пишет что не может загрузить модель. Модель WizardLM-30B-Uncensored.ggmlv3.q8_0.bin

  • @everybodydice
    @everybodydice5 ай бұрын

    Конечно же, .bin она у меня не приняла, просит .gguf. Как конвертировать, не понимаю. Может, я что-то не то скачал?

  • @MamedovInfo

    @MamedovInfo

    5 ай бұрын

    Всё как в видео делал?

  • @everybodydice

    @everybodydice

    5 ай бұрын

    @@MamedovInfo Конечно. Видимо, новая версия просто не принимает .bin. Не зря 30 гигов качал

  • @everybodydice

    @everybodydice

    3 ай бұрын

    @@Retroromancer Дак уж давно. Всё равно, не пригодилось. Не знаю, откуда берут эти проценты, но даже большие модели тупее Gpt-3

  • @WhiteDemonStudio
    @WhiteDemonStudio4 ай бұрын

    Скажите а будет-ли работать с DDR3-1833MHz (24GB) разогнанной до 2200Mhz и процессором i7-4770K?

  • @MamedovInfo

    @MamedovInfo

    4 ай бұрын

    Трудно сказать, только проверять.

  • @WhiteDemonStudio

    @WhiteDemonStudio

    4 ай бұрын

    @@MamedovInfoработает, да. Но у меня почему-то только "кобольт" ответы даёт. но долго всё равно, около 20 мин. на полноценный ответ требуется в одно предложение в среднем. Карта кстати 1060 6Gb. Грузит тоже под завязку всё, и категорично с SSD накопителя модели запускать.

Келесі