Это канал для тех, кому интересно изучать продвинутые технологии и применять их на практике. Нейросети, криптография, безопасность, приватность. Заходи и отрывайся по полной ;)
Очень впечатлило! А для смартфонов га Андроид есть такое? Нужно , чтобы по команде выделял текст , копировал, переносил в говорилку и дублировал- дописывал в определённый файл по теме. Ещё для Винды и Андроида - нужна голосовая работа с Таблицами.
@kotofeu5127 күн бұрын
webui очень зашел. Были проблемы с повторным запуском. Когда делал быстрый старт из скрипта он почему-то не делал среду conda. пришлось все делать ручками - не очень сложно - инструкция на гитхабе. В итоге все заработала буду пробовать обучать на своих данных Спасибо
@the_angel_tw27 күн бұрын
Я тут протестил и пришел все таки к выводу место AnythingLLM нужно делать свою русскую и сейчас пишу оболочку для моделей на C# это позволит сжимать квантовать модели без потери качество ответа и модели будут гораздо меньше весить значит и ресурсов локального компьютера нужно будет меньше)
@rvsn8228 күн бұрын
C:\Users\kolia\.cache\lm-studio\models\LM Studio Community\Meta-Llama-3-8B-Instruct-GGUF\Meta-Llama-3-8B-Instruct-Q4_K_M.gguf : эта модель благодаря вашей помощи вышла в интернет я благодарен вам за ваш труд
@rvsn8228 күн бұрын
Command-R на LM Studio отказывается скачивать
@codedd328021 күн бұрын
слабое железо вероятно
@user-ed1rs5ph3u29 күн бұрын
проверим
@f_cklive1572Ай бұрын
Спасибо, давно хотел начать работать с llm локально, благодаря твоему каналу очень многое узнал, особенно понравился ролик про Open Interpreter.
@user-lx9qv5go4iАй бұрын
а можно как то общаться с моделями через этот интерфейс
@codedd328021 күн бұрын
это его основная функция
@Mr.Morgan.Ай бұрын
очень помогли, спасибо. Подскажите как можно изменить путь установки модели если на основном диске места нет?
@codedd328021 күн бұрын
писал команды в телеге
@user-gu4hj5sp9bАй бұрын
Что то название не сходится с самим видео.....?
Ай бұрын
Посмотрел на перемотке и понял, что ничего не понял... Во-первых, что за 4х битные модели? Это вроде Денди и Сега Мегадрайв разрядностью процессоров мерялись... Если в названии AI модели есть что-то типа 4b, то это количество ее параметров, например, 4 миллиарда. Что касается доступа к API гугля, то он самой модели и не нужен. Сделайте запрос к API в коде своей программы/скрипта, получите результат и скормите его AI, как часть промпта.
@codedd3280Ай бұрын
видимо нужно в каждом видео подчеркивать важность контекста материала в рамках канала. Для постоянных зрителей здесь нет новой информации. Я стараюсь давать материал с постепенным усложнением и азы я рассказал в начальных роликах канала. Про апи гугла без комментариев.
@valdisOofechtАй бұрын
А Perplexity намного хуже ?
@codedd3280Ай бұрын
ну как я сказал, с готовыми ссылками она справляется, но лайф поиск не делает, или делает выборочно и не воспроизводимо, плюс выбор моделей
@user-lo5sh4ss6oАй бұрын
любая нейронка работает на информации. так что можно скачать всю инфу. желательно в тексте. потом сжать текст на 90% и обучать на этом. затем удалять старую инфу и качать новую. нейронка сохраняет старую инфу ещё сильнее сжав струю инфу в собственные слои. пробуй если понял.
@GexPlayerMDАй бұрын
Если она доберётся до ChatGPT, то зародится скайнет)
@codedd3280Ай бұрын
да, возможность прокачаться самой модели без использования допоборудования и специальных датасетов, это одновременно крутой и опасный навык
@torvn77Ай бұрын
Раз вы пробуете интегрировать свою нейросеть с разными поисковиками, то попробуйте свободный СПО поисковик Yacy, подробно его описывать здесь не буду, если интересно то в википедии по нему есть статья.
@codedd3280Ай бұрын
цель видео была показать на простом рабочем примере, что такое вызов функций и подход с использованием агентов и показать что это дает результат с бесплатными моделями. А в целом конечно все можно усложнить, расширить функции и отсечь все платное, но это немного более сложная история, которая не укладывается в 15-20 мин, но будем развивать тему дальше. Спасибо за идею.
@corpsebreath1029Ай бұрын
Херня где нейронка для генерации картинок не использующая видюху?
@codedd3280Ай бұрын
есть облачные решения, в чем проблема? пользуйся
@berdkivi9023Ай бұрын
Так а что получилось то в итоге? ) ... На видео вы показали процесс подбора и тестирования различных нейронок и все. Но какие именно задачи они должны были решать и как они с этим справились вы не показали. Надеюсь, в следующем видео это все будет разъяснено.
@user-ug5op1cf8iАй бұрын
В итоге стало ясно, что модель Command-R использует поиск для выдачи актуальной и новой информации в интернете, что весьма ценно
@global_dominanceАй бұрын
Давно искал подобную программу AnythingLLM, чтобы связка была с LM Studio и чтобы выбирать нагрузку на железо. С агентами надо поиграться, тоже важный момент.
@user-ui9dw9ku7uАй бұрын
Я тоже немного копал в эту сторону, я не нашёл эти решения - спасибо, я начал копать в сторону Ollama и cat-ui. Cat-ui как чат для LLM такое себе, но в качестве написания бота неплох, все пишется на python - что даёт неплохую мобильность и можно писать свои решения и скрипты, но приходится чучуть копаться.
@alexandr-spbАй бұрын
Вам можно заказать настройку такой модели? и можно ли модель научить различать голоса?
@mux8717Ай бұрын
Добрый день. Подскажите пожалуйста, а какие у Вас настройки LM Studio? (имеется ввиду "Frequency Scale" и другие).
@codedd3280Ай бұрын
все ссылки по теме видео в телеграм: t.me/+zTcoFHq7i9AyMWM6
@suneroz28 күн бұрын
Подскажите пожалуйста, какую цель вы преследовали? В двух словах?
@suneroz28 күн бұрын
Очень умный проект, Спасибо!
@suneroz28 күн бұрын
То есть вы хотели локальную модель AI подключить к Интернету, чтобы она могла отвечать на любые вопросы с учетом самой актуальной информации из Интернета? Но ведь для этого нужен очень толстый канал Интернет, и чтобы модель обучалась в реальном времени на основе анализа контента, но для этого нужны гигатские мощности. или чтобы умно проходила по ссылкам, ища правильный ответ, задействуя только локальные ресурсы обычного домашнего компьютера, тогда наверное программить нужно, хотябы сценарии, как у Вас алгоритм на картинках. Значала вопрос, потом AI формулирует запрос к поисковику, потом получает ответы, смотрит ответы, если они AI кажутся недостаточными, формулирует новый запрос, пока не получит ответ, который сочтет достаточно правильным, чтобы показать его Вам. А какая модель локальной бесплатной AI по Вашему мнению наиболее приближенные к человеческому общению ответы выдает? Я с Llama 3 Instruct работаю
@MikeMike-zf9upАй бұрын
Здравствуйте. Расскажите какой апгрейд? Видеокарта новая? Какая у Вас была и какую Вы купили?
@codedd3280Ай бұрын
Здравствуйте. Была tesla, купил 4090. Но это конечно и с запасом на будущее, цены растут, решил купить пока была возможность. Хочу на тему железа снять отдельный ролик, есть что рассказать.
@BuhGalteriaDizelАй бұрын
@@codedd3280 Да, было бы отлично.
@romanioamd5319Ай бұрын
@@codedd3280 я купил бу 3090 вместо 1080ti она у меня три года проработала, заменил ее. Я правда еще рисую c помощью нейросетей там важен размер памяти и скорость работы по сути как и с любыми моделями нейросетей. Кто бы что не говорил, а 3090 занимает второе место топ второго покаления после 4090, по памяти они равны, остальные модели видеокарт кастраты их не стоит кроме этих двух либо 4090 либо 3090 покупать. Лучше на лишние деньги докупить оперативной памяти. Тем более цена 3090 была всего от 750-850 евро очень дешево цена подъемная все-таки это не более 2000 тыс евро как за 4090, 3090 в свое время так дорого стоила.
@romanioamd5319Ай бұрын
я купил бу 3090 вместо 1080ti она у меня три года проработала, заменил ее. Я правда еще рисую c помощью нейросетей там важен размер памяти и скорость работы по сути как и с любыми моделями нейросетей. Кто бы что не говорил, а 3090 занимает второе место топ второго покаления после 4090, по памяти они равны, остальные модели видеокарт кастраты их не стоит кроме этих двух либо 4090 либо 3090 покупать. Лучше на лишние деньги докупить оперативной памяти. Тем более цена 3090 была всего от 750-850 евро очень дешево цена подъемная все-таки это не более 2000 тыс евро как за 4090, 3090 в свое время так дорого стоила.
@silentage6310Ай бұрын
@@romanioamd5319 тоже после 1080 выбрал 3090 изза памяти. + не такая доррогая можно купить вторую и будет уже 48гб памяти. а это уже гораздо веселее для LLM. только для фоток конечно можно и попроще даже.
@user-iu4xj8mc3wАй бұрын
H2О конечно крутая. непонятно посему в LM studio нет таких функций работы с доками и выход в интернет, хотя она считается флагманов в данной сфере.
@user-iu4xj8mc3wАй бұрын
немного непонятно зачем эта прослойка, которая может сливать дату, особенно если она не сертифицирована. ведь в лм студио тоже самое всё
@user-gw2lg9ff4iАй бұрын
Короче геморрой тот ещё по установке, как и всё у этих офисных планктонщиков.
@user-ti3tg6cf5xАй бұрын
Это спичифичный инструмент, если тебе нужен чисто чат: скачал Бинг, включить ВПН и радуешься. Локальная модель полезна для работы команд разработки, у меня в компании очень обрадовались возможности иметь нейронку без необходимости отправлять данные на чужие сервера.
@AnubisGogАй бұрын
Благодарствую за такие полезности!
@krio_genАй бұрын
Просто в шоке. Ради окошка чата набивать комп адским мусором, да еще с такой сложной установкой. Ты сказал, ставил на чистую систему? У меня плохие новости - теперь у тебя грязная система.
@user-ti3tg6cf5xАй бұрын
Ты о чем вообще ? Все это для разработчиков. Сама модель ставится в два клика а докер сам тебя в мусорку закинет.
@Musicnotforf.nrelaxsleep-ih6iv2 ай бұрын
Я правильно понимаю, что на данный момент все эти модели на CPU переводят текст в несколько абзацев по несколько минут? То есть оно как бы все работает в принципе, но пользоваться этим нельзя?
@codedd3280Ай бұрын
нет, все намного позитивнее. перевод был взят, чтобы уровнять условия эксперемента. Сейчас пошел сильный прогресс по малым моделям, посмотрите например phi3. Скоро сниму видео на эту тему
@suneroz2 ай бұрын
Гениально! Спасибо, так долго думал, как попробовать ИИ локально. Ваше объяснение самое лучшее! Спасибо таким людям, как вы! Меня впечатлила GPT4All в связке с Lliama 3 Instruct. Спасибо, наилучших пожеланий!
@romanbolgar2 ай бұрын
Если бы его ещё встроили в Laitis С помощью которого я сейчас говорю вот эти строки. И который может тоже выполнять команды. Вот тогда было бы супер. А так у меня почему-то постоянно Ассоциация консоля с перфокартами... Двадцать первый век на дворе до сих пор всё руками в консоли... Несерьёзно. Использовать консоль с искусственным интеллектом для меня то же самое что машину в телегу заправлять. п..с. Оказалось я это видео Раньше смотрел но не досмотрел и даже комментарии оставил. Странно что сразу не заметил
@the_angel_tw2 ай бұрын
По больше бы обучающих таких бы видео очень интересно. Спасибо за контент.
@DDrums-Uroki-Po-Skype2 ай бұрын
Нейросеть. Сходи в магаз за пивом)
@romanmed90352 ай бұрын
скачивал даже недавно обновленные модели но в них данные минимум годовалой давности. а нужные мне данные вышли в конце прошлого года. как узнать примерное время накомления данных их актуальность?
@codedd32802 ай бұрын
есть видос про выбор модели
@romanmed90352 ай бұрын
@@codedd3280 спасибо, поищу
@user-br9yl7fw4o2 ай бұрын
И всё писать надо... На кой хрен мне - такое удобство? А поговорить? Мне больше подходят устные просьбы!!! Именно возможность устного общения и есть настоящий интерфейс, так сказать... Пора уже сетям заговорить и - на любых языках.
@diversitynone4312 ай бұрын
Можно ли подключать не страничку а сайт типа многостраничного форума чтоб самому не читать?
@goradiog81452 ай бұрын
У меня LMStudio постоянно ругается. "This processor does not support AVX2 instructions." Говорит, что мой ноут безнадежно стар. Хотя другие аналогичные программы типа GPTFORALL прекрасно работают. Вы бы указывали минимальные требования для этого ПО - цены бы вам не было. Но при всём при этом я с большим уважением отношусь к вашему труду, достойному наивысших похвал.
@l7l7l7lful2 ай бұрын
Годнота
@Asver_2 ай бұрын
Напишите пожалуйста, как настроить сервер. У вас в видео ни чего об этом не сказано.
@codedd3280Ай бұрын
да, совсем скоро будет видео про железо
@pseudoAkk2 ай бұрын
local host SD не хочет работать в OpenWebUi. пишет ошибку. хотя все флаги в батнике прописаны :(((
@YuriyLvov2 ай бұрын
СПС за видос
@AlexAlex-vw3bm2 ай бұрын
а можно ли подключать проекты с кодом где много файлов и директорий?
@bulba19952 ай бұрын
Как всегда шикарное видео , я вам признателен ))
@arthurivanov13542 ай бұрын
Очень интересно, похоже, то что я искал! Если Вас не затруднит, подскажите. возможно ли в LM Studio в промпт подгружать файлы локально или ссылки с онлайн ресурсов?
@codedd32802 ай бұрын
в LM Studio нельзя, для этого и показываю, как это делать в AnythingLlm, она также работает локально, можно запросто работать без интернета. Еще есть похожее видео про RAG, его там есть другbе интструменты на эту тему
@arthurivanov13542 ай бұрын
@@codedd3280 Спасибо! Я так и предполагал, поэтому Ваш гайд прямо в точку.
@Asver_2 ай бұрын
Спасибо вам огромное за видео гайды.!!!!!
@codedd32802 ай бұрын
пожалуйста!
@airlow67842 ай бұрын
Дополню: Поднял сервак на linux арендовал платный с видяхой на 12gb и 32gb ram, установил там lm studio, на ней выбрал mistral как модель нейронки, и активировал Сервер с дефолтным портом 1234. На домашнем компе установил Anything llm и прописал в настройках модели адрес удалённого сервера, всё завелось ! Подгрузил документ, начал общаться с ним... качество так себе... видимо нужно играться с моделью на серваке, ну и другими настройками....
@codedd32802 ай бұрын
очень много вопросов - что за модель, нужно чекать правильно ли подгрузилась lm-studio, и самое главное - язык документов, если русский, то нужно подобрать эмбендинговую модель из списка, который я сбросил в телегу. Еще я сбросил ссылку на бесплатный сервис (до определенных лимитов, но они очень солидные) чтобы ничего не арендовать и не платить. Отдельный вопрос - что для Вас - "качество"
@airlow67842 ай бұрын
@@codedd3280 Качество, это когда по запросу, из док-та вытягивается нужный мне ответ, информация, как на вашем видео, пока хотя бы так, - но сейчас полная чушь, а ниже он даёт ссылку как будто вытащил это с моего док-та.
@codedd32802 ай бұрын
если документ на русском - нужна специальная модель, без этого качество может не соответсвовать ожиданиям
@2009Spread2 ай бұрын
давай исчё!
@codedd32802 ай бұрын
ох и не просто это исчё, много времени и сил, чтобы найти, оттестировать и записать что-то стоящее
@2009Spread2 ай бұрын
@@codedd3280 за это тебе благодарочка
@codedd32802 ай бұрын
все ссылки по теме видео в телеграм: t.me/+zTcoFHq7i9AyMWM6
Пікірлер
В ollama программе подобное возможно?
Очень впечатлило! А для смартфонов га Андроид есть такое? Нужно , чтобы по команде выделял текст , копировал, переносил в говорилку и дублировал- дописывал в определённый файл по теме. Ещё для Винды и Андроида - нужна голосовая работа с Таблицами.
webui очень зашел. Были проблемы с повторным запуском. Когда делал быстрый старт из скрипта он почему-то не делал среду conda. пришлось все делать ручками - не очень сложно - инструкция на гитхабе. В итоге все заработала буду пробовать обучать на своих данных Спасибо
Я тут протестил и пришел все таки к выводу место AnythingLLM нужно делать свою русскую и сейчас пишу оболочку для моделей на C# это позволит сжимать квантовать модели без потери качество ответа и модели будут гораздо меньше весить значит и ресурсов локального компьютера нужно будет меньше)
C:\Users\kolia\.cache\lm-studio\models\LM Studio Community\Meta-Llama-3-8B-Instruct-GGUF\Meta-Llama-3-8B-Instruct-Q4_K_M.gguf : эта модель благодаря вашей помощи вышла в интернет я благодарен вам за ваш труд
Command-R на LM Studio отказывается скачивать
слабое железо вероятно
проверим
Спасибо, давно хотел начать работать с llm локально, благодаря твоему каналу очень многое узнал, особенно понравился ролик про Open Interpreter.
а можно как то общаться с моделями через этот интерфейс
это его основная функция
очень помогли, спасибо. Подскажите как можно изменить путь установки модели если на основном диске места нет?
писал команды в телеге
Что то название не сходится с самим видео.....?
Посмотрел на перемотке и понял, что ничего не понял... Во-первых, что за 4х битные модели? Это вроде Денди и Сега Мегадрайв разрядностью процессоров мерялись... Если в названии AI модели есть что-то типа 4b, то это количество ее параметров, например, 4 миллиарда. Что касается доступа к API гугля, то он самой модели и не нужен. Сделайте запрос к API в коде своей программы/скрипта, получите результат и скормите его AI, как часть промпта.
видимо нужно в каждом видео подчеркивать важность контекста материала в рамках канала. Для постоянных зрителей здесь нет новой информации. Я стараюсь давать материал с постепенным усложнением и азы я рассказал в начальных роликах канала. Про апи гугла без комментариев.
А Perplexity намного хуже ?
ну как я сказал, с готовыми ссылками она справляется, но лайф поиск не делает, или делает выборочно и не воспроизводимо, плюс выбор моделей
любая нейронка работает на информации. так что можно скачать всю инфу. желательно в тексте. потом сжать текст на 90% и обучать на этом. затем удалять старую инфу и качать новую. нейронка сохраняет старую инфу ещё сильнее сжав струю инфу в собственные слои. пробуй если понял.
Если она доберётся до ChatGPT, то зародится скайнет)
да, возможность прокачаться самой модели без использования допоборудования и специальных датасетов, это одновременно крутой и опасный навык
Раз вы пробуете интегрировать свою нейросеть с разными поисковиками, то попробуйте свободный СПО поисковик Yacy, подробно его описывать здесь не буду, если интересно то в википедии по нему есть статья.
цель видео была показать на простом рабочем примере, что такое вызов функций и подход с использованием агентов и показать что это дает результат с бесплатными моделями. А в целом конечно все можно усложнить, расширить функции и отсечь все платное, но это немного более сложная история, которая не укладывается в 15-20 мин, но будем развивать тему дальше. Спасибо за идею.
Херня где нейронка для генерации картинок не использующая видюху?
есть облачные решения, в чем проблема? пользуйся
Так а что получилось то в итоге? ) ... На видео вы показали процесс подбора и тестирования различных нейронок и все. Но какие именно задачи они должны были решать и как они с этим справились вы не показали. Надеюсь, в следующем видео это все будет разъяснено.
В итоге стало ясно, что модель Command-R использует поиск для выдачи актуальной и новой информации в интернете, что весьма ценно
Давно искал подобную программу AnythingLLM, чтобы связка была с LM Studio и чтобы выбирать нагрузку на железо. С агентами надо поиграться, тоже важный момент.
Я тоже немного копал в эту сторону, я не нашёл эти решения - спасибо, я начал копать в сторону Ollama и cat-ui. Cat-ui как чат для LLM такое себе, но в качестве написания бота неплох, все пишется на python - что даёт неплохую мобильность и можно писать свои решения и скрипты, но приходится чучуть копаться.
Вам можно заказать настройку такой модели? и можно ли модель научить различать голоса?
Добрый день. Подскажите пожалуйста, а какие у Вас настройки LM Studio? (имеется ввиду "Frequency Scale" и другие).
все ссылки по теме видео в телеграм: t.me/+zTcoFHq7i9AyMWM6
Подскажите пожалуйста, какую цель вы преследовали? В двух словах?
Очень умный проект, Спасибо!
То есть вы хотели локальную модель AI подключить к Интернету, чтобы она могла отвечать на любые вопросы с учетом самой актуальной информации из Интернета? Но ведь для этого нужен очень толстый канал Интернет, и чтобы модель обучалась в реальном времени на основе анализа контента, но для этого нужны гигатские мощности. или чтобы умно проходила по ссылкам, ища правильный ответ, задействуя только локальные ресурсы обычного домашнего компьютера, тогда наверное программить нужно, хотябы сценарии, как у Вас алгоритм на картинках. Значала вопрос, потом AI формулирует запрос к поисковику, потом получает ответы, смотрит ответы, если они AI кажутся недостаточными, формулирует новый запрос, пока не получит ответ, который сочтет достаточно правильным, чтобы показать его Вам. А какая модель локальной бесплатной AI по Вашему мнению наиболее приближенные к человеческому общению ответы выдает? Я с Llama 3 Instruct работаю
Здравствуйте. Расскажите какой апгрейд? Видеокарта новая? Какая у Вас была и какую Вы купили?
Здравствуйте. Была tesla, купил 4090. Но это конечно и с запасом на будущее, цены растут, решил купить пока была возможность. Хочу на тему железа снять отдельный ролик, есть что рассказать.
@@codedd3280 Да, было бы отлично.
@@codedd3280 я купил бу 3090 вместо 1080ti она у меня три года проработала, заменил ее. Я правда еще рисую c помощью нейросетей там важен размер памяти и скорость работы по сути как и с любыми моделями нейросетей. Кто бы что не говорил, а 3090 занимает второе место топ второго покаления после 4090, по памяти они равны, остальные модели видеокарт кастраты их не стоит кроме этих двух либо 4090 либо 3090 покупать. Лучше на лишние деньги докупить оперативной памяти. Тем более цена 3090 была всего от 750-850 евро очень дешево цена подъемная все-таки это не более 2000 тыс евро как за 4090, 3090 в свое время так дорого стоила.
я купил бу 3090 вместо 1080ti она у меня три года проработала, заменил ее. Я правда еще рисую c помощью нейросетей там важен размер памяти и скорость работы по сути как и с любыми моделями нейросетей. Кто бы что не говорил, а 3090 занимает второе место топ второго покаления после 4090, по памяти они равны, остальные модели видеокарт кастраты их не стоит кроме этих двух либо 4090 либо 3090 покупать. Лучше на лишние деньги докупить оперативной памяти. Тем более цена 3090 была всего от 750-850 евро очень дешево цена подъемная все-таки это не более 2000 тыс евро как за 4090, 3090 в свое время так дорого стоила.
@@romanioamd5319 тоже после 1080 выбрал 3090 изза памяти. + не такая доррогая можно купить вторую и будет уже 48гб памяти. а это уже гораздо веселее для LLM. только для фоток конечно можно и попроще даже.
H2О конечно крутая. непонятно посему в LM studio нет таких функций работы с доками и выход в интернет, хотя она считается флагманов в данной сфере.
немного непонятно зачем эта прослойка, которая может сливать дату, особенно если она не сертифицирована. ведь в лм студио тоже самое всё
Короче геморрой тот ещё по установке, как и всё у этих офисных планктонщиков.
Это спичифичный инструмент, если тебе нужен чисто чат: скачал Бинг, включить ВПН и радуешься. Локальная модель полезна для работы команд разработки, у меня в компании очень обрадовались возможности иметь нейронку без необходимости отправлять данные на чужие сервера.
Благодарствую за такие полезности!
Просто в шоке. Ради окошка чата набивать комп адским мусором, да еще с такой сложной установкой. Ты сказал, ставил на чистую систему? У меня плохие новости - теперь у тебя грязная система.
Ты о чем вообще ? Все это для разработчиков. Сама модель ставится в два клика а докер сам тебя в мусорку закинет.
Я правильно понимаю, что на данный момент все эти модели на CPU переводят текст в несколько абзацев по несколько минут? То есть оно как бы все работает в принципе, но пользоваться этим нельзя?
нет, все намного позитивнее. перевод был взят, чтобы уровнять условия эксперемента. Сейчас пошел сильный прогресс по малым моделям, посмотрите например phi3. Скоро сниму видео на эту тему
Гениально! Спасибо, так долго думал, как попробовать ИИ локально. Ваше объяснение самое лучшее! Спасибо таким людям, как вы! Меня впечатлила GPT4All в связке с Lliama 3 Instruct. Спасибо, наилучших пожеланий!
Если бы его ещё встроили в Laitis С помощью которого я сейчас говорю вот эти строки. И который может тоже выполнять команды. Вот тогда было бы супер. А так у меня почему-то постоянно Ассоциация консоля с перфокартами... Двадцать первый век на дворе до сих пор всё руками в консоли... Несерьёзно. Использовать консоль с искусственным интеллектом для меня то же самое что машину в телегу заправлять. п..с. Оказалось я это видео Раньше смотрел но не досмотрел и даже комментарии оставил. Странно что сразу не заметил
По больше бы обучающих таких бы видео очень интересно. Спасибо за контент.
Нейросеть. Сходи в магаз за пивом)
скачивал даже недавно обновленные модели но в них данные минимум годовалой давности. а нужные мне данные вышли в конце прошлого года. как узнать примерное время накомления данных их актуальность?
есть видос про выбор модели
@@codedd3280 спасибо, поищу
И всё писать надо... На кой хрен мне - такое удобство? А поговорить? Мне больше подходят устные просьбы!!! Именно возможность устного общения и есть настоящий интерфейс, так сказать... Пора уже сетям заговорить и - на любых языках.
Можно ли подключать не страничку а сайт типа многостраничного форума чтоб самому не читать?
У меня LMStudio постоянно ругается. "This processor does not support AVX2 instructions." Говорит, что мой ноут безнадежно стар. Хотя другие аналогичные программы типа GPTFORALL прекрасно работают. Вы бы указывали минимальные требования для этого ПО - цены бы вам не было. Но при всём при этом я с большим уважением отношусь к вашему труду, достойному наивысших похвал.
Годнота
Напишите пожалуйста, как настроить сервер. У вас в видео ни чего об этом не сказано.
да, совсем скоро будет видео про железо
local host SD не хочет работать в OpenWebUi. пишет ошибку. хотя все флаги в батнике прописаны :(((
СПС за видос
а можно ли подключать проекты с кодом где много файлов и директорий?
Как всегда шикарное видео , я вам признателен ))
Очень интересно, похоже, то что я искал! Если Вас не затруднит, подскажите. возможно ли в LM Studio в промпт подгружать файлы локально или ссылки с онлайн ресурсов?
в LM Studio нельзя, для этого и показываю, как это делать в AnythingLlm, она также работает локально, можно запросто работать без интернета. Еще есть похожее видео про RAG, его там есть другbе интструменты на эту тему
@@codedd3280 Спасибо! Я так и предполагал, поэтому Ваш гайд прямо в точку.
Спасибо вам огромное за видео гайды.!!!!!
пожалуйста!
Дополню: Поднял сервак на linux арендовал платный с видяхой на 12gb и 32gb ram, установил там lm studio, на ней выбрал mistral как модель нейронки, и активировал Сервер с дефолтным портом 1234. На домашнем компе установил Anything llm и прописал в настройках модели адрес удалённого сервера, всё завелось ! Подгрузил документ, начал общаться с ним... качество так себе... видимо нужно играться с моделью на серваке, ну и другими настройками....
очень много вопросов - что за модель, нужно чекать правильно ли подгрузилась lm-studio, и самое главное - язык документов, если русский, то нужно подобрать эмбендинговую модель из списка, который я сбросил в телегу. Еще я сбросил ссылку на бесплатный сервис (до определенных лимитов, но они очень солидные) чтобы ничего не арендовать и не платить. Отдельный вопрос - что для Вас - "качество"
@@codedd3280 Качество, это когда по запросу, из док-та вытягивается нужный мне ответ, информация, как на вашем видео, пока хотя бы так, - но сейчас полная чушь, а ниже он даёт ссылку как будто вытащил это с моего док-та.
если документ на русском - нужна специальная модель, без этого качество может не соответсвовать ожиданиям
давай исчё!
ох и не просто это исчё, много времени и сил, чтобы найти, оттестировать и записать что-то стоящее
@@codedd3280 за это тебе благодарочка
все ссылки по теме видео в телеграм: t.me/+zTcoFHq7i9AyMWM6
Gemini 1.5 studio android будет ?