一键部署本地私人专属知识库,开源免费!可接入GPT-4、Llama 3、Gemma、Kimi等几十种大模型,零代码集成,1Panel出品。
Ғылым және технология
一键部署本地私人专属知识库,开源免费!可接入GPT-4、Llama 3、Gemma、Kimi等几十种大模型,零代码集成,1Panel出品。
Llama 3 申请与本地部署
• Llama 3 模型申请与本地部署的几种方法...
Llama 2 微调
• 🦙使用自己的数据微调Llama 2 最简单方...
Llam 2 申请与本地部署
• Llama2模型申请与本地部署详细教程
启用虚拟化指令
dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all
MaxKB项目地址
github.com/1Panel-dev/MaxKB
Docker桌面程序下载
www.docker.com/products/docke...
MaxKB docker 部署指令
docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb
MaxKB本地登录
用户名: admin
密码: MaxKB@123..
Ollama下载
ollama.com/download
演示测试文档下载
drive.google.com/drive/folder...
pan.baidu.com/s/1YIfLQeajt9LV...
00:00 介绍
00:47 开启系统虚拟化
01:11 docker安装与部署
02:36 数据本地化
04:12 本地知识库
05:12 对接大模型
08:25 问答系统
Пікірлер: 94
视频风格有零度大佬的感觉🤣,支持
找了很多天的本地部署,只有你最全面最完善,点赞
好物呀~~~來測試一下
awesome👍
博主,你好,连接上了,请问一下maxkb应用-概览-应用信息的公开访问怎么链接?
不需要向量化吗?
每一次重新開機是不是都要開docker + cmd ollama? 有沒有更一鍵開始網頁用?
@AIDiscovery2045
Ай бұрын
好像都可以设置到启动项里的
求问大佬一下:这种操作是不是相当于机器学习?比如,我导入文档是一堆鲁迅的文章,然后最终我输入一段文字或者给个主题,让AI以鲁迅的风格写一篇文章。还是说,这种操作只是能在给定的文章库里进行诸如总结分析等操作而已?
@AIDiscovery2045
Ай бұрын
是的,可以做到。但这个AI用于搭建个人或者企业的知识问答系统、AI智能客服系统更加合适
@artlinehua7087
Ай бұрын
请问,是否对电脑配置有要求?
@AIDiscovery2045
Ай бұрын
@@artlinehua7087 6G显存起步
有没有可能升级知识库文件大于50个吗?
还请问本地部署的资料库有文件数量限制吗?很多类似应用只能上传10个文件
@lonelyfq
Ай бұрын
50个
可以保存历史聊天记录吗
能不能用api调用呢
大佬 😭Win11 docker desktop 如何修改【已创建的容器】的端口映射?比如 我想把localhost:3000:8080改为localhost:8079:8080 怎么操作?
@AIDiscovery2045
Ай бұрын
重新部署时第二个端口填写你想要映射的端口
@singularity2000
Ай бұрын
@@AIDiscovery2045 确实只有重新部署一条路了。修改部署好的容器的端口没想到这么难,网上搜了一圈都没搞懂
@AIDiscovery2045
Ай бұрын
@@singularity2000 重新部署也省事,一键部署,重填几个参数。
我试了以下,实际体验很糟糕,模型应该没问题(phi3),但是回答完全错乱
請問我文本都是繁體中文,可是你教學內的都是簡體回答居多,有其他微調支援繁體中文嗎
@AIDiscovery2045
Ай бұрын
能否支持多语言,主要取决于使用的LLM模型是否支持该语言文字。
自己部曙後, 怎樣可以讓別的電腦也查詢知識庫?
@AIDiscovery2045
Ай бұрын
本地访问地址中把127.0.0.1改成你机器的IP地址,如192.168.1.123
请问如何设置让GPU运行。按视频的操作步骤是CPU在运行
@AIDiscovery2045
5 күн бұрын
n卡安装cuda
请问,是否对电脑配置有要求?
@AIDiscovery2045
Ай бұрын
如果使用的模型是7B,6G显存;如果在线接入gpt或者其他在线的大模型,普通CPU也能跑
@user-ws6eu2kl9f
Ай бұрын
@@AIDiscovery2045 完了 我的4g没用了
文档无权下载
求教大佬,这个支持API吗,我想用其他app来调用
@AIDiscovery2045
Ай бұрын
暂不支持。但可以在第三方系统中无缝嵌入知识库的应用网址
如果某个文档更新了,本地知识库会不会自动更新?
@AIDiscovery2045
11 күн бұрын
要重新关联下
4080 笔记本 64G内存能跑多大的模型?哪里看配置
@AIDiscovery2045
Ай бұрын
4080是16GB显存配置吧。7B、8B、13B的都可以跑;各种AI绘画、声音克隆、视频生成、AI换脸工具跑起来也都没问题。
请问我提问后模型没有回答知识库里的内容怎么解决?
@AIDiscovery2045
21 күн бұрын
编辑知识库,添加相关文档的问题关联
在模型设置里,添加模型,不能下载,提示失败,不知道是怎么回事
@AIDiscovery2045
Ай бұрын
那可以等ollama命令窗口下载完以后再到MaxKBj里添加;
无法添加谷歌gemini 的 api key,出错“校验失败,请检查参数是否正确”
@AIDiscovery2045
9 күн бұрын
测试下你的IP能否使用gemini api
rror code: 500 - {'error': {'message': 'error starting the external llama server: exec: "ollama_llama_server.exe": executable file not found in %PATH% ', 'type': 'api_error', 'param': None, 'code': None}} 提示这个是什么原因呀,怎么解决呢
@AIDiscovery2045
Ай бұрын
ollama重新安装下,别安装在中文目录里
你视频效果全部复现了 但是 什么是LeetCode问题 相同的问题不用快捷提问 就很慢 显存8g的
@AIDiscovery2045
6 күн бұрын
如果N卡,安装cuda驱动试试,可能会提高回答速度
大佬,怎么更改网页端的logo信息?
@AIDiscovery2045
Ай бұрын
docker下安装改不了哈
@haipiday
Ай бұрын
@@AIDiscovery2045 目前只有docker这一种安装方式吗
博主,你好,maxkb里的知识库-上传文档-智能分段老是不准确分段,所以回答是不是模型回答与本地文档问答豪无关系。
@AIDiscovery2045
15 күн бұрын
文档建议用Q-A这种方式,每份文档内容不要太长
@fengqingzhang-od2ux
12 күн бұрын
@@AIDiscovery2045qA文档有没有举例
6G显卡指的是专用内存还是可以包含共享GPU内存,笔记本专用GPU内存4G,共享GPU内存7.8G可以布置吗?
@AIDiscovery2045
Ай бұрын
可以跑,但稍有点慢。6G指的是专用内存
@mikeyu7271
Ай бұрын
@@AIDiscovery2045 感谢
我之前用时感觉智能分段不太好用
@fengqingzhang-od2ux
9 күн бұрын
根本就分不了,最后答非所问
无法进入输入密码操作界面,求大佬指导
@AIDiscovery2045
Ай бұрын
打开docker界面,containers里有没有启动成功
越看越想搞,最后止步于显卡,每次都如此。能否讲讲怎样云端部署,尤其colab,毕竟人人都有谷歌。
@user-ws6eu2kl9f
Ай бұрын
云平台要花钱的
@user-mv6hn2px9e
Ай бұрын
谷歌colab现在收费了
@pori3183
24 күн бұрын
现在gemini1.5的flash版本api好像是免费的,个人用够了
大神,我苹果电脑,两个api域名都提示失效,怎么办😅
@AIDiscovery2045
Ай бұрын
换成本机的IP试试,一般都是192.168.开头的
@muyi8539
Ай бұрын
@@AIDiscovery2045 原来重启电脑,忘了打开ollama了!~
QWen -7b 模型的Api域名,怎么输都是错的
@AIDiscovery2045
16 күн бұрын
如果视频演示的地址不行,试试用本机的IP
@fengqingzhang-od2ux
16 күн бұрын
@@AIDiscovery2045博主,你好,我是外行,就差这一步了,其他全部做完了,怎么查看本地IP。
@fengqingzhang-od2ux
16 күн бұрын
@@AIDiscovery2045博主,你好,连接上了,请问一下maxkb应用-概览-应用信息的公开访问怎么链接?
大哥 你每次win的介绍完了,在介绍Mac啊 照顾下我们呀😅
@AIDiscovery2045
Ай бұрын
我的Mac跑不动ollama下载的模型😀
@user-rm8td8el6r
Ай бұрын
@@AIDiscovery2045 你的不行 可以远程下我们的呀,Mac到底需要多大的配置才行
@AIDiscovery2045
Ай бұрын
@@user-rm8td8el6r 至少M1
@user-rm8td8el6r
Ай бұрын
@@AIDiscovery2045 我的是m2 mini 就是打开虚拟环境不知道怎么进入虚拟环境安装
@AIDiscovery2045
Ай бұрын
@@user-rm8td8el6r source venv\scripts\activate
API域名总是显示无效,求解答!
@AIDiscovery2045
Ай бұрын
host.docker.internal:11434 也不行吗
@user-nd9vd1si7s
Ай бұрын
@@AIDiscovery2045 是啊,很郁闷
一键部署😂
没显卡是不是跑不起来
@AIDiscovery2045
Ай бұрын
可以跑,但体验不好,模型回复会非常慢。
提示127.0.0.拒绝连接
@AIDiscovery2045
Ай бұрын
要加端口号
Docker Engine stopped
@AIDiscovery2045
28 күн бұрын
如果开梯子的话,打开dokcer桌面应用,右上角点登录,注册个账号试试。
@thomas08088
28 күн бұрын
@@AIDiscovery2045 感谢,我用4.28版本完美解决
删除后 在新建 出现Failed to run image. (HTTP code 500) server error - invalid volume specification: '/run/desktop/mnt/host/d/Maxkb: /var/lib/postgresql/data': invalid mount config for type "bind": invalid mount path: ' /var/lib/postgresql/data' mount path must be absolute
@lacovovo
Ай бұрын
和你一样的错误信息,就是这个复制的路径,已经是绝对路径了,但还是不对