👉👉视频中的GitHub项目地址：github.com/unslothai/unsloth👉👉我的开源项目地址：github.com/win4r/AISuperDomain
感谢兄台分享！很期待出一期如何创建数据训练集的教学视频。另外，请问如何将自己的数据训练集加入到这个在Colab上运行的代码中？
这个unsloth微调好自己的模型后，再通过ollama来本地运行自己微调好的模型，是不是就可以定制自己的私有的ai产品了？ 比如昆虫识别
很棒，请问您有会员群吗？大家大家互相交流
博主请问下, 单机多卡如何操作unslosh训练? 感谢
你好，有个问题想请教，在Colab里微调成功后，怎么把微调后的模型下载到本地？谢谢
colab上面微调好的模型保存在本地的哪个位置吗，还是hugging face上面？
感謝分享 不過看用來訓練的資料集都是短文本的，如果是想用長文本文獻資料做summary整理 如: 會談對話、小說文字、文獻期刊、病歷資料等 做摘要的話 訓練集資料要怎麼設計比較好呢? 謝謝
您好，请问您在用长文本微调大模型方面有什么方法吗？我最近也在做这方面的工作，谢谢。
想想 Jenny 他们在外国得表现 可能不用微调！ 想 Albert 得男同学 可能要微调！
教程里没说如何上传自己的数据集，这块有文档可以参考么？
如果做个类似客服的模型，是不是可以选择最小尺寸的模型作为底模去训练呢？
对 这种非常适合
请问，怎么在本地微调？
70b的模型能不能48g显存微调出个教程
一般学英文时不会用通用常用名！ jiabin 不是通用泛用名 像 Albert 一样！
用它去调试奇门遁甲的，起步妙哉
哈哈哈 太有创意了 可以试试
@@AIsuperdomain 哈哈哈₍ᐢ⸝⸝› ̫ ‹⸝⸝ᐢ₎
我现在正在做
@@user-eg4vg9vj6o 啊，一起深入研究，我弄了个本地，用的是阿里的千问，不是很好用。
笔记本4080能跑多少 b
請問有建議至少要多少數據集嗎？例如8B , 70B 要多少數據集才夠呢
8b模型对算力要求低，但如果显卡多算力足，70b模型也是可以的
怎么将一般企业的知识库（pdf、word等）简便的转换成可训练的json格式？
这需要对数据进行清洗和处理，等我下期视频具体演示
請問是要把示範的數據集“全部”換成自己的數據嗎？這樣好像有點多耶
示范数据只是个例子，可以将自己的数据转为json格式即可
@@AIsuperdomain謝謝妳你，請問數據越多越好嗎？
另外，影片中有提到清洗數據集，請問要怎麼清洗？
有没有什么微调前后的评测结果展示？
等我下期视频进行对比
小白想问一句，照着这样弄完后，东西在哪？模型怎么下回来
colab可以挂载自己的google硬盘，然后保存到硬盘即可
在Google drive里
最新版本支持在Mac Silicon芯片上运行了吗？
支持，而且速度很快
Rag or fine tuning, that is the question
RAG is used to solve knowledge-based questions, while fine-tuning is used to address logical problems. They are complementary, not conflicting.
部署本地可以文生图吗
stable diffusion模型可以本地
他这个数据集可以是那种pdf文件吗
不是pdf，但是可以将pdf转为这种数据集
@@AIsuperdomain 求方法或者出一期视频，感谢up主
核显有gpu吗
可以用这个命令检查：nvidia-smi
文生图场景有可以微调的大模型么？
stable diffusion
@@AIsuperdomain 老铁出一款教程吧，起到你了
如果涉及机密内容，在这上面训练是不合适的
微调并没有联网
怎么下载模型啊？
从huggingface下载 代码里也会自动下载
@@AIsuperdomain 我的意思是微调后的模型怎么下载或者上传到hf
数据集可以出现中文字符么
可以
能读PDF吗？
pdf需要清洗和处理，等我下期视频演示
各种大模型低价api官方接口直连，欢迎企业、科研机构、实验室、合作洽谈
看不懂你 到底是教程还是炫耀 要教就好好教
博主，问一下，我在谷歌云上这样操作，这算是收费的？还是免费的？
免费的
@@AIsuperdomain 哦，已经搞好了！我不是搞编程的，是搞硬件的，所以不太理解！我问一下，我这样部署好了，能不能再弄个比较好的UI界面 ，然后再发布出来使用，我可以给到别人通过WEB访问？
@@user-fadeshun 你可以參考一下gradio, 或是更複雜的streamlit這兩個框架. 個人推薦用gradio
@@user-fadeshun 可以，cloudlflare tunnel 可以让你自己的电脑映射到公网上提供web服务
@@user-fadeshun 👍
Пікірлер: 69
感谢兄台分享！很期待出一期如何创建数据训练集的教学视频。另外，请问如何将自己的数据训练集加入到这个在Colab上运行的代码中？
这个unsloth微调好自己的模型后，再通过ollama来本地运行自己微调好的模型，是不是就可以定制自己的私有的ai产品了？ 比如昆虫识别
很棒，请问您有会员群吗？大家大家互相交流
博主请问下, 单机多卡如何操作unslosh训练? 感谢
你好，有个问题想请教，在Colab里微调成功后，怎么把微调后的模型下载到本地？谢谢
colab上面微调好的模型保存在本地的哪个位置吗，还是hugging face上面？
感謝分享 不過看用來訓練的資料集都是短文本的，如果是想用長文本文獻資料做summary整理 如: 會談對話、小說文字、文獻期刊、病歷資料等 做摘要的話 訓練集資料要怎麼設計比較好呢? 謝謝
@user-nz4pj3yz8w
Ай бұрын
您好，请问您在用长文本微调大模型方面有什么方法吗？我最近也在做这方面的工作，谢谢。
想想 Jenny 他们在外国得表现 可能不用微调！ 想 Albert 得男同学 可能要微调！
教程里没说如何上传自己的数据集，这块有文档可以参考么？
如果做个类似客服的模型，是不是可以选择最小尺寸的模型作为底模去训练呢？
@AIsuperdomain
Ай бұрын
对 这种非常适合
请问，怎么在本地微调？
70b的模型能不能48g显存微调出个教程
一般学英文时不会用通用常用名！ jiabin 不是通用泛用名 像 Albert 一样！
用它去调试奇门遁甲的，起步妙哉
@AIsuperdomain
Ай бұрын
哈哈哈 太有创意了 可以试试
@Jingkaishuoshuo
Ай бұрын
@@AIsuperdomain 哈哈哈₍ᐢ⸝⸝› ̫ ‹⸝⸝ᐢ₎
@user-eg4vg9vj6o
Ай бұрын
我现在正在做
@Jingkaishuoshuo
Ай бұрын
@@user-eg4vg9vj6o 啊，一起深入研究，我弄了个本地，用的是阿里的千问，不是很好用。
笔记本4080能跑多少 b
請問有建議至少要多少數據集嗎？例如8B , 70B 要多少數據集才夠呢
@AIsuperdomain
Ай бұрын
8b模型对算力要求低，但如果显卡多算力足，70b模型也是可以的
怎么将一般企业的知识库（pdf、word等）简便的转换成可训练的json格式？
@AIsuperdomain
Ай бұрын
这需要对数据进行清洗和处理，等我下期视频具体演示
請問是要把示範的數據集“全部”換成自己的數據嗎？這樣好像有點多耶
@AIsuperdomain
Ай бұрын
示范数据只是个例子，可以将自己的数据转为json格式即可
@kirito.c8763
Ай бұрын
@@AIsuperdomain謝謝妳你，請問數據越多越好嗎？
@kirito.c8763
Ай бұрын
另外，影片中有提到清洗數據集，請問要怎麼清洗？
有没有什么微调前后的评测结果展示？
@AIsuperdomain
Ай бұрын
等我下期视频进行对比
小白想问一句，照着这样弄完后，东西在哪？模型怎么下回来
@user-xx1ut4xl1q
Ай бұрын
colab可以挂载自己的google硬盘，然后保存到硬盘即可
@AIsuperdomain
Ай бұрын
在Google drive里
最新版本支持在Mac Silicon芯片上运行了吗？
@AIsuperdomain
9 күн бұрын
支持，而且速度很快
Rag or fine tuning, that is the question
@fooevr
Ай бұрын
RAG is used to solve knowledge-based questions, while fine-tuning is used to address logical problems. They are complementary, not conflicting.
部署本地可以文生图吗
@AIsuperdomain
Ай бұрын
stable diffusion模型可以本地
他这个数据集可以是那种pdf文件吗
@AIsuperdomain
Ай бұрын
不是pdf，但是可以将pdf转为这种数据集
@ssssuper4225
Ай бұрын
@@AIsuperdomain 求方法或者出一期视频，感谢up主
核显有gpu吗
@AIsuperdomain
Ай бұрын
可以用这个命令检查：nvidia-smi
文生图场景有可以微调的大模型么？
@AIsuperdomain
Ай бұрын
stable diffusion
@mengli1706
Ай бұрын
@@AIsuperdomain 老铁出一款教程吧，起到你了
如果涉及机密内容，在这上面训练是不合适的
@AIsuperdomain
Ай бұрын
微调并没有联网
怎么下载模型啊？
@AIsuperdomain
4 күн бұрын
从huggingface下载 代码里也会自动下载
@conglife
4 күн бұрын
@@AIsuperdomain 我的意思是微调后的模型怎么下载或者上传到hf
数据集可以出现中文字符么
@AIsuperdomain
Ай бұрын
可以
能读PDF吗？
@AIsuperdomain
Ай бұрын
pdf需要清洗和处理，等我下期视频演示
各种大模型低价api官方接口直连，欢迎企业、科研机构、实验室、合作洽谈
看不懂你 到底是教程还是炫耀 要教就好好教
博主，问一下，我在谷歌云上这样操作，这算是收费的？还是免费的？
@AIsuperdomain
Ай бұрын
免费的
@user-fadeshun
Ай бұрын
@@AIsuperdomain 哦，已经搞好了！我不是搞编程的，是搞硬件的，所以不太理解！我问一下，我这样部署好了，能不能再弄个比较好的UI界面 ，然后再发布出来使用，我可以给到别人通过WEB访问？
@Trevor0713
Ай бұрын
@@user-fadeshun 你可以參考一下gradio, 或是更複雜的streamlit這兩個框架. 個人推薦用gradio
@user-cn5gw7fx9d
Ай бұрын
@@user-fadeshun 可以，cloudlflare tunnel 可以让你自己的电脑映射到公网上提供web服务
@AIsuperdomain
Ай бұрын
@@user-fadeshun 👍