Hướng dẫn chạy AI LLM miễn phí, offline trên PC, cả Windows / Mac đều dùng tốt
Đây là cách mà cách bạn có thể dùng LM Studio, một ứng dụng cho phép chạy nhiều model AI dạng LLM (mô hình ngôn ngữ lớn) trên máy tính cá nhân, cụ thể là laptop và desktop của mình. Nó hỗ trợ tăng tốc bằng GPU nên dùng cực ngon, và cả Windows, macOS hay Linux đều có thể dùng. Đa số các model nổi tiếng hiện nay như Llama2, CodeLlama, Mistral, Vistral, Phi-2... đều được support.
Tải về LM Studio tại đây: lmstudio.ai/
Tải app LightSum: tóm tắt thông tin công nghệ lightsum.app
Tham gia membership KZread để ủng hộ mình: / @duyluandethuong
Anh em có thể theo dõi mình tại:
- Facebook: / duyluandethuong
- TikTok: / duyluandethuong
Tham gia group Cùng chơi Công nghệ để hỏi đáp, chia sẻ kinh nghiệm về công nghệ, smarthome, điện gia dụng:
- Facebook: / cungchoicongnghe
Mấy món đồ mình đang dùng có thể mua tại duyluandethuong.koc.asia/. Anh em mua ủng hộ cho mình có tiền mua Porsche Taycan về review cho anh em xem nha :))
Пікірлер: 129
So về chất lượng/dung lượng thì Q5_K_M đạt chất lượng tốt hơn hẳn các model kia
Ông này kiếm tiền làm KZread =))
App này chắc phải máy mạnh chứ m cài trên MBA M1, chạy lag quá hicc
em thấy koboldccp dễ dùng hơn
CẢM ƠN Duy Luân
Ủa anh có phần mềm ai nào dùng máy mình để tạo ảnh không ạ
mac intel lại k dùng đc
Cám ơn anh đã giới thiệu
có cái nào vẽ được ko ạ
Duy Luân ơi có model dùng làm video không
quá tiện anh ơi anh cảm ơn anh chia sẽ những công nghệ hữu dụng cho việc học và đi làm của dev newbe như em 🥰🥰🥰🥰🥰🥰
Nhìn quả bàn làm việc với 4 con laptop xịn đã vãi. Ước j đc như anh ấy
Cám ơn anh về những kiến thức mà anh chia sẻ trong video, có một lưu ý là LLM Studio chỉ hỗ trợ cho dòng M1 trở về sau, hơi buồn xíu vì em đang dùng MBP 2019
quá tuyệt vời anh ơi
A Luân edit với quay màn hình bằng phần mềm gì v, hay quá
còn này mà chạy dạng server xong mình kết nối app riêng thì tuyệt
nếu muốn chuyển văn bản thành ảnh thì tìm kiếm 1 con model có khả năng đó đúng không anh , nếu anh biết có con nào có khả năng đó thì chỉ em với ạ
anh Luân giới thiệu cho model để phân tích dữ liệu kế toán
Luân cho mình hỏi card 1080ti vs 4g vram dùng được modem nào tốt để viết tiểu thuyết vậy ak
Anh Duy ơi làm sao để em sử dụng điện thoại android có thể xuất màn lên máy mac ạ mong anh trl