マルチGPUでAI生成の可能性…
Тәжірибелік нұсқаулар және стиль
接続がー
〜関連商品リンクなど（PR・アフィリンク含む）〜
↓Oculinkスロット部のみ、SATA電源よさげ
amzn.to/3xSKgs6
↓Oculink 3点セット
amzn.to/3voVvHK
↓OculinkをPCIEスロットから生やす
amzn.to/3RO2QYM
↓x1ライザーケーブル、このへん？
amzn.to/4d9kwbs
↓電源連動基板リレー回路タイプ
amzn.to/3xKOsKF
↓電源連動基板スイッチタイプ
amzn.to/446UYaw
〜関連動画〜
↓AI生成と学習で要スペック違うし外付けGPUで十分説
• AI生成と学習で要スペック違うし外付けGPU...
↓もっと簡単画像生成AIインストール＆LORA追加学習
• もっと簡単画像生成AIインストール＆LORA...
↓自作PCに画像生成AIインストール・Stable Diffusion
• 自作PCに画像生成AIインストール・Stab...
↓NVIDIA GeForce RTX4080 Super Founders Edition購入
• 純正のNVIDIA GeForce RTX4...
↓Oculink比較
• グラボ外付けどっち？Thunderboltと...
〜素材〜
↓フリー音源
dova-s.jp
↓picopico written by ゆうり
dova-s.jp/bgm/play6878.html
↓ぷわぷわ風船 - 8bit written by ハップル
dova-s.jp/bgm/play12885.html
↓bubble bubble written by KK
dova-s.jp/bgm/play4610.html
↓ワクワクアリクイ written by かずち
dova-s.jp/bgm/play3347.html
↓3stages ファミコン8bit by ザイオン
dova-s.jp/bgm/play9611.html
↓8bit_Start written by ilodolly
dova-s.jp/se/play691.html
↓SE音源
otologic.jp
〜その他〜
↓チャンネル登録お願いします(๑•̀ㅂ•́)و✧
/ @udn
↓うどんの別室（サブチャンネル）
/ @udn_sub
↓うどんツイッター
/ udonuopn_pc
〜補足〜
（誤字脱字誤解無知などありましたら、コメント欄でご指摘お願いします）
#NVIDIA #RTX4080Super #生成AI
Пікірлер: 94
冒頭の環境がすでに羨ましすぎてその後の内容は頭に入ってこなかったです。ハイパワーなグラボが沢山！！
@UDN
2 ай бұрын
💪( ˙-˙ )💪
ロマンがありますね！ マルチGPU！いつか自分でも組んでみたいです
マルチGPUで画像生成やってみたかったから助かるー！ やっぱりマイニングリグ使うのが良さそうですね。
最初のオープニング？のMニングリグの光ってる基盤がかっこよすぎてめっちゃ心をくすぐられました！ なんでこんなにPCってかっこいいんですかね？笑）
大学生のときに研究でスリッパとRTX3090x2マシンを借りていたのですが、その前に借りていたV100とは速度がだいぶ違いましたが、色々工夫しましたが、マルチGPUの恩恵はなかなかに難しく、dockerでパラメータ(活性化関数とか重み)が違うのにして、別々のプログラムとして回しました。 ちょっと調べた限りだと、相変わらずなかなか難しいように思いますが、ローカルでマルチエージェントLLMやりたいときには有用そうな気がします。
外部GPUなど自分でもいろいろ試したこともあったのですが、リレースイッチ型の電源スイッチ基板というのは存在を初めて知りました。今まではわざわざ別々に電源スイッチを入れていたので、こういった情報はとてもありがたいです。
Twitterの投稿みて気になっていたやつだ！！
@UDN
2 ай бұрын
(σ・∀・)σ
3番目のPCIeスロットでSDできないのはチップセットの仕様上、PCH経由になるのでOSやMBで門前払いされてるなどでしょうか？この先の拡張レーンはあっても用途が難しい… マルチGPUもっと普及してほしい～これからも応援してます！
@UDN
2 ай бұрын
その可能性ありそうですね🤔 あざす！
マルチGPUでAIは自分もチャレンジしたいところだったので、参考になりました
@UDN
2 ай бұрын
(๑•̀ㅂ•́)و✧
非常に参考になりました！マルチGPUでAI生成ができるとは驚きです。実際のユースケースで活かせるかどうか気になるところではありますが、生成１号アップスケール２号とか色々ワークフローの幅が広がりそうですね。
@UDN
2 ай бұрын
oculinkケーブルなら実用できそうな気がしますが…🤔
5:24 ホイールクリックでも立ち上がる気がする エクスプローラーとかEdgeの多重起動するときによく使ってるんで試してみてください
初コメ失礼します！動画の趣旨と関係ないんですが、windows起動画面（2:47あたり）ってどうやって変えてるんですか？教えて頂きたいです🙇♀️
@UDN
2 ай бұрын
マザーボードメーカーによっては変更ツールを配布してたりしますよ👌
@user-di9js5ud1x
2 ай бұрын
@@UDN ありがとうございます！調べたらmsiは無理っぽいので諦めますw
グラボ性能全部まとめて使えたら面白そうだけど 難しいのかな？😿
マイニングが脂肪したときに片付けたライザーケーブルを探してみます😊
@UDN
2 ай бұрын
処分に困るケーブルw
このフレーム、Mニングしてた頃に使った！穴位置ズレまくってて組むのが大変だった思い出
これthunderboltで繋ぐタイプの外付けグラボ箱だとどうなんだろう。一緒かな？
@UDN
2 ай бұрын
先日やったOculinkとMニングライザーの間ぐらいの性能になりそうですかね…
Mリグが悪魔の器具は笑ったｗ
面白そう
M/Bがx4x4x4x4に対応しているなら、pcie4分岐のライザカードとか？
@UDN
2 ай бұрын
このマザー対応してますね…ケーブルがむずい
機械好きなら楽しめそうですね。で、何に使うんだっけ？、ってなりそうだけど・・・😄
@UDN
2 ай бұрын
既にその状態w
Oculinkっすかね！
Gen4だとかx4接続だとかならそこまで性能低下しないんですけどね、なかなか良いのがない。
@UDN
2 ай бұрын
やはりoculinkですかね…
逸般の誤家庭にはリグもグラボも余ってますから、ロマンで終わらせたくないですねｗ
M.2スロットをPCIeに変換すればまだいけるはず！
ロマンしかないですね～(^^♪うまうま～(笑)
速くするの無理でもVRAM共有して生成可能解像度上げたりとか出来たらいいのになぁ
@Marukute_Ayashii_Yatsu
2 ай бұрын
メインメモリが100GB/s出る一方でPCIEは現状の最高速でも60GB/sくらいなので メインメモリを増やして共有の方が安価な上に得られる効果は変わらないと思われ 仮にできたとしてVRAM-GPU間の通信と比べるとレイテンシーも帯域もそれぞれ10倍くらい遅いので 実効パフォーマンスは数十倍の差が出ると予想され実用にはならなそう(´・ω・｀)
これでまた叡智なうどんが生成されるのか
@UDN
2 ай бұрын
エッソな…
大量のVRAMを活かしてLLMとか動かしたら良さそう
@UDN
2 ай бұрын
言語のAI全然わからんす…学習するか
4060だとメモリーが足りないみたいですが、 VRAMオプション入れなくてもNVIDIAコントロールパネル→3D設定の管理→グローバル設定→CUDA-システムメモリーフォールバックポリシー の設定を優先にするとグ共有GPUメモリも使えるようになっていい感じになると思うっすよ。
@UDN
Ай бұрын
ほほう、いずれやってみます！
面白かったｗ 検証作業に費やす時間が掛かったかと思います。 次はGPUブリッジなどして欲しいです。 また、AMDGPUなども見てみたい(※海外で実施している人も増えている)です。
@UDN
2 ай бұрын
RadeonでAIも勉強しておきます…
分岐カード見たら焼きそば思い出すwww
@UDN
2 ай бұрын
ありましたねw
stable-diffusion-webui-distributed？
@UDN
2 ай бұрын
🤔
丁度今デリバリーのマクドが届いて食事しながら観てますライスバーガーは夜マックなので残念！
@UDN
2 ай бұрын
夜マックは倍ダブルチーズ好きっす
いにしえのMニングリグ😁 漢たちの夢の跡😁 大笑いしました 最近、忘れてた〇ットコインを換金したら、そこそこ10万くらい儲かってました🤣
これをやれるのが凄い・・たまにマックうまいよね。ｗｗ
@UDN
2 ай бұрын
マック隔週で食べてますw
2080VRAM8GBで生成してるからそろそろ買い替えたくなるなあ。 2080は8万ちょっとで買った記憶があるけど今や70TiSが15万円周辺...。円安が落ち着く頃にはグラボは何世代変わってるかな😅
次回にはクッキングコーナー復活！？
@UDN
2 ай бұрын
余裕があればですねw
おもしろ～い。採掘しないマシンもリグって言うのかしら
MニングリグがそのままAIリグになるのはECOかもですね？ ポテトは先に減ってるよね😂
@UDN
2 ай бұрын
帰る途中に熱々をいただきましたw 美味しゅうございました
5:23 2つ目起動するの、右クリックじゃなくてホイールクリックなら一発
うーん、なんか煮え切らない感じ PCIEのコントローラってCPU側に搭載されてた気がするから CPUや差し込みの組み合わせで結果が変わりそう🤔 一番CPUに近い直結スロットにGen制限かけてかつx1ボード入れてかつ全スロット埋めとか HUBで分岐してかつマイニング以外の処理で常用というのは 多分ほぼやる人いないだろうし、メーカーでも動作テスト自体されてなさそう
@UDN
2 ай бұрын
チップセット側のコントローラなのかも？
VRAM少ない環境ではStable Diffusion WebUI Forgeを使用してください。速度が軽く2倍以上向上しますよ。
@UDN
2 ай бұрын
forgeでのグラボ指定がわからなかったんですよね…
@ruko3497
2 ай бұрын
@@UDN 起動オプションで--gpu-device-id 0 と指定するだけです。 0という部分を適宜書き換えてください。
@UDN
2 ай бұрын
やってみます！ あざす！
３番目は排他制御
@UDN
2 ай бұрын
M.2とかと排他なんですかね？調べてみます…
@Kappa-Lub
2 ай бұрын
@@UDN いがいとあるよ マザボ。ぜんぶとはいわない。
AIリグの見た目が今やってるゲームの人間のデータ保存するアークみたいでかっこいい＾＾ ハンバーガーはバーガーキングのワッパにはまってます
@UDN
2 ай бұрын
バーガーキング近所に欲しい…
うどんさんのせいでグラボ買い占めがまた起こりそうで怖いので今のうちに3080を買いました。
@UDN
2 ай бұрын
本格的にAIやる人はゲーミンググラボ使わないので買い占めとか起きないです👌
@Sean_Kurotatsu
2 ай бұрын
@@UDN ただクソ安かったので買っただけです
VRAMは重要っていう、当たり前だけど大事な結論に行きつきましたね。 理屈だとVRAMに16GB割り振ったAPUでもいけるはずなので、奥は深そうです。 Mニングフレームいいなあ。ちょっと欲しくなってしまった。
@UDN
2 ай бұрын
今度APUでもやってみますん！
生成速度が遅くなっちゃうなら、4080s単体の方が多く生成できちゃうね。
@UDN
2 ай бұрын
それw
えち絵大量に出品している人はこういうマルチGPUマシン組んでんのかなぁ
@UDN
2 ай бұрын
サーバー的なやつにワークステーション用グラボとか？
やはり4090単体(パワー) 4090単体(パワー)は全てを解決する それはそれとして面白い試み！
1
@UDN
2 ай бұрын
乙