ツヨツヨのローカルLLMをつくる -1- 組み立て

ツヨツヨのローカルLLMをつくる -1- 組み立て

本当に仕事や生活面で役立つようになってきた生成AI。
便利すぎるけどあっという間にトークンを使い果たしてしまうので、ローカルLLMを構築して無料で使い込んでやろうと計画。それもパワーツヨツヨのやつ。

トキノマの奥谷さんが一線を退いたパーツを提供してくださったので、これをありがたく使わせていただき旧黒坂小学校内の「コモンアトリエ re:クラス(リクラス)」で組み立てて、仲間内で共有できたらと考えた。

提供いただいたパーツは以下のように相当高性能なもの。これを使えばゲームだってバリバリできる・・・が、我慢して(^_^;)


主な仕様

  • Case: Antec SKELETON
  • CPU: AMD Ryzen9 5700XT
  • GPU: MSI GeForce RTX 3090 VENTUS 24GB OC
  • M/B: ASRock X570 TAICHI
  • RAM: SanMax DDR4-3200 32GB x2 = 64GB
  • Cooler: Ocypus Delta L24 ARGB
  • PU: SilverStone SST-ST1000-PTS
  • OS: Ubuntu 26.04 LTSの予定

まずはパーツを組み立て。
同時にOSとなるUbuntuの最新版 26.04 LTSを用意。

出来上がって起動! しない。
0.1秒くらいですぐに電源が落ちる。
こりゃ何らかの保護回路が動作してる

M/Bやビデオカード系の特に大電流が流れるあたりを確認したが問題無し。
組み直したりケーブルを変えたけどわからず。

しばらく爆音で音楽を聞いてからふとみたら、オープンフレームケース・スケルトンのファンが回っていない。コネクタ部の電圧を測ってみたところ3.3Vしかない。
本来は12Vが来てるはずなのにこれはおかしい。

SilverStoneの電源はケーブルがモジュラー式になっているので一旦外してみると、起動した!

おそらくケーブルがこの電源用ではないものなのだと思う。
確かに電源部側で12V出ている端子にはつながっていない。

まずはケーブルの加工してインストールだな。

続く・・・