EVO-X1とRTX 4090を組み合わせた家庭用AIサーバー構築記：ローカルLLM・画像生成環境の実装
本記事は、筆者が個人的な興味に基づき、高性能なミニPC（GMKtec EVO-X1）とグラフィックボード（NVIDIA GeForce RTX 4090）を用いて自宅にAIサーバーを構築したプロセスと構成について詳細に記している技術的な備忘録である。使用されたハードウェアは、EVO-X1（Ryzen AI 9 HX 370搭載）とRTX 4090であり、後者はOCuLinkバス経由でeGPUとして接続されている。この構成により、AI処理に必要な高い計算能力を確保している。
構築されたサーバーは複数のOSSツール群から成り立っており、具体的には以下の機能が組み合わされている。第一に、ローカルLLM（大規模言語モデル）を実行する「Ollama」と、それを利用したチャットインターフェースを提供する「Open WebUI」。第二に、画像や動画生成をノードベースで行う「ComfyUI」（Stable Diffusionなどに対応）。第三に、検索機能を提供する「SearXNG」である。これらのシステムは連携し、Open WebUIがメインのブラウザインターフェースとなり、OllamaとSearXNGをバックエンドとして利用するほか、設定によりComfyUIも画像生成のバックエンドとして組み込むことが可能となっている。
構築手順は非常に詳細に記述されており、ハードウェア接続（OCuLinkの使用、1000W電源の準備）から始まり、OSレベルでのドライバ導入（`nvidia-driver-595-open`など）、そして各サービス（Open WebUI, ComfyUI, SearXNG）をPythonパッケージやDocker Composeを用いて個別にインストールし、Systemdによるサービス化（自動起動設定を含む）を行う一連の作業が網羅されている。特に、権限管理のためユーザー分離（`open-webui`ユーザー、`comfy`ユーザーなど）を行っている点や、eGPU接続時の電源投入・切断順序といった実用的な注意点が記されており、高度な技術知識を持つ読者向けの内容となっている。
背景
本記事は、AIのローカル実行環境（オンプレミス）構築という、近年注目度が高まっている個人レベルでのITトレンドに基づいている。高性能なミニPCとeGPUを組み合わせることで、クラウドサービスに依存せず、プライバシーが保たれた場所でLLMや画像生成を行うことが可能になった背景がある。具体的な手順は、Linuxサーバー管理の知識が必要とされる。
重要用語解説
- ローカルLLM: 大規模言語モデル（LLM）を外部のクラウドではなく、自身のPC内（ローカル環境）で動作させること。プライバシー保護とコスト削減に優れる。
- eGPU: External Graphics Processing Unitの略。高性能なグラフィックボードを、ミニPCなどの本体とは別の筐体やバス経由で接続し、拡張する仕組み。
- OCuLink: Mini-ITXフォームファクタの小型PCが採用する高速インターコネクトバスの一つ。PCIe 4.0x4など、外部GPUへのデータ転送に利用される。
今後の影響
高性能な個人用AIサーバーの構築は、専門知識を持つ一般ユーザー層にも普及しつつあることを示唆している。これにより、クラウドサービスを利用する際のコストやプライバシー懸念が軽減され、より多様な用途でのAI活用が進むと予想される。今後の展開としては、さらなる省電力化や統合的な管理インターフェースの提供が求められるだろう。