ZIKUU Mini検証機での検証結果

上のスクリーンショットはAdmin Dashboardでシステムリソースの使用状況を見ている様子です。

この検証機は64GBメモリ搭載のMinisforum AI X1 Proで、Ryzen AI 370HX CPUを搭載しています。

LLMおよびVisionモデルついては、

  • gpt-oss:20b Q4
  • whisper
  • qwen3-vl
  • sd turbo
  • sd1.5

がメモリに載った状態です。

その他に、

  • Wiki.js
  • Gitea
  • Qdrant
  • PostgreSQL
  • MinIO
  • Nextcloud
  • Light Auth (ZIKUU製認証サーバー)
  • Open WebUI
  • Admin Dashboard
  • Inference Broker
  • Inference Runtime Agent
  • SD NPU Backend
  • Codex

が稼働中しています。

それでメモリ使用率は60%。

この後、ここにNerve、CPS、Pivot、PRE、AI塾長などのZIKUU製アプリケーションを順次載せていきますが、これらは大きなメモリを使用しないので、おそらく総メモリ使用率は70%くらいに収まるのではないかと予想しています。
CPU負荷もそれほど高くありませんし、推論処理を連発してもCPUやメモリの温度が限界値になることはありません。

性能面の検証は、ほぼ完了として良いと思います。

これでZIKUU Miniの最小構成が成立することがわかりました。

つまり、

このミニPCに全部載る。

性能を全体的に底上げしたければ、

ユニファイドメモリ128GB搭載のStrix Haloにアップグレードする。

推論を高速化したければ、

GPU搭載機をネットワークに追加する。

という形で導入できます。

推論資源の増減や変更は、Inference Runtime AgentとInference Brokerが吸収するので、システム構成の自由度は高いので、小さく運用することも、大きく拡張することも容易です。

このシステムは、文脈とそこから立ち上がるAI Harnessが命なので、原本、文脈束、意味空間などのデータバックアップだけはしっかりやる必要があります。

小さなPCで、開発環境 + ストレージ + AI推論 + 管理UI + 文書管理 + 業務アプリが普通に動く。
ハードウェア以外はオープンソースかオープンウェイトなので、所有コストがとても小さい。

個人宅、私塾、研究室、コミュニティー、企業で使えるローカルAI基盤です。

持ち歩ける研究室といった感じです。

「ZIKUU Mini検証機での検証結果」への1件のフィードバック

コメントする