ZIKUU mini実証機を入手

by

MinisforumのAI X1 Proを手に入れました。
64GB RAM/1TB SSDのモデルです。
これをZIKUU mini実証機として弄り回していきます。

Ubuntu 24.04をインストールして、基本的なソフトウェアを追加インストールしてから、llama.cppをGitHubからクローンしてVulcanバックエンドを使用する設定でビルドして評価しました。

カーネルは

7.0.0-30-generic

OSが認識したハードウェア

CPU:

AMD Ryzen AI 9 HX 370 w/ Radeon 890M
12 cores / 24 threads
Boost: 約5.16 GHz

メモリ:

60 GiB usable
Swap 8 GiB

ストレージ:

Crucial P310 1TB NVMe
CT1000P310SSD8

GPU:

AMD Radeon 890M Graphics
PCI ID: 1002:150e
Kernel driver: amdgpu

Wi-Fi:

MediaTek MT7925E
PCI ID: 14c3:7925
Kernel driver: mt7925e

Ethernet:

Realtek RTL8125 2.5GbE × 2
Kernel driver: r8169

ハードウェアはUbuntuから概ね正常認識された。

追加インストールしたソフトウェア

  • Node.js
  • npm
  • VSCodium
  • neovim
  • tmux
  • Python 3
  • python-is-python3
  • ripgrep
  • jq
  • git
  • cmake
  • build-essential

llama.cpp

GitHubからクローン

git clone https://github.com/ggml-org/llama.cpp.git

Vulkan確認

vulkaninfo --summary で、

AMD Radeon 890M Graphics (RADV GFX1150)
Mesa RADV
Vulkan 1.4

を確認。

ROCmは未導入。

ls /opt/rocm

No such file or directory

まずVulkan backendを採用。

llama.cppのビルド

ビルドに必要なものをインストール。

sudo apt install libvulkan-dev glslc spirv-headers glslang-tools spirv-tools

ビルド

cmake -B build -DGGML_VULKAN=ON
cmake --build build -j

推論ベンチマーク

Qwen3.5 9B Q4_K_M

実行:

./build/bin/llama-bench \
  -m ../models/Qwen3.5-9B-Q4_K_M.gguf \
  -ngl 999

GPU:

AMD Radeon 890M Graphics
RADV GFX1150
UMA: 1

結果:

項目結果
Model size5.28 GiB
Params8.95B
pp512367.67 t/s
tg12813.46 t/s

対話用途としては使えるが、生成速度はdGPUよりかなり低い。

gpt-oss 20B Q4_K_M

実行:

./build/bin/llama-bench \
  -m ../models/gpt-oss-20b-Q4_K_M.gguf \
  -ngl 999

結果:

項目結果
Model size10.81 GiB
Params20.91B
pp512401.93 t/s
tg12827.68 t/s

20Bのgpt-ossの方が9B Qwen3.5より高速。

生成速度:

Qwen3.5 9B   13.46 t/s
gpt-oss 20B  27.68 t/s

約2倍。

MoE構造と890M/Vulkan backendとの相性が良い可能性が高い。

メモリの挙動

890Mには大きな専用VRAMを割り当てていない状態。

Qwen3.5 9B推論時

平常時:

RAM used     4.5 GiB
VRAM used    695 MB
GTT used     105 MB

推論時:

RAM used     9.5 GiB
VRAM used    1.84 GB
GTT used     5.28 GB

GGUF:

5.28 GiB

モデルサイズとほぼ同量がGTTへ載っている。

gpt-oss 20B推論時

RAM used      15 GiB
RAM available 45 GiB
Swap           0
VRAM used      1.85 GB
GTT used      11.12 GB

GGUF:

10.81 GiB

これもモデル本体がほぼGTT / shared RAM側へ展開されている。

現時点での評価

AI X1 Proは現状、

HX 370
12C / 24T
64GB RAM
Radeon 890M
2.5GbE ×2
1TB NVMe

で、Ubuntu上ではかなり快適。

特に重要なのは、890Mを

専用VRAM 2GB程度のGPU

として見るのではなく、

64GB UMAを利用できるGPU

として扱えることが実測で確認できた点。

20B Q4モデルを全GPU offloadしても、

RAM available 45 GiB
Swap 0

で余裕がある。

そしてgpt-oss 20Bで、

27.68 token/s

出ている。

これは「動く」レベルではなく、普通に対話用途で使える性能。

ZIKUUのコアサービスは、バックグランドで走るバッチプロセスが主体で、通常、夜間に行われる。これは速いレスポンスを要求しない。

現時点では、コアサービスで使われる、

  • PostgreSQL
  • MinIO
  • Qdrant
  • Gitea
  • LLM Broker
  • CPS/Nerve/Pivot

を動かしたときに影響を受けるかもしれないが、空きメモリ容量の観点では余裕がある。

このマシンのCPUであるStrix PointにはNPUもあり、一部の画像処理で利用できることもあり、いずれLLM Brokerに統合されるVision BrokerをNPU対応にすることで、テキスト処理と画像処理の両方で能力を発揮できる可能性がある。

これでAI塾長、Repository Explorer、Pivot Reasoning Engineといった対話系アプリケーションが快適に使えれば、「手のひらに乗る文明バックアップ = ZIKUU mini」が成立することになる。

引き続き調査・研究・開発を続ける。

「ZIKUU mini実証機を入手」への1件のフィードバック

  1. ピンバック: ZIKUU mini実証機を入手 – 工房便り〜TSUBAKI GUITARS & LEATHER

コメントする