ZIKUU Miniのストレージ層をセットアップする

ストレージ層は、データの原本や処理結果が保存される領域です。

今日はそのインストールとセットアップを実施しました。

標準構成では、

  • Wiki.js – 文書管理
  • Nextcloud – クラウドファイル
  • Gitea – リポジトリ
  • PostgreSQL – リレーショナルデータベース
  • Qdrant – ベクターデータベース
  • MinIO – アセットデータベース

という構成です。

このうちデータの原本を管理するのは、Wiki.js、Nextcloud、Gitea、MinIOで、PostgreSQLとQdrantは処理後のデータを管理します。

現時点で、ZIKUU Mini検証機には、これらのコンテナが稼働しています。
これは推論層とストレージ層がすべて動いた状態です。

この状態で空きメモリは38GB(搭載メモリ64GB)程度。
これはgpt-oss:20 4Qがロードされた状態です。
画像系モデルをロードすると、空きメモリが32GB程度まで行きます。

「ZIKUU Miniのストレージ層をセットアップする」への1件のフィードバック

コメントする