ZIKUU Distillery – 蒸留したモデルをレジストリに登録する

昨日は、蒸留済モデルをファイルに書き出すところまでやりましたが、今日はそれをモデルレジストリに登録する処理を実装しました。

モデルレジストリは、Giteaに作らえたリポジトリで、モデルはそのリポジトリの添付ファイルとして保存されます。

操作は簡単。

エクスポート済みモデルの画面で、GGUF成果物を選択してPublishするだけです。

Giteaのzikuu-model-registryというレポジトリの添付ファイルとして保存されます。

添付ファイルは、MinIOに置かれます。

GiteaとMinIOはZIKUU Mini標準コンポーネントでもあります。
だから、この蒸留ツールもZIKUU Mini搭載候補です。