開発ツールとしてのZIKUU Distilleryが完成
教師モデルが生成した文章を人間が調整し、Seedモデルに学習させ、学習結果を蒸留モデルとして仕立て、Inference Broker経由で配備し、配備したモデルの検証をする。 このループが回るところまで漕ぎ着けました。 … 続きを読む
教師モデルが生成した文章を人間が調整し、Seedモデルに学習させ、学習結果を蒸留モデルとして仕立て、Inference Broker経由で配備し、配備したモデルの検証をする。 このループが回るところまで漕ぎ着けました。 … 続きを読む
「フットパワード工作機械」の続きです。 今日は、フリーハブを取り付ける部品、自転車ならチェーンステイ、を作ってみました。 鋼材に切れ目を入れて、チェーンステイの型(木製ロードバイクを製作するときに使っている型のコピー)に … 続きを読む
Repository Explorerは、ZIKUUのソフトウェア全般について調査を行うツールです。システムが自分自身を説明するツールとして開発しています。 質問の回答に質問をして、深堀りできるようにする計画ですが、現時 … 続きを読む
昨日は、蒸留済モデルをファイルに書き出すところまでやりましたが、今日はそれをモデルレジストリに登録する処理を実装しました。 モデルレジストリは、Giteaに作らえたリポジトリで、モデルはそのリポジトリの添付ファイルとして … 続きを読む
上のスクリーンショットは、蒸留したモデルのサイズごとにllama.cppで推論させたときの比較表です。Qwen3-0.6Bをseedとしてモデルの場合は、f16と量子化版q8の差はごくわずかでしたが、量子化版q4ではだい … 続きを読む
投稿「ZIKUU Distillery – LLM蒸留ツール」の続きです。 蒸留やファインチューニングは試行の多い作業なので、試行しやすいUIに改造しました。 新しい蒸留をする場合 まずは、教材を作る。 教師に回答を作ら … 続きを読む
リモートボリュームを追加する機能。認証が必要なら認証パネルが出ます。 さらに、リモートボリュームのファイルを、ローカルファイルと同様に操作できるようになりました。 最終的には、SMB / sftp / Nextcloud … 続きを読む
DAS (Data Access Server) 経由でブラウズしたファイルを表示するビューワーを拡張して、マルチタブ表示するようにしました。 表示内容に応じて、表示用のビューを差し替える作りになっていので、Markdo … 続きを読む
DAS (Data Access Server) は、Giteaにアクセスするサーバーです。 ファイルブラウザから、Service -> DAS -> リポジトリ -> リポジトリ内のファイルと選択すると、メニューに「O … 続きを読む