ZIKUU Distillery – Seedモデルを選択可能にする

Qwen3 0.6Bに加えて、Qwen3 1.7BもSeedモデルとして使えるようにしました。

同じ教材で、異なるモデルの学習ができるようにしているので、モデル間で成果の比較ができます。

Qwen6 0.6Bでの学習。

Qwen3 1.7Bでの学習。

モデルのアーキテクチャーによって、学習パラメーターの設定やGGUF形式でのエクスポート方法が若干異なるようなので、現在のコードはモデル非依存ではありません。

異なるアーキテクチャーのモデルに対応できると、Distilleryは、単なる「Seedモデルを切り替えるLoRA学習ツール」から、モデルと学習条件を組み合わせて蒸留実験を行うワークベンチになる。