開発ツールとしてのZIKUU Distilleryが完成
教師モデルが生成した文章を人間が調整し、Seedモデルに学習させ、学習結果を蒸留モデルとして仕立て、Inference Broker経由で配備し、配備したモデルの検証をする。 このループが回るところまで漕ぎ着けました。 … 続きを読む
Inference Runtime Agent
Inference Broker – GPUを使ったVision系モデルへの対応
ここまで、Inference Brokerが対応していた推論資源は、 でしたが、新たに、 にも対応します。 この対応が終わると、Inference BrokerがNVIDIA GPU/Ryzen AI CPU/NPUを使 … 続きを読む