余暇のプログラミング – サービスインスペクター

「余暇のプログラミング – サブメニュー」の続きです。 コピー / ペースト / 移動の機能を追加しました。 これでほぼNautilusの代替として使えるくらいにはなったと思います。 ここからはZIKUUらしい開発に入り … 続きを読む

余暇のプログラミング – Inference Pipeline PoCアプリをそれっぽくする

Inference Brokerの用途を広げるためのアプリを拡張して、いくつか実験をします。 前回までは、チャットスレッド全体を渡して、Stable Diffusion用のプロンプト生成をさせ、画像を生成するというもので … 続きを読む

余暇のプログラミング – Inference Brokerの用途を広げてみる

月曜日は休養日に当てているんですが、どうもじっとしていられない。 現在、ZIKUU Mini検証機で稼働している Inference Brokerはいくつものバックエンドを利用できるようになっています。 Miniの上だけ … 続きを読む

ScaffoldとかHarnessとか、話題になっているけど「まあ、そうなるだろうな」と思っていた

3年程前に、初めてLLMのファインチューニングをやってみた。 当時は「知識をモデルに埋め込む」という発想だったが、実際にやると、 という世界だから、 資本力と人数の勝負だな という感覚だった。 塾の建設、金策、設備の調達 … 続きを読む

コアサービス系APIカタログが完成

コアサービス系のAPIカタログのまとめが終わりました。 これらがZIKUUフルシステムとZIKUU Miniの両方で稼働するサービスで、LLMの推論処理を支えます。 何をカタログに載せるかは私が考え、資料のまとめに生成A … 続きを読む