LLM

余暇のプログラミング – Inference Pipeline PoCアプリをそれっぽくする

by

Inference Brokerの用途を広げるためのアプリを拡張して、いくつか実験をします。 前回までは、チャットスレッド全体を渡して、Stable Diffusion用のプロンプト生成をさせ、画像を生成するというもので … 続きを読む

余暇のプログラミング – Inference Brokerの用途を広げてみる

by

月曜日は休養日に当てているんですが、どうもじっとしていられない。 現在、ZIKUU Mini検証機で稼働している Inference Brokerはいくつものバックエンドを利用できるようになっています。 Miniの上だけ … 続きを読む

ScaffoldとかHarnessとか、話題になっているけど「まあ、そうなるだろうな」と思っていた

by

３年程前に、初めてLLMのファインチューニングをやってみた。 当時は「知識をモデルに埋め込む」という発想だったが、実際にやると、 という世界だから、 資本力と人数の勝負だな という感覚だった。 塾の建設、金策、設備の調達 … 続きを読む

コアサービス系APIカタログが完成

by

コアサービス系のAPIカタログのまとめが終わりました。 これらがZIKUUフルシステムとZIKUU Miniの両方で稼働するサービスで、LLMの推論処理を支えます。 何をカタログに載せるかは私が考え、資料のまとめに生成A … 続きを読む

ZIKUU Mini – Admin Dashboardにバックアップ機能を追加

by

ZIKUUのフルシステムは、ファイルサーバーのRAIDディスクと外付けハードディスクの2段構えで、定期的にデータの自動バックアップを取っていますが、Linuxの管理に精通しない人の利用を考えると、データのバックアップは手 … 続きを読む

余暇のプログラミング – NeXTSTEPっぽい何かの続き

by

「余暇のプログラミング – NeXTSTEPっぽい何か」の続きです。 ファイルブラウザーにTray、Breadcrumb、Previewの領域を追加しました。 Column Browserでファイルやディレクトリを選ぶと … 続きを読む