NeXT風「ZIKUU Workspace」 – DASのファイルビューワーとリモートファイルシステム
DAS (Data Access Server) 経由でブラウズしたファイルを表示するビューワーを拡張して、マルチタブ表示するようにしました。 表示内容に応じて、表示用のビューを差し替える作りになっていので、Markdo … 続きを読む
日々の活動
NeXT風「ZIKUU Workspace」 – DASを使ってファイルを開く
DAS (Data Access Server) は、Giteaにアクセスするサーバーです。 ファイルブラウザから、Service -> DAS -> リポジトリ -> リポジトリ内のファイルと選択すると、メニューに「O … 続きを読む
NeXT風「ZIKUU Workspace」 – サービスのブラウズ
これまで「余暇のプログラミング」をタイトルに入れていましたが、他にも余暇のプログラミンがいくつかあるので、「ZIKUU Workspace」プロジェクトに昇格しました。 このZIKUU Workspaceは、NeXTST … 続きを読む
ZIKUU Distillery – LLM蒸留ツール
Inference Brokerを作ったことによって、LLMを「特定の能力を持った推論資源」として扱えるようになりました。 これまで、LLMは大きくて賢いものを使うのが良い、そのためには大きなVRAM、高速なGPUが必要 … 続きを読む
Inference Broker – ImageEditバックエンドを追加
昨日はImg2Imgバックエンドの追加でしたが、今日はImageEditバックエンドの追加です。 仕組みは単純なもので、オリジナル画像と同サイズのマスク画像をサーバーに渡すと、マスク範囲以外の部分にプロンプトを適用した画 … 続きを読む
Inference Broker – Img2Imgバックエンドを追加
Inference Brokerは、llama.cpp、Ollama、Lemonade、の他に、画像処理や文字起こしを行う、ZIKUUで開発したバックエンドである、SD NPU Backend や GPU Inferen … 続きを読む
Radar – 調査ボット
ZIKUU Miniに標準搭載しようと考えているDiscord ボットです。 Discordのフォーラムチャンネルに、定期的に予め設定したテーマを追跡して、変化があれば投稿します。 このスクリーンショットは「Ryzen … 続きを読む
余暇のプログラミング – Inference Pipeline PoCアプリ 対話しながら画像生成のやり直す
会話の中で、「画像を作りたそう」を検知して、画像生成をするかを訊いてくるようにしました。 「これ、絵にしたら面白そう。」 に対して、 「画像生成しますか？」 を返してきます。 画像生成を支持すると画像を生成します。 ここ … 続きを読む
LLM Broker/Vision BrokerからInference Brokerへの移行
テキスト系の推論資源サーバー LLM Broker と画像系の推論資源サーバー Vision Broker に別れていた責務を、Inference Broker に統合して、推論資源サーバーにできたので、既存のアプリケー … 続きを読む
Inference Broker – リソーススケジューラーを追加
Inference Brokerは、そのバックエンドに が動いていて、文章生成、埋め込み生成、画像生成、文字起こし、画像説明を行うAPIを持っています。文章生成については、Open AI 互換APIになっていて、/cha … 続きを読む