ZIKUU Distillery – LLM蒸留ツール
Inference Brokerを作ったことによって、LLMを「特定の能力を持った推論資源」として扱えるようになりました。 これまで、LLMは大きくて賢いものを使うのが良い、そのためには大きなVRAM、高速なGPUが必要 … 続きを読む
LLM
Radar – 調査ボット
ZIKUU Miniに標準搭載しようと考えているDiscord ボットです。 Discordのフォーラムチャンネルに、定期的に予め設定したテーマを追跡して、変化があれば投稿します。 このスクリーンショットは「Ryzen … 続きを読む
余暇のプログラミング – Inference Pipeline PoCアプリ 対話しながら画像生成のやり直す
会話の中で、「画像を作りたそう」を検知して、画像生成をするかを訊いてくるようにしました。 「これ、絵にしたら面白そう。」 に対して、 「画像生成しますか？」 を返してきます。 画像生成を支持すると画像を生成します。 ここ … 続きを読む
LLM Broker/Vision BrokerからInference Brokerへの移行
テキスト系の推論資源サーバー LLM Broker と画像系の推論資源サーバー Vision Broker に別れていた責務を、Inference Broker に統合して、推論資源サーバーにできたので、既存のアプリケー … 続きを読む
Inference Broker – リソーススケジューラーを追加
Inference Brokerは、そのバックエンドに が動いていて、文章生成、埋め込み生成、画像生成、文字起こし、画像説明を行うAPIを持っています。文章生成については、Open AI 互換APIになっていて、/cha … 続きを読む
塾生にAI学習用PCの購入をすすめないという話
ZIKUUでは自作PCワークショップなるものをやっている。必要なのはPCの部品代だけ。 モノづくりを主体とするCADやグラフィックスを扱える構成、プログラミングやITを学ぶ構成といった具合に、用途に応じた構成案は一応作っ … 続きを読む
余暇のプログラミング – サービスへのアクセス
この ZIKUU Workspace は、ファイルもディレクトリもネットワークサービスもすべて Context Object として扱います。なので、見た目はファイルブラウザですが、実体はコンテクストブラウザです。 ファ … 続きを読む
PRE – Missingness Detectorを追加
Missingness Detectorは観測軸（Dimension）の欠損を検知します。 これはかなり単純な検出器なので、苦もなく実装完了。 これで、 を検知できるようになりました。 予定している残りのDetector … 続きを読む
PRE – Attentionを追加
PRE (Pivot Reasoning Engine) はPivot Serviceが作り出す多次元意味空間をスライスした景色を見て、特徴を見つけるアプリケーションです。 内部では、Pivot を回しながら という処理 … 続きを読む
余暇のプログラミング – サービスインスペクター
「余暇のプログラミング – サブメニュー」の続きです。 コピー / ペースト / 移動の機能を追加しました。 これでほぼNautilusの代替として使えるくらいにはなったと思います。 ここからはZIKUUらしい開発に入り … 続きを読む