Repository Explorerの開発を始める
すでにサーバーで動くコンテナが50を越えてきました。 ソフトウェアが増えてきて、そろそろ「どこに何があるのか、よくわからない」という状況になってきました。 そこで最後に開発するつもりでいた、Repository Expl … 続きを読む
LLM
Vibe PlaygroundをLLM Broker/Vision Broker対応にする
GPUを効率よく使うために作ったLLM BrokerとVision Brokerに対応するために、Vibe Playgroundを改修しました。 Vibe Playgroundについては、Vibeモデル および Vibe … 続きを読む
Vision Brokerを作り、Vision Playgroundを修正する
あまり使用率は高くありませんが、画像を扱うAI処理も少しあります。 GPUサーバーには2枚のGPUが挿されていて、1枚は文書生成用、もう1枚は画像用としていますが、小さなVRAMを効率よく使うために、GPUのアクセスを制 … 続きを読む
論文検索ボットをLLM Broker対応にする
AIチャットボットに引き続き、論文検索ボットをLLM Broker対応しました。 Discordの専用チャンネルで論文URLやキーワードを送信すると、5件の関連論文を検索して、ZRL (ZIKUU Research Li … 続きを読む
AIチャットボットをLLM Broker対応にする
昨日に続き、LLMを使用しているDiscordボットをLLM Broker対応にしていきます。 今日の一発目はAIチャットボット。 LLM Broker呼び出し部はこんなコードです。 LLM_PROFILEとLLM_BR … 続きを読む
調査ボットをLLM Broker対応にする
Context Pipeline Serverは開発中なので、開発機のみで検証すれば良いのですが、ここから先はLLM Broker対応はすべて本番環境で動いているアプリケーションに対して行います。神経がすり減らされる作業 … 続きを読む
CPS – LLM Brokerに対応させてRegression Test
一昨日作ったLLM Brokerを使用するようにCPSを改造しました。 Ollama + gpt-oss:20bから、llama.cpp + gpt-oss-20b-Q4_K_M.ggufへの移行です。 開発用として、X … 続きを読む
LLM Brokerを作る
複数のLLM Runner を用途ごとに切り替えて使えるようにしたいと思い、LLM Brokerというサーバーの開発を始めました。 本番環境のサーバーは、いずれ省電力なミニPCにしようと思っていますが、Strix Poi … 続きを読む
ポータルサイトの機能拡張
新しいサーバーを手に入れるまでは、一時的に開発機をサーバーとして兼用することにしました。 最近は、メモリやSSDの価格高騰もあって、なかなか新しいPCを組むことができません。当分は開発機兼サーバーで我慢します。 昨日、Z … 続きを読む
CPS – Recursive Improvement = 継続的な改善
ZIKUUは、知識空間を構築するのを重視していて、CPSもPivot Serviceもそのために存在していると言っていいです。ここがキモ。 世の中では、AI HarnessとかLoop Engineeringとか言ってま … 続きを読む