Repository Expolorerにシーケンスチャートを描かせる
Repository Explorerの実力を試すために、シーケンスチャートを描かせてみました。 Context Pipeline Serverのbackendの動作をMermaidのシーケンスチャートにして。 という質 … 続きを読む
Repository Explorerの実力を試すために、シーケンスチャートを描かせてみました。 Context Pipeline Serverのbackendの動作をMermaidのシーケンスチャートにして。 という質 … 続きを読む
自分がいつ生まれたのか。そんな当たり前に見える事実でさえ、私たちは自力で知ることができない。 誕生日とは、誰かに教えられて知るもの。医師が記録し、親が語り、役所が管理し、社会が祝う。私たちの最初の認識からして、自分の手で … 続きを読む
基本的な処理の流れが実装できました。 という流れです。 2では、ほぼプログラムのアルゴリズムで行いますが、少しだけLLMの助けを借ります。4では、LLMが主役です。 これは「Nerveのキューの仕組み」について具体的に質 … 続きを読む
すでにサーバーで動くコンテナが50を越えてきました。 ソフトウェアが増えてきて、そろそろ「どこに何があるのか、よくわからない」という状況になってきました。 そこで最後に開発するつもりでいた、Repository Expl … 続きを読む
GPUを効率よく使うために作ったLLM BrokerとVision Brokerに対応するために、Vibe Playgroundを改修しました。 Vibe Playgroundについては、Vibeモデル および Vibe … 続きを読む
あまり使用率は高くありませんが、画像を扱うAI処理も少しあります。 GPUサーバーには2枚のGPUが挿されていて、1枚は文書生成用、もう1枚は画像用としていますが、小さなVRAMを効率よく使うために、GPUのアクセスを制 … 続きを読む
AIチャットボットに引き続き、論文検索ボットをLLM Broker対応しました。 Discordの専用チャンネルで論文URLやキーワードを送信すると、5件の関連論文を検索して、ZRL (ZIKUU Research Li … 続きを読む
昨日に続き、LLMを使用しているDiscordボットをLLM Broker対応にしていきます。 今日の一発目はAIチャットボット。 LLM Broker呼び出し部はこんなコードです。 LLM_PROFILEとLLM_BR … 続きを読む
Context Pipeline Serverは開発中なので、開発機のみで検証すれば良いのですが、ここから先はLLM Broker対応はすべて本番環境で動いているアプリケーションに対して行います。神経がすり減らされる作業 … 続きを読む