Vision Brokerを作り、Vision Playgroundを修正する
あまり使用率は高くありませんが、画像を扱うAI処理も少しあります。 GPUサーバーには2枚のGPUが挿されていて、1枚は文書生成用、もう1枚は画像用としていますが、小さなVRAMを効率よく使うために、GPUのアクセスを制 … 続きを読む
あまり使用率は高くありませんが、画像を扱うAI処理も少しあります。 GPUサーバーには2枚のGPUが挿されていて、1枚は文書生成用、もう1枚は画像用としていますが、小さなVRAMを効率よく使うために、GPUのアクセスを制 … 続きを読む
AIチャットボットに引き続き、論文検索ボットをLLM Broker対応しました。 Discordの専用チャンネルで論文URLやキーワードを送信すると、5件の関連論文を検索して、ZRL (ZIKUU Research Li … 続きを読む
昨日に続き、LLMを使用しているDiscordボットをLLM Broker対応にしていきます。 今日の一発目はAIチャットボット。 LLM Broker呼び出し部はこんなコードです。 LLM_PROFILEとLLM_BR … 続きを読む
Context Pipeline Serverは開発中なので、開発機のみで検証すれば良いのですが、ここから先はLLM Broker対応はすべて本番環境で動いているアプリケーションに対して行います。神経がすり減らされる作業 … 続きを読む
一昨日作ったLLM Brokerを使用するようにCPSを改造しました。 Ollama + gpt-oss:20bから、llama.cpp + gpt-oss-20b-Q4_K_M.ggufへの移行です。 開発用として、X … 続きを読む
私が好きな法隆寺。何度も地震や台風にあっても、1300年もの間、そこに立ち続けている。 重機もない、レーザー測量機もない、電動工具もない、木材加工機械もない飛鳥の時代に、当時の大工たちが工夫を重ねて建てられた。 故西岡常 … 続きを読む
自宅にボディとネックを持ち帰ってもらって、何度かクリア塗装をしてきました。 まずは、水研ぎをして塗装膜の様子をみました。 少し塗装膜が薄かったので、ボディはまた自宅に持ち帰って塗り重ねをしてきてもらうことにし、仕上げは次 … 続きを読む
複数のLLM Runner を用途ごとに切り替えて使えるようにしたいと思い、LLM Brokerというサーバーの開発を始めました。 本番環境のサーバーは、いずれ省電力なミニPCにしようと思っていますが、Strix Poi … 続きを読む
10回くらい摺りをして、2回くらい研ぎをしました。空いた時間に少しずつ進めています。 自家使用なら、もっと手早く仕上げてしまうのですが、贈り物なので手間をかけています。 上の写真を研ぎを入れているところ。ある程度塗り重ね … 続きを読む