LLM BrokerをTool Call対応にする
昨日はStream出力対応までやったので、今日はTool Call対応です。 それほど大きな変更ではありません。 上のスクリーンショットは、Open WebUIからLLM Brokerに接続し、Tool callのオフと … 続きを読む
月: 2026年7月
民主主義の崩壊と小規模共同体の必要性
民主主義というのは機能しているんだろうか。社会が良い方向に進んでいない気がする。そんな疑問を持つことがある。今回は、民主主義の崩壊を防ぐには小さな共同体が必要だという話を書く。 民主主義の成功が生んだ逆説 近代社会は、民 … 続きを読む
Pivot Service – データメンテ機能を追加
コアサービスがすべて本番稼働したので、熟成の段階に入りました。 ニュースの見出しなどを見ただけでは、どこの国の出来事なのかわからない、みたいなこともあって、Dimension抽出が上手くいかないことも多々あります。 根本 … 続きを読む
LLM BrokerのOpenAI APIにストリーム出力機能を実装する
昨日は、Open WebUIからOpenAI APIでLLM Brokerに接続できる、というところまでやりました。今日は、LLM Brokerにストリーム出力機能を実装しました。 開発で使っているPCは CPUがCor … 続きを読む
LLM BrokerにOpenAI API準拠機能を追加する
コアサービスが本番稼働に漕ぎ着けたので、しばらくゆっくりしようと思っていましたが、やることがあるとじっとしていられません。 必要だと思って作った仕組みの上に、新しい必要が見えてくる。 必要は必要の母です。 LLM Bro … 続きを読む
サーバーのHDD認識エラー
ZIKUUのアプリケーションサーバーのバックアップ用外付けHDDが認識されなくなりました。 このHDDは、夜間にRAIDディスク（データベースやファイルサーバーのデータが入っている）からインクリメンタルバックアップをする … 続きを読む
生成AIを使ってarXiv論文を読む方法
ZIKUUの論文検索ボットでやっているのと似た方法で、ローカルLLMを使ってarXiv論文を取得して概要を表示する方法を紹介します。 動作環境は、 です。 Open WebUIでフォルダーを作り、そのフォルダーのシステム … 続きを読む
ZIKUUコアサービスが解決する問題 – コンテクストウィンドウ問題
ZIKUUコアサービスは、 などから構成されるサーバー群のこと。これらは、業種、分野、利用者の種類を問わない。 最近は、大きなコンテクストウィンドウを持ったLLMが増えている。 大きなプログラムの解析やコーディングをする … 続きを読む