Repository Explorer – Light Auth認証機能を追加する
昨日のCPSに引き続き、Repository ExplorerもLight Auth認証に対応させました。 重い開発作業ばかりが続くと辛いので、こういう軽い開発を残しておいて、ときどき割り込ませることにしています。
LLM
コアサービスの先の青い扉
以前、「Contextual Computingというものの「必要性」」という投稿で、次のように書いた。 扉を開けると未来の可能性が見える。その瞬間を青い扉という言葉で表している。青は、ZIKUUのイメージカラーだ。ZI … 続きを読む
LLM BrokerをCodex対応にするためにResponses APIを追加実装
前回までに、OpenAI準拠APIの に対応し、Open WebUIやVS CodeプラグインのContinueから接続できるようになりました。 今回は、Codexから接続できるように Responses APIを追加し … 続きを読む
LLM BrokerをTool Call対応にする
昨日はStream出力対応までやったので、今日はTool Call対応です。 それほど大きな変更ではありません。 上のスクリーンショットは、Open WebUIからLLM Brokerに接続し、Tool callのオフと … 続きを読む
Pivot Service – データメンテ機能を追加
コアサービスがすべて本番稼働したので、熟成の段階に入りました。 ニュースの見出しなどを見ただけでは、どこの国の出来事なのかわからない、みたいなこともあって、Dimension抽出が上手くいかないことも多々あります。 根本 … 続きを読む
LLM BrokerのOpenAI APIにストリーム出力機能を実装する
昨日は、Open WebUIからOpenAI APIでLLM Brokerに接続できる、というところまでやりました。今日は、LLM Brokerにストリーム出力機能を実装しました。 開発で使っているPCは CPUがCor … 続きを読む
LLM BrokerにOpenAI API準拠機能を追加する
コアサービスが本番稼働に漕ぎ着けたので、しばらくゆっくりしようと思っていましたが、やることがあるとじっとしていられません。 必要だと思って作った仕組みの上に、新しい必要が見えてくる。 必要は必要の母です。 LLM Bro … 続きを読む
生成AIを使ってarXiv論文を読む方法
ZIKUUの論文検索ボットでやっているのと似た方法で、ローカルLLMを使ってarXiv論文を取得して概要を表示する方法を紹介します。 動作環境は、 です。 Open WebUIでフォルダーを作り、そのフォルダーのシステム … 続きを読む
ZIKUUコアサービスが解決する問題 – コンテクストウィンドウ問題
ZIKUUコアサービスは、 などから構成されるサーバー群のこと。これらは、業種、分野、利用者の種類を問わない。 最近は、大きなコンテクストウィンドウを持ったLLMが増えている。 大きなプログラムの解析やコーディングをする … 続きを読む
LLM Broker拡張案
LLM Brokerは のを目的に開発したミドルウェアですが、早速、拡張を検討しています。 現行の仕様は後方互換性を維持するために残し、新たにOpenAI API互換機能を追加する。 今は、Open WebUIから直接l … 続きを読む