CPS – LLM Brokerに対応させてRegression Test
一昨日作ったLLM Brokerを使用するようにCPSを改造しました。 Ollama + gpt-oss:20bから、llama.cpp + gpt-oss-20b-Q4_K_M.ggufへの移行です。 開発用として、X … 続きを読む
一昨日作ったLLM Brokerを使用するようにCPSを改造しました。 Ollama + gpt-oss:20bから、llama.cpp + gpt-oss-20b-Q4_K_M.ggufへの移行です。 開発用として、X … 続きを読む
複数のLLM Runner を用途ごとに切り替えて使えるようにしたいと思い、LLM Brokerというサーバーの開発を始めました。 本番環境のサーバーは、いずれ省電力なミニPCにしようと思っていますが、Strix Poi … 続きを読む
新しいサーバーを手に入れるまでは、一時的に開発機をサーバーとして兼用することにしました。 最近は、メモリやSSDの価格高騰もあって、なかなか新しいPCを組むことができません。当分は開発機兼サーバーで我慢します。 昨日、Z … 続きを読む
ZIKUUは、知識空間を構築するのを重視していて、CPSもPivot Serviceもそのために存在していると言っていいです。ここがキモ。 世の中では、AI HarnessとかLoop Engineeringとか言ってま … 続きを読む
昨日追加したEvidence Review画面といくつか検証用スクリプトを使って複数のプロフィールで抽出した文脈を検証しています。 これは、この一年間にやった中では、最も面倒くさい作業ですが、面倒くさいことほど重要だとい … 続きを読む
すべてのデータソースから文脈抽出ができるようになったので、抽出内容を検査する仕組みを入れました。 原文と文脈束を左右に表示して比較できるUIです。 文脈を扱う上で、次のことが重要です。 LLM統計的に単語や文字をつなげる … 続きを読む
RSSフィードから直接Pivot Serviceに投入していた国際ニュースでしたが、これもCPSを通して文脈抽出後にPivot Serviceに投入することにしました。 他のデータはGiteaのリポジトリに原本を保存した … 続きを読む
抽出された文脈束の観測をしやすいようにUIを調整してから、プロフィールを追加しました。 これが調査研究資料の文脈を抽出した例。 今日はブログを読んで文脈抽出するためのプロフィールを追加しました。 これがブログの文章から文 … 続きを読む
抽出された文脈を確認するための管理UIを作り始めました。 ここまで、curlでバックエンドAPIを読んで、出力されたJSONを読んでいたんですが、データが増えてきて辛くなってきたこともあって、少し早いとは思いましたが、思 … 続きを読む
CBES (Context Bundle Extraction Strategy)という構造をCPSに入れました。 これにより、 CPS (Context Pipeline Server) は、データソースに応じた CB … 続きを読む