AIチャットボットをLLM Broker対応にする
昨日に続き、LLMを使用しているDiscordボットをLLM Broker対応にしていきます。 今日の一発目はAIチャットボット。 LLM Broker呼び出し部はこんなコードです。 LLM_PROFILEとLLM_BR … 続きを読む
AI
調査ボットをLLM Broker対応にする
Context Pipeline Serverは開発中なので、開発機のみで検証すれば良いのですが、ここから先はLLM Broker対応はすべて本番環境で動いているアプリケーションに対して行います。神経がすり減らされる作業 … 続きを読む
CPS – LLM Brokerに対応させてRegression Test
一昨日作ったLLM Brokerを使用するようにCPSを改造しました。 Ollama + gpt-oss:20bから、llama.cpp + gpt-oss-20b-Q4_K_M.ggufへの移行です。 開発用として、X … 続きを読む
文明をバックアップするには文脈抽出が不可欠だということ
私が好きな法隆寺。何度も地震や台風にあっても、1300年もの間、そこに立ち続けている。 重機もない、レーザー測量機もない、電動工具もない、木材加工機械もない飛鳥の時代に、当時の大工たちが工夫を重ねて建てられた。 故西岡常 … 続きを読む
LLM Brokerを作る
複数のLLM Runner を用途ごとに切り替えて使えるようにしたいと思い、LLM Brokerというサーバーの開発を始めました。 本番環境のサーバーは、いずれ省電力なミニPCにしようと思っていますが、Strix Poi … 続きを読む
ポータルサイトの機能拡張
新しいサーバーを手に入れるまでは、一時的に開発機をサーバーとして兼用することにしました。 最近は、メモリやSSDの価格高騰もあって、なかなか新しいPCを組むことができません。当分は開発機兼サーバーで我慢します。 昨日、Z … 続きを読む
CPS – Recursive Improvement = 継続的な改善
ZIKUUは、知識空間を構築するのを重視していて、CPSもPivot Serviceもそのために存在していると言っていいです。ここがキモ。 世の中では、AI HarnessとかLoop Engineeringとか言ってま … 続きを読む
CPS – Evidence Review画面で複数プロフィールを検証
昨日追加したEvidence Review画面といくつか検証用スクリプトを使って複数のプロフィールで抽出した文脈を検証しています。 これは、この一年間にやった中では、最も面倒くさい作業ですが、面倒くさいことほど重要だとい … 続きを読む
CPS – Evidence Review画面を追加
すべてのデータソースから文脈抽出ができるようになったので、抽出内容を検査する仕組みを入れました。 原文と文脈束を左右に表示して比較できるUIです。 文脈を扱う上で、次のことが重要です。 LLM統計的に単語や文字をつなげる … 続きを読む
CPS – Context Pipeline Viewerの調整
データが増えてきたので、観測性を高めるために、Context Pipeline ViewerのUIを調整し、文脈束のソート機能、情報の一部を折りたたんで非表示にする機能、UIの状態を記憶する機能を追加しました。 下の2枚 … 続きを読む