CPS – LLM Brokerに対応させてRegression Test
一昨日作ったLLM Brokerを使用するようにCPSを改造しました。 Ollama + gpt-oss:20bから、llama.cpp + gpt-oss-20b-Q4_K_M.ggufへの移行です。 開発用として、X … 続きを読む
llama.cpp
LLM Brokerを作る
複数のLLM Runner を用途ごとに切り替えて使えるようにしたいと思い、LLM Brokerというサーバーの開発を始めました。 本番環境のサーバーは、いずれ省電力なミニPCにしようと思っていますが、Strix Poi … 続きを読む