「LLM BrokerをCodex対応にするためにResponses APIを追加実装」でやったLLM BrokerへのResponses API実装の結果、完全なローカル環境でCodex CLIが使えるようになったので、試しにCodex Desktopをダウンロードしてインストールしました。
Codex CLIが動く状態であれば、特別なことを何もしなくてもGUI環境からCodexが使えます。
Codex → LLM Broker (VPN経由) → llama.cpp → gpt-oss:20b
という構成で使っていますが、gpt-oss:20bの性能だとコード生成はあまり快適ではないです。
Codexの用途は主に調査ということになります。
LLM Brokerは、バックエンドのさらなる抽象化、耐障害性、キューイング、Vision Broker統合、分散推論などの機能を、一つずつ拡張していきます。
もはや、LLMプロバイダーの中継をする薄いBrokerというレベルでなくなってきました。
ZIKUUは推論資源の供給力を持ったことになります。
塾生やスタッフは、Tailscaleメッシュに参加して、塾の推論資源を自由に使えます。
