LLM BrokerをCodex対応にするためにResponses APIを追加実装

前回までに、OpenAI準拠APIの

  • /v1/models
  • /v1/chat/completions
  • ストリーム出力
  • ツールコール

に対応し、Open WebUIやVS CodeプラグインのContinueから接続できるようになりました。

今回は、Codexから接続できるように Responses APIを追加しました。

Codexを起動し /status コマンドを実行した様子。

ホームディレクトリの .codex ディレクトリ内に作成したCodex設定ファイルはこの3つ。

#~/.codex/config.toml

[model_providers.llm-broker-capture]
name = "LLM Broker Responses Capture"
base_url = "http://127.0.0.1:60001/v1"
wire_api = "responses"

[model_providers.llm-broker]
name = "LLM Broker"
base_url = "http://127.0.0.1:19080/v1"
wire_api = "responses"
# ~/.codex/capture.config.toml

model_provider = "llm-broker-capture"
# ~/.codex/llm-broker.config.toml

model_provider = "llm-broker"
model = "text_conversation"
model_reasoning_effort = "low"

以下、質問したときの応答です。

質問は

「このリポジトリを一文で説明して。」

質問は

「すべてのAPIを一覧にまとめて。」

LLM Brokerを介して、CodexOpen WebUIがサクサク動く。
すべてがローカルで動く。

道具感が増してきました。

Codexも万能ではありません。
リポジトリをまたがった調査に関しては、開発途中で中途半端な状態ですが、Repository Explorerの方が有能に見えます。

「LLM BrokerをCodex対応にするためにResponses APIを追加実装」への1件のフィードバック

コメントする