Ubuntu 24.04のCodex CLIでハマった点

数日前に、LLM BrokerがOpenAI Responses APIに対応したことで、Codexと接続できるようになりました。

Ubuntu 22.04開発機でCodexを気持ちよく使っていました。

塾生向けのドキュメントライブラリZDLにも、Codexのインストール方法とLLM Brokerとの接続方法をまとめて満足していましたが、ドキュメントの検証を兼ねて、Ubuntu 24.04をインストールしたPCにCodexをインストールして動かしてみたら、まともに動かない。

CodexのサンドボックスがUbuntu 24.04の標準設定では起動しないのが問題でした。

対応はこれです。

VPN経由で塾のGPUサーバーで動いているLLM Brokerに接続した、自宅のノートPCでCodexを気持ちよく使えるようになりました。

ZIKUUのGPUサーバーは、一般的にAI界隈で使われているような高性能なGPUを載せていません。24時間/365日の運用なので省電力が優先です。

PCIe 4.0 x 8で接続したRTX 2000 Ada LovelaceとPCIe 4.0 x 4で接続したQuadro RTX 4000（画像処理専用）です。
前者がVRAM 16GB、後者がVRAM 8GBです。

llama.cppサーバーをLLM Broker経由で使う構成は、このような所謂低性能のGPUで十分な性能が出ます。
推論機として考えると、gpt-oss:20bは十分な性能がありますから、モデル開発競争から少し距離を置けます。新しいモデルを使いたくなったら、モデルをダウンロードして、llama.cppのdocker-compose.ymlを1行直して再起動するだけで済みます。

RTX 3060 12GBでも、十分に実用的な性能が出ます。

先を争って高価な買い物をする必要はありません。

ZIKUUのシステムは、最近流行りのHarness、Scaffold、Loop Engineeringを、そういう言葉が頻出するようになる前に設計し実装したものです。

流行に飛びつく前に考えましょう。
考えることに価値があります。

---

LLM Brokerを使えば、細かなことを気にせずに、完全ローカル環境で

• Open WebUIが使える
• VS CodeのプラグインContinueが使える
• Codexが使える

そして、Repository Explorerがあることで

• すべてのソフトウェアリポジトリを探索できる

ようになっていて、すべての塾生やスタッフがVPN経由でどこでも利用できる。

ZIKUUのソフトウェア開発は、Linux、Python、React、Dockerがわかればやれます。
機能豊富なフレームワークを使わず、すべて内製です。
外部の都合に引きずられることがとても少ない。

ソフトウェア開発も、ZIKUUの運営と同じで、自律分散哲学が底流にあります。