LLM Brokerが地味に便利だという話

簡単なシェルスクリプトを書いて、LLM Broker (ZIKUUのGPUサーバーで動いている）を利用できるようにしました。

このように呼び出すと

./ask.sh -c analysis "クローズドループステッパーと普通のステッパーの違いは?"

このように返ってきます。

クローズドループステッパー（閉ループステッパー）と普通のステッパー（オープンループステッパー）の主な違い

	普通（オープンループ）	クローズドループ（閉ループ）
制御方式	位置・速度を外部から直接指示し、モーターが流れる電流を自動調整しない。	モーター内部のエンコーダーや位置センサーからのフィードバックを受け取り、実際の位置や速度を常に監視し、必要に応じて電流・電圧を即座調整。
精度・安定性	位置の誤差は、負荷・摩擦・温度変化などによって大きくなることが多い。	エンコーダーによるリアルタイムのフィードバックで誤差を小さく抑制。
応答性（速度・トルク）	速度・トルクが設計より高くなると、オーバーシュートや振動が起こる。	電流を調整してオーバーシュート・振動を抑制。
設計・実装コスト	シンプルな回路・制御ロジック。	エンコーダー・フィードバック回路・制御ロジックの追加によりコスト増。
用途	低速・低精度・高速・負荷変化が小さい場面で十分。	高精度・高安定性・変化する負荷・速度の場面で有利。

まとめ

• 普通ステッパーは「指示＝入力」だけで、実際の位置を検知せずに動作する。
• クローズドループステッパーは「検知＝フィードバック」し、実際の位置に合わせて電流・電圧を調整する。
• その結果、クローズドループは精度・安定性が高く、変化負荷に対する性能が良いが、設計・コストは高くなる。

このように呼び出すと

./ask.sh -c translate "A total solar eclipse will be visible across much of Europe and northwestern Russia on Wednesday, with livestream coverage on RT from the Lakhta Center in St. Petersburg."

こんなのが返ってきます。

水曜日に、ヨーロー大陸とロシア北西部の多くで全日食が観測できる。RTはサンクトペテルブルクのラクタセンターからライブ配信を行う予定です

パイプを使って、このように呼び出すこともできます。

echo "A total solar eclipse will be visible across much of Europe and northwestern Russia on Wednesday, with livestream coverage on RT from the Lakhta Center in St. Petersburg." | ./ask.sh -c translate

水曜日に、ヨーロ大陸とロシア北西部の多くで全日食が観測できる。RTはサンクトペテルブルク・ラクタセンターからライブ配信する。

地味に便利です。

コマンドの引数で、システムプロンプトや使用するモデルを設定できるようになっています。

{
  "global": {
    "broker_url": "http://LLMBrokerのURL",
    "default_model": "text_conversation"
  },
  "commands": {
    "analysis": {
      "model": "text_conversation",
      "temperature":0.7,
      "context-length":31920, 
      "system-instruction": "あなたは優秀な分析官です。入力されたテキストから要点を抽出してまとめてください。回答はMarkdownではなく、Plain Textで。"
    },
    "translate": {
      "model": "translation",
      "temperature":0.3,
      "context-length":31920, 
      "system-instruction": "あなたは優秀な翻訳者です。入力されたテキストを日本語に翻訳してください。回答はMarkdownではなく、Plain Textで。"
    }
  }
}

---

LinuxやMacOSなどで、ターミナルを使い慣れている人なら、こういうのが便利だと感じるのでないでしょうか。

これで

• Terminal
• Continue
• Open WebUI
• Codex

という複数の入口から、ZIKUUの推論資源を利用できるようになりました。