コアサービスすべてを本番運用開始

本番といっても、しばらくは検証をすることになりますが。

やっとコアサービスの開発が一段落して、本番サーバーで稼働できるようになりました。

コアサービスのソフトウェアだけで、約90万行のプログラムです。
これから多少増えると思います。

ZIKUUで動いている、コアサービス以外のアプリケーションを含めると、約120万行のプログラム。
思っていたより大きなシステムなりましたが、ここにPivot Reasoning EngineAI塾長Fact Build Toolが追加されるので、さらにプログラムは増えます。

現時点でDockerコンテナ数はシステム全体で64。

コアサービスの管理UIはこれだけあります。(青い帯のものが開発予定のもの)

アプリケーションはこれだけ。(青い帯のものが開発予定のもの)

オプションがこれだけ。ここはほぼ実験アプリです。

今回、LLMプロバイダーをOllamaからllama.cppに切り替えたことによって、LLMの呼び出し部分のコードをすべて書き換えました。

それに伴い、以下のアプリケーションやDiscordボットなど、約10のプロジェクトを再配備しています。

これで、寝ている間に、静かに原本アーカイブ、文脈束、意味空間がZIKUUの中に積み上がっていきます。

長い一年でした。

まだ終わりじゃないけど。


バックグラウンド系のLLM処理からのGPU利用をパイプラインから順次実行する設計にしているので、こんな弱いGPUでも実務に耐えられます。

対話アプリケーション用には、もう一台のGPU搭載PCを使うことにするので、このサーバーのGPUは使いません。

「コアサービスすべてを本番運用開始」への1件のフィードバック

コメントする