VPNとLLM Brokerで「みんなでLLMを使う」

ZIKUUでは、塾生とスタッフにVPN接続を提供しています。
希望すれば、端末をVPN接続して、すべての共同体システムにアクセスできます。

LLM Brokerを開発したことで、バックエンドを意識せずにLLMを利用できるようになりました。

またOpenAI API準拠となったので、Open WebUIなどのクライアントやCodexとも接続できます。

これは塾生とスタッフが利用できるWikiに書いたマニュアル。

手持ちのPCにGPUがなくても、高性能なPCを持っていなくても、共通のAIプラットフォームを利用できて、調査、学習、プログラミングができる環境です。

ちなみに、ZIKUUではLinuxを共通プラットフォームにしています。
現時点ではUbuntuかDebianが中心。

ドキュメント類は、すべてLinuxを前提に書いています。

最近は、無料で使えるChatGPTなどに相談すれば、PCにLinuxをインストールする方法を教えてくれます。
それくらいの努力は誰でもできるはず。

4万円くらいで購入できる中古のPC(RAM 16GB/SSD 256GB以上推奨)があれば、Linuxをインストールして存分にZIKUUのシステムが使えます。

塾生とスタッフにはLinuxを使うことをすすめます。

「VPNとLLM Brokerで「みんなでLLMを使う」」への1件のフィードバック

コメントする