モノづくり塾のサーバーにDifyをインストールする

Dify はLLMオーケストレーションを実現するオープンソースのソフトウェアです。自分のPCにインストールして動かすことができます。

RAGを使ってLLMを賢くすることができるので、組織内の知識（文書化されているデータ）を追加して組織専用の（ドメイン特化型の）LLMアプリケーションを作ることができます。

Dockerがインストール済みであれば数分でインストールは終了します。なんともお手軽です。

実行する主なコマンドは

git clone

docker compose

だけ。

Dockerコンテナーがエラーなく起動すればもう使える状態になっています。関連するコンテナーが9個走っています。

インストールが終了したら http://localhost をブラウザーからアクセスするとユーザー登録画面が表示されるので適当なユーザーを登録します。ローカル環境で動かしているデータベースに登録されるので外には漏れません。（たぶん）

ユーザー登録ができたらログインします。

DifyはホスティングされたLLMにアクセスするので、ローカル環境に高速なGPUがなくてもよく、ごく普通のノートPCでも問題なく利用できます。

ログインするとダッシュボード画面に遷移します。ここから自分のLLMアプリケーションを作っていきます。

初めてということもあるので最も簡単チャットボットを作ってみます。

モデルは無料で利用できるGoogleのGemini 1.5 Proを使います。Gemini 1.5 Proのアクセスキーは事前にGoogle AI Studioで取得しておきます。

チャットボットがGemini 1.5 Proを使用するように設定し、Geminiのパラメーターを調整します。

このチャットボットの作成はこれだけです。

インストールから始めてここまで10分程度でしょうか。

早速実行します。

いくつか会話をしてみました。

プログラミング無し、テキストエディターで設定ファイルを編集することも無し。これでAIチャットアプリケーションが作れてしまいます。

非常に多機能なので今回書いたのはDifyのほんの一部です。これから調べながら弄くり回そうと思います。

モノづくり塾の関係者は、塾のLANに接続して 「http://サーバーのアドレス」をアクセスすれば使えます。

まだVPNの設定が終わっていませんが、それが終われば自宅からでもこのアプリケーションを利用できます。