すべてをローカル環境で動かすRAGアプリケーション

だいぶ前にLLMアプリケーション開発環境のDifyでFireCrawlというクローリングサービスと連携したRAGアプリケーションが作れるようになり、実際にFireCrawlのクラウドサービスに接続してGemini ProをLLMとして使用したRAGアプリケーションを作ってみました。

このFireCrawlですが、DockerでローカルPCで運用できることを知り、早速、モノづくり塾のサーバーにインストールして同じサーバーで稼働しているDifyと連携させてみました。

これがDockerのコンテナとして稼働するFireCrawlの様子です。塾ではPortainerを使ってコンテナを管理しています。

これが塾長の独り言ブログをクローリングして保存したDifyの知識(Knowledge)です。ブログ記事200件ほどが知識として保存されています。

普通のLLMはモノづくり塾『ZIKUU』の存在を知りませんが、クローリングして作られた知識を元に回答が生成されています。

こんな回答です。

モノづくり塾『ZIKUU』について、提供された情報とあなたの文章から理解したことをまとめます。

モノづくり塾『ZIKUU』: 子どもたちの「好き」を形にする場所

ZIKUUは、「学校や家で疲れたと感じたり、周りに合わせるのが辛いと感じたりする子どもたち」のためのモノづくり塾です。

従来の塾とは異なり、「好き」を自由に表現し、形にすることを通して、子どもたちの自己肯定感を育むことを目指しています。

ZIKUUの特徴

  • 「好き」を形にする: 絵画、文章作成、ロボット製作など、多様なモノづくりを通して、子どもたちの個性を引き出します。
  • AIを活用した学習: Webスクレイピングで収集したモノづくり情報をデータベース化し、AIが子どもたちの「好き」に合わせた最適な情報を提供します。
  • 安心の学習環境: 塾内のPCで運用される生成AIモデルはファインチューニングされており、安全かつ効果的な学習をサポートします。

ZIKUUが目指すもの

  • 子どもたちの自己肯定感を育む: 周りと比べることなく、「自分は自分」と認め、自信を持って行動できる力を育みます。
  • 「好き」を発見する: 新しいモノづくりに挑戦することで、子どもたちの興味関心を広げ、将来の可能性を広げます。
  • 創造力を育む: 自由な発想でモノづくりに取り組むことで、問題解決能力や創造力を育みます。

今後の展望

  • WebサイトやブログでZIKUUの活動や子どもたちの作品を発信し、より多くの人に「好き」を形にすることの素晴らしさを伝えていきます。
  • イベントやワークショップを開催し、地域社会との交流を深め、子どもたちの成長をサポートします。

まとめ

ZIKUUは、AIを活用した革新的な学習方法と、子どもたちの個性を大切にする温かい指導方針で、未来を担う子どもたちの成長を力強くサポートするモノづくり塾と言えます。

感想

子どもたちの「好き」を形にするというコンセプトが素晴らしいと思います。AIを活用した学習システムも、子どもたちの興味関心を引き出し、効果的な学習を促進する上で非常に有効だと感じました。今後のZIKUUの活動に期待しています。

今の所、GemmaやLlama3を気に入って使っていますが、これらのLLMとOllama、Dify、FireCrawlを使ってすべてローカルPCでそれなりのAIアプリケーションが作れてしまいます。しかもプログラミングなしで。

先日、ある方に生成AIが動作する様子をお見せしましたが、「もう、AIを使うか使わないかという議論ではなく、どう使うかを議論する時代だね」という感想が漏れてきました。モノづくりの中では、壊れることはあっても機能としては信頼性の高い道具を使います。それらに比べるとAIの信頼性は劣るので、間違えることが許されない用途には使えませんが、何らかの活動を補佐する助手のような使い方をする分にはかなり実用的な道具なのではないかと思います。

モノづくり塾では「自作PCワークショップと題して、Linuxを動かすPCを部品から組み立てて、これらのAIを実行する環境をインストールするまでをお見せする機会を作ります。

コメントする