DifyのRAG機能を使ってみる
LLMを使い分野特化型AIを作るのに有効なRAGを使ってみました。 モノづくり塾ではオープンソースの利用を強く推奨しており、極力ブラックボックス的なシステムは使わないようにしています。「買ったほうが安い」のような短期的な … 続きを読む
LLMを使い分野特化型AIを作るのに有効なRAGを使ってみました。 モノづくり塾ではオープンソースの利用を強く推奨しており、極力ブラックボックス的なシステムは使わないようにしています。「買ったほうが安い」のような短期的な … 続きを読む
先日のDifyと同じくらいあっけなくLLMをローカルで動かせるのがOllamaです。 ローカルマシンにOllamaをインストールするのは以下のコマンド1行です。 そして実行は次の1行。 これはモデルにLlama3を使って … 続きを読む
Dify はLLMオーケストレーションを実現するオープンソースのソフトウェアです。自分のPCにインストールして動かすことができます。 RAGを使ってLLMを賢くすることができるので、組織内の知識(文書化されてい … 続きを読む
プログラミング無しで自分専用のAIプリケーションを作成するツール『Dify』の紹介です。 OpenAiがChatGPTsでユーザーが自分でアプリケーションを作れるサービスを提供していますが、Difyはそれの同様のソフトウ … 続きを読む
モノづくり塾『ZIKUU』ではAI活用に必要な知識や技術を身につけるために小規模ではあるもののAI学習用のPCを用意します。限られた計算資源ですが時間や費用を気にせずに好きなだけ勉強できます。 すぐに思い付くものでLLM … 続きを読む
NVIDIA RTX A4000の動作確認をしたくて、Stable DiffusionのWeb UIとtext-generation-webuiをインストールし、いくつかのモデルをダウンロードして動かしてみました。 ハイ … 続きを読む
機材がすべて揃ったので組み立て、ソフトウェアのインストール等を行いました。 モノづくり塾では3D CADやソフトウェア開発もモノづくりの一部として学習テーマにしています。過去から未来にかけて、伝統工芸からハイテクまでバラ … 続きを読む
モノづくり塾のサーバーで稼働しているCode Llamaベースのコード生成AIアプリケーションを動かした様子を動画にしました。 動画の内容は、 塾のダッシュボードからコード生成AIアプリケーションを開く コード生成を依頼 … 続きを読む
ELYZA社さんがCode Llamaを日本語で追加学習したモデルを公開されたので早速モノづくり塾のサーバーで稼働しているコード生成AIをこれを使ったもので置き換えました。 この分野は動きが速くて、公開が発表されたと思っ … 続きを読む
CTransformersとGradioを使ったCode Llamaを動かすアプリケーションをDocker対応しました。モノづくり塾のサーバーで動かしています。 プログラムはこんなに短くて簡単。 Dockerfileはこ … 続きを読む