最小限のRAGアプリケーション
初学者向けの最小限のプログラムを作りました。 PDFを読み込み、Qdrantベクターデータベースに埋め込みデータを保存、OllamaのLLMを使って、埋め込みデータを元に文章を生成する例です。 最小限とは言っても、200 … 続きを読む
初学者向けの最小限のプログラムを作りました。 PDFを読み込み、Qdrantベクターデータベースに埋め込みデータを保存、OllamaのLLMを使って、埋め込みデータを元に文章を生成する例です。 最小限とは言っても、200 … 続きを読む
日曜日に木工旋盤が壊れてモーターが回らなくなりました。購入した会社(オフ・コーポレーションさん)に修理の問い合わせをしたところ、持ち込めばすぐに部品を交換してくださるということで、早朝に塾を出て静岡県清水市まで行ってきま … 続きを読む
OpenAI APIを使ってOllamaで文章生成する小さなAIチャットプログラムです。 パラパラと生成された文章をストリーミング出力する例で47行のプログラムです。ストリーミング出力しなければ、41行、チャット履歴が不 … 続きを読む
ChatGPTでびっくりした人々が、このままAIが進歩すると将来どんな仕事が奪われるか奪われないかとしきりに話題にしていましたし、今でもそのような議論はあちらこちらで見られます。 例えばこんなもの。 生成AIと言われるも … 続きを読む
昨日に引き続き木工旋盤の練習をしてもらいました。 前回は白樫でしたが今回はウォルナットを使用しました。柔らかくてだいぶ削りやすそうです。 スキューの扱いにだいぶ慣れてきて、綺麗な削り肌を作れるようになってきました。 吹い … 続きを読む
フレームの剛性に問題があったので、X軸Y軸ともに少し短くし、ワークエリアはA3用紙くらいの面積にしました。 パワーサプライ、CNCコントローラー(Arduino + CNCシールド)、レーザードライバーボードの位置決めが … 続きを読む
塾生と塾スタッフには木工旋盤の扱いに慣れて欲しいと思っています。今日はレザークラフト職人の塾スタッフが木工旋盤の練習をしました。 今日は笛を練習の題材として、複数の刃物の扱いを練習してもらいました。 ガウジで荒削り。 ス … 続きを読む
このサイトを見ればLLMのパラメーターに対して必要なGPUのVRAMの容量がわかります。 いずれモノづくり塾でも70B (700億)パラメーター程度のオープンソース(またはオープンウェイト)のLLMを実用したいと思ってい … 続きを読む