LLM

Webサイトから気象画像を取得するだけなら簡単

by

雲の様子を取得するだけなら、SDRを購入しアンテナを作るといった手間は要りません。Webサイトから最新の衛星画像をダウンロードするだけです。 プログラムはこんな感じ。 cronで画像取得をスケジュール化する、取得した画像 … 続きを読む

最小限のRAGアプリケーション

by

初学者向けの最小限のプログラムを作りました。 PDFを読み込み、Qdrantベクターデータベースに埋め込みデータを保存、OllamaのLLMを使って、埋め込みデータを元に文章を生成する例です。 最小限とは言っても、200 … 続きを読む

最小限のAIチャットプログラム

by

OpenAI APIを使ってOllamaで文章生成する小さなAIチャットプログラムです。 パラパラと生成された文章をストリーミング出力する例で47行のプログラムです。ストリーミング出力しなければ、41行、チャット履歴が不 … 続きを読む

LLMを扱うために必要なGPUのVRAM

by

このサイトを見ればLLMのパラメーターに対して必要なGPUのVRAMの容量がわかります。 いずれモノづくり塾でも70B (700億)パラメーター程度のオープンソース（またはオープンウェイト）のLLMを実用したいと思ってい … 続きを読む

MCP（Model Context Protocol)

by

これ、流行りそうですね。 あまり技術的な飛躍はない印象ですが、新しい言葉が使われるとなんとなく凄そうに見えます。 マイクロWebサービスが盛んに作られるようになり、多くのサービスにREST APIが実装され、Webサービ … 続きを読む

AI検索エージェントらしきものの続き

by

武装。 武装というと仰々しい感じがしますが、私たち一般人に必要なのが「精神武装」「知識武装」「技術武装」です。モノづくり塾のやっていることが、この３つです。精神だけでも、知識だけでも、技術だけでもいけない。バランス良く武 … 続きを読む

AI検索エージェントらしきもの

by

早く目が醒めたので、YouTubeやらWebやらを調べて、Web検索する生成AIプログラムを書いてみました。 動画やWebページの解説を見てエージェントというのは「こうやればいいんだ」と少し理解を進められたように思います … 続きを読む