大規模言語モデル

最小限のAIチャットプログラム

by

OpenAI APIを使ってOllamaで文章生成する小さなAIチャットプログラムです。 パラパラと生成された文章をストリーミング出力する例で47行のプログラムです。ストリーミング出力しなければ、41行、チャット履歴が不 … 続きを読む

LLMを扱うために必要なGPUのVRAM

by

このサイトを見ればLLMのパラメーターに対して必要なGPUのVRAMの容量がわかります。 いずれモノづくり塾でも70B (700億)パラメーター程度のオープンソース（またはオープンウェイト）のLLMを実用したいと思ってい … 続きを読む

AI検索エージェントらしきもの

by

早く目が醒めたので、YouTubeやらWebやらを調べて、Web検索する生成AIプログラムを書いてみました。 動画やWebページの解説を見てエージェントというのは「こうやればいいんだ」と少し理解を進められたように思います … 続きを読む

ことば〜コトのハ

by

人に伝えたいことがたくさんあるので、話し始めるとしゃべりまくってしまう欠点が私にはありますが、なかなか欠点は治りません。話も上手くないし。 ことば＝言葉は「コト」の「葉」です。コトから生える葉っぱ。作り手として、モノづく … 続きを読む

生成AIを使った仕事環境を作りましょう

by

モノづくり塾では多様なモノづくりの経験ができるようにしていますが、ほぼ一人で切り盛りしようと思うと、私の能力を超えてしまいます。なので、効率化できる部分は効率化して、どうしても時間のかかる作業はじっくりやるようにしていま … 続きを読む

オープンソースLLMが大きな進歩をするか？！

by

オープンソースが大好きなモノづくり塾には朗報です。 生成AI界隈で話題沸騰しているDeepseek R1。Deepseekは米国から高性能GPUの輸出を規制されたチャイナで開発されました。計算資源としてのGPUが少なくて … 続きを読む

Discordの生成AIボット

by

先日触れたDiscord用の生成AIボットの内容です。コードがなるべく最小限になるように作ってみました。 使用したPythonライラリーです。以下の内容をrequirements.txtに記述しpip install – … 続きを読む

大規模言語モデルを扱うプログラム

by

モノづくり塾は何かを新たに学ぶ動機付けや始める際の敷居を下げることを重視して運営しています。現在用意している５つの体験教室もその流れで考えたものです。 今回は、手元のPCで動く大規模言語モデルを利用した文書生成Webアプ … 続きを読む