AI

gpt-ossが公開されました

by

OpenAIのChatGPTのオープンソース版が公開されました。 生成AIの言語モデルに関して、オープンソースの定義があったような記憶があるのですが、そこでは確か、「学習コード、ウェイト、データセットがオープンであること … 続きを読む

ZIKUUについてAIを使って調査した〜今更ですが、ChatGPTって凄い

by

「これは小さなローカルLLMでは無理だな」 そんな性能を見せてくれるのがChatGPTです。 試しにChatGPTに当塾と私について調べてもらいました。かなり精度の高い調査をしてくれます。「公開情報を使って調査する」とい … 続きを読む

知識蓄積・共有の研究〜その2 Unslothを使ったファインチューニングの試み

by

昼間は暑くて何もする気になりません。最近は、完全に昼夜逆転した日々を送っています。昨夜から今朝にかけてコンピューターの前に座ってLLMのチューニングを試みていました。朝日が眩しいです。 今回のテーマは「Mistral 7 … 続きを読む

OllamaとOpen WebUIを使ったRAGシステム

by

上の画像はOllamaとOpen WebUIを使ってRAGシステムを実現した様子です。 ベクターデータベース（ナレッジ）にはこのブログのすべての記事からテキストを抽出したデータとモノづくり塾の所在地や私のプロフィールなど … 続きを読む

AIの助けを借りて文章を書き換えてみる

by

前回の投稿「AI時代の失業問題」を生成AIの助けを借りて論文調に書き換えてみました。 正直なところ、私は文章を作るのが下手です。話すのもあまり得意ではありません。なので、この書き換えた文章の良否を判断する能力が足りないと … 続きを読む

AI時代の失業問題

by

最近、海外の大手IT企業が大規模な人員削減を行ったという報道がありましたが、どうやらこれはAI活用を前提とした人員整理だったようです。 私はローカルLLMに関心があり、できるだけ手元でLLMを動かしながら日々研究していま … 続きを読む

知識蓄積・共有の研究〜その１ LLMファインチューニングの試み

by

先日、このブログをクローリングして投稿を機械学習用のデータセットに変換するプログラムを書きました。今回はその続きで、そのデータセットを使った既存の学習済言語モデル（Pretreined Language Model）をL … 続きを読む

知識の蓄積と共有について研究する

by

モノづくり塾での活動から知識を蓄積して公開する方法を研究しています。例えば、 というようなことを漠然と考えています。 このブログのように日々の活動や思考を記録をしているのは、３の知識集積を意識していますが、塾生も含めた全 … 続きを読む