ファインチューニング

GPT5とgpt-ossで同じ処理をしてみる

by

以前にも触れましたが、モノづくり塾での活動で得た知識や技術をAIの文章生成に活かしたいと思っています。そのためにこのブログの文章のクローリングして本文を取り出すプログラムを書き、そのデータを使ってLoraやQLoraの手 … 続きを読む

知識蓄積・共有の研究〜その2 Unslothを使ったファインチューニングの試み

by

昼間は暑くて何もする気になりません。最近は、完全に昼夜逆転した日々を送っています。昨夜から今朝にかけてコンピューターの前に座ってLLMのチューニングを試みていました。朝日が眩しいです。 今回のテーマは「Mistral 7 … 続きを読む

知識蓄積・共有の研究〜その１ LLMファインチューニングの試み

by

先日、このブログをクローリングして投稿を機械学習用のデータセットに変換するプログラムを書きました。今回はその続きで、そのデータセットを使った既存の学習済言語モデル（Pretreined Language Model）をL … 続きを読む

データセットを作るコードの修正版

by

前回はこのブログの記事をすべて取得するプログラムと取得した記事からデータセットを作成するプログラムが別でしたが、それらを１つのプログラムにまとめたのが以下です。 近々、小さめのLLMでファインチューニングをしてみようと思 … 続きを読む

塾長AI

by

自分の工房のブログやこのブログも含めて、私のモノづくりの歴史はほぼ完全に記録されています。これらの記録には、私ならではの視点や思考も含まれています。いずれ、これらをAIに学習させ、私の代わりに文章を生成して会話ができるよ … 続きを読む