知識蓄積・共有の研究〜その2 Unslothを使ったファインチューニングの試み
昼間は暑くて何もする気になりません。最近は、完全に昼夜逆転した日々を送っています。昨夜から今朝にかけてコンピューターの前に座ってLLMのチューニングを試みていました。朝日が眩しいです。 今回のテーマは「Mistral 7 … 続きを読む
ファインチューニング
知識蓄積・共有の研究〜その１ LLMファインチューニングの試み
先日、このブログをクローリングして投稿を機械学習用のデータセットに変換するプログラムを書きました。今回はその続きで、そのデータセットを使った既存の学習済言語モデル（Pretreined Language Model）をL … 続きを読む
データセットを作るコードの修正版
前回はこのブログの記事をすべて取得するプログラムと取得した記事からデータセットを作成するプログラムが別でしたが、それらを１つのプログラムにまとめたのが以下です。 近々、小さめのLLMでファインチューニングをしてみようと思 … 続きを読む
