大規模言語モデル

GPT-OSSでテキストをJSONファイルに変換する様子

by

数日前の「GPT5とgpt-ossで同じ処理をしてみる」という投稿で、このブログの投稿から本文のテキストを抜き出し、後々、加工がしやすいようにJSON形式に変換する処理をしたことを書きました。 LM Studioでgpt … 続きを読む

RAG用のデータの効果を見る

by

昨日行ったQdrantに登録したデータの効果を見るべく、簡単な推論コードを書いて試験しました。 「ZIKUUとは？」と「ZIKUUの運営方針を教えてください」という２つの質問に対してどう答えるかを試した様子です。 言語モ … 続きを読む

RAG用データを作成してQdrantに登録する

by

今日はこのブログの記事をダウンロードして、GPT5やgpt-ossで作成したRAG用をQdrant ベクターデータベースに登録するプログラムを書きました。プログラムはすべてPythonで記述。ネットを探せばサンプルコード … 続きを読む

GPT5とgpt-ossで同じ処理をしてみる

by

以前にも触れましたが、モノづくり塾での活動で得た知識や技術をAIの文章生成に活かしたいと思っています。そのためにこのブログの文章のクローリングして本文を取り出すプログラムを書き、そのデータを使ってLoraやQLoraの手 … 続きを読む

gpt-ossが公開されました

by

OpenAIのChatGPTのオープンソース版が公開されました。 生成AIの言語モデルに関して、オープンソースの定義があったような記憶があるのですが、そこでは確か、「学習コード、ウェイト、データセットがオープンであること … 続きを読む

知識蓄積・共有の研究〜その2 Unslothを使ったファインチューニングの試み

by

昼間は暑くて何もする気になりません。最近は、完全に昼夜逆転した日々を送っています。昨夜から今朝にかけてコンピューターの前に座ってLLMのチューニングを試みていました。朝日が眩しいです。 今回のテーマは「Mistral 7 … 続きを読む

OllamaとOpen WebUIを使ったRAGシステム

by

上の画像はOllamaとOpen WebUIを使ってRAGシステムを実現した様子です。 ベクターデータベース（ナレッジ）にはこのブログのすべての記事からテキストを抽出したデータとモノづくり塾の所在地や私のプロフィールなど … 続きを読む

AIの助けを借りて文章を書き換えてみる

by

前回の投稿「AI時代の失業問題」を生成AIの助けを借りて論文調に書き換えてみました。 正直なところ、私は文章を作るのが下手です。話すのもあまり得意ではありません。なので、この書き換えた文章の良否を判断する能力が足りないと … 続きを読む