Discord用の調査ボット

新年最初のプロジェクトです。
寝正月からの復帰のため、軽めのプロジェクトです。
Tavily検索サービスとローカルLLMを使った調査用のボットを作りました。

所定のチャンネルで質問を入力すると、Web検索->Discord新スレッド作成->LLMによる文章生成をやってくれるボットです。

スレッド内で追加質問ができるので、ChatGPTと対話しているような感じで使えます。

Discordスレッドの扱いと、プロンプトチューニングが技術的な鍵かな。

検索結果を、一旦、中間形式に変換して、LLMが理解しやすい構造にしてから、チューニングしたシステムプロンプトを設定してOllama (gpt-oss)に文書生成させています。

gpt-ossに検索させる手もありますが、検索エンジンを使った方が、検索が安定します。

その辺は好みで、アプローチを選択すればいいと思います。