最近は文章を入力する手間を省く、アイデアをまとめる、調べものをするというときに生成AIを利用することがあります。ChatGPTに代表される商用生成AIの性能は素晴らしいのですが、仕組み的に完璧な文章が生成されるわけではないので、生成されたものをそのまま使うことはなく、文章を手直ししてます。そういう使い方だと、高性能な商用生成AIのモデルではなくローカルで動く小規模なモデルでも問題なく使えるというのが実感ですし、道具を使っている感はその方が強いと思います。
モノづくり塾のサーバーで試験的にOllama、Dify、手作りの生成AIサーバーを動かしていますが、VPNを使ってリモートアクセスして文章作成をします。これがなかなか便利なのです。
これはスマートフォンのWebブラウザから塾のサーバーで稼働するDifyにアクセスしている様子です。
RAGやWeb検索を使ったものではないので、最新の情報は得られませんが、最新にこだわらなければそこそこ役に立つ情報を得ることができます。実際は、生成された文書はネット検索をして真偽を確かめないといけませんが、ネット検索をして情報をまとめるよりは、文章としてまとめられたものを元にネット検索をした方が仕事が速いことがあります。