大したカスタマイズではありませんが、先日紹介したLLMを使ったAIチャットをカスタマイズしてZIKUU版にしました。
出力がストリーミングされない、文脈を忘れるといった問題がありますが、ファインチューニングをすれば結構使えそうな気がします。
ELYZA社がMeta社のLlama2を日本語を上手く生成できるように追加で学習したモデルを使ったチャットアプリです。このモデルをさらにチューニングする方法を調べます。
このモデルはパラメーター数70億とChatGPTなどに比べると桁違いに小さいのですが、割と自然な文章を出力してくれるように思います。この規模のものなら大きなGPUを何枚も挿した巨大システムでなくてもチューニングはできるのではないかと思います。
ZIKUUでAIを学んだ人は、AIの仕組みが理解できて、このようなモデルのチューニングができるという技能を身につけることになります。そのような人材は企業や自治体などへのAI導入を支援する仕事ができるようになると思います。ZIKUUでは基礎もしっかり勉強できるようにするので付け焼き刃ではない知識の持ち主になれるはずです。