GPUを使わない生成AIの続き

前の投稿は生成された文章をコンソールにストリーミング出力するものでしたがStreamlitを使ったWeb UIを作ってみました。

CallbackHandlerというクラスを使ってやればできるということがわかって良かった。

Web UIにアクセスした様子です。