Vibe PlaygroundをLLM Broker/Vision Broker対応にする

GPUを効率よく使うために作ったLLM BrokerVision Brokerに対応するために、Vibe Playgroundを改修しました。

Vibe Playgroundについては、Vibeモデル および Vibe Playground 技術白書を読んでください。

Vibe Playgroundは、人の密度、音の種類、音の大きさ、人の出入り、空気のトーンといった空間の状態から数学的なVibeモデルを作り、そのモデルをLLMによってプロンプトに変換し、画像生成モデルによって画像を生成するという実験的アプリケーションです。

内部では、

Vibeモデル生成 → gpt-ossでプロンプト生成(LLM Broker経由) → Stable Diffusionで画像生成(Vision Broker経由)

というパイプラインが走ります。

小さなモデルを使ったので、VRAM使用量は3GB程度。

1枚の画像を生成するのに、10秒くらいかかっています。

「Vibe PlaygroundをLLM Broker/Vision Broker対応にする」への1件のフィードバック

コメントする