GPUを効率よく使うために作ったLLM BrokerとVision Brokerに対応するために、Vibe Playgroundを改修しました。
Vibe Playgroundについては、Vibeモデル および Vibe Playground 技術白書を読んでください。
Vibe Playgroundは、人の密度、音の種類、音の大きさ、人の出入り、空気のトーンといった空間の状態から数学的なVibeモデルを作り、そのモデルをLLMによってプロンプトに変換し、画像生成モデルによって画像を生成するという実験的アプリケーションです。

内部では、
Vibeモデル生成 → gpt-ossでプロンプト生成(LLM Broker経由) → Stable Diffusionで画像生成(Vision Broker経由)
というパイプラインが走ります。
小さなモデルを使ったので、VRAM使用量は3GB程度。

1枚の画像を生成するのに、10秒くらいかかっています。
「Vibe PlaygroundをLLM Broker/Vision Broker対応にする」への1件のフィードバック