小さくて高性能なGranite 4
IBMが開発したGraniteというLLM。パラメーター数350Mから数Bまでの小型のモデルがなかなか高性能です。 ZIKUUでは少し前のバージョンのgranite-visionをVision Playgroundで試し … 続きを読む
Unsloth
知識蓄積・共有の研究〜その2 Unslothを使ったファインチューニングの試み
昼間は暑くて何もする気になりません。最近は、完全に昼夜逆転した日々を送っています。昨夜から今朝にかけてコンピューターの前に座ってLLMのチューニングを試みていました。朝日が眩しいです。 今回のテーマは「Mistral 7 … 続きを読む