日々の活動
ワイパーの塗装をするなど
車のワイパーに錆が出ていたので、錆を落として塗装しました。 新品のようになったワイパー。運転席から錆びたワイパーが見えて気になっていましたが、これで気分が晴れました。 昨日流し込んだコンクリートの上を、夜中に何者かが歩い … 続きを読む
ローカルLLMのすすめ
プログラミング経験のある方の場合は別のオススメがありますが、非プログラマーの方におすすめしたいのがLM Studioです。GPUを搭載のWindows PCやLinux PC、Appleシリコン搭載のMacで利用できます … 続きを読む
マザーボードのBIOS更新
モノづくり塾のAI勉強機のマザーボードBIOSを更新しました。 これは騒動になった13世代14世代Intelプロセッサーが壊れる問題の対策です。Intel社が公表している対象プロセッサーには該当していないCore i5 … 続きを読む
LLMの学習をしていて気づいたこと〜GPUのPCIeインターフェース
上の画像は先日小規模なLLMの学習をしている最中のGPUの状態をnvtopコマンドを実行して監視していたときのスクリーンショットです。 パラメーター数100万程度の小さなLLMですので、GPUの使用率は元々高くなく、VR … 続きを読む
LLMと遊ぶ昼下がり
小規模なトランスフォーマーを使った言語モデルを作って遊んで(勉強して)います。 学習を重ねる過程で少しずつ賢くなっていくのを見ているのが面白い。 ローカルでLLMを学習させるのに必要なGPUメモリーがこのページに載ってい … 続きを読む