日々の活動

ワイパーの塗装をするなど

by

車のワイパーに錆が出ていたので、錆を落として塗装しました。 新品のようになったワイパー。運転席から錆びたワイパーが見えて気になっていましたが、これで気分が晴れました。 昨日流し込んだコンクリートの上を、夜中に何者かが歩い … 続きを読む

土木作業９日目

by

午前中にセメントと砂を合計550kg買いに行きました。これくらい積んで人が２人乗ると、リアサスペンションはほぼフルボトムです。ゆっくり走って塾に戻りました。 これでガレージの床部分のセメント流し込みは終了で、しばらく土木 … 続きを読む

土木作業８日目

by

７日目は記事にするのを忘れました。 ハイパーパラメーターを調整しながら、自作LLMの学習をいろいろと試しています。学習を開始すると、数時間から数日間、プログラムが走りっぱなしになるので、他の事をする余裕があります。 日付 … 続きを読む

マザーボードのBIOS更新

by

モノづくり塾のAI勉強機のマザーボードBIOSを更新しました。 これは騒動になった13世代14世代Intelプロセッサーが壊れる問題の対策です。Intel社が公表している対象プロセッサーには該当していないCore i5 … 続きを読む

LLMの学習をしていて気づいたこと〜GPUのPCIeインターフェース

by

上の画像は先日小規模なLLMの学習をしている最中のGPUの状態をnvtopコマンドを実行して監視していたときのスクリーンショットです。 パラメーター数１００万程度の小さなLLMですので、GPUの使用率は元々高くなく、VR … 続きを読む

カレーの会

by

モノづくり塾でやりました。今回のメンバーは上野原と奥多摩の中間あたりにある小菅村で林業やマウンテンバイクのトレールコース整備をやっている方々。 昼過ぎからカレーの仕込みを開始し、夕方６時半頃から食べ始めました。 バンドを … 続きを読む

LLMと遊ぶ昼下がり

by

小規模なトランスフォーマーを使った言語モデルを作って遊んで（勉強して）います。 学習を重ねる過程で少しずつ賢くなっていくのを見ているのが面白い。 ローカルでLLMを学習させるのに必要なGPUメモリーがこのページに載ってい … 続きを読む

土木作業６日目

by

整地して踏み固めた後、砂利を敷き金網を借り置きました。 下の写真が作業を始めたときのものです。労力の割にあまり変わり映えしないのが微妙な気分にさせてくれます。 次回はしっかりとした枠を作ってここにコンクリートを流し込みま … 続きを読む