ローカルLLMのすすめ
プログラミング経験のある方の場合は別のオススメがありますが、非プログラマーの方におすすめしたいのがLM Studioです。GPUを搭載のWindows PCやLinux PC、Appleシリコン搭載のMacで利用できます … 続きを読む
自作PC
LLMの学習をしていて気づいたこと〜GPUのPCIeインターフェース
上の画像は先日小規模なLLMの学習をしている最中のGPUの状態をnvtopコマンドを実行して監視していたときのスクリーンショットです。 パラメーター数１００万程度の小さなLLMですので、GPUの使用率は元々高くなく、VR … 続きを読む
自作PCワークショップ
今日はモノづくり塾で自作PCワークショップをやりました。 AMD Ryzen 5とGeForce RTX 4070の繰り合わせでPCを組み、Linuxをインストールしてから、オープンソースの生成AI実行環境をインストール … 続きを読む
生成AIを勉強したい方へ
これから生成AIを勉強したい方は次のようなPCを自作すると良いでしょう。 CPU CPUはIntel Core i5以上のもの。後々のことを考えるとなるべく最新モデルを選択しましょう。モノづくり塾のPCはCore i5 … 続きを読む