生成AIを使った仕事環境を作りましょう

by

モノづくり塾では多様なモノづくりの経験ができるようにしていますが、ほぼ一人で切り盛りしようと思うと、私の能力を超えてしまいます。なので、効率化できる部分は効率化して、どうしても時間のかかる作業はじっくりやるようにしています。

生成AIを積極的に使った方が良い。それが今の正直な思いです。

生成AIは完璧な答えを出してはくれませんから、生成AIが出した答えを検証したり、ネット検索を併用する必要がありますが、例えば提案文などのような「思いつき」や「想像」や「妄想」を取り敢えずの文章にするのは得意です。画像生成AIと組み合わせれば、プレゼンテーションスライドなども速く作れます。プログラムコードの部分的な生成やチェック、文章の校正などにも使えます。知らないことをざっくり理解するときに質問するのも良いでしょう。

AIをアシスタントにすることで、一人ではやれなかったことがやれるようになると確信しています。

ローカルLLMの実力

以下の文章は、手元で動いている20億パラメーターの言語モデルに「予算２０万円程度でRTX 4070ti Superを使ったPCの構成」を提案してもらった時のものです。

了解しました！RTX 4070 Ti Superの性能で、強力なAI学習環境を構築するとのことですね。

具体的な構成案 (予算：20万円)

CPU: AMD Ryzen 7 7700X (高性能なマルチコア処理能力と高速なメモリアクセス)

  • メモリ: 32GB DDR5-5600MHz (高いメモリ容量と速度が重要)
  • ストレージ: 1TB NVMe SSD (高速な読み込み、データ処理を可能にする)

GPU: NVIDIA GeForce RTX 4070 Ti Super

  • ケース: ATXサイズで冷却性能が高いケース (CPUやGPUの熱を抑制)

その他:

  • マザーボード: AMD B650チップセット搭載 (Ryzen 7 と互換性あり)
  • 電源: 850Wの安定供給の電源 (高性能なCPUとGPUに十分な電力を供給)

詳細説明:

  • CPU（Ryzen 7 7700X）: 最新の世代のRyzen 7シリーズで、高性能なマルチコア処理能力と高速なメモリアクセスを実現しています。
  • メモリ（32GB DDR5-5600MHz）: 学習に十分な容量と速度が重要です。
  • ストレージ（1TB NVMe SSD）: 高速な読み込み・書き込みの性能が求められます。AI学習は大量のデータ処理が必要なので、高速なストレージは必須です。
  • GPU（NVIDIA GeForce RTX 4070 Ti Super）: 学習に適した強力なGPUで、高性能な画像処理や深層学習にも対応できます。
  • ケース（ATXサイズ）: CPUとGPUを冷却し、安定した動作を実現します。
  • マザーボード（AMD B650チップセット）: Ryzen 7 と互換性があり、最新の機能を利用できます。
  • 電源（850W）: 高性能なCPUとGPUに十分な電力を供給します。

注意点:

  • RTX 4070 Ti Superの性能を最大限に活用するためには、CPUやストレージも十分な容量と性能が必要です。
  • GPUは最新のモデルを選択すると、価格も高くなります。

追加情報:

  • この構成では、予算内でRTX 4070 Ti Superを搭載することができます。
  • AI学習の内容やデータ規模によって、GPUの性能を調整する必要があります。

この構成案を参考に、ご自身のニーズに合ったPC構築を計画してみてください！

まあまあの答えじゃないでしょうか？

一発でこの回答が得られます。

自分がAIを使わずにPCの構成を考えても、こんな構成を考えそうです。

回答に満足ができなかったら、さらにAIとやり取りすると良い結果が得られることが多いです。

どうやって環境を作るか？

私の例ですが、

  • １３世代Core i5 13500 CPUとNVIDIA RTX A4000の組み合わせの自作PCを用意
  • OSとしてUbuntu（Linux）を使う
  • NVIDIAのドライバーとCudaツールキット、DockerとNVIDIAのコンテナツールキットをインストール
  • 画像生成AIはComfy UIを使う
  • 文章生成AIはOllamaを使う
  • 言語モデルはGemma2やLlama3の2Bや3Bなどのパラメーター数の少ないものを使う
  • プログラミング環境は、VSCodium（VS Code）とNeovimに生成AIを呼び出すプラグインをインストール
  • ターミナルからもコマンドラインから生成AIを呼び出せるようプログラムをインストール（ask-rsを使っています）
  • VPNを使って自宅や外出先からもこのPCにアクセスできるようにする

ということをしています。

AI用のPCは常時起動しているので、消費電力があまり大きくない構成を選んでいます。経済的に余裕のある方はもっと高性能なPCを用意すれば快適に作業できるでしょう。理想を言えば700億パラメーター程度の言語モデルを扱える構成にしたいところです。

私の場合は、横浜と上野原の二拠点生活ですから、VPNを使ったリモート接続は必須ですが、ゲーミングノートPCを使えば同じことができます。自宅だけ、職場だけで運用するというならPCを１台組めば十分です。

このような環境ならば、一気にやれば一日で用意できます。

いずれ複数のGPU搭載サーバーを用意してProxmoxでクラスター化し、塾生と共有できるようにしたいと考えています。今やっている程度のものでよければ、５万円で購入できるJetson Orin Nano Superを複数台用意すればできそうです。

最近はGPUが品薄かつ高性能化したせいで高額なっていますが、思い切って生成AI PCを手に入れると良いと思います。

将来への投資のつもりで、１台AI用PCを組んでみませんか？

コメントする