AI学習に最適なミニコンピューター

ミニというかマイクロですかね。

上の写真はNVIDIAのJetson Orin Nanoというシングルボードコンピューターです。シングルボードコンピューターといえばRaspberry Piが有名ですが、このJetson Orin NanoはAI処理に重点を置いた製品で、CPU/GPUボードと開発用のキャリアボードのキットです。

価格は44,000円と安価なミニPCを同じくらいです。キットの内容はこの投稿の最後にまとめてあります。

安価なPCに安価なGPUを搭載したくらいの性能で、4ビット量子化した大規模言語モデルであれば、パラメーター数70億くらいまでのものなら文章生成（推論）に使用でき、パラメーター数20億くらいまでのものならモデルのチューニングもできそうです。

先日紹介したスーパーなミニAIコンピューターと比べると随分と性能は低いのですが、入門者のAIの研究用としては適した製品だと思います。

512GB程度のSSD（5,000円くらい）、安価なモニター＋キーボード＋マウスを加えても総額で80,000円くらいに収まります。

80,000円でAIの勉強ができると思えば敷居は高くないですね。外付けGPU付きのPCを組めば、安価な組み合わせでももう少し高くなりそうです。

PCと違うのは汎用IO（GPIO）が使えて、センサーやモーターを接続して、ロボットを動かしたりできます。AI搭載ロボットの研究開発ができるわけです。

また、安価なので複数台購入して、GPUクラスターを作るということがやりやすいです。

OSはUbuntuベースのLinux。

これならば、Linux、AI、プログラミング一般、ロボット開発、クラスターコンピューティングなど、多岐に渡った学習を始められそうですね。これらを学びたいという方は購入を検討してみてはいかがですか？

モノづくり塾の塾生であれば、こういうものを使った学習や実験を一緒にやれますし、初学者向けのアドバイスを受けられます。