モノづくり塾ZIKUUのような小さな施設では、AI研究だけに大きな予算を割くことはできませんが、このご時世では、あまり呑気にしてはいられません。つい最近までは、物置作りとCNCルーター製作の優先順位が高かったのですが、これを修正する必要があるかもしれません。すぐには整備できないと思いますが、予算を捻出しながら少しずつ進めます。
当面の目標は、自習・学習・研究・実運用の4段階構成を整備することとします。
自習機
AIの学習や研究を希望する塾生には、自習用のPCの自作を提案します。このPCはAI勉強の初級者向けという位置づけで、低予算で入手できる構成とします。予算に余裕があれば各自アップグレードする形が良いと思います。予算としてはモニター・キーボード・マウス抜きで10万円程度を考えています。これでも中高生くらいの子には大きな出費かもしれませんが、やる気のあるなら頑張ってみて欲しいですし、お金がない子は塾のPCを好きなだけ触ってください。
ある程度自習機で開発や実験を行ったら、ファインチューニングなどの重いタスクを共用機で実行できるようにします。
共用機
塾スタッフと塾生が使用する共用GPUサーバーを増設し、同時に２人がサーバーのGPUを使えるようにします。当初は13Bくらいのモデルのファインチューニングができれば良いと考えています。
- CPU：Ryzen 9クラス
- メモリ：128 GB
- GPU：RTX 3090（24 GB VRAM）とRTX 5060 Ti（16 GB VRAM）を搭載
3090はモデルの学習やファインチューニングに、5060 TiはAIエージェントの開発などに使用することを想定します。
このマシンはProxmoxで2つのLinuxインスタンスを立ち上げ、一方を3090、もう一方を5060 Tiに割り当てる設定にします。
共用機はGoogle Calendarなどで使用する時間帯を予約する運用にします。
VPN接続環境を整え、自宅からこのGPUサーバーと2つのLinuxインスタンス、塾のファイルサーバーを利用できるようにします。
研究機
塾スタッフ用というか、主に私用には、現行のCore i5‑13500とRTX A4000搭載のPCを研究用として継続使用し、いずれGPUをVRAMの大きいものにアップグレードします。
実用機
現在、アプリケーションサーバーとして使用しているPCには、省電力タイプのGPUを追加し、塾内のAIサービス（DiscordボットやAIワークフロー）を稼働させます。ここでは高いGPU性能は求めません。
共用機や研究機のGPUをアップグレードするときは、古いGPUをお下がりとして塾生に安価で譲れるようにしたいと考えています。
AIの勉強をしたい方、この環境作りを支援しても良いという方。是非、塾にいらしてください。
関連記事：
「AI学習環境の整備構想」への1件のフィードバック