研究と書くと少し大袈裟なので勉強と書いた方が良かったかもしれません。
モノづくり塾オープン時点では立派な設備はありませんが、やれそうなところから始めたいと思っています。
大規模言語モデル（LLM）に関する取り組み
RAG（Retrieval Augmented Generation）、量子化（Quantization）などの手法を使ってシステム構築をしたい。例えば、
- 私のブログ記事からREST APIを使って文章を取得してデータベース化する
- データベースの文章をベクターデータベースに変換する
- RAGを使ってブログ記事をプロンプトに追加して文書生成をする
- LLMは小さなGPUのVRAMでも動くように量子化により小型化する
- 必要に応じてファインチューニングを行い生成文の表現を調整する
- 高速化するためにCTranslate2を使う
1と2をcronなどで定期的に処理するようにしておけば、常時最新のデータを使って推論ができることになります。
これらに習熟しながら生成AIを実業務に適用する道筋を探していく。
画像認識や物体検知に関する取り組み
エッジAIの分野です。シングルボードコンピューターやマイコンを用いたシステム開発の研究です。適用分野は多岐に渡るので学習テーマは限りなく用意できるでしょう。
TransformerやDiffusionモデルなどを自作する
論文はあるし実装例もたくさんあるので、それらを参考にスクラッチからモデルの学習・推論システムを作る。モノづくり塾では「使うものを知るには作るのが大事」という考え方で様々なモノづくりに挑戦していきます。AIに関しても同じアプローチを取ります。
これらを面白おかしく実践できるように配慮するのが塾長である私の役目です。
なんでこんなことを？
私はAIが夢のような技術だとは思っていませんが、短期的には多くの人がAIに膨大な資源を投入していくと思っています。そんな流れに押し流されもせず置いてきぼりにもならないという位置に若者たちがいられるようにしたいのです。また、これらをしっかり学んで理解した若者が地域の企業や自治体の問題解決の場に参加できるようにもしたい。モノづくり塾ではモノづくりに挑戦できる環境であることを重視した運営をしますが、自分の経験を活かしてDXやICTに関するコンサルティングサービスも提供できると考えています。その延長線上で塾生たちの起業や就職の後押しができれば良いと考えています。