GPUを使用するJupyter NotebookをDockerでデプロイする

今回はローカルネットワーク上のコンピューターからGPU搭載のコンピューターのJupyter Notebookにアクセスして機械学習の勉強をする環境を構築します。 画像は作業の結果としてJupyter Notebookが動 … 続きを読む

PCが完全復活

朝早く組み直し作業をして完全復活したAI学習用のPCです。 結局、CPUとメモリーを交換した際に走ったBIOS再設定プログラムによりセキュアブートが有効に設定されたのが原因でNVIDIAのRTX A4000が正常に認識さ … 続きを読む

モノづくり塾でやりたいと思っているAIの研究

研究と書くと少し大袈裟なので勉強と書いた方が良かったかもしれません。 モノづくり塾オープン時点では立派な設備はありませんが、やれそうなところから始めたいと思っています。 大規模言語モデル(LLM)に関する取り組み RAG … 続きを読む

AIチャットのカスタマイズ

大したカスタマイズではありませんが、先日紹介したLLMを使ったAIチャットをカスタマイズしてZIKUU版にしました。 出力がストリーミングされない、文脈を忘れるといった問題がありますが、ファインチューニングをすれば結構使 … 続きを読む

大規模言語モデル(LLM)をモノづくり塾で扱う

以前の投稿でRinna社の36億パラメーターのLLMのファインチューニングを手元のPCで行いました。ネット検索をしてみるとわかりますが、老若男女大勢の人がLLMを動かして研究したり遊んだりしています。 大手AI企業のLL … 続きを読む

エッジAI

センサーで取得したデータをAIで処理するのがエッジAI。膨大な数の末端電子機器のデータを毎回サーバーで処理するとネットワークやサーバーの負荷が増えてしまうので、末端電子機器とサーバーとで処理を分担します。 たまたま買って … 続きを読む