GPUを使用するJupyter NotebookをDockerでデプロイする
今回はローカルネットワーク上のコンピューターからGPU搭載のコンピューターのJupyter Notebookにアクセスして機械学習の勉強をする環境を構築します。 画像は作業の結果としてJupyter Notebookが動 … 続きを読む
今回はローカルネットワーク上のコンピューターからGPU搭載のコンピューターのJupyter Notebookにアクセスして機械学習の勉強をする環境を構築します。 画像は作業の結果としてJupyter Notebookが動 … 続きを読む
研究と書くと少し大袈裟なので勉強と書いた方が良かったかもしれません。 モノづくり塾オープン時点では立派な設備はありませんが、やれそうなところから始めたいと思っています。 大規模言語モデル(LLM)に関する取り組み RAG … 続きを読む
モノづくり塾で機械学習の学習・研究をするために用意したCPUとGPUです。 CPUはCore i5 13500。 GPUはNVIDIA RTX A4000。 長時間の連続運用をすることを前提に消費電力控えめの選択をしまし … 続きを読む
大したカスタマイズではありませんが、先日紹介したLLMを使ったAIチャットをカスタマイズしてZIKUU版にしました。 出力がストリーミングされない、文脈を忘れるといった問題がありますが、ファインチューニングをすれば結構使 … 続きを読む
以前の投稿でRinna社の36億パラメーターのLLMのファインチューニングを手元のPCで行いました。ネット検索をしてみるとわかりますが、老若男女大勢の人がLLMを動かして研究したり遊んだりしています。 大手AI企業のLL … 続きを読む
大規模言語モデル(LLM)の学習中。 VRAM12GBのGPUでやれる程度のそんなに大きくないやつ。 学習するデータはこんな格好をしたものがズラーと並んだテキストです。 { “output”: & … 続きを読む