AI
GPUを使わないAI遊び
先日はGPUを使う文書生成AIのチャットボットを作ってみましたが、今度はGPUを使わないCPUのみで文書を生成するプログラムのサンプルを書きました。遊びのレベルですが勉強にもなります。 LlamaCppというCとC++で … 続きを読む
生成AIを勉強したい方へ
これから生成AIを勉強したい方は次のようなPCを自作すると良いでしょう。 CPU CPUはIntel Core i5以上のもの。後々のことを考えるとなるべく最新モデルを選択しましょう。モノづくり塾のPCはCore i5 … 続きを読む
生成AIを動かす環境構築
試験的に色々と試しています。 現在までに、言語モデルを動かす環境をDockerで作る仕組みの文書化（ZIKUUのGitHubリポジトリに登録済み）、小さな言語モデルをファインチューニングする環境の構築、画像生成AIである … 続きを読む
AIチャットのカスタマイズ
大したカスタマイズではありませんが、先日紹介したLLMを使ったAIチャットをカスタマイズしてZIKUU版にしました。 出力がストリーミングされない、文脈を忘れるといった問題がありますが、ファインチューニングをすれば結構使 … 続きを読む
大規模言語モデル（LLM）をモノづくり塾で扱う
以前の投稿でRinna社の36億パラメーターのLLMのファインチューニングを手元のPCで行いました。ネット検索をしてみるとわかりますが、老若男女大勢の人がLLMを動かして研究したり遊んだりしています。 大手AI企業のLL … 続きを読む