AI – ページ 15 – 塾長の独り言

Rustformersはいまひとつ

2023年11月5日 by kazuo.tsubaki

前の投稿で触れたRustformersを使って生成AIサーバーを動かす実験をしました。これはRustで書かれたTransformerのライブラリです。 Rustformersは現時点では量子化されたモデルに対応していない … 続きを読む

2023年11月4日 by kazuo.tsubaki

モノづくり塾でAIの学習をするために、ある程度は学習者の敷居を下げたいと思います。塾に学習用のコンピューターを置きますが、これだって高価なGPUを搭載するわけにもいかず制限があります。塾のサーバーにもGPUを載せようと … 続きを読む

2023年10月28日 by kazuo.tsubaki

Meta (Facebook)のAudiocraftです。入力したテキストからイメージする音楽や効果音を生成するAIです。使用するのは簡単でFacebookのGitHubリポジトリに書かれている手順に従えば良いです。 … 続きを読む

2023年10月26日 by kazuo.tsubaki

２つの大規模言語モデル、ChatGPT（無料版）とELYZA（手持ちのPCで動かしている自作プログラム）に同じ質問を投げてみた結果です。ELYZAが結構健闘しているように思います。質問: 文章生成AIを自作するには何を … 続きを読む

2023年10月23日 by kazuo.tsubaki

日本のLLM勉強会というところが研究用オープンソースとして公開したLLM-jpという言語モデルを早速試してみました。 130億パラメーターのモデルは結構大きくて、モデルファイルだけでも25GBほどをダウンロードします。 … 続きを読む

2023年10月19日 by kazuo.tsubaki

先日はGPUを使う文書生成AIのチャットボットを作ってみましたが、今度はGPUを使わないCPUのみで文書を生成するプログラムのサンプルを書きました。遊びのレベルですが勉強にもなります。 LlamaCppというCとC++で … 続きを読む

2023年10月15日 by kazuo.tsubaki

研究や勉強は遊びだと思ってやるのが楽しい！実際に研究をやっている人は楽しいはずですから、遊びだと思わなくても楽しいでしょう。生成AI遊びです。 ELYZAの70億パラメータの言語モデルをGradioでチャットボットを … 続きを読む

2023年10月10日 by kazuo.tsubaki

これから生成AIを勉強したい方は次のようなPCを自作すると良いでしょう。 CPU CPUはIntel Core i5以上のもの。後々のことを考えるとなるべく最新モデルを選択しましょう。モノづくり塾のPCはCore i5 … 続きを読む

2023年10月5日 by kazuo.tsubaki

試験的に色々と試しています。現在までに、言語モデルを動かす環境をDockerで作る仕組みの文書化（ZIKUUのGitHubリポジトリに登録済み）、小さな言語モデルをファインチューニングする環境の構築、画像生成AIである … 続きを読む

2023年9月16日 by kazuo.tsubaki

大したカスタマイズではありませんが、先日紹介したLLMを使ったAIチャットをカスタマイズしてZIKUU版にしました。出力がストリーミングされない、文脈を忘れるといった問題がありますが、ファインチューニングをすれば結構使 … 続きを読む