ZIKUUのLLMへの取り組み
モノづくり塾『ZIKUU』ではAI活用に必要な知識や技術を身につけるために小規模ではあるもののAI学習用のPCを用意します。限られた計算資源ですが時間や費用を気にせずに好きなだけ勉強できます。 すぐに思い付くものでLLM … 続きを読む
モノづくり塾『ZIKUU』ではAI活用に必要な知識や技術を身につけるために小規模ではあるもののAI学習用のPCを用意します。限られた計算資源ですが時間や費用を気にせずに好きなだけ勉強できます。 すぐに思い付くものでLLM … 続きを読む
人間以外の生き物は感覚世界で生きていると考えています。自然は感覚世界であり無二の世界です。対して論理世界は抽象化が行われる世界。 別の言い方をすると、感覚世界は「思うようにならない世界」で論理世界は「思うようになる世界」 … 続きを読む
研究と書くと少し大袈裟なので勉強と書いた方が良かったかもしれません。 モノづくり塾オープン時点では立派な設備はありませんが、やれそうなところから始めたいと思っています。 大規模言語モデル(LLM)に関する取り組み RAG … 続きを読む
モノづくり塾のサーバーは現時点ではGPUを搭載していません。文書生成AIについてはLlama-cppを使ってCPUのみで推論できるようにしていますが、画像生成AIもCPUのみで動かせると思い調べたら良いのが見つかりました … 続きを読む
NVIDIA RTX A4000の動作確認をしたくて、Stable DiffusionのWeb UIとtext-generation-webuiをインストールし、いくつかのモデルをダウンロードして動かしてみました。 ハイ … 続きを読む
機材がすべて揃ったので組み立て、ソフトウェアのインストール等を行いました。 モノづくり塾では3D CADやソフトウェア開発もモノづくりの一部として学習テーマにしています。過去から未来にかけて、伝統工芸からハイテクまでバラ … 続きを読む
モノづくり塾で機械学習の学習・研究をするために用意したCPUとGPUです。 CPUはCore i5 13500。 GPUはNVIDIA RTX A4000。 長時間の連続運用をすることを前提に消費電力控えめの選択をしまし … 続きを読む
モノづくり塾のサーバーで稼働しているCode Llamaベースのコード生成AIアプリケーションを動かした様子を動画にしました。 動画の内容は、 塾のダッシュボードからコード生成AIアプリケーションを開く コード生成を依頼 … 続きを読む
ELYZA社さんがCode Llamaを日本語で追加学習したモデルを公開されたので早速モノづくり塾のサーバーで稼働しているコード生成AIをこれを使ったもので置き換えました。 この分野は動きが速くて、公開が発表されたと思っ … 続きを読む
CTransformersとGradioを使ったCode Llamaを動かすアプリケーションをDocker対応しました。モノづくり塾のサーバーで動かしています。 プログラムはこんなに短くて簡単。 Dockerfileはこ … 続きを読む