画像生成AI Stable DiffusionをDockerで動かす
モノづくり塾のサーバーは現時点ではGPUを搭載していません。文書生成AIについてはLlama-cppを使ってCPUのみで推論できるようにしていますが、画像生成AIもCPUのみで動かせると思い調べたら良いのが見つかりました … 続きを読む
モノづくり塾のサーバーは現時点ではGPUを搭載していません。文書生成AIについてはLlama-cppを使ってCPUのみで推論できるようにしていますが、画像生成AIもCPUのみで動かせると思い調べたら良いのが見つかりました … 続きを読む
ELYZA社さんがCode Llamaを日本語で追加学習したモデルを公開されたので早速モノづくり塾のサーバーで稼働しているコード生成AIをこれを使ったもので置き換えました。 この分野は動きが速くて、公開が発表されたと思っ … 続きを読む
CTransformersとGradioを使ったCode Llamaを動かすアプリケーションをDocker対応しました。モノづくり塾のサーバーで動かしています。 プログラムはこんなに短くて簡単。 Dockerfileはこ … 続きを読む
以前、StreamlitでWeb UIを作りLlamaCppPythonを使って日本語言語モデルで文章生成するプログラムについての投稿をしましたが、モノづくり塾のサーバーで動かすためにDockerizeした際に原因不明の … 続きを読む
モノづくり塾の資料館に新たな文書を登録しました。「Streamlitで開発したアプリケーションをDockerizeして配布する」という内容のものです。プロジェクトのソースコードは塾のGitLabに登録しておきました。 小 … 続きを読む
モノづくり塾のITテーマの一つです。教材なのでプログラムはなるべくシンプルに書いています。サーバー側はNodeJS、クライアント側はReactを使っています。 動画を送信するバックエンドのサーバーと動画を再生するフロント … 続きを読む
多めにメモリを積んでファイルサーバー兼アプリケーションサーバーとして一台PCを組もうと思案中です。 OSはDebianベースのOpen Media Vaultとして、大容量のHDDを冗長構成にして耐障害性を持つようにする … 続きを読む