Docker

GPUを使用するJupyter NotebookをDockerでデプロイする

by

今回はローカルネットワーク上のコンピューターからGPU搭載のコンピューターのJupyter Notebookにアクセスして機械学習の勉強をする環境を構築します。 画像は作業の結果としてJupyter Notebookが動 … 続きを読む

OllamaとDifyをともにローカルPCで動かす

by

先日、Ollamaを動かした話を投稿しましたが、その続きとしてローカルで動いているOllamaをDifyから使ってみました。 DifyとOllamaはともにDockerで動かしています。 今回はGPU非搭載のノートPCで … 続きを読む

モノづくり塾のサーバーにDifyをインストールする

by

Dify はLLMオーケストレーションを実現するオープンソースのソフトウェアです。自分のPCにインストールして動かすことができます。 RAGを使ってLLMを賢くすることができるので、組織内の知識（文書化されてい … 続きを読む

日本語版コード生成AI用の言語モデル

by

ELYZA社さんがCode Llamaを日本語で追加学習したモデルを公開されたので早速モノづくり塾のサーバーで稼働しているコード生成AIをこれを使ったもので置き換えました。 この分野は動きが速くて、公開が発表されたと思っ … 続きを読む

AIでコード生成するアプリケーションをサーバーにインストール

by

CTransformersとGradioを使ったCode Llamaを動かすアプリケーションをDocker対応しました。モノづくり塾のサーバーで動かしています。 プログラムはこんなに短くて簡単。 Dockerfileはこ … 続きを読む

DockerでLlamaCppPythonがクラッシュしていた問題を解決

by

以前、StreamlitでWeb UIを作りLlamaCppPythonを使って日本語言語モデルで文章生成するプログラムについての投稿をしましたが、モノづくり塾のサーバーで動かすためにDockerizeした際に原因不明の … 続きを読む

今日の文書化〜StreamlitアプリをDockerizeするチュートリアル

by

モノづくり塾の資料館に新たな文書を登録しました。「Streamlitで開発したアプリケーションをDockerizeして配布する」という内容のものです。プロジェクトのソースコードは塾のGitLabに登録しておきました。 小 … 続きを読む

動画ストリーミングサーバーの実装

by

モノづくり塾のITテーマの一つです。教材なのでプログラムはなるべくシンプルに書いています。サーバー側はNodeJS、クライアント側はReactを使っています。 動画を送信するバックエンドのサーバーと動画を再生するフロント … 続きを読む