いつでもどこで文書生成AI
やりたいと思うことをネットで探すと誰かが既にやっているということが多いです。 ZIKUUではアプリケーションサーバー(Core i5 13400搭載、外部GPU非搭載)でDockerを活用し、Ollamaを動作させていま … 続きを読む
やりたいと思うことをネットで探すと誰かが既にやっているということが多いです。 ZIKUUではアプリケーションサーバー(Core i5 13400搭載、外部GPU非搭載)でDockerを活用し、Ollamaを動作させていま … 続きを読む
TauriはRustのフレームワークでWeb、デスクトップ、モバイル端末で動くアプリケーションを開発できます。 フロントエンドにはJavaScriptやTypeScriptをベースとしたNext.jsなどのフレームワーク … 続きを読む
モノづくり塾には何台かのサーバーが稼働していますが、GUIの無いサーバー上でファイル編集作業をするのにNeovimを使っています。 Neovimは多くのプラグインがあって、それらを使うとGUIを持ったVSCodeなどのI … 続きを読む
たまたま見つけたオープンソースのソフトウエアで、コマンドラインからOllamaにアクセスして文書生成を行うプログラムです。 Ask-Ollama Rustで書かれたプログラムで、RustがインストールされたPCで使用でき … 続きを読む
前の投稿で触れたRustformersを使って生成AIサーバーを動かす実験をしました。これはRustで書かれたTransformerのライブラリです。 Rustformersは現時点では量子化されたモデルに対応していない … 続きを読む
モノづくり塾でAIの学習をするために、ある程度は学習者の敷居を下げたいと思います。 塾に学習用のコンピューターを置きますが、これだって高価なGPUを搭載するわけにもいかず制限があります。塾のサーバーにもGPUを載せようと … 続きを読む