LLM Runtime Agentの開発
LLM Runtime Agent は、ZIKUU Mini 上で動作する LLM / AI 推論バックエンドの起動・停止・状態確認を統一的に扱うための小さなホスト常駐サービスを作りました。LLM Brokerの背後で動 … 続きを読む
LLM Runtime Agent は、ZIKUU Mini 上で動作する LLM / AI 推論バックエンドの起動・停止・状態確認を統一的に扱うための小さなホスト常駐サービスを作りました。LLM Brokerの背後で動 … 続きを読む
今日はZIKUU Miniに採用予定のRyzen AI 300シリーズに載っているNPUが実用的な推論資源としてどこまで使えるかを検証しました。 対象は、 検証に使ったAMDのソフトウェアは、Ryzen AI Softw … 続きを読む
前回のWordpressに続き、Discordメッセージと内部資料(ZDL)を意味空間(Pivot)に投影できるようになりました。 ZIKUUの場合は、 を日々ここに蓄積しますが、これが企業なら、 研究室なら、 を読み込 … 続きを読む
人は心を病むことがある。私は、そういうのは、ほぼ頭でっかちが原因だと思っている。 実際に手仕事などに没頭すると、心の病が消えるのを何度か見てきた。 知は脳だけに宿るものではない。手にも宿る。 これをZIKUUでは身体知と … 続きを読む
MinisforumのAI X1 Proを手に入れました。64GB RAM/1TB SSDのモデルです。これをZIKUU mini実証機として弄り回していきます。 Ubuntu 24.04をインストールして、基本的なソフ … 続きを読む
CPS (Context Pipeline Server)に蓄積されたブログの文脈束を、Pivot Serviceが持つ意味空間に投影する機能をFact Builderに追加しました。 これがCPSに保存されている文脈束 … 続きを読む
LLM BrokerにObisidianのLocal LLM Helperというプラグインを使って接続してみました。 設定項目は だけです。 これはRAG Chatを実行した様子。 残念ながら、LLM BrokerのOp … 続きを読む
上の図は、現時点でのZIKUUのコンピューターネットワークです。 Tailscaleメッシュに参加したコンピューター群によって構成されていて、VPN経由でThinLinc、ssh、http、ftpを利用できる環境になって … 続きを読む
OpenAI API互換になっているLLM Brokerにfreecad-aiというFreeCADの拡張機能をつなぎました。 freecad-aiのGitHubの説明に従ってインストールをします。 インストールすると、 … 続きを読む