ZIKUU Miniのストレージ層をセットアップする
ストレージ層は、データの原本や処理結果が保存される領域です。 今日はそのインストールとセットアップを実施しました。 標準構成では、 という構成です。 このうちデータの原本を管理するのは、Wiki.js、Nextcloud … 続きを読む
木工旋盤自主トレ – 球を削った
この投稿は「木工旋盤自主トレ – 球を削る」の続きです。 大雑把に球状に削ったワークを向きを変えて旋盤に固定して切削を続けました。旋盤に固定した様子が上の写真です。 ワークを固定するためのパッドを木工旋盤で削 … 続きを読む
木工旋盤自主トレ – 球を削る
完全な球を木工旋盤で削る。 専用の治具を作ろうかとしばらく考えて、治具なしでやれるように練習することにしました。 目で見た形状が本当に球なのかを、削りながら半円の型で当てて確認して進めます。これは認識誤差を校正するのが目 … 続きを読む
Inference Broker – マルチノード対応
塾のGPUサーバーにLLM Runtime Agentを入れて、Inference Brokerのマルチノード対応をやりました。 mini01というノードがミニPCで、gpu01というノードが塾のGPUサーバーです。 そ … 続きを読む
Inference Broker – 画像生成パラメーターへの対応など
少し使いにくかったInference Broker WebのUIを調整してから、画像生成系のテストで生成パラメーターを設定できるようにしました。 そのためにAMDのライブラリやNPUを使う場合の設定を調べるのにだいぶ時間 … 続きを読む
Inference Broker – 推論資源のプラットフォーム化
NPU搭載のPCが加わったことで、これまでのCPU/GPUを使う推論処理以外の選択肢が増えました。 この機会に、これまで開発してきたLLM BrokerとVision Brokerを統合して、推論資源の管理もできる推論プ … 続きを読む
Inference Brokerの開発
これまで文章生成系はLLM Broker、画像処理系はVision Brokerを開発して、ZIKUUのアプリケーションや第三者のアプリケーションを接続していましたが、もう少し柔軟で容易に推論資源を利用できるように、これ … 続きを読む
終わらないことを前提にする – ZIKUUの姿勢
私が常々意識しているのは、何を教えるか、何を作るかという方法論よりも、世界に対してどういう姿勢でいるかという問いである。 わかった気になってはいけない 何かを話すと、話し終わるか終わらないかのタイミングで、「ああ、それね … 続きを読む
LLM Runtime Agentの開発
LLM Runtime Agent は、ZIKUU Mini 上で動作する LLM / AI 推論バックエンドの起動・停止・状態確認を統一的に扱うための小さなホスト常駐サービスを作りました。LLM Brokerの背後で動 … 続きを読む