余暇のプログラミング – Inference Brokerの用途を広げてみる
月曜日は休養日に当てているんですが、どうもじっとしていられない。 現在、ZIKUU Mini検証機で稼働している Inference Brokerはいくつものバックエンドを利用できるようになっています。 Miniの上だけ … 続きを読む
月曜日は休養日に当てているんですが、どうもじっとしていられない。 現在、ZIKUU Mini検証機で稼働している Inference Brokerはいくつものバックエンドを利用できるようになっています。 Miniの上だけ … 続きを読む
3年程前に、初めてLLMのファインチューニングをやってみた。 当時は「知識をモデルに埋め込む」という発想だったが、実際にやると、 という世界だから、 資本力と人数の勝負だな という感覚だった。 塾の建設、金策、設備の調達 … 続きを読む
コアサービス系のAPIカタログのまとめが終わりました。 これらがZIKUUフルシステムとZIKUU Miniの両方で稼働するサービスで、LLMの推論処理を支えます。 何をカタログに載せるかは私が考え、資料のまとめに生成A … 続きを読む
ZIKUUシステムで稼働するサーバーが20個くらいになり、APIも増えてきました。新しい開発や機能の修正を行うたびに、「あのサービスのAPIは・・・・」とプロジェクトの中を見るのは大変です。 API Catalogという … 続きを読む
カンチレバー方式なので、レーザーモジュールを載せたバーの先頭の方が下がるという問題がありました。 これが原因で、大きな絵を彫刻すると、手前を奥でレーザーの焦点がズレる。 この問題を解消するために、カンチレバーの先にキャス … 続きを読む
ZIKUUのフルシステムは、ファイルサーバーのRAIDディスクと外付けハードディスクの2段構えで、定期的にデータの自動バックアップを取っていますが、Linuxの管理に精通しない人の利用を考えると、データのバックアップは手 … 続きを読む
一昨日、深夜に再起動時にサーバーが止まり、夜中の3時に慌てて自宅から上野原まで車を走らせ、サーバーを復旧させてからすぐに帰宅するという強行軍をやりました。そのせいで、昼夜逆転してしまい疲労も溜まっています。 そんな状態で … 続きを読む
すでにCPS (Context Pipeline Server)は導入済みなので、それを表示するUIをAdmin Dashboardに追加しました。 添付したスクリーンショットは、テストのためにフルシステムのCPSの内容 … 続きを読む
ブラウズする対象を選択できるように、ウィンドウの左にObject Selectorを追加しました。 1と3だけなら一般的なものですが、2と4はZIKUU特有のものです。 現時点での完成形のイメージがこれです。 Linux … 続きを読む