GPUの有無による文書生成速度の違い
左はRTX A4000搭載のCore i5 13500でGemma 2 9Bモデルを使用、右はCore i5 13400でGemma2 9Bの4bit量子化モデルを使用。 GPU有りの場合が16秒、GPU無しの場合が1分 … 続きを読む
左はRTX A4000搭載のCore i5 13500でGemma 2 9Bモデルを使用、右はCore i5 13400でGemma2 9Bの4bit量子化モデルを使用。 GPU有りの場合が16秒、GPU無しの場合が1分 … 続きを読む
最近は文章を入力する手間を省く、アイデアをまとめる、調べものをするというときに生成AIを利用することがあります。ChatGPTに代表される商用生成AIの性能は素晴らしいのですが、仕組み的に完璧な文章が生成されるわけではな … 続きを読む
コードレビューはプログラムの添削を行う行為です。 先日書いたNodeJSを使ってDify APIをアクセスする簡単なプログラムを生成AIにコードレビューしてもらいました。使用したLLMはGemma2 9Bです。(2Bでも … 続きを読む
先日投稿した「Dify APIを使ってみる」で紹介したNodeJSを使ったアプリケーションの続きです。 まずは実行中の様子。VS Codium上でThunderClientという拡張機能からHTTPリクエストを送信してい … 続きを読む
先日、3Dプリンターで出力していたテンプレートの型ですが、昨日、塾に来て見たらグチャグチャでした。 昨夜のうちに少し形状を変更して出力し直しました。 型が出来たので、早速アクリル板でテンプレートを作りました。 黒いのが3 … 続きを読む
今日は早めに自宅を出てモノづくり塾まで来ました。台風の影響なのか、道路が空いていて快適なドライブになりました。大船の自宅から上野原のモノづくり塾までは、藤沢、茅ヶ崎、厚木あたりの市街地を抜けてしまえば山道ばかりです。バイ … 続きを読む
もう少し涼しくなったら木製ロードバイクのフレームを作ろうと思っています。上野原のモノづくり塾には試乗車を置いていますが、自分が気軽に乗れるバイクが一台欲しい。また、もしかすると近々マウンテンバイクのフレームを木で作る機会 … 続きを読む
コリメーションリングを作り直し、コリメーション用のアイピースを作ったので、そろそろ真剣にコリメーション(光軸合わせ)をします。 まずはコリメーション用のアイピースを覗いて、副鏡と接眼部の位置合わせです。アイピースの中の十 … 続きを読む
刃物を研ぐにしても、木や金属を加工するにしても、暑くてかないません。ついつい冷房の効いたコンピューター室に逃げ込んでしまいます。とはいえ、そこで無為に過ごすわけにもいきません。 そこで今日も、生成AI遊びです。 過去記事 … 続きを読む