プログラミング経験のある方の場合は別のオススメがありますが、非プログラマーの方におすすめしたいのがLM Studioです。GPUを搭載のWindows PCやLinux PC、Appleシリコン搭載のMacで利用できます。以前、OllamaやDifyを紹介しましたが手軽さという点ではLM Studioが頭一つ抜けているように思います。
量子化した大規模言語モデルを使用するのでGPUを搭載しないPCでも利用できますが、安価なものでも良いのでGPUは欲しいところです。小さな言語モデル（Llama 3.2 1BやGemma 2 2Bなど）ならGPUなしでも、まあまあ使えると思います。
インストールは簡単でLM Studioのサイトからアプリケーションをダウンロードするだけです。特殊な設定をしなくてもすぐに使えます。
モノづくり塾では第13世代Core i5とRTX 3060やRTX A4000などのGPUを搭載したPCや同CPUのGPU非搭載PCで動かしていますが、どれも快適に使用できています。
最新のAppleシリコンM4シリーズなどを使えばかなり気持ちよく動くと思いますし、10万円程で組める安価なPCも良い選択です。例えば、この購入リストの構成の部品なら11万円ほどです。このくらいの構成ならプログラミング学習やPCゲーム遊びにも使えます。モノづくり塾では、PCの自作、Linuxなどのオープンソースの利用を推奨しています。ご興味のある方は自作してみてください。ワークショップを開いて技術サポートもしますのでご相談ください。