Llama3 70bをローカルで動かしてみる
モノづくり塾のGPU搭載PCで試しました。 PCのスペックはCPU Core i5 13500、RAM 64GB、GPU RTX A4000です。OSはUbuntu 22.04 LTS。 塾生がAIの勉強ができるようにと … 続きを読む
Llama3
OllamaとDifyをともにローカルPCで動かす
先日、Ollamaを動かした話を投稿しましたが、その続きとしてローカルで動いているOllamaをDifyから使ってみました。 DifyとOllamaはともにDockerで動かしています。 今回はGPU非搭載のノートPCで … 続きを読む