ollama推理怎么那么慢

ollama不就是一个逃课的llama.cpp嘛 为啥跑起来那么慢 在我机器下原生llama.cpp能比ollama快大概20-50%的样子 1 个帖子 - 1 位参与者 阅读完整话题...
ollama推理怎么那么慢
ollama推理怎么那么慢

ollama不就是一个逃课的llama.cpp嘛 为啥跑起来那么:bili_007: 在我机器下原生llama.cpp能比ollama快大概20-50%的样子 :bili_007:

1 个帖子 - 1 位参与者

阅读完整话题

来源: linux.do查看原文