开发入门已解决
Ollama 和 llama.cpp 是什么关系?
一个是引擎、一个是易用外壳,本地大模型工具链的角色分工。
问题正文
分工
llama.cpp 是推理引擎:负责加载 GGUF 模型、执行计算。Ollama 在它之上做了易用性封装:一键下载模型、后台服务、统一 API。
怎么选
想快速体验和日常使用选 Ollama。需要精细控制(自定义参数、嵌入式设备、极致性能)直接用 llama.cpp。两者可以共存。
生态位
类似的还有 LM Studio(图形界面)、vLLM(生产级服务)等。工具链已经非常成熟,选顺手的即可。
