跳到正文

llama.cpp

跑 GGUF 模型的 C/C++ 推理引擎。大部分本地工具都建在它上面。

开源被 3 条记录使用

用它做的记录

3

常一起用