llama-cpp

用 llama.cpp 本地跑 GGUF 模型推理，配合 HuggingFace Hub 发现模型。适合本地部署大模型、离线推理、隐私敏感场景。

技能 · mlops