llama-cpp
用 llama.cpp 本地跑 GGUF 模型推理，配合 HuggingFace Hub 发现模型。适合本地部署大模型、离线推理、隐私敏感场景。
技能介绍
用 llama.cpp 本地跑 GGUF 模型推理，配合 HuggingFace Hub 发现模型。适合本地部署大模型、离线推理、隐私敏感场景。
适用对象
适合需要mlops能力、并希望先了解条目用途再决定是否安装的技能用户。
资料中明确的能力与使用场景
- cpp 本地跑 GGUF 模型推理，配合 HuggingFace Hub 发现模型
- 适合本地部署大模型、离线推理、隐私敏感场景
- cpp local GGUF inference + HF Hub model discovery
详细说明
llama.cpp local GGUF inference + HF Hub model discovery.
分类与标签
分类：mlops · mlops
相关入口
限制与注意事项
当前条目资料未提供独立的版本兼容性、参数表或完整测试报告；未列出的系统、依赖、权限与功能边界，请以官方入口的 README 和实际环境为准。