local-model-deployment
在本地部署 LLM/多模态模型:环境配置、量化、推理优化。适合本地 AI 实验、离线使用、边缘设备部署。
技能介绍
在本地部署 LLM/多模态模型:环境配置、量化、推理优化。适合本地 AI 实验、离线使用、边缘设备部署。
适用对象
适合需要mlops能力、并希望先了解条目用途再决定是否安装的技能用户。
资料中明确的能力与使用场景
- 在本地部署 LLM/多模态模型:环境配置、量化、推理优化
- 适合本地 AI 实验、离线使用、边缘设备部署
- 在本地部署 LLM/VLM 模型(Ollama),配置 Hermes 使用本地模型做辅助推理(看图、文字兜底),与云端模型配合使用
详细说明
在本地部署 LLM/VLM 模型(Ollama),配置 Hermes 使用本地模型做辅助推理(看图、文字兜底),与云端模型配合使用。
分类与标签
分类:mlops · mlops
相关入口
限制与注意事项
当前条目资料未提供独立的版本兼容性、参数表或完整测试报告;未列出的系统、依赖、权限与功能边界,请以官方入口的 README 和实际环境为准。