← 返回技能 & 工具

local-model-deployment

在本地部署 LLM/多模态模型:环境配置、量化、推理优化。适合本地 AI 实验、离线使用、边缘设备部署。

AI 技能 · mlops

技能介绍

在本地部署 LLM/多模态模型:环境配置、量化、推理优化。适合本地 AI 实验、离线使用、边缘设备部署。

适用对象

适合需要mlops能力、并希望先了解条目用途再决定是否安装的技能用户。

资料中明确的能力与使用场景

  • 在本地部署 LLM/多模态模型:环境配置、量化、推理优化
  • 适合本地 AI 实验、离线使用、边缘设备部署
  • 在本地部署 LLM/VLM 模型(Ollama),配置 Hermes 使用本地模型做辅助推理(看图、文字兜底),与云端模型配合使用

详细说明

在本地部署 LLM/VLM 模型(Ollama),配置 Hermes 使用本地模型做辅助推理(看图、文字兜底),与云端模型配合使用。

分类与标签

分类:mlops · mlops

相关入口

查看官方项目或原始入口 ↗

限制与注意事项

当前条目资料未提供独立的版本兼容性、参数表或完整测试报告;未列出的系统、依赖、权限与功能边界,请以官方入口的 README 和实际环境为准。

相关技能与分类