← 返回技能 & 工具

local-llm-deployment

本地部署大模型指南:用 Ollama 或 llama.cpp 在 Windows 上跑 Qwen 等模型。适合想在自己电脑上跑模型、不依赖云 API、隐私需求高的用户。

AI 技能 · mlops

技能介绍

本地部署大模型指南:用 Ollama 或 llama.cpp 在 Windows 上跑 Qwen 等模型。适合想在自己电脑上跑模型、不依赖云 API、隐私需求高的用户。

适用对象

适合需要mlops能力、并希望先了解条目用途再决定是否安装的技能用户。

资料中明确的能力与使用场景

  • 本地部署大模型指南:用 Ollama 或 llama
  • cpp 在 Windows 上跑 Qwen 等模型
  • 适合想在自己电脑上跑模型、不依赖云 API、隐私需求高的用户

详细说明

本地大模型部署 — 用 Ollama 或 llama.cpp 在 Windows 上部署本地模型(Qwen3.5:9b/Qwen3.6-35B-A3B 等),配置 Hermes 辅助视觉识别。聊天用云端模型,看图自动调本地模型。

分类与标签

分类:mlops · mlops

相关入口

查看官方项目或原始入口 ↗

限制与注意事项

当前条目资料未提供独立的版本兼容性、参数表或完整测试报告;未列出的系统、依赖、权限与功能边界,请以官方入口的 README 和实际环境为准。

相关技能与分类