01操作系统支持情况
官方支持 Linux / macOS / Windows 三平台,但完整度有差异。
Linux
★ 首选平台
- ✓ 预编译 wheel 直接
pip install
- ✓ Ubuntu 20.04+ / CentOS 兼容(glibc 2.31)
- ✓ v0.2.6 起支持 ARM(鲲鹏 KRL 优化)
- ✓ 官方部署文档以 Linux 为准
- ✓ Docker / Kubernetes 镜像就绪
macOS
○ 可用
- ✓ pip install 走预编译 wheel
- ⚠ Docker 部署时需 socat 转发才能从宿主机访问
- ✓ 适合本地开发联调
- ⚠ 默认只监听 127.0.0.1,要改
Windows
○ 官方支持
- ✓ 官方提供 PowerShell 安装脚本
install.ps1
- ✓ CLI 工具
ov 在 Windows 有原生支持(自动跳过 Go 检查)
- ⚠ v0.2.6 才修好 UTF-8 BOM 配置文件问题——之前版本踩坑严重
- ⚠ 源码构建需 GCC 9+/Clang 11+,建议用 WSL2 而非原生
- ⚠ 生产部署建议跑在 Linux 服务器上,Windows 仅做客户端
真实建议:Windows 上能装能跑,但原生跑服务端在 v0.2.6 之前有不少边角问题。如果你只是用 OpenViking 作为远程服务的 client(CLI / SDK 调用),Windows 完全够用;如果要在 Windows 上跑 openviking-server,强烈建议用 WSL2 或 Docker Desktop。
02两种部署模式 · 资源开销差一个量级
关键变量:embedding/VLM 模型走云 API 还是本地推理。
MODE A · 轻量
云 API 模式
Embedding + VLM 走火山引擎 / OpenAI / Gemini 远程调用。OpenViking 自己只跑服务进程 + 向量索引。这是 99% 用户应该走的路。
CPU
2 vCPU官方推荐最低配(火山引擎 ECS c3a)
内存
4–8 GB RAM4GB 是底线,AWS Lightsail 实测验证。向量索引常驻内存,2GB 很快爆。语料量大时建议 8GB。
磁盘
100–256 GB官方建议 256GB 数据盘。语料 + 向量索引 + L0/L1 摘要 + 会话存档累计增长。
外部依赖
火山引擎 Ark API Key(或 OpenAI/Gemini)按 token 计费,doubao 系列对新用户有免费额度
MODE B · 重型
全本地自托管
连 embedding 和 VLM 都在本地跑(数据完全不出内网)。Red Hat OpenShift 参考部署。只有合规要求高的企业才需要这条路。
CPU
8+ 核服务进程 + 模型推理 worker
内存
32–64 GB RAM服务本身 ~4GB,VLM 加载到内存(CPU 推理)会吃 30GB+
磁盘
500 GB++ 模型权重 60–80GB(Qwen3-32B + Qwen3-Embedding-0.6B)
GPU
A100 80GB × 1官方 OpenShift 部署参考。两个模型用 GPU time-slicing 共享。
03OpenViking Server 内部组件
单进程 Python 主服务 + 几个内嵌的原生组件。装完总共大概是这些东西:
★ 总账
不同场景下的"够用就行"配置
本地开发 / 个人调研
4 GB
RAM · 2 vCPU · 50 GB 磁盘 · 无 GPU
Docker Desktop 或 WSL2 跑得动,开发阶段够用。
小型生产 (1-5 个 Agent)
8 GB
RAM · 2-4 vCPU · 256 GB 磁盘 · 无 GPU
云 API 模式 · 火山引擎 Ark 或 OpenAI 计费
中型生产 (10-50 个 Agent)
16 GB
RAM · 4-8 vCPU · 500 GB SSD
向量索引大约 5-50GB 量级
企业全自托管
A100 80G
GPU + 64GB RAM + 500GB 磁盘
仅当数据强合规要求时才走这条路
⌘ 对你来说
务实建议(结合你那个多 Agent 平台)
开发阶段:在你 Windows 工作机上跑 WSL2 + Docker Desktop,docker compose up 就能起服务。资源占用差不多就是 1-2GB RAM,完全跑得动你日常的开发联调。
跑通 demo 之后:把 openviking-server 部署到你那台 Linux 服务器(你之前装 PuTTY 应该就是连这种机器),4GB RAM 的小机器就够 PoC,等真有用户量再考虑扩。
避坑提示:OpenViking 必须连外部 embedding+VLM API(除非你想砸 A100),所以你在墙内必须用火山引擎 Ark(Doubao 系列)。OpenAI 走不通除非有代理。这一点你那套 Clash/sing-box 折腾的经验在这里反而没用——服务器端调 API 时要用国内可达的服务商,不是翻墙的事。