OpenViking · 部署可行性核查

跨平台支持 & 资源画像

能不能在你的开发机上跑?大概要吃多少内存和磁盘?两种部署模式开销差出一个量级,得看你选哪条路。

01操作系统支持情况

官方支持 Linux / macOS / Windows 三平台,但完整度有差异。

Linux
★ 首选平台
  • 预编译 wheel 直接 pip install
  • Ubuntu 20.04+ / CentOS 兼容(glibc 2.31)
  • v0.2.6 起支持 ARM(鲲鹏 KRL 优化)
  • 官方部署文档以 Linux 为准
  • Docker / Kubernetes 镜像就绪
macOS
○ 可用
  • pip install 走预编译 wheel
  • Docker 部署时需 socat 转发才能从宿主机访问
  • 适合本地开发联调
  • 默认只监听 127.0.0.1,要改
Windows
○ 官方支持
  • 官方提供 PowerShell 安装脚本 install.ps1
  • CLI 工具 ov 在 Windows 有原生支持(自动跳过 Go 检查)
  • v0.2.6 才修好 UTF-8 BOM 配置文件问题——之前版本踩坑严重
  • 源码构建需 GCC 9+/Clang 11+,建议用 WSL2 而非原生
  • 生产部署建议跑在 Linux 服务器上,Windows 仅做客户端
真实建议:Windows 上能装能跑,但原生跑服务端在 v0.2.6 之前有不少边角问题。如果你只是用 OpenViking 作为远程服务的 client(CLI / SDK 调用),Windows 完全够用;如果要在 Windows 上跑 openviking-server强烈建议用 WSL2 或 Docker Desktop

02两种部署模式 · 资源开销差一个量级

关键变量:embedding/VLM 模型走云 API 还是本地推理。

MODE A · 轻量

云 API 模式

Embedding + VLM 走火山引擎 / OpenAI / Gemini 远程调用。OpenViking 自己只跑服务进程 + 向量索引。这是 99% 用户应该走的路。

CPU
2 vCPU官方推荐最低配(火山引擎 ECS c3a)
内存
4–8 GB RAM4GB 是底线,AWS Lightsail 实测验证。向量索引常驻内存,2GB 很快爆。语料量大时建议 8GB。
磁盘
100–256 GB官方建议 256GB 数据盘。语料 + 向量索引 + L0/L1 摘要 + 会话存档累计增长。
GPU
不需要推理全部在云端
外部依赖
火山引擎 Ark API Key(或 OpenAI/Gemini)按 token 计费,doubao 系列对新用户有免费额度
MODE B · 重型

全本地自托管

连 embedding 和 VLM 都在本地跑(数据完全不出内网)。Red Hat OpenShift 参考部署。只有合规要求高的企业才需要这条路。

CPU
8+ 核服务进程 + 模型推理 worker
内存
32–64 GB RAM服务本身 ~4GB,VLM 加载到内存(CPU 推理)会吃 30GB+
磁盘
500 GB++ 模型权重 60–80GB(Qwen3-32B + Qwen3-Embedding-0.6B)
GPU
A100 80GB × 1官方 OpenShift 部署参考。两个模型用 GPU time-slicing 共享。
外部依赖
完全离线可用

03OpenViking Server 内部组件

单进程 Python 主服务 + 几个内嵌的原生组件。装完总共大概是这些东西:

① 安装文件 (~140 MB 总计) openviking Python 包 ~80 MB C++ 向量扩展 .so / .pyd ~15 MB AGFS Server Go 二进制 ~25 MB ov CLI Rust 二进制 ~12 MB vikingbot 可选 ~10 MB ② 运行时数据 ~/.openviking/data/ (随语料增长) vectordb/ 向量库 ~30 GB / 百万段 agfs/ 虚拟 FS 文件 L2 全文副本 workspace/ L0 / L1 摘要 用户语料原文 sessions/ 会话提交 对话日志 ③ 运行进程 (实测 Mode A 内存占用) openviking-server Python 主服务 800 MB – 2 GB AGFS daemon Go 文件系统服务 ~50 MB Console UI port 8020 · 可关 ~30 MB 总账:装机 ~140 MB · 数据盘按语料量增长 · 内存常驻约 1-2 GB(向量索引占大头)
★ 总账

不同场景下的"够用就行"配置

本地开发 / 个人调研
4 GB
RAM · 2 vCPU · 50 GB 磁盘 · 无 GPU
Docker Desktop 或 WSL2 跑得动,开发阶段够用。
小型生产 (1-5 个 Agent)
8 GB
RAM · 2-4 vCPU · 256 GB 磁盘 · 无 GPU
云 API 模式 · 火山引擎 Ark 或 OpenAI 计费
中型生产 (10-50 个 Agent)
16 GB
RAM · 4-8 vCPU · 500 GB SSD
向量索引大约 5-50GB 量级
企业全自托管
A100 80G
GPU + 64GB RAM + 500GB 磁盘
仅当数据强合规要求时才走这条路
⌘ 对你来说

务实建议(结合你那个多 Agent 平台)

开发阶段:在你 Windows 工作机上跑 WSL2 + Docker Desktop,docker compose up 就能起服务。资源占用差不多就是 1-2GB RAM,完全跑得动你日常的开发联调。

跑通 demo 之后:把 openviking-server 部署到你那台 Linux 服务器(你之前装 PuTTY 应该就是连这种机器),4GB RAM 的小机器就够 PoC,等真有用户量再考虑扩。

避坑提示:OpenViking 必须连外部 embedding+VLM API(除非你想砸 A100),所以你在墙内必须用火山引擎 Ark(Doubao 系列)。OpenAI 走不通除非有代理。这一点你那套 Clash/sing-box 折腾的经验在这里反而没用——服务器端调 API 时要用国内可达的服务商,不是翻墙的事。