在 OpManager 中使用 Ollama

前提条件

在将 Ollama 集成到 OpManager 之前，请确保满足以下要求。

1. 已安装并运行 Ollama

   Ollama 必须安装并运行在 OpManager 服务器可访问的机器上。请按照 Ollama 网站上对应操作系统的安装说明进行操作。安装完成后，验证 Ollama 是否在运行：

   curl http://localhost:11434/api/tags

2. 至少下载一个模型

   必须下载模型后，OpManager 才能使用 Ollama。要拉取模型：

   ollama pull <model-name>

   验证模型是否可用：

   ollama list

3. 硬件要求

   确保运行 Ollama 的机器满足您打算使用的模型的最低硬件要求：

   
    

   等级	模型大小（参数）	最低 RAM（CPU）	推荐 RAM	推荐 VRAM（GPU）
   入门级	3B — 4B	4 GB	8 GB	3—4 GB
   低中档	5B — 7B	8 GB	16 GB	5—6 GB
   中档	8B — 9B	12 GB	16—24 GB	6—8 GB
   高中档	10B — 14B	16 GB	24—32 GB	10—12 GB
   高端	20B — 34B	32 GB	48—64 GB	16—24 GB
   企业级	65B — 70B+	48 GB	64—128 GB	40—48 GB+

   注意： GPU 加速可提升响应时间，但不是必需的。Ollama 也可以在仅有 CPU 的机器上运行。
4. 网络可访问性
   • 与 OpManager 同一台机器：使用 http://localhost:11434 作为基础 URL。
   • 不同机器：确保 Ollama 主机可通过端口 11434（默认）被 OpManager 访问。请相应配置防火墙规则。
   • 如果 Ollama 在远程机器上，必须配置为监听网络可访问的地址： 
     OLLAMA_HOST=0.0.0.0 ollama serve

常见问题解答

Ollama 需要互联网连接吗？

Only for the initial model download (ollama pull). After that, Ollama runs entirely offline. In air-gapped environments, model files can be transferred manually.

如果 Ollama 停机会怎样？

OpManager 中的 AI 功能将返回错误消息。核心监控功能 — 告警、仪表盘、报告 — 不受影响。AI 功能为辅助功能。

我可以在单独的专用服务器上运行 Ollama 吗？

可以，且在生产环境中推荐这样做。在具有充足资源的专用机器上运行 Ollama，并在 OpManager 中配置其 IP 地址和端口。

我可以使用多个模型吗？

Ollama 支持多个模型，但 OpManager 当前使用设置中配置的模型。您可以根据需要更改活动模型。

Ollama 是免费的吗？

是的。Ollama 是开源且免费使用的。唯一的成本是运行所需的硬件。

OpManager 中的 AI 集成如何工作？

OpManager 的 AI 集成在支持的提供者之间遵循一致模式 — API 端点配置、模型选择以及针对告警、设备和设备组的 AI 生成摘要。有关此模式的详细介绍，请参阅 将 OpManager 与 OpenAI 集成.

我可以在 OpManager 中生成哪些基于 AI 的摘要？

OpManager 可生成针对单个告警、所有告警、设备组和单个设备的 AI 摘要。OpManager 内置的 Zia 引擎检测到的异常数据也可以通过连接的 LLM 进行解析和汇总。详见 OpManager 中的异常检测 了解更多细节。

如何在 OpManager 中配置告警通知？

告警通知与 AI 功能分开配置，无论是否连接 LLM，均可正常工作。AI 生成的摘要是对标准告警工作流的补充，而非替代。请参见 配置通知 获取设置说明。

如何通过第三方集成扩展 OpManager？

OpManager 支持跨告警管理、分析、服务台、IT 自动化和 AI 的广泛集成。Ollama 属于 AI 集成类别。请参阅 OpManager 集成概览 获取完整列表。