如何应对在 ITSM 中引入人工智能能力的关键风险
毋庸置疑，人工智能（AI）及其为 IT 服务管理（ITSM） 工具带来的能力，已经并将持续改变 IT 服务的交付与支持模式。 值得注意的是，利用 AI 提升 IT 服务、运营效率及用户体验，早已不再是“未来之事”。 事实上，许多 AI 赋能能力已经内嵌于 ITSM 工具 之中，客户组织正借助这些能力，更好地服务其员工与客户。 为便于读者从服务入口视角理解这些变化，本文亦将相关讨论与 IT 服务台 场景进行关联说明。
然而，AI 的采用同样伴随着风险。
在通往成功落地的过程中，这些风险必须被充分识别、审慎评估并加以缓解。
本文基于 ManageEngine 对 300 名 IT 专业人士开展的调研（及其配套报告《ITSM 中人工智能代理的兴起：认知与未来影响》，可通过相关渠道获取），系统梳理 IT 组织在采用 AI 能力时最为关注的核心问题，并就如何应对在 ITSM 中引入 AI 能力所涉及的关键风险提供实践性指导。
2025 年最突出的 AI 相关担忧是什么？
当被问及 “您是否对在日常 IT 服务管理运营中部署人工智能代理存在任何顾虑？” 时，受访者选择最多的三大担忧如下（该问题允许多选）：
人工智能治理、数据安全与隐私问题（45%）
人工智能代理的可靠性（39%）
实施复杂性（34%）
下文将围绕这三项核心关切提供具体的实践指导。
值得注意的是，仅有 8% 的受访者表示，其组织在实施人工智能代理方面完全没有顾虑。
这一首要关切与 2025 年其他关于“AI 在 ITSM 中应用”的调研结果高度一致。
例如，ITSM.tools 在其 2025 年最受关注 ITSM 内容的调查中，将“治理”（包括 AI 治理）列为首要主题。
同时，不同规模组织在主要担忧上的差异并不显著：
100–249 名员工规模企业：
人工智能治理、数据安全与隐私问题
人工智能代理的可靠性
实施复杂性
（与综合结果一致）
250–500 名员工规模企业：
人工智能治理、数据安全与隐私问题
人工智能代理的可靠性
实施复杂性
技术成熟度不足（与实施复杂性并列第三）
（再次与综合结果保持一致）
员工数超过 500 人的企业：
人工智能治理、数据安全与隐私问题
人工智能代理的可靠性
技术未经验证
（与综合结果的前两项及第四项一致）
企业正在积极拥抱人工智能
尽管存在上述及其他顾虑，企业整体上仍对采用人工智能代理持高度开放态度。
在本次调研中，人工智能代理被定义为：
“一种智能模型，能够从工单、电子邮件或对话中识别用户意图，自主收集上下文数据、做出决策并执行任务。人工智能代理可部署于服务台场景，用于事件管理或服务请求处理等任务。”
ManageEngine 的调研结果显示，93% 的受访者表示，其所在组织愿意在 ITSM 中采用人工智能代理；仅有 4% 的受访者表示其组织并不愿意采用该技术。
这表明，企业对 AI ITSM 能力的兴趣、投入意愿与战略雄心已经明确存在，并且在部分组织中已开始付诸实践。
然而，正如任何新技术的引入及其伴随的组织变更一样，诸多风险仍可能对转型举措的成功产生不利影响。
针对调研中识别出的三大核心挑战与风险，以下将给出相应的实践性应对建议。
人工智能治理、数据安全与隐私问题
建立人工智能治理框架，明确人工智能相关政策、原则及可接受使用标准。
通过以下方式提升透明度：
记录人工智能决策过程
维护完整的审计追踪记录
解释模型行为（即常说的“可解释性”）
定期验证与测试 AI 模型
持续检测模型漂移、偏见以及非预期结果。
实施强化的数据安全控制措施，包括：
对静态存储数据与传输中的数据进行加密
采用最小权限访问原则
审核第三方模型与 API 的供应链风险
确保 AI 应用符合相关法规与标准
如 GDPR、HIPAA 以及组织内部的隐私与合规要求。
对员工开展 AI 风险与伦理培训
涵盖数据处理最佳实践，并提升其对 AI 偏见、幻觉以及可解释性的认知。
人工智能代理的可靠性
明确人工智能代理的边界与防护栏
通过任务级权限控制，限制人工智能代理可发起的操作范围；同时明确其不可访问的系统、命令或数据集等“禁区”。
实施持续测试与验证机制
在沙盒环境中模拟并定期测试人工智能代理的行为，并在自动化流程中引入故障安全措施与回滚方案。
采用可解释且可审计的模型
包括在分类或决策逻辑中应用可解释 AI（XAI）技术，记录每一次人工智能代理决策的推理过程（含上下文），并维护用于合规与故障排查的审计轨迹。
持续监控并衡量可靠性指标
包括操作成功率与失败率、升级频率以及反馈评分，并据此调整置信阈值或重新训练 AI 模型。
实施复杂性
从范围明确、定义清晰的用例入手
优先选择业务价值高、实施复杂度低的应用场景。
基于现有 ITSM 与自动化基础设施构建能力
避免“重复造轮子”，以免增加系统复杂性与总体成本。
采用敏捷、迭代式实施方法
将部署拆分为多个短周期里程碑，并通过用户与模型反馈循环持续优化。
选择具备原生 ITSM 集成与低代码/无代码 AI 支持的平台
关键在于：除非组织具备深厚的 AI 工程能力，否则应避免自行开发 AI 平台。
投入人工智能素养与技能培养
确保员工理解组织 AI 能力的运作方式、能力边界以及有效的监督方法。
建立统一的技术标准并强调复用性
防止因实施不一致而造成重复建设和长期维护负担。
结语
希望本文能够为 IT 组织在 ITSM 中引入人工智能能力、并有效应对相关风险提供有价值的参考。
如需下载完整报告 《ITSM 领域人工智能代理的兴起：认知与未来影响》，可通过相关链接获取。
常见问题
1）在 ITSM 中引入 AI 最突出的风险类别是什么？
本文聚焦于三类核心关切：人工智能治理、数据安全与隐私问题；人工智能代理的可靠性；以及实施复杂性。
2）如何降低人工智能治理与隐私合规风险？
可通过建立治理框架、提升透明度、维护审计追踪、加强加密与最小权限、审核供应链风险，并确保符合 GDPR、HIPAA 等法规与内部合规要求，同时开展 AI 风险与伦理培训。
3）如何提升 AI 代理的可靠性与可控性？
可通过明确边界与防护栏、任务级权限控制、沙盒测试与回滚机制、可解释且可审计的模型策略，以及持续监控可靠性指标并动态调整阈值或训练策略来实现。
4）如何在不增加长期维护负担的前提下推进 AI 落地？
建议从定义清晰的用例入手，复用现有 ITSM 与自动化基础设施，采用敏捷迭代推进，并通过统一技术标准与强调复用性降低重复建设与维护成本。
立即体验 ServiceDesk Plus
- 更喜欢云版本？注册试用：点击注册免费试用ServiceDesk Plus（30天全功能）；
- 希望本地部署？下载地址：下载ServiceDesk Plus本地版（5个技术员永久免费！）；
- 预约专家：需要定制化演示？立即预约1对1方案产品讲解；
- 获取报价，联系销售：填写信息，获取专属报价
限时福利：本月下载注册的用户赠送1小时配置指导服务，助力快速上线！
