AI 智能体时代,组织最大的挑战不是技术,而是信任

摘要

过去几年,各行各业都在积极推进 AI 试点,但不少企业仍难以将有前景的概念验证,真正转化为现实业务中的部署和应用。

Kaushik Gopal万事达卡执行副总裁暨服务部全球数据产品负责人

五大组织挑战,正在阻碍 AI 从试点转向普及

对许多组织而言,当前面临的并不是 AI 创新不足,而是规模化应用能力不足。

过去几年,各行各业都在积极推进 AI 试点,但不少企业仍难以将有前景的概念验证,真正转化为现实业务中的部署和应用。事实上,阻碍并不在于雄心不足。2014 年至 2024 年间,全球 AI 领域私人投资增长超过 13 倍。更普遍的问题在于,企业尚未建立起在规模化应用中信任 AI,尤其是 AI 智能体所需的基础条件,包括文化、安全、问责、治理和数据就绪度。

AI 智能体信任并不是依靠单一控制措施或一项政策就能建立起来的。它需要企业在多个维度同时建立信心。有些企业拥有先进的 AI 模型,却缺乏健全治理;有些企业安全控制严格,却员工准备度不足;还有些企业数据质量较高,却权责边界不清。真正走在前面的企业,未必部署了更多 AI,而是能够在这些关键维度上同步推进。

在万事达卡看来,企业若要真正实现从「获得洞察」到「采取行动」的跃迁,就必须回答好以下五个问题。

员工是否知道如何与AI协作?

‌当前整个行业最突出的现象之一,是管理层对 AI 的热情与员工对 AI 的理解之间存在明显落差。这样的认知鸿沟,往往成为 AI 落地应用的最大障碍之一。推动员工拥抱 AI,并不仅仅意味着为他们提供新的工具,更重要的是帮助他们理解:AI 应该应用于哪些场景、能够创造怎样的价值,以及将如何改变工作方式。

这一切首先始于清晰的沟通。尽管企业高管对于 AI 的认识和态度正在迅速转变,但这种认知并不一定能够顺畅传递至一线团队。据汤森路透研究所 2026 年 AI 专业服务报告‌,近 ‌40%‌专业人士表示,他们曾收到来自管理层和客户相互矛盾的 AI 使用指引。

因此,企业领导层需要超越笼统的 AI 倡议,为员工提供更具体、更可操作的指导:什么时候应该使用 AI,哪些环节适合引入 AI,哪些决策仍需要依赖人的判断。当员工真正理解 AI 如何帮助自己完成工作,以及组织对他们的期待时,企业才有可能从试验阶段迈向规模化应用。

这个AI智能体是否应该被赋予这项权限

随着 AI 智能体越来越接近决策和执行环节,一个核心问题正在发生变化:企业关注的重点,不再是 AI 能否生成洞察,而是它是否值得被信任去采取行动。

这意味着,安全、隐私保护和负责任地使用 AI,必须从一开始就嵌入企业运营体系之中。企业需要建立清晰的防护机制,保护敏感信息,同时明确责任归属,才能放心地让 AI 智能体访问关键数据,承担更复杂的任务。

归根结底,这是一个‌身份与权限管理挑战‌。在 AI 智能体检索信息、发起支付或与客户互动之前,企业应了解清楚:‌这个智能体是什么、能访问哪些系统、被授予了怎样的权限‌。如果连企业自身都无法建立起对它的信任,怎么能指望客户去信任?

谁为结果负责?

当 AI 智能体承担越来越多自主任务时,企业将面临另一个关键问题:当 AI 智能体做出决策、执行任务或产生意外结果时,最终由谁负责?

根据思科《2025 年 AI 就绪度报告》,尽管许多公司有意部署 AI 智能体,但只有 ‌32%‌ 真正将其纳入劳动力规划。缺乏清晰的权责结构,会导致企业在决策、监督和问责上陷入不确定性。

企业领导层需要建立‌清晰的 AI 权责体系‌,界定哪些决策可交由智能体完成、哪些环节必须保留人类判断,以及在系统出现异常时又该如何升级处理。那些成功规模化部署 AI 智能体的企业,往往会额外投入精力‌重新设计工作流‌程,让人类和 AI 以更清晰的角色、职责和期望并肩前行。

我们如何判断它已准备就绪

一旦企业建立起清晰的责任机制,一个新问题随之而来:如何判断一个 AI 智能体已经具备进入真实业务场景的能力?

企业需要建立系统化的方法,对智能体的性能、行为和输出结果进行测试和评估,确保其能够在客户服务、运营管理和关键业务决策等场景中稳定、安全地运行。重点不在于创造一个智能体,而在于验证它能否在多样化场景下持续、可靠且安全地发挥作用。

正因如此,越来越多的企业希望拥有能够测试性能、发现风险并不断优化控制措施的环境。而万事达卡则推出了‌Agent Suite‌,并通过 Proto 沙盒环境进一步扩展其能力,以帮助企业在将智能体引入生产环境之前进行探索、测试与验证,从而推动 AI 从试点阶段迈向可信部署。

与此同时,万事达卡还推出了面向商户管理、客户入驻和争议处理等关键业务场景的三款 AI 智能体。通过这些能力,企业能够更清晰地识别 AI 创造商业价值的机会,并在安全且具备治理保障的框架下实现规模化应用。

它是否拥有完成任务所需的信息?

即使解决了部署、安全和治理问题,接下来的路也并非一马平川:‌AI 智能体只能基于它所理解的信息来行动——这意味着要让智能体在实时场景中高效运行,正确的数据不仅要可获取,还必须在清晰授权和安全保障下被有效使用。

但许多企业的数据仍然‌分散在不同系统中,格式不一且相互割裂‌。人类往往能够凭借经验弥补这些缺口,但 AI 智能体在信息不完整、相互矛盾或难以访问时则会陷入困境。因此,企业需要进一步打破数据孤岛、提升数据一致性,并优化那些限制 AI 发挥价值的碎片化流程。

在智能体 AI 时代,‌数据质量直接影响决策质量‌。如果智能体无法有效理解其所面对的信息,也就无法做出可靠的行动。为加速数据质量的提升,万事达卡‌旗下屡获殊荣的创业孵化项目 ‌创业直通车(Start Path)‌正进一步聚焦于商业智能和数据驱动能力领域的初创企业。

过去十年,创业直通车已支持来自全球‌60 多个国家和地区的 500 多家创业公司‌成长壮大,帮助它们借助万事达卡全球网络和客户资源实现规模化发展。那些能够帮助企业将数据转化为可执行洞察的创新力量,不仅能够提升决策质量和运营效率,更将为实时行动创造条件,进而帮助企业建立起对 AI 的信任,让 AI 从孤立应用走向日常运营。

未来几年,‌值得信赖的 AI 执行能力或将成为商业领域最重要的竞争优势之一。毕竟,关键不在于组织是否能够构建 AI,而在于它是否能够真正信赖 AI。

来源:互联网

最新文章

极客公园

用极客视角,追踪你不可错过的科技圈.

极客之选

新鲜、有趣的硬件产品,第一时间为你呈现。

张鹏科技商业观察

聊科技,谈商业。