【capgemini】代理型AI的崛起-信任何以成为人机协作之关键

近日，国际咨询公司凯捷咨询研究院（Capgemini Research Institute）发布了名为《代理型AI的崛起：信任如何成为人机协作之关键》的报告，探讨了代理型人工智能（AI agents）在企业生产力、效率和增长中的革命性作用，以及信任在人与AI合作中的重要性。报告预测，到2028年，AI代理可能为受访国家创造高达4500亿美元的经济价值。这份报告深入分析了AI代理的采纳趋势、对企业运营的潜在影响，以及实现规模化效益所面临的挑战，其中包含了丰富的行业洞察和战略建议，对于理解AI代理如何塑造未来工作方式和企业竞争力具有重要价值。

代理型AI的崛起，人类与AI合作的关键是什么？

随着技术的发展，代理型AI（AI agents）已经成为企业生产力、效率和增长的新纪元。与传统AI应用不同，代理型AI能够管理并执行端到端的流程，减少人为干预，从工具转变为团队成员。根据我们的研究预测，到2028年，代理型AI在受调查国家中通过收入提升和成本节约可能产生高达4500亿美元的经济价值。93%的领导者相信，在未来12个月内成功扩展AI代理的组织将比行业同行获得优势。

目前，14%的组织已经部分（12%）或全面（2%）实施了AI代理，近四分之一（23%）已经启动了试点项目，另有61%正在准备或探索部署。这些数字显示了快速的采用趋势，我们重新确认了大多数调查受访者（1500名中的900名）的回应，以确保他们特别指的是AI代理，而不是AI/Gen AI助手。这次验证显示的结果与原始数据相似，证实了全球和各行业的强烈采用数字。短期内，预计AI代理将在客户服务、IT和销售方面得到最广泛的采用，并在未来三年内扩展到运营、研发和市场营销等领域。但对高度自动化系统的期望仍然有限。我们的调查显示，12个月内，预计只有15%的所有业务流程将在3级（半自动）到5级（全自动化）之间运行。这一比例预计将在2028年增长到25%。大多数AI代理目前运行在低水平的自动化上，主要作为简单代理或半自动代理。值得注意的是，即使在中等水平的自动化下，AI代理也能提供切实的价值。

然而，对AI代理的信任正在下降。只有27%的组织表示信任完全自动化的AI代理，而12个月前这一比例为43%。这可能是对代理型AI能力的最初热情和过度自信之后，商业现实开始占据主导地位的反映。围绕AI的伦理问题普遍存在，如数据隐私、算法偏见和“AI黑箱”，但很少有组织采取决定性行动来减轻这些问题。此外，只有一半的组织声称对AI代理的能力有足够的了解，更少的组织能够指出代理在哪些方面优于传统的AI或自动化。同样令人担忧的是，不到五分之一的组织报告说数据准备程度高，超过80%的组织缺乏成熟的AI基础设施，这严重限制了他们有效扩展代理型系统的能力。

尽管如此，在3年内，组织预计AI代理将成为人类监督团队中的成员。这意味着AI代理必须被视为团队的一部分，而不仅仅是工具。这种人与AI代理的合作增强了AI代理的价值，推动了透明度、信任和积极结果。但61%的组织报告说，员工对AI代理对他们就业前景的影响感到越来越焦虑，超过一半的人认为AI代理将比它们创造的工作岗位更多地取代工作岗位。尽管如此，较少的组织优先考虑再培训或劳动力结构重组。

为了充分利用AI代理的潜力，组织必须超越炒作，努力实现以下目标：重新设计流程以有效部署AI代理并重新构想业务模型；转变劳动力和组织结构，全面接纳新的代理型劳动力作为团队成员；在代理自主性和人类参与之间找到正确的平衡；加强数据和技术基础，扩大AI代理规模；确保AI代理在定义的执行范围内运行，并保持可追溯和可解释，以赢得信任；开发和整合道德AI，以应对自主AI代理带来的风险。

这份报告为我们提供了代理型AI和AI代理的变革潜力的概览，以及它们在各行业和部门中的潜在影响。它旨在帮助企业高管识别代理型AI的潜力，评估人类与AI代理之间的信任和合作水平，以及实施和扩展代理型AI的风险和挑战。报告基于对1500名高管（总监级别及以上）在14个国家的全面分析。最终，它为企业领导者提供了加速其组织代理型AI旅程的建议。

这篇文章的灵感来自于《代理型AI的崛起-信任何以成为人机协作之关键》这份报告。除了这份报告，还有一些同类型的报告也非常有价值，推荐阅读，这些报告我们都收录在同名星球，可以自行获取。

以上为节选样张，关注公众号【蝉鸣报告】回复领取PDF完整电子版（无广告）。

【蝉鸣报告】每日更新最新硬核报告，覆盖产业报告、全球化、经济报告、趋势等全领域。