【凯捷咨询】商业，迎接代理AI时代

近日，凯捷咨询的AI Futures Lab发布了一份名为《商业，迎接代理AI时代》的行业研究报告。这份报告深入探讨了自主和代理AI系统的进步及其对世界的深远影响，特别强调了这些系统如何根本性地改变我们与技术的关系，以及用户如何从定义解决方案转变为仅陈述问题。报告中提到，自主AI系统的发展不仅仅是技术进步，它还涉及到如何确保AI的可靠性和满足人类期望，这对于构建与人类社会互动共存的AI系统至关重要。这份报告提供了一个全面的框架，用以理解和设计自主AI系统，包括技术、操作、伦理和组织等多个维度的考量，是探索AI如何塑造未来商业和技术格局的重要资源。

在当今技术快速发展的时代，自主和代理AI系统正变得越来越重要。这些系统不仅仅是技术的一小步，它们代表了人们与技术互动和体验方式的重大转变。自主性是一个游戏规则改变者，它允许自主和AI代理采取行动，解锁了惊人的新机会，但这些机会并非没有风险。

代理AI系统的历史可以追溯到50年前，从简单的聊天机器人开始，这些机器人展示了有限的独立性和集成性。随着集成性的提高，出现了副驾驶系统，这些更先进的工具可以访问和解释跨多个系统的数据，提供更有用的帮助。接下来是自动驾驶系统，这些工具有足够的独立性来采取特定行动，但缺乏处理整个流程所需的完整集成能力。今天，我们看到的是多代理AI系统，它们结合了高水平的独立性和集成性。这些先进的系统可以创造巨大的价值，但需要仔细的监督和风险管理。

要理解什么是代理，我们需要从计算机科学的角度出发，了解代理的基本概念。代理是代表另一个实体工作的任何实体，无论是另一个代理、人类还是其他生物。关键在于代理能够采取行动。一个AI系统可能提供复杂的分析和建议，但如果它不能独立执行行动，那么它就是一个助手或副驾驶，而不是代理。重要的是要注意，代理不必使用人工智能。许多非AI系统都是代理，从简单的恒温器到汽车的驾驶辅助系统，再到复杂的工业控制系统。同样，许多AI代理也缺乏成为代理所需的行动能力。

代理AI系统围绕三个主要方面构建：代理视角、系统视角和有效载荷视角。代理视角涉及自主性、代理性和权威性。自主性描述了一个实体在多大程度上可以独立做出决策，而不需要外部指导。代理性描述了一个实体根据这些决策采取行动的能力，影响其环境。权威性定义了一个实体被允许采取的行动。这些属性不是二元属性，而是存在于滑动尺度上。

多代理系统（MAS）由多个独立代理组成，它们在共同环境中运作，共同实现超出任何单个代理所能完成的目标。这些系统有时被称为代理架构或框架，代表了自主系统开发的前沿。多代理系统的四个关键维度包括：简单与复杂、小与大、同质性与异质性、集中化与去中心化。这些维度可能表明，沿着每个轴（更大、更复杂、更异质、更去中心化）最大化将创建最优系统。然而，这种最大化为控制、可预测性和对齐引入了重大挑战。适当的配置完全取决于特定要求、风险承受能力和治理能力。

在构建代理系统时，我们还需要考虑代理的有效载荷，它决定了代理的功能、能力和行为。有效载荷的两个基本维度是专业化与泛化、确定性与非确定性。专业化代理在定义明确的领域内表现出色，而泛化代理在不同情境中表现出更大的适应性。确定性系统在给定相同输入时总是产生相同的输出，而非确定性系统能够学习和进化。

大型语言模型（LLM）在代理架构中的作用常被误解。LLM并不等同于代理，也不意味着所有代理系统都必须使用LLM技术。LLM在真正的代理架构中通常作为解释层，擅长多模态和自然语言处理，而不是全面的抽象和世界建模。LLM在翻译人类语言和机器可处理格式方面表现出色，但与专门的（非LLM）知识系统相比，它们在表示世界知识方面的能力有限。

有效的代理需要上下文理解。代理在特定的环境（AI术语中的“世界”）中运作，这些环境代表了代理可以感知和影响的一切。这些环境可能是狭义定义的软件领域，也可能是物理现实的方面。代理的内部环境表示——它的世界模型——决定了它做出适当决策和采取有效行动的能力。

代理的一个定义特征是它朝着一个高级别目标工作。然而，定义目标说起来容易做起来难，因为它依赖于能够表示和传达丰富和精确的世界状态描述。定义代理的目的和衡量其与该目的的对齐是部署基于代理的系统时需要考虑的重要任务。目标可能是通过规则和目标明确编码的，也可能是通过学习过程隐式塑造的。无论目标如何实现，清晰的目的对于评估性能和确定代理是否提供了预期价值至关重要。

当代理行为偏离其预期目的时，就会出现对齐问题。这可能是由于目标定义不清晰、世界模型不完整或不准确、绩效指标意外鼓励不期望的行为，或在系统设计过程中未预料到的意外行为。随着代理获得更多的独立性和能力，对齐变得越来越重要，也越来越具有挑战性。这就是为什么对齐研究已成为AI安全专家关注高级系统的核心焦点。

技术属性：统一框架
我们讨论的维度和属性结合起来形成了一个框架，用于理解自主和代理系统。这个框架包括代理层面、系统层面和有效载荷层面。通过沿着这些维度思考自主AI系统，组织可以为讨论系统特征、能力和治理要求发展共享词汇。这种共同语言促进了跨学科界限的有效沟通，使组织能够协作开发和实施与组织目标和价值观一致的自主AI系统。

业务视角：从技术可能性到组织价值
技术能力本身不能确保自主和代理系统的成功实施。组织在多个维度的准备情况决定了这些系统是否会提供可持续价值或造成无法管理的复杂性。有效的实施需要一个完整的业务视角，整合技术、运营、道德和人为因素。

从业务角度来看，成功的自主和代理系统需要一个多方面的方法，从明确的目的和可衡量的价值主张开始。组织必须阐明这些系统将解决哪些业务需求，以及如何衡量它们的影响。这种目的的明确性必须伴随着建立监督、责任和问责制的健全治理结构。有效的风险管理是业务准备的另一个关键支柱，要求组织在潜在风险具体化为问题之前系统地识别、评估和减轻它们。与风险管理密切相关的是道德考虑。代理系统必须与组织价值观和道德标准保持一致，以维持内部和外部的信任和完整性。

技术整合方面也不能忽视。即使最复杂的自主系统如果无法与现有流程和系统顺利整合，也将无法提供价值。这种整合挑战经常突显组织内的技能差距，因为开发、部署和维护这些系统需要可能需要培养或获取的专业知识。

最被忽视的可能是人为因素。变革管理流程必须经过深思熟虑的设计，以帮助用户适应与自主系统一起工作，通过教育和透明沟通解决担忧并建立信心。最后，这些系统不是“设置并忘记”的解决方案。应建立持续监控和改进机制，以确保它们随着业务需求和技术能力的演变而演变，创造增加价值和可靠性的良性循环。

自信部署自主和代理系统
统一框架
稳定性
可用性
合理性
谦逊
受信任的代理视角架构
代理
权威性
自主性
依赖性
中心化
w e 连接点：360度视角
高代理
代理视角
i A 多元化集成视角，结合技术架构、价值
V 对齐、治理和道德，以解决AI在社会利益中的问题
中心化
确定性 m V i e w 同质
e s t e m t 同质
S y s y S A
g
e
n
t
V
i
e
w
专家 P
小
a
y
l
o
a
i e w d
V
i
t e m V 多代理
复杂
e
w
s 简单
S y系统
健壮性 大
通用
P
a
y
l
o
a
d
V
i
e
w
异质
P
非确定性 a
y
去中心化
l
低代理
o
低代理
a
d
确定性
V
i
e
w
可持续性
可解释性
合理地推断
Sensibly
期望
突发事件
行为
隐私
公平性
身份与拟人化
优雅地失败
这篇文章的灵感来自于《商业，迎接代理AI时代》这份报告。除了这份报告，还有一些同类型的报告也非常有价值，推荐阅读，这些报告我们都收录在同名星球，可以自行获取。

以上为节选样张，关注公众号【蝉鸣报告】回复领取PDF完整电子版（无广告）。

【蝉鸣报告】每日更新最新硬核报告，覆盖产业报告、全球化、经济报告、趋势等全领域。