【Capgemini】商业_满足代理AI-对自主和代理解决方案的信心(英)

近日，国际咨询公司Capgemini发布了一份名为《商业_满足代理AI-对自主和代理解决方案的信心》的行业研究报告。该报告深入探讨了自主和代理AI系统的发展及其对人类与技术互动方式的重大转变，强调了用户从定义解决方案到仅陈述问题的根本性改变。报告不仅分析了自主AI系统的技术挑战和治理需求，还讨论了如何确保这些系统可靠并满足人类期望。报告内容丰富，提供了一个统一框架，帮助组织系统地分析现有系统，并有意识地设计新的系统，以适应多样化的应用领域。

在当今技术快速发展的背景下，自主和代理AI系统的重要性日益凸显。这些系统不仅仅是技术进步的一小步，它们代表了人们与技术互动方式的重大转变。自主性是一个游戏规则改变者，它让人们释放出惊人的新机会，但这些机会并非没有风险。

自主和代理AI系统的核心在于它们允许用户从定义解决方案转变为简单地陈述他们的问题。历史上，我们想让计算机做某事，需要详细描述如何解决这个问题，要么自己编程，要么依赖专家。而现在，自主和代理AI系统让我们看到了一个新未来，用户可以命令技术解决他们自己都不知道如何解决的问题。

代理和自主系统之所以具有变革性，是因为它们允许用户从定义解决方案转变为简单地陈述他们的问题。这种变化从根本上改变了我们与技术的关系。代理系统的关键特性是它们能够代表其他实体（无论是另一个代理、人类还是其他生物）行事。代理的关键区别在于它们能够采取行动。一个AI系统可能提供复杂的分析和建议，但如果它不能自行执行行动，那么它只是一个助手或副驾驶，而不是代理。

代理AI系统围绕三个主要方面构建：代理视角、系统视角和有效载荷视角。代理视角关注代理的自主性、权限和代理能力；系统视角关注代理在何种系统属性中工作；有效载荷视角关注代理的能力。这些视角为我们分析、设计和管理不同情境和应用中的自主AI系统奠定了基础。

在多代理系统（MAS）中，多个独立代理在共同环境中运作，共同实现超出任何单个代理能力的目标。这些系统有时被称为代理架构或框架，代表了自主系统开发的前沿。多代理系统的四个关键维度包括：规模大小、异质性与同质性、复杂性与简单性、中心化与去中心化。这些维度可能暗示沿着每个轴（更大、更复杂、更异质、更去中心化）最大化将创建最佳系统。然而，这种最大化为控制、可预测性和对齐引入了重大挑战。适当的配置完全取决于特定要求、风险承受能力和实施环境的治理能力。

自主系统的逻辑架构包括三个基本层：环境层、代理层和解释层。解释层使代理能够与环境（包括其他系统和人类操作员）进行通信和互动。对于人类互动，自然语言能力提供了有效的接口；对于系统集成，标准化的API提供了高效的通信渠道。解释层决定了代理可以访问的信息以及它如何有效地传达其输出和行动。

大型语言模型（LLM）在代理系统中的作用常被误解。LLM和代理不是一回事，代理系统不一定使用LLM技术。LLM通常作为解释层，擅长多模态和自然语言处理，而不是全面抽象和世界建模。LLM在翻译人类语言和机器可处理格式方面非常出色，但与专门知识系统相比，它们在表示世界知识方面的能力有限。

有效的代理需要上下文理解。代理在特定环境中运作，这些环境在AI术语中被称为“世界”。这些环境代表了代理可以感知和影响的一切。这些环境可能是狭义定义的软件领域，也可能是物理现实的方面。代理的内部环境表示——其世界模型——决定了其做出适当决策和采取有效行动的能力。

目的和对齐是代理的一个定义特征。定义目标说起来容易做起来难，因为它依赖于能够表示和传达丰富和精确的世界状态描述。定义代理的目的和衡量其与该目的的对齐是部署基于代理的系统时需要考虑的重要任务。对齐问题出现在代理行为偏离其预期目的时。这可能是由于：目标定义不清晰，无法捕捉真实目标；不完整或不准确的世界模型，无法为良好决策提供足够的上下文；意外的行为，这些行为在系统设计期间没有被预料到。

随着代理获得更多的独立性和能力，对齐变得越来越重要，也越来越具有挑战性。这就是为什么对齐研究已成为AI安全专家关注高级系统的核心焦点。确保越来越强大的自主AI系统可靠地与明确和隐含的人类意图保持一致，代表了代理开发中最重要的挑战。

技术属性：统一框架。前面讨论的维度和属性结合起来，形成了一个框架，用于理解自主和代理系统。还有许多其他多代理系统的属性，但这种高层次属性的统一视角使得跨不同应用领域的现有系统系统分析和新系统的有意识设计成为可能。这个框架包括：代理层面、系统层面和有效载荷层面。

从商业角度看，技术能力本身并不能确保自主和代理系统的成功实施。组织在多个维度的准备情况决定了这些系统是否会提供可持续价值或造成无法管理的复杂性。有效的实施需要一个完整的商业视角，整合技术、运营、伦理和人力因素。

自主和代理系统无疑将塑造未来的技术格局，改变组织的运作方式和创造价值。理解代理的多维性质为自信和负责任地导航这一复杂领域提供了基础。本文的灵感来自于《商业，遇见代理AI：对自主和代理系统的信心》报告。除了这份报告，还有一些同类型的报告也非常有价值，推荐阅读，这些报告我们都收录在同名星球，可以自行获取。

以上为节选样张，关注公众号【蝉鸣报告】回复领取PDF完整电子版（无广告）。

【蝉鸣报告】每日更新最新硬核报告，覆盖产业报告、全球化、经济报告、趋势等全领域。