构建AI代理：架构与直觉

2024年真正标志着AI代理的兴起，这并不难理解。但究竟什么是AI代理，以及为什么它们代表了生成式AI的下一步飞跃？在这篇博客中，我将深入探讨Agentic AI系统的架构，解码它们的功能及其重要性。

虽然没有一种适用于所有情况的AI代理架构蓝图，让我们踏上一段旅程，通过我们的直觉和塑造AI领域的变化来构思一个通用设计。所以，请拿一杯咖啡，坐下来，我们一起来探索这个迷人的主题。当你阅读时，我希望你能将架构想象成一个动态的、不断发展的结构——几乎就像一幅图在你的脑海中展开一样。

为了完全理解这一概念，我们首先需要退一步，审视AI世界的地震级转变，特别是从单一模型到更模块化、复合型AI系统的转变。这种转变为AI代理奠定了基础，理解这一点将使我们能够更好地设计它们的架构。

1、转变：从单一模型到复合型AI系统

传统的AI模型虽然强大，但往往受限于其训练数据带来的限制。这些模型被其训练数据所束缚，这限制了它们所知道的内容范围以及能够处理的任务类型。此外，适应这些模型以应对新任务或领域并不是一个简单的过程。微调可能有所帮助，但它需要大量的资源、时间和新的数据——使其远非灵活地适应动态现实世界。

问题陈述

让我们用一个现实世界的例子来说明这一点。假设你正在遵循一个健身计划，想知道这个月还剩下多少次锻炼。如果你依赖一个独立的AI模型，你得到的答案很可能是不准确的，因为该模型无法访问你的健身计划的具体信息，比如你的锻炼时间表或进度。它根本不知道足够的关于你的情况的信息。

但如果我们在模型周围构建一个更复杂系统呢？假设我们将模型与实时健身跟踪数据库集成在一起。现在，AI可以查询数据库以获取正确的、最新的信息。结果可能是：“这个月你还剩下8次锻炼。”这将是一个更加准确且情境相关的答案，因为它基于你个性化健身计划的实时数据。

这就是复合型AI系统的本质——一个AI模型不是孤立运行，而是与外部系统、数据库或API协作以提供精确且情境相关的响应。与单一模型不同，后者使用预定义的数据，复合型AI系统动态地与世界互动，提供的答案不仅准确而且个性化。

2、复合型AI系统为何有效？

与传统AI模型不同，传统AI模型孤立运行并在毫秒内快速响应，复合型AI系统采用模块化方法，利用各种工具如数据库、外部程序和API。这些组件协同工作，思考、提供上下文、规划并获取实时信息，以增强模型的能力。

这种模块化设计比依赖单一模型生成答案的传统方法具有显著优势。与其局限于单一模型的训练数据限制，复合型AI系统整合了多样化的资源，使其能够适应并应对更广泛的任务。

3、AI代理的三元结构

AI代理旨在高效完成任务，但它们真正的有效性源自于它们在三个关键支柱上的导航能力：

1. 推理。每个AI代理的核心是其推理能力——将复杂问题分解为更小、更易管理的任务，并逐步找到解决方案的过程。推理涉及理解问题并识别模式。这是使代理能够策略性地决定解决给定任务的最佳行动方案的认知能力。
2. 行动。 一旦AI代理对问题进行了推理，下一步就是行动。这是代理从计划转向执行的阶段。代理可以使用各种外部工具——例如API、数据库甚至其他模型——来执行其决策。例如，代理可能会查询数据库以获取相关信息，使用API发送请求，或调用另一个模型执行特定任务，如翻译文本或解决复杂的数学方程。行动使代理能够将其推理转化为有形的结果。
3. 记忆。第三个支柱是记忆。记忆使代理能够在一段时间内保留信息，存储其推理过程的内部日志，并跟踪过去的交互。这赋予了代理适应和个性化其行为的能力，从以前的经验中学习以提高未来的性能。有了记忆，代理不必每次面对新任务时都从头开始——它可以回忆过去的决策，从之前的错误中学习，并根据历史数据微调其行为，最终导致更高效的解决问题。

这三个支柱——推理、行动和记忆——共同作用，赋予AI代理处理任务的智能和自主能力。它们不仅使代理能够解决当前的问题，还能学习、适应并优化其性能，使其成为先进AI系统不可或缺的一部分。

4、核心架构分解

在深入了解细节之前，先看一下下面的图表，该图表展示了架构。这将有助于可视化设计并使组件更容易理解。

因此，为了更好地理解，让我们使用在博客开头讨论的健身示例：“这个月我还剩下多少次锻炼？”

4.1 推理块

推理块基于AI代理的第一原则：推理。该块由两层（分解层和规划层）+ LLM（代理的核心）组成。

大型语言模型（LLM）

在推理块的核心位置，大型语言模型（LLMs）扮演着至关重要的角色。这些模型经过大规模数据集的训练，带来了无与伦比的上下文理解、逻辑推断和复杂问题解决能力。它们作为推理块内的分解和规划层的基础。

分解层

给定一个复杂任务，分解层负责将其分解为更小、更易于管理的子任务。将其视为一种问题解决方法，其中大问题被拆分成一口大小的小块，使其更容易一步一步地处理。

如果任务是，“这个月我还剩下多少次锻炼？”分解层会将其拆分为较小的问题：

• 这个月总共安排了多少次锻炼？
• 到目前为止已经完成了多少次锻炼？
• 剩下还有多少次锻炼？

此时，我们已经将任务分解为三个较小的子任务，这使得处理起来更容易。

规划层

一旦确定了子任务，规划层就会着手制定行动计划。层进入。这是代理的战略室——在这里，决策被做出，关于哪些工具或资源最适合每个子任务。这种规划是通过考虑当前的任务、上下文和可用的工具来进行的，本质上为下一步创建了一个蓝图**。

例如：

• 这个月安排了多少次锻炼？——（健身API查询工具）
• 到目前为止完成了多少次锻炼？——（数据库查询）
• 剩下还有多少次锻炼？——（计算工具）

4.2 执行块

执行块体现了AI代理的第二个核心原则：行动。这个块通过利用一套工具来执行在规划层中定义的任务，从而将推理与实际结果联系起来。

任务执行层

任务执行层是将计划转化为行动的引擎。它由一组程序或函数组成，可以根据规划层中创建的具体任务和计划动态调用正确的工具或服务。

例如，如果代理的计划需要查询数据库，其工作方式如下：

1. API/ORM调用：代理使用预定义的功能或API端点来查询数据库。
2. 数据获取：一旦请求发出，相关的数据就会被获取。
3. 后处理：数据被处理并传递回去以供进一步使用，例如生成用户响应。

这一层设计为灵活且模块化，使代理能够根据手头的任务动态地与各种工具进行交互。

在执行块中，你通常会发现一系列满足不同需求的工具。一些常见的工具包括：

• 数据库：用于检索结构化数据（如SQL、NoSQL）。
• API：用于获取数据或与第三方服务交互（如RESTful API、GraphQL）。
• 文件系统：用于从存储中读取/写入数据（如云或本地文件系统）。
• 机器学习模型：用于执行预测或专门任务（如NLP模型、计算机视觉模型）。
• 网络爬虫工具：用于从网站提取数据（如BeautifulSoup、Selenium）。

这些工具对于使代理能够执行需要外部数据或处理能力的复杂任务至关重要。

反馈循环

一旦代理执行了一个任务，它并不会就此停止。它进入了评估其行为结果的反馈循环。

1. 结果评估：代理将其行为的结果（如从API获取的数据）与预定义的期望或成功标准进行比较。
2. 错误检测：如果结果不准确或不完整，代理会标记它并重新审视其推理和行为。
3. 重新规划：基于此评估，代理重新规划子任务并执行改进策略以提高结果。

这种反馈机制对于迭代改进至关重要。通过根据实时数据和结果不断优化其方法，代理确保其行为随着时间的推移变得更加准确和高效。

关键挑战是如何在不影响用户体验的情况下在实时系统中实现这一反馈机制。以下是解决方案：

1. 验证标准：代理可以使用预定义的成功指标或验证标准。例如，在查询数据库时，它可以检查获取的数据是否符合某些期望——如完整性或相关性。
2. 动态错误检查：代理可以采用错误检查机制，持续监控实时性能和结果。
3. 自适应学习：当代理识别到差异或次优结果时，它会调整其方法——无论是查询不同的工具、重新调整参数还是寻求更多信息。

这个过程是动态的，不需要人工干预，确保代理的决策过程不断得到精炼，使其随着时间变得越来越智能和有效。

4.3 内存块

内存块是AI代理架构的最后一块基石。它允许代理保留过去的经历，提高其做出明智决策和适应未来的能力。在这个背景下，内存指的是一个存储库，代理在这里存储有关以前互动、推理过程甚至任务结果的信息。

内存存储和表示

AI代理中的内存不仅仅是一个简单的日志；它是结构化的，允许高效检索和使用。通常，内存以结构化格式（如知识库）存储，其中每条信息都以易于访问和分析的方式存储。

• 向量嵌入：这些常用于表示学习的经验或动作。通过将数据转换为向量表示，系统可以快速找到过去行为中的模式、关系和见解。
• 动态内存：内存不是静态的；它会根据新的输入、操作或经验更新。这使得代理能够在不每次都需要从头开始的情况下适应新情况。

记忆类型：短期记忆 vs 长期记忆

代理内存的设计取决于用例和任务要求。通常有两种类型的内存：

1. 短期记忆：这就像一个临时缓存，只存储最近的互动和与正在进行的任务相关的数据。保留期通常较短，专注于当前活动。
2. 长期记忆：这种类型存储代理可以在会话之间引用的信息。它帮助代理保留从过去互动中学到的有价值见解，即使任务完成或会话结束之后也是如此。

每种内存类型的持续时间可以根据当前任务的相关性或重要性来控制。例如，如果任务需要回忆之前的决定或互动，代理可以访问其长期记忆以告知其当前行动。

个性化和适应性

内存块的主要好处之一是它提供的个性化。通过记住过去的经历，代理可以随着时间的推移进行调整，根据所学内容定制其响应或行动。

• 任务特定记忆：代理可以记住之前的任务、解决方案和错误。这有助于代理在未来任务中更好地做出决策，利用过去的知识。
• 用户特定记忆：如果代理正在与不同的用户互动，它可以存储用户的偏好或过去的互动，确保未来的响应更加贴合和情境感知。

随着代理收集更多经验，其决策能力得到提升，使其在解决复杂任务时更加有效和高效。因此，记忆是使AI代理从“反应”转变为学习和适应的关键。

实时内存更新

在某些情况下，代理的记忆可能需要实时更新或细化，特别是在代理遇到新数据或演变场景时。例如，如果代理在对话过程中学到一个新的事实，它可以立即更新其记忆，使其能够在未来互动中应用这些新知识。

5、未来改进

虽然当前的架构奠定了坚实的基础，但仍有巨大的潜力进行进一步的完善和增强：

1. 上下文理解：提高代理理解上下文并根据任务相关性或用户行为调整其内存保留能力，可以使代理更加个性化。
2. 增强的反馈循环：反馈机制可以通过机器学习驱动的洞察力进一步改进，帮助代理不仅在出错时进行调整，还可以基于之前的互动主动预见问题。
3. 自我学习能力：引入更先进的强化学习技术可以使代理自主进化其决策策略，减少对人类输入的需求以实现持续改进。
4. 实时内存扩展：使内存更新更加动态和实时，可以使代理更好地处理快速变化的信息，如金融、医疗或客户服务等快速发展的领域。
5. 跨代理协作：未来的系统可以实现代理之间的通信，共享不同领域的见解和策略，增强它们的集体智慧。

6、结束语

在这篇文章中，我们探讨了AI代理背后的基本架构，剖析了其智能决策过程的核心原则——推理、行动和记忆。从将复杂任务分解成可管理的子任务，到根据结构良好的计划动态选择和利用工具，代理的行动能力是由一个强大的执行块驱动的。反馈循环机制通过评估行为结果并进行调整以获得更准确的结果，确保持续改进。最后，内存块使代理能够个性化其响应并适应新情况，确保长期效率和有效性。

我们概述的系统展示了如何通过结合多个层次——推理、行动和记忆——创建一个高度灵活和适应性强的AI代理。这种架构方法超越了简单的单体模型，创造了能够更智能和动态地解决问题的复合、模块化AI系统。通过利用工具、数据库和外部系统，AI代理可以提供更准确、个性化和情境感知的响应。

我尽力描述了代理式AI系统的架构。感谢您花时间阅读这篇文章。

原文链接：Building AI Agent Systems: A Deep Dive into Architecture and Intuitions

汇智网翻译整理，转载请标明出处