4个最受欢迎的LLM代理框架

如果你正在阅读这篇文章，你可能已经熟悉“AI代理”这一术语，它是大型语言模型（LLM）发展的下一步。

无论如何，本文将简要介绍这些系统及其当前的重要性，然后比较一些我使用过的最佳免费框架。

什么是代理或代理系统？

自从LLM出现以来，世界一直在不断创新，寻找有用的方法来应用这些模型以改善现实生活。

通过检索增强生成（RAG），我们可以将搜索信息、总结信息和提供针对性答案的步骤分解。现在，代理允许我们使用任何已集成到代理中的工具（包括RAG）来分解问题，自动分析答案，并向用户提供最终答案或进一步查找如果现有的答案仍不能提供完整解决方案。RAG是结构化的和僵硬的，而代理系统是动态和自适应的。

代理的核心是LLM，它可以与环境交互，利用上下文、目标和可用工具来决定下一步行动，从而带来灵活性，使其成为2025年最具前景的GenAI构建模块之一。

一些工具的例子包括网络搜索、天气API、计算器、用于摘要或文本生成的LLM，以及连接外部应用程序（如Trello、Monday、Jira等）的API。在创建代理时，可供模型使用的工具是代理性能的关键因素，因为代理的能力仅限于其可以使用的工具。

目前大多数代理采用了一种称为推理和行动（ReAct）提示的技术，该技术通过整合代理在其环境中可以执行的操作步骤扩展了思维链（CoT）方法。

然而，这种决策自由带来了挑战：

• 用户与代理的交互：用户如何与应用程序交互？工具将向终端用户提供什么信息？用户可以在何时干预代理流程？
• 操作复杂性：应用程序如何处理可扩展性？考虑调试、上下文限制、令牌消耗、阶段管理、决策制定和跨任务的记忆。当找到答案或应用程序花费太长时间寻找答案时，是否会有避免过度循环的限制？如果有多个子代理，通信架构会是什么样子？
• 可用工具：代理如何知道使用哪个工具？它是否有明确的定义每个工具的作用？如何确保代理使用正确的工具？例如，使用RAG在现有文档中搜索而不是在线搜索。所有工具都与代理执行的任务相关吗？是否有冗余或令人困惑的工具？
• 性能可靠性：应用程序如何保证一致的输出，并最小化幻觉和提示敏感性？代理如何处理复杂的错误情况？如何跟踪性能指标？例如，代理的答案对用户的提问有多相关？
• 安全、安全和隐私风险：应用程序如何防止数据泄露、删除和滥用？当应用程序访问外部工具时，这个问题可能会加剧。

什么是代理框架？

框架提供了内置功能和功能的结构，以便在这种情况下创建代理，加快从头开始创建的过程。

有许多可用的代理框架，但为了简化起见，我们将重点介绍一些最好的开源框架。

1、LangChain

LangChain 是一个用于开发由大型语言模型（LLM）驱动的应用程序的框架，从开发到生产化。它有许多可用的功能，例如聊天机器人创建（LangGraph）、应用程序的监控和评估（LangSmith）以及代理创建（LangChain）。

在过程的最后，LangChain 允许您将您的 LangGraph 应用程序转换为生产就绪的 API。

该框架用 TypeScript 编写，并可以通过 Python 和 JavaScript 库在各种环境中使用。

LangChain 支持多种聊天模型和嵌入模型，用于构建代理，并提供对 WebLLM 集成的支持，这使得 LLM 可以直接在 Web 环境中使用 WebLLM SDK 模块运行。

优点：LangGraph 专长于复杂的业务流程，允许集成其功能以创建一个复杂的定制解决方案，准备好投入生产。此外，由于其流行度，它是构建代理的最受欢迎的框架。

缺点：增加的复杂性可能导致学习曲线比其他框架更明显，这会增加交付应用程序的时间，或者需要有经验的开发者。

2、CrewAI

CrewAI 是一个用于协调自主 AI 代理的框架。该框架用 Python 编写，并基于角色扮演的自主 AI 代理共同工作的想法。它还允许集成自定义工具。

优点：CrewAI 专注于代理，优先考虑让开发者快速上手，项目结构直观，简化了创建商业友好型应用程序的过程，以展示代理的价值。

缺点：其直观的架构也可能限制端到端应用程序的构建，特别是在复杂的生产环境场景中。

3、AutoGen

AutoGen 是微软开发的一个框架，专注于多代理对话协调。它包含集成 LLM、工具和人类反馈的代理，这些可以在任何时候添加，而不仅仅是当机器人完成任务时。

AutoGen 还支持 AutoGen Studio，这是一个用于创建和管理代理的 Web 应用程序。

来自 AutoGen Studio 的代理构建器。来源：作者

优点：AutoGen 提供了诸如 UI Web 应用程序和不断发展的生态系统等有前途的功能，支持来自不同领域和复杂性的应用程序。它还擅长于对话代理，可以成为助手。

缺点：即使您可以快速原型化多代理工作流并在界面中直观地演示示例，它仍然是一个尚未准备好的应用程序。此框架可能不是生产应用程序的最佳选择，特别是对于复杂的代理交互、新的多代理系统或高级 AI 代理设计。

4、Bee

由 IBM Research 创建的Bee Agent Framework，是一个旨在帮助全栈软件开发者在生产中采用代理并鼓励使用开源或专有模型构建代理的框架，通过提供一种模型不可知的方法。

它有不同的组件，包括一个 API 用于通过 API 调用将代理与其他应用程序和工具集成，一个 UI 应用程序用于轻松启动 Web 应用程序，以及一个框架，允许开发者更改代理的自定义。

该框架还支持使用MLflow进行代理监控，使开发人员能够跟踪所有集成和工具调用以及来自作为代理的 LLM 的响应和思考。

您可以按照这些存储库中的步骤轻松运行应用程序：

• Bee Agent Framework Starter 通过一些示例（TypeScript）快速启动。
• Bee Stack 通过用户界面构建代理，无需/低代码。

来自 Bee Stack 的代理构建器。来源：作者

优点：示例存储库的提供有助于熟悉 Bee 框架，使开发人员更容易理解架构。此外，用户界面允许创建快速且直观的演示，以展示和解释代理的好处。

缺点：使用框架进行自定义可能变得复杂，需要更深入地了解组件。

5、结束语

Langchain 和 Bee 提供了深度框架，不仅允许创建自定义且透明的代理，还可以监控它们，如果您愿意投资学习如何使用它们，还可以创建复杂的代理。

对于快速简单的代理，CrewAI 可以解决问题，并且还会通过其“角色扮演”的方法提供对代理工作原理的直观理解。

如果您想要的是可以演示的用户界面，或者不想深入编码，Bee 提供了一个简单且直观的 UI，只需几秒钟即可启动。另一方面，Autogen 提供了一个更复杂且可定制的 UI，允许完全改变代理创建的每一步，采用无代码方法。

这些只是创建代理的一些开源框架，还有许多不断演进的框架，使得今年成为创建代理系统的充满希望的一年。

原文链接：The Best Free Frameworks to Build Agents with any LLM

汇智网翻译整理，转载请标明出处