Skip to content

Latest commit

 

History

History
290 lines (195 loc) · 16.3 KB

README.md

File metadata and controls

290 lines (195 loc) · 16.3 KB
Raw

WEEK057 - 基于 LangGraph 创建智能体应用

早在年初的时候，LangChain 发布了 v0.1.0 稳定版本，版本公告里通过大量的篇幅对功能特性做了全面的介绍，最后，在公告的结尾，提到了一个不那么显眼的库，那就是 LangGraph。尽管看上去不那么显眼，但是它却非常重要，所以后来官方又 发表了一篇博客来单独介绍它，这是一个面向当前大模型领域最火热的智能体应用的库，是 LangChain 在智能体开发，特别是复杂的多智能体系统方面的一次重大尝试。

在之前的 LangChain 版本中，我们可以通过 AgentExecutor 实现智能体，在 大模型应用开发框架 LangChain 学习笔记（二） 中，我们曾经学习过 AgentExecutor 的用法，实现了包括 Zero-shot ReAct Agent、Conversational ReAct Agent、ReAct DocStore Agent、Self-Ask Agent、OpenAI Functions Agent 和 Plan and execute Agent 这些不同类型的智能体。但是这种方式过于黑盒，所有的决策过程都隐藏在 AgentExecutor 的背后，缺乏更精细的控制能力，在构建复杂智能体的时候非常受限。

LangGraph 提供了对应用程序的流程和状态更精细的控制，它允许定义包含循环的流程，并使用 状态图（State Graph） 来表示 AgentExecutor 的黑盒调用过程。

下面是 LangGraph 的关键特性：

  • 循环和分支（Cycles and Branching）：支持在应用程序中实现循环和条件语句；
  • 持久性（Persistence）：自动保存每一步的执行状态，支持在任意点暂停和恢复，以实现错误恢复、人机协同、时间旅行等功能；
  • 人机协同（Human-in-the-Loop）：支持在行动执行前中断执行，允许人工介入批准或编辑；
  • 流支持（Streaming Support）：图中的每个节点都支持实时地流式输出；
  • 与 LangChain 的集成（Integration with LangChain）：LangGraph 与 LangChain 和 LangSmith 无缝集成，但并不强依赖于它们。

快速开始

我们从一个最简单的例子开始：

### 定义状态图

from langgraph.graph import StateGraph, MessagesState

graph_builder = StateGraph(MessagesState)

### 定义模型和 chatbot 节点

from langchain_openai import ChatOpenAI

llm = ChatOpenAI()

def chatbot(state: MessagesState):
    return {"messages": [llm.invoke(state["messages"])]}

### 构建和编译图

from langgraph.graph import END, START

graph_builder.add_node("chatbot", chatbot)
graph_builder.add_edge(START, "chatbot")
graph_builder.add_edge("chatbot", END)
graph = graph_builder.compile()

### 运行

from langchain_core.messages import HumanMessage

response = graph.invoke(
    {"messages": [HumanMessage(content="合肥今天天气怎么样？")]}
)
response["messages"][-1].pretty_print()

在这个例子中，我们使用 LangGraph 定义了一个只有一个节点的图：

运行结果如下：

================================== Ai Message ==================================

抱歉，我无法提供今天合肥的实时天气信息。你可以通过天气预报网站或者天气App查看当天的天气预报。

基本概念

上面的示例非常简单，还称不上什么智能体，尽管如此，它却向我们展示了 LangGraph 中的几个重要概念：

  • 图（Graph） 是 LangGraph 中最为重要的概念，它将智能体的工作流程建模为图结构。大学《数据结构》课程学过，图由 节点（Nodes） 和 边（Edges） 构成，在 LangGraph 中也是如此，此外，LangGraph 中还增加了 状态（State） 这个概念；
  • 状态（State） 表示整个图运行过程中的状态数据，可以理解为应用程序当前快照，为图中所有节点所共享，它可以是任何 Python 类型，但通常是 TypedDict 类型或者 Pydantic 的 BaseModel 类型；
  • 节点（Nodes） 表示智能体的具体执行逻辑，它接收当前的状态作为输入，执行某些计算，并返回更新后的状态；节点不一定非得是调用大模型，可以是任意的 Python 函数；
  • 边（Edges） 表示某个节点执行后，接下来要执行哪个节点；边的定义可以是固定的，也可以是带条件的；如果是条件边，我们还需要定义一个 路由函数（Routing function），根据当前的状态来确定接下来要执行哪个节点。

通过组合节点和边，我们可以创建复杂的循环工作流，随着节点的执行，不断更新状态。简而言之：节点用于执行动作，边用于指示下一步动作。

LangGraph 的实现采用了 消息传递（Message passing） 的机制。其灵感源自 Google 的 Pregel 和 Apache 的 Beam 系统，当一个节点完成其操作后，它会沿着一条或多条边向其他节点发送消息。这些接收节点随后执行其功能，将生成的消息传递给下一组节点，如此循环往复。

代码详解

了解这些基本概念后，再回过头来看下上面的代码，脉络就很清楚了。

首先我们通过 StateGraph 定义了状态图：

graph_builder = StateGraph(MessagesState)

它接受状态的 Schema 作为构造参数，在这里直接使用了内置的 MessagesState 类，它的定义如下：

class MessagesState(TypedDict):
    messages: Annotated[list[AnyMessage], add_messages]

MessagesState 很简单，仅包含一个 LangChain 格式的消息列表，一般在构造聊天机器人或示例代码时使用，在正式环境中用的并不多，因为大多数应用程序需要的状态比消息列表更为复杂。

后面的 add_messages 被称为 规约函数（Reducers），表示当节点执行后状态如何更新。当没有定义规约函数时，默认是覆盖的逻辑，比如下面这样的状态 Schema：

from typing import TypedDict

class State(TypedDict):
    foo: int
    bar: list[str]

假设图的输入为 {"foo": 1, "bar": ["hi"]}，接着假设第一个节点返回 {"foo": 2}，这时状态被更新为 {"foo": 2, "bar": ["hi"]}，注意，节点无需返回整个状态对象，只有返回的字段会被更新，再接着假设第二个节点返回 {"bar": ["bye"]}，这时状态将变为 {"foo": 2, "bar": ["bye"]}。

当定义了规约函数，更新逻辑就不一样了，比如对上面的状态 Schema 稍作修改：

from typing import TypedDict, Annotated
from operator import add

class State(TypedDict):
    foo: int
    bar: Annotated[list[str], add]

仍然假设图的输入为 {"foo": 1, "bar": ["hi"]}，接着假设第一个节点返回 {"foo": 2}，这时状态被更新为 {"foo": 2, "bar": ["hi"]}，再接着假设第二个节点返回 {"bar": ["bye"]}，这时状态将变为 {"foo": 2, "bar": ["hi", "bye"]}。

定义了图之后，我们接下来就要定义节点，这里我们只定义了一个 chatbot 节点：

def chatbot(state: MessagesState):
    return {"messages": [llm.invoke(state["messages"])]}

节点就是普通的 Python 函数，在这里调用大模型得到回复，也可以是任意其他的逻辑，函数的入参就是上面所定义的状态对象，我们可以从状态中取出最新的值，函数的出参也是状态对象，节点执行后，根据规约函数，返回值会被更新到状态中。

定义节点后，我们就可以使用 add_node 方法将其添加到图中：

graph_builder.add_node("chatbot", chatbot)

然后再使用 add_edge 方法添加两条边，一条边从 START 节点到 chatbot 节点，一个边从 chatbot 节点到 END 结束：

graph_builder.add_edge(START, "chatbot")
graph_builder.add_edge("chatbot", END)

START 和 END 是两个特殊节点，START 表示开始节点，接受用户的输入，是整个图的入口，END 表示结束节点，执行到它之后就没有后续动作了。

值得注意的是，这里构建图的接口形式借鉴了 NetworkX 的设计理念。整个图构建好后，我们还需要调用 compile 方法编译图：

graph = graph_builder.compile()

只有编译后的图才能使用。编译是一个相当简单的步骤，它会对图的结构进行一些基本检查，比如无孤立节点等，也可以在编译时设置一些运行时参数，比如检查点、断点等。

编译后的图是一个 Runnable 对象，所以我们可以使用 invoke/ainvoke 来调用它：

response = graph.invoke(
    {"messages": [HumanMessage(content="合肥今天天气怎么样？")]}
)
response["messages"][-1].pretty_print()

也可以使用 stream/astream 来调用它：

for event in graph.stream({"messages": ("user", "合肥今天天气怎么样？")}):
    for value in event.values():
        value["messages"][-1].pretty_print()

工具调用

记忆

高级特性

Part 4: Human-in-the-loop

Part 5: Manually Updating the State

Part 6: Customizing State

Part 7: Time Travel

参考

LangGraph Blogs

LangGraph Examples

Cobus Greyling

中文资料

更多

LangGraph 应用场景

官网文档提供了很多 LangGraph 的应用场景，包括 聊天机器人、RAG、智能体架构、评估分析等。

Chatbots

RAG

Agent Architectures

Multi-Agent Systems
Planning Agents
Reflection & Critique

Evaluation & Analysis

Experimental