章节 01
导读 / 主楼:Human-In-The-Loop-using-Langgraph:构建可控的AI智能体工作流
基于LangGraph实现的人机协作系统,演示如何在AI智能体执行关键操作前暂停并请求用户确认,结合工具调用、记忆功能和人工监督,实现更安全的智能体工作流。
正文
基于LangGraph实现的人机协作系统,演示如何在AI智能体执行关键操作前暂停并请求用户确认,结合工具调用、记忆功能和人工监督,实现更安全的智能体工作流。
章节 01
基于LangGraph实现的人机协作系统,演示如何在AI智能体执行关键操作前暂停并请求用户确认,结合工具调用、记忆功能和人工监督,实现更安全的智能体工作流。
章节 02
随着AI智能体能力的不断增强,一个核心问题日益凸显:如何在赋予智能体足够自主权的同时,确保关键决策有人类监督?特别是在涉及资金交易、数据修改、外部系统调用等高风险场景下,完全自主的AI决策可能带来不可控的风险。
Human-In-The-Loop(HITL)模式正是为解决这一问题而设计。它允许AI智能体在执行特定操作前暂停,等待人类用户的确认或拒绝。这种模式在保持AI效率的同时,为关键决策设置了安全阀门。
章节 03
本项目是一个聚焦于LangGraph HITL模式的演示项目,通过实际可运行的代码展示了如何在智能体工作流中集成人工监督机制。项目包含:
章节 04
LangGraph是LangChain的扩展,专为构建有状态、多智能体应用而设计。它提供了:
章节 05
| 组件 | 用途 |
|---|---|
interrupt() |
暂停智能体执行,等待人类输入 |
Command(resume=...) |
恢复执行并传递人类决策 |
MemorySaver |
持久化对话状态 |
thread_id |
区分不同对话会话 |
章节 06
项目的Notebook详细展示了HITL的核心流程:
interrupt(),暂停执行Command(resume={"action": "yes/no"}) 恢复流程章节 07
项目提供了一个生动的股票交易场景来演示HITL的实际应用:
不带HITL的版本(chatbot_without_HITL.py):
带HITL的版本(chatbot_with_HITL.py):
示例对话流程:
用户:购买10股AAPL
系统:[中断] 请确认:购买10股AAPL?
用户:yes
系统:已为您下单购买10股AAPL
章节 08
项目展示了如何对不同操作进行风险分级:
这种分级策略既保证了效率,又确保了安全。