解鎖AI應用的超能力：LangGraph Stream讓你的聊天機器人飛起來！

Aug 23, 2024

想讓你的AI聊天機器人反應更快嗎？LangGraph Stream技術將徹底改變你構建AI應用的方式。本文深入淺出地介紹這項革命性技術，讓你的AI應用瞬間升級！

在AI時代，反應速度就是一切。想像一下，如果你的聊天機器人能夠即時回應，甚至在用戶還在輸入時就開始思考，那會是多麼驚人的體驗？這不再是科幻電影中的場景，LangGraph Stream技術讓這一切成為可能。讓我們一起來探索這個令人興奮的新世界吧！

為什麼串流技術如此重要？💡

在傳統的AI應用中，我們通常要等待整個回應生成完畢才能看到結果。這就像是等待一封完整的信件送達，而不是即時通訊的體驗。但在現實世界中，我們希望AI能夠像人類一樣，邊思考邊回應。

這就是LangGraph Stream的魔力所在。它能讓你的AI應用：

即時反饋，大幅提升用戶體驗
更靈活地處理長對話
實現更自然、更人性化的交互

LangGraph Stream：解鎖AI的超能力🔓

LangGraph Stream提供了兩種強大的串流模式：

1. values模式：即時獲取圖的完整狀態
2. updates模式：精確追蹤圖狀態的變化

這就像是給你的AI裝上了一個超級望遠鏡和顯微鏡。你可以選擇觀察整個宇宙（完整狀態），或者聚焦於某個特定星球的變化（狀態更新）。

實戰示例：打造超級美食推薦機器人🍜

讓我們通過一個有趣的例子來看看LangGraph Stream如何工作。想像我們正在創建一個能夠推薦夜市美食的AI助手：

@tool
def recommend_night_market_food(preference: Literal["鹹食", "甜食"]):
 """推薦夜市小吃。"""
 if preference == "鹹食":
 return "推薦你試試饒河夜市的胡椒餅，外皮酥脆內餡多汁，是台北知名小吃！"
 elif preference == "甜食":
 return "來一份寧夏夜市的圓仔冰如何？Q彈的湯圓搭配清涼冰品，超級消暑！"
 else:
 raise AssertionError("未知偏好")
# … [其他工具定義]
tools = [recommend_night_market_food, recommend_bubble_tea]
model = ChatOpenAI(temperature=0)
graph = create_react_agent(model, tools)

現在，讓我們看看如何使用`values`模式來獲取即時推薦：

inputs = {"messages": [("human", "我想吃夜市的小吃，有什麼推薦嗎？")]}
async for chunk in graph.astream(inputs, stream_mode="values"):
 chunk["messages"][-1].pretty_print()

💡 專業提示：使用`values`模式可以讓你的AI助手像人類一樣，邊思考邊回答，大大提升用戶體驗！

但如果你想更深入地了解AI的思考過程，`updates`模式會是你的最佳選擇：

inputs = {"messages": [("human", "我想喝夜市的特色飲料，該去哪裡？")]}
async for chunk in graph.astream(inputs, stream_mode="updates"):
 for node, values in chunk.items():
 print(f"接收來自節點 '{node}' 的更新:")
 values["messages"][-1].pretty_print()