langchain-streaming (JavaScript/TypeScript)

概述

流式传输让您能够在 LangChain 代理和模型运行时实时显示更新。您可以逐步显示输出，而不是等待完整的响应，从而改善用户体验，特别是对于长时间运行的操作。

核心概念：

• 流式模式（Stream Modes）：不同类型的数据流（values、updates、messages、custom）
• Token 流式传输：生成时的 LLM token
• 代理进度：每个代理步骤后的状态更新
• 自定义更新：用户定义的进度信号

何时使用流式传输