技术主题

流式输出

模型与智能体运行结果的实时增量传输。

主题概览

Streaming 不只是把模型生成的文字逐字显示。Agent 执行时还有工具调用、状态更新和中间步骤,流式接口需要让调用方分清这些数据各自代表什么。实际接入时,最容易出问题的是事件类型混用、客户端重复渲染,以及中断后缺少明确的结束状态。本专题从 LangChain 的流式机制与调用方式入手,整理实践中的接口和交互边界。

重点内容

  • Token 流与 Agent 执行事件的区别
  • 流式接口的消费方式与前端呈现
  • 工具调用和中断场景下的状态处理

2 篇内容