流式架构的工程细节：SSE、断线与并发

SSE 与 WebSocket 的选择

单向流式输出 SSE 足够（实现简单、过代理友好）；双向交互（语音对话、协作编辑）用 WebSocket。多数聊天场景 SSE 是更简单可靠的选择。

断线的处理

流中断后：已生成部分保留展示；重试方案（从断点续传需要服务端支持，重试全量则去重拼接）。移动网络的断流是常态而非异常。

服务端的连接管理

每条流式连接占用服务端资源（上游模型连接与下游客户端连接），高并发的连接池管理与超时策略要专门设计。

• 代理与负载均衡默认缓冲会破坏流式效果，需要关闭缓冲配置

• 长连接的超时参数要调大

• 前端注意 Markdown 分块渲染的闪烁问题

• 流式特有指标：首 Token 延迟、流中断率、断线重连率