实时语音对话的延迟优化：对话感的技术栈

延迟的构成

语音识别、模型推理、语音合成三段延迟相加，加上网络传输。任何一段超过几百毫秒都会破坏对话感。

优化的手段

流式识别（边说边识别）、流式合成（边生成边说）、模型推理的首 Token 优化、端侧部署消除网络延迟。

对话感的设计

允许打断（用户随时插话）、语气词与停顿的自然处理。技术之外，对话节奏的设计同样重要。