AI 流式输出都用 SSE,什么时候必须换 WebSocket?
AI客服流式响应因Nginx缓冲和裸EventSource导致首字延迟与重试风暴。需关闭代理缓冲,采用可取消、可续接的SSE客户端,并明确SSE与WebSocket的选型边界。
回到原文
这里保留短导读,不转载来源网站的完整正文。具体表述和后续更新请以原文为准。
打开 掘金 原文AI客服流式响应因Nginx缓冲和裸EventSource导致首字延迟与重试风暴。需关闭代理缓冲,采用可取消、可续接的SSE客户端,并明确SSE与WebSocket的选型边界。
这里保留短导读,不转载来源网站的完整正文。具体表述和后续更新请以原文为准。
打开 掘金 原文