WebSocket
握手机制(八股)
WebSocket 是一种应用层通信协议,用于在浏览器与服务器之间建立持久的、全双工的数据通道。
这里容易和名字里的 Socket 混淆:底层网络传输确实依赖 TCP socket,但 WebSocket 本身并不是“在传输层建立的 socket”,而是运行在 TCP 之上的应用层协议。它规定了浏览器和服务端如何握手、如何编码和收发消息,以及如何关闭连接。
WebSocket 建连时会先发起一次看起来像普通 HTTP 的请求;这一步不是“假装 HTTP”,而是为了复用 HTTP 的入口能力,例如 80/443 端口、反向代理、鉴权和 TLS。客户端在请求头中声明希望将连接升级为 WebSocket,以 Manus 为例:
如果服务端支持,便返回 101 Switching Protocols。此后,这条 TCP 连接不再按照 HTTP 的“一问一答”模型传输,而是切换为 WebSocket 帧协议,客户端和服务端都可以随时主动发送消息。
SSE
SSE 是 "chatbot" 选型最常用的方案,你如果让 AI 给你写一个 "chatbot",往往它会给来上一套经典的 Next.js + Tailwind + ai 的方案,因为 npm 里的 ai 和 Next.js 都是 Vercel 出品
手搓 SSE
虽然 SSE 本身有大量的封装 SDK 、开源库或者 npm 包,但面试还是会考一下你手搓滴,下面是一个示例
feature: SSE 封装:心跳 + 自动重连 + 消息缓存 + 卸载销毁
EventSource 版本
1/** 2 * SSE 封装:心跳 + 自动重连 + 消息缓存 + 卸载销毁 3 * 4 * 客户端断开两种语义: 5 * 1. 关页 / 卸载 → stop:清理资源,不再重连 6 * 2. 网络断 → onerror / offline + 心跳超时:意外断开,自动重连 7 * 8 * @param {object} options 9 * @param {(msg: object) => void} [options.onMessage] - 用来调试 10 */ 11export function createSSEHook(options) { 12 const { onMessage: _onMessage } = options; 13 14 let eventSource = null; 15 let stopped = false; 16 let lastEventId = null; 17 let lastActivityAt = Date.now(); 18 19 const messages = []; 20 const messageId = new Set(); 21 22 const closeStream = () => { 23 eventSource?.close(); 24 eventSource = null; 25 }; 26 27 const connect = () => { 28 if (stopped) return; 29 30 closeStream(); 31 let url = `${location.protocol}//${location.hostname}:3002/ai-stream`; 32 33 if (lastEventId) { 34 url += "?lastEventId=" + encodeURIComponent(lastEventId); 35 } 36 37 const eventSource = new EventSource(url); 38 39 eventSource.addEventListener("message", (event) => { 40 if (event instanceof MessageEvent) { 41 lastEventId = event.lastEventId; 42 } 43 44 try { 45 lastActivityAt = Date.now(); 46 const data = JSON.parse(event.data); 47 if (data.type === "heart") { 48 lastActivityAt = Date.now(); 49 } else if (!messageId.has(data.id)) { 50 messageId.add(data.id); 51 messages.push(data); 52 } 53 } catch {} 54 }); 55 56 eventSource.onopen = () => { 57 lastActivityAt = Date.now(); 58 }; 59 60 eventSource.onerror = () => { 61 if (stopped) return; 62 if (eventSource.readyState === EventSource.CLOSED) { 63 // 初始连接时,Nginx/网关没挂,但是服务器重启这种 case 不会触发 EventSource 64 // 自动重连(即 readyState === EventSource.CONNECTING),因此需要实现重连 65 closeStream(); 66 connect(); 67 } 68 }; 69 }; 70 71 /** 场景 2:半开连接(TCP 还在但流已死)→ 心跳探测失败后重连 */ 72 const timer = setInterval(() => { 73 if (stopped || eventSource?.readyState !== EventSource.OPEN) return; 74 if (Date.now() - lastActivityAt > 3000) { 75 connect(); 76 } 77 }, 1000); 78 79 /** 场景 1:关页 / 组件卸载 — 彻底销毁 */ 80 const stop = () => { 81 stopped = true; 82 clearInterval(timer); 83 closeStream(); 84 window.removeEventListener("pagehide", stop); 85 }; 86 87 // pagehide 比 beforeunload 更稳(移动端/ bfcache) 88 window.addEventListener("pagehide", stop); 89 90 connect(); 91 92 return { 93 messages, 94 stop, 95 }; 96} 97
EventSource 建立的 SSE 对应的服务端一般会返回 chunk_id 如下图
在网络抖动或者服务端重启导致的 EventSource 自动重连会带上最后一个 id,这样服务端就能够根据 last-event-id 里去按需返回 redis 缓存里的 chunk,client 渲染的 chunk 就不会重复
重连时服务端日志如下
1$ npm run start -w sse-hook 2 3> sse-hook@1.0.0 start 4> node server.js 5 6SSE demo: http://localhost:3001 7Last-Event-ID: undefined 8Last-Event-ID: heart-1793717750411 9
QA
Q: 我在浏览器怎么看不到 last-event-id?
A: Chrome 里的重连连接可能看不到浏览器携带的 last-event-id
最好是在服务端打印观察,比如
1app.get('/ai-stream', (req, res) => { 2 console.log('Last-Event-ID:', req.headers['last-event-id']); 3 ... 4} 5
Q: 我该怎么模拟网络抖动?
A: 最好是在电脑做服务端,然后手机和电脑连同一个 Wi-Fi,打印电脑端的局域网 iP,然后手机访问对应的 iP + Port 去访问(比如 http://192.168.1.10:3001),再关闭 Wi-Fi,触发 EventSource 的自动重连,然后再开 Wi-Fi,观察服务端有没有接收到重连的请求
如果你有两台电脑,接收端的电脑(如果是 MacOS)记得在打开 系统设置 → 隐私与安全性 → 本地网络,允许实际用于访问的应用,比如 Chrome,不然访问不了你的局域网 iP + Port,开启示例如下图
ReadableStream 版本
相对于 EventSource,ReadableStream 的 SSE 实现更好拓展和自定义,可以使用 POST、携带请求体或自定义请求头,也可以在读取前检查响应状态,比如 HTTP 状态码和 Content-Type,决定是否解析 SSE,是否重连和对应的实现也可以自己根据业务决定,一个例子如下:(由于实现代码太长,只使用伪代码,完整代码可以查看参考文档里的 github 链接)
1function useSseChat() { 2 const [messages, setMessages] = useState([]); 3 const [status, setStatus] = useState("ready"); 4 const prevStatusRef = useRef(status); 5 const canResumeRef = useRef(false); 6 const sseController = useRef(null); 7 8 useEffect(() => () => sseController.current?.abort(), []); 9 10 const sendMessage = async (url = "/api/chat") => { 11 canResumeRef.current = true; 12 sseController.current?.abort(); 13 const controller = new AbortController(); 14 sseController.current = controller; 15 setStatus("streaming"); 16 17 try { 18 const res = await fetch(url, { 19 signal: controller.signal, 20 }); 21 await res.body 22 .pipeThrough(new TextDecoderStream()) 23 .pipeThrough(new EventSourceParserStream()) 24 .pipeThrough( 25 new TransformStream({ 26 transform(event) { 27 const reply = JSON.parse(event.data); 28 setMessages((curr) => { 29 const i = curr.findLastIndex((m) => m.id === reply.id); 30 if (i === -1) return [...curr, reply]; 31 else return curr.with(i, reply); 32 }); 33 }, 34 }), 35 ) 36 .pipeTo(new WritableStream()); 37 } catch { 38 } finally { 39 if (!controller.signal.aborted) setStatus("ready"); 40 } 41 }; 42 43 useEffect(() => { 44 const prevStatus = prevStatusRef.current; 45 prevStatusRef.current = status; 46 if ( 47 prevStatus !== "streaming" || 48 status !== "ready" || 49 !canResumeRef.current 50 ) { 51 return; 52 } 53 const controller = new AbortController(); 54 let timer, 55 attemps = 0; 56 57 const checkHeartbeat = async () => { 58 if (attemps >= 10 || controller.signal.aborted) return; 59 attemps++; 60 61 try { 62 const res = await fetch("/api/chat/heart", { 63 method: "POST", 64 headers: { "Content-Type": "application/json" }, 65 body: JSON.stringify({ id }), 66 signal: controller.signal, 67 }); 68 const { canResume } = await res.json(); 69 if (controller.signal.aborted) return; 70 if (canResume) return sendMessage(`/api/chat/${id}/heart`); 71 } catch {} 72 73 if (!controller.signal.aborted && attemps < 10) { 74 timer = setTimeout(checkHeartbeat, 1000); 75 } 76 }; 77 78 checkHeartbeat(); 79 80 return () => { 81 controller.abort(); 82 clearTimeout(timer); 83 }; 84 }, [status]); 85 86 return { 87 messages, 88 sendMessage, 89 stop() { 90 canResumeRef.current = false; 91 sseController.current?.abort(); 92 setStatus("ready"); 93 }, 94 }; 95} 96
ReadableStream 版本多了 chunk 的处理
EventSource内置了 SSE 解析,监听器可以直接从event.data取到事件载荷。如果用fetch读取 SSE,就要先把响应字节流解码成文本,再用EventSourceParserStream从连续的文本块中识别事件边界、提取data。服务端把 JSON 放在data:里时,提取出的载荷就是 JSON 字符串。 - codex
EventSource 版本根据心跳处理 TCP 半开连接的场景在 ReadableStream 版本先忽略
边界 Case
- if (canResume) return sendMessage(
/api/chat/${id}/heart):检测到可以重连后需要及时终止心跳,直接return sendMessage...,避免下一轮心跳再次触发,导致连续断点续连 res.body需要等待:ReadableStream的处理是链式调用,类似Promise().then().then(),如果需要等待流式管道完成,需要await + pipeTo
竟态 Case
由于自动重连、续流、停止三个操作都互有关联,因此三方的竟态处理需要处处防御
status驱动的重连的防御:停止SSE也就是stop的调用也驱动了status: streaming -> ready,但这不是我们自动重连该监听的,因此我们需要一个标志位防御下,即canResumeRef(状态驱动自动重连其实不是一个很好的设计,后续类似的状态变多更应该考虑事件驱动,比如redux, useReducer的dispatch,能够追根溯源)
轮询
有些流式可能是轮询实现,比如 OpenAI 的一个例子, 1s 去查一次状态,即 get_run_status,理论上 get_run_status 可以实现返回 message
轮询实现 AI 流式对话的 case 实在太少,就不过多展开
不过可以说下什么时候用它
比如文生视频、文生图,这种耗时较长的工具调用可以用轮询,因为这期间没啥输出
SSE 和 WebSocket 有什么不同?
两者都能让 AI 的回答“一个字一个字地冒出来”,但通信模型不同。
SSE 是服务端单向推送。客户端先用 HTTP 发起请求,服务端保持响应不结束,并持续把生成结果推回客户端。用户发送提问、点击“停止生成”等操作,则另外通过普通 HTTP 请求提交。
1客户端 ── HTTP 请求 ──> 服务端 2客户端 <── SSE 事件流 ── 服务端 3
WebSocket 则是全双工通信。连接建立后,客户端和服务端共享一条长期存在的通道;任何一方都能主动发消息。
1客户端 <──── WebSocket 双向通道 ────> 服务端 2
| 对比项 | SSE | WebSocket |
|---|---|---|
| 通信方向 | 服务端 → 客户端 | 客户端 ↔ 服务端 |
| 基于什么 | HTTP 持续响应 | 升级后的 WebSocket 协议 |
| 浏览器原生接口 | EventSource | WebSocket |
| 适合 AI 文本流 | 很适合 | 也适合,但常有些“重” |
| 适合实时双向场景 | 一般 | 更适合,如语音、协作、游戏 |
对于普通 AI 文本对话,SSE 往往足够且实现简单:用户发一次请求,服务端流式返回回答。只有当客户端需要频繁、实时地主动向服务端发送数据——例如实时语音、多人协作、持续状态同步——WebSocket 的双向能力才更有价值。
总结:
SSE 是“服务端持续说,客户端另开口”;WebSocket 是“双方一直通着电话,谁都能随时说话”。
参考文档
- reconnecting-eventsource.ts - fanout/reconnectin…
- EventSource - MDN
- assistant-basic - openai-quickstart-python - github
- pandoralink/hand-tearing - github
参考文档
- Primers 编程伙伴/HTML/HTML 元素/param
- Primers 编程伙伴/HTML/HTML 元素/object
- Primers 编程伙伴/HTML/HTML 元素/data
- Primers 编程伙伴/Python/内建函数/id
- Primers 编程伙伴/HTML/HTML 元素/body
- Primers 编程伙伴/HTML/HTML 元素/i
- Primers 编程伙伴/Bash/帮助手册/return
《孔乙己的茴字有多少种写法?|AI 对话实时通信的三种实现》 是转载文章,点击查看原文。
