ChatGPT 实时语音技术实现原理
把 ChatGPT 实时语音从头拆到尾:VAD / ASR / LLM / TTS 五个模块加一个事件驱动的 Realtime Scheduler,构成一台永远运行的流式系统。文章讲清「为什么能边听边说」「Reply Score 怎么算」「为什么'嗯''啊'不会打断'等等'就会」「打断发生时状态如何冻结重启」「LLM 靠 KV Cache + 增量解码 + 推测解码把首 token 时延压到最低」等一整条链路——最后落到一个反直觉的结论:真正让它像真人对话的从来不是 LLM,而是 Scheduler。