語音 Agent 延遲預算：點樣將「反應慢」拆成五段去量

一句答你： 語音 agent 講「慢」，通常唔係真係慢，係你量錯咗位。客戶講完到聽到聲音，中間有五段；每段要獨立量、獨立睇分佈。先知邊段食咗時間，先知要改邊一段。

「反應慢」係客服投訴最常見嘅一項，但係「慢」係一個感覺，唔係一個數。你要嘅係一份延遲預算——一個寫低咗上限、分配咗落五段、可以每個回合對數嘅合約。

呢篇就係教你點樣寫嗰份合約，同埋點樣喺真實電話上面量到數。

重點摘要

• 客戶講完到出聲，中間有五段延遲。每段嘅成因唔同，優化方法都唔同。
• 應該分開睇三個時間：出第一個字、出完整一句、插嘴到收手。客戶嘅投訴通常指第一個。
• 量度要睇分佈。最差嗰次先係用家記住嗰次，平均數會令你以為冇問題。
• 公開測試顯示，語言模型通常係最大一段；但最差嗰次嘅波動，多數唔係模型帶來嘅。
• 粵語有一段額外難位：句界判定。停頓比英文長，呢段容易食晒預算。
• 預算超標時， cheapest 嘅調整唔係換模型，係寫短啲。
• 成本同延遲係兩條線：辨識按客戶講嘢嘅秒數計，合成按你答覆嘅字數計。

延遲唔係一個數，係五個數

端到端延遲 係指由客戶停止講嘢，到客戶聽到系統回應第一個字，之間嘅總時間。首字節延遲 係指由客戶停止講嘢，到系統產生第一個音頻位元嘅時間。

兩個數唔一樣，差落播放緩衝同傳輸時間。客服場景應該以首字節延遲做主指標，因為客戶唔會等你講完先評價。

再細分，客戶真正會抱怨嘅係三個時間點：

如果你淨係報一個「端到端平均延遲」，你會同時睇唔到三樣嘢：邊段慢、慢幾多、客户嗰下其實做咗咩。

五段預算：每段要量嘅係咩

港嘢廣東話 AI 客服功能頁有同一張分段表，寫法係書面語，可以直接攞去做技術評審附件。

點解分段要咁細？ 因為每一段嘅解法都唔同。收音慢要查網絡同編解碼；回應生成慢要縮短提示詞同預先檢索；語音合成慢通常係句子太長，切得唔夠碎。混埋一齊睇，你只會得出「買個快啲嘅引擎」呢個冇用嘅結論。

點量：打點、樣本、分佈

打點：每段前後各記一個時間戳

最基本嘅要求係同一個 request id 貫穿五段。冇 request id，你只會拿到一堆對唔上嘅數字。

量度方法有兩個選擇：

• 服務端逐段打點 — 準，會漏咗客戶網絡同播放緩衝嗰部分。
• 用戶端量總時間 — 貼近體感，但拆唔開成因。

兩個都要。服務端嗰套用嚟搵原因，用戶端嗰套用嚟驗收。

樣本：唔好跑一通就下結論

一通電話唔夠。最低要求係 50 至 100 個真實回合，再分時段跑兩輪（繁忙同非繁忙）。公開研究做語音代理測試時，樣本用咗 500 句真實電訊查詢，並且逐段記錄耗時（見 arXiv:2508.04721，2025 年 8 月）。同一方向嘅工具亦可以逐回合顯示每個模組嘅延遲指標（ESPnet-SDS，NAACL 2025 demo）。

分佈：睇最差嗰次，唔好睇平均

如果只能報一個數，報 p95，唔好報平均。平均會將最差嗰幾次藏喺入面。

公開測試數據：一份可以直接引用嘅分段平均

下面係上面嗰篇論文報告嘅分段平均延遲。佢嘅價值唔係「呢個數字就係香港嘅水平」，而係比例關係：邊一段最大、邊一段可以近乎唔理。

分段加埋唔等於用家等嘅時間。 上面四段相加係 1.013 秒，但端到端實測只有 0.934 秒。差額來自重疊：語音合成一開工，語言模型可以繼續出下一句。量度時要分清你想收窄嘅係分段，定係用家真正等緊嗰段時間。

更值得留意嘅係同一份數據嘅離散程度。

【獨家觀察】 最差嗰次嘅額外時間，唔係平均線上任何一段嘅自然波動。語音合成最差 1.769 秒、平均 0.286 秒，相差六倍；回應生成最差 1.706 秒、平均 0.670 秒，相差兩倍半。即係話，峰值問題同平均問題係兩件事：平均慢要優化模型，最差慢要查排隊、連線建立同冷啟動。

另外嗰篇研究講明，語音代理嘅互動質素要用三個系統層指標睇：barge-in、句尾判定準確率、端到端延遲（見 FireRedChat，arXiv:2509.06502，2025 年 9 月）。淨睇延遲係唔夠嘅。

粵語特有嗰一段：句界判定

句界判定 係指系統判斷「客戶講完未，可以開始回應」呢個決定。

呢段係粵語客服最容易被低估嘅一段。原因有三個：

1. 自然停頓比較長。 香港人講嘢嘅節奏同英文唔同，驚嘅停頓、思考嘅停頓都偏長。系統如果照英文嘅停頓門檻切，會將一句切開兩半。
2. 語氣詞影響邊界。 「咁……你睇吓」呢類結構，尾字唔係內容。
3. 尾字拖長。 「續約兩年——」呢種講法，尾字嘅長度會影響判定幾時落手。

例如同樣一句「我下個星期想續」，講得慢同講得快，句界判定會差幾百毫秒。呢個唔係 bug，係語言本身嘅樣。

處理方法有兩條路：

• 固定時間窗 — 簡單，但遇到慢講嘅客就會切錯。
• 語意加停頓混合 — 停頓只係其中一個訊號，仲要睇語意似唔似講完。公開研究顯示對話系統最常見嘅問題就係唔知幾時應該開口，同埋打斷得太急（見 Talking Turns，arXiv:2503.01174，2025 年 3 月）。

【獨家觀察】 粵語場景我會建議喺預算裡面，將句界判定獨立列一行，唔好併入「收音」嗰段。因為兩段嘅成因完全唔同：收音慢係網絡，句界判定慢係語言同策略。併埋就永遠分唔到。

預算超標時嘅取捨次序

超標之後要改嘢，次序唔應該由「邊個技術最潮」決定，而應該由「客戶體感改善 ÷ 改動代價」決定。

先做 1 至 3，唔好直接跳去 6。 答覆由三句變一句，客戶耐受時間即時變短，合成時間同步下降——成本同體感一齊解決。改模型之前，先確認瓶頸真係喺模型。比如你發現回應生成慢，先檢查提示詞有冇塞咗唔必要嘅背景資料，之後先考慮換模型。

延遲點影響錢

【原創數據】 呢兩條成本線，用港嘢現行公開費率自己就算得（2026-10-25 查閱）：

• 語音辨識：HK$1.40／音頻小時，即每 1 秒音訊大約 HK$0.00039。
• 語音合成：入門方案 HK$128 每月 200,000 字符，即每字符大約 HK$0.00064。

一通三分鐘嘅電話，辨識成本大約 HK$0.07。合成嗰邊，如果答覆係 25 字，成本大約 HK$0.016；答覆 75 字，就變成大約 HK$0.048。

所以「寫短啲」同時慳兩樣嘢。 合成字符少，客戶要聽嘅時間亦少。攤到一個月，語音辨識成本只由客戶講嘢嘅時間決定，唔受你答覆長短影響；語音合成成本就同答覆長短成正比。成本同延遲喺呢一點上係同一個決定。逐項算式，睇AI 客服每通話成本。

點樣持續監察

預算唔係寫完就算，要有人守住。

埋三個指標：

1. 首字節延遲 p95 — 日常用嚟睇有冇整體退化。
2. 插嘴收手延遲 p95 — 客戶話咗「等一下」之後幾耐先停。
3. 句尾判定錯誤率 — 切錯嘅比例，同切慢嘅比例要分開睇。

每個指標都要有報警門檻。 門檻用你自己嘅 p95 訂，唔好用文獻數字。收到警報之後要做嘅係睇係邊一段開始變慢，而唔係全盤重測。

驗收方法同埋測試語料嘅砌法，可以參考粵語語音 Agent 測試指南。想知道近即時體驗點樣靠短句同預取砌出嚟，睇即時粵語語音 Agent 架構。成個架構嘅取捨，Voice Agent 架構指南有決策樹。

常見問題

延遲預算應該訂幾多？

冇通用答案。做法係先量你而家嘅真實分佈，再訂一個「最差嗰次都要企穩」嘅數，然後逐步收窄。訂得太鬆等於冇訂，訂得太緊就會逼住團隊做一啲對客戶冇用嘅優化。

應該報平均定 p95？

報 p95，或者報兩個。平均只適合講趨勢，唔適合做驗收標準。

播放緩衝設幾大？

緩衝太細會斷續，太大會推遲體感。呢個係「流暢」同「即時」之間嘅取捨，冇標準答案，要喺真實電話上面用耳聽。工程上嘅做法係用足夠緩衝保證唔斷，再靠句子切碎去攞返嗰段即時感。

客戶講得慢會點？

句界判定會被拉長，延遲自然升。所以驗收語料一定要包含慢速同快速兩種講法，唔可以只用你同事平時嘅語速。

想落手做一份延遲預算表？

延遲預算最實用嘅版本其實係一張表：每段一行，打點位置、目前 p50 同 p95、目標值、負責人、上次更新日期。

整體嘅工程脈絡，我哋喺廣東話 AI 客服點樣砌嗰篇講得更完整；同場景相關嘅產品面，睇廣東話 AI 客服。想了解我哋背景，可以喺「關於港嘢」一頁睇；有技術問題歡迎聯絡我哋。

---

本文由港嘢內容團隊編輯審閱（editorial review，2026-10-25）。文中引用嘅分段數據全部來自公開論文，已標明出處同日期；未喺你嘅網絡同電話平台實測嘅數字，本文唔會當成保證值。