目錄(21 節)

AI 會議記錄準確度測試:行動項抽取點樣評漏、誤、重複

一份可重複嘅 AI 會議記錄準確度測試方法:分清漏抽、誤抽、重複三類錯誤,逐段標註,再計覆蓋率同準確率。附港式會議 8 個高風險位同人工覆核做法。

— 港嘢內容團隊約 11 分鐘會議記錄準確度測試行動項粵語
分享:

一句答你:AI 會議記錄準確度唔可以一句「準唔準」講完。要分開三類錯誤計:漏咗幾多、抽錯幾多、同一件事寫咗幾多次。

大部分人試 AI 會議記錄,方法都係咁:開一次會,睇一眼摘要,覺得唔錯就完。

問題係咁樣睇唔出三樣嘢。第一,你唔知佢漏咗咩。漏咗嘅嘢永遠唔會出現喺你眼前。第二,你唔知佢有冇作嘢。摘要睇落通順,可能係模型自己填嘅。第三,你唔知同一件事有冇寫咗兩次。

三樣都係「你見唔到」嘅錯誤。而會議記錄嘅核心產出,係行動項。

呢篇畀你一套可以重複做嘅測試方法。同埋一套數字,之後你自己跑得。

Key Takeaways

  • 行動項抽取嘅錯誤分三類:漏抽、誤抽、重複。三類要分開計,混埋就冇辦法改。
  • 覆蓋率(抽中 ÷ 人手標註總數)同準確率(抽中 ÷ 抽出具體條數)要一齊睇。淨係睇覆蓋率,模型可以靠「亂抽」攞到好分數。
  • 港式會議 8 個高風險位:中英夾雜、港式英文專名、數字單位、人名、公司代號、懶音、重疊發言、語氣詞。
  • 標註規則要事先寫死。「呢句算唔算行動項」唔可以問完先傾,傾完就冇標準。
  • 測試集要有重疊發言、數字、專有名詞。全部係乾淨嘅普通句子,測唔到嘢。
  • 工具層面可以救嘅位:改範本嘅行動項指示、重轉錄、重新辨聲。三招都救唔到,就係錄音本身唔夠。

點解「摘要睇落唔錯」唔等於「行動項準」

先講一個學術界已知嘅事實:會議摘要嘅價值唔在概括內容,係在行動項。Golia 同 Kalita 嘅研究指出,一般嘅摘要方法會當咗會議係一段對話,淨係抽主題,所以出嚟嘅摘要又泛又冇用;佢哋改成「由行動項驅動」之後先有實質改善(Action-Item-Driven Summarization of Long Meeting Transcripts,2026-10-25 查閱)。

同一篇研究亦提到,行動項抽取本身要處理兩件事:一係指代,一句入面嘅「你」係邊個;二係空句,例如「你下次會前要做埋嗰樣」,句式似行動項,但冇實質內容。

呢兩點解釋咗點解「摘要睇落唔錯」同「行動項準」係兩件事。摘要可以通順,可以覆蓋大部分主題,但行動項可以同時漏咗三件關鍵嘢、重複咗一件、仲加咗一件唔存在嘅。

行動項抽取 係指由逐字稿入面,抽出「邊個要做咩、幾時前」呢類可執行項目嘅過程。準確度就要靠三個數去講。

三類錯誤要先分清:漏、誤、重複

錯誤類型定義點樣發現影響
漏抽人手標註有,但 AI 冇抽到由標準答案同 AI 結果對讀最貴。件事冇人跟
誤抽AI 抽咗,但唔算行動項逐條回睇原文令真行動項被淹沒
重複同一件事被抽咗兩次或以上語意比對令人以為有幾件事

漏抽 係標準答案有、系統冇。誤抽 係系統抽咗、但原文其實冇呢個承諾。重複 係同一件事以唔同講法出現多次,例如「陳經理跟進報價」同「報價嗰邊由陳經理跟」。

三類嘅成因唔同,修正方法都唔同。漏抽多數係語言覆蓋問題。誤抽多數係範本指示唔夠精準。重複多數係模型見到同一件事講兩次就當兩件事。

所以【獨家觀察】第一個結論係:準確度低唔一定係模型差,可能係你嘅範本指示太空。 呢個先係最平嘅改善。

評分法:逐段標註,計三個數

第一步:寫低標註規則

事先寫一份標註指引,寫到另一個同事照住標,都標得返同你一樣。

指引最少要答四條問題:

  1. 邊啲句子算「行動項」?有冇要求必須有負責人?
  2. 「我哋下次再講」算唔算?
  3. 「阿強會睇下報價」冇講期限,算唔算?
  4. 同一件事講兩次,標一次定兩次?

第 4 條最易爭。答案係標一次,然後喺「重複」欄另外記低出現次數。

第二步:逐段標註

用固定長度做測試單位。建議每段 5 分鐘,逐段標。

每段寫低三樣:人手標註嘅標準行動項清單、AI 抽出嘅行動項清單、逐條比對結果。

第三步:計三個數

覆蓋率 = 抽中嘅行動項 ÷ 人手標註嘅行動項總數
準確率 = 抽中嘅行動項 ÷ AI 抽出嘅行動項總數
重複率 = 重複出現嘅行動項 ÷ AI 抽出嘅行動項總數

例如:人手標 12 條,AI 抽咗 10 條,其中 8 條抽中、1 條重複、1 條誤抽。

覆蓋率 = 8 ÷ 12
準確率 = 8 ÷ 10
重複率 = 1 ÷ 10

呢個例子入面,AI 睇落抽咗好多,但實際上漏咗 4 條。如果只計準確率,會以為佢做得好。

AI 會議記錄行動項抽取評分法流程圖:標註規則、逐段標註、計覆蓋率同準確率、然後分三類錯誤修正
行動項抽取評分法流程:先定標註規則,再逐段標註,計覆蓋率、準確率、重複率,最後分漏抽、誤抽、重複三路修正

第四步:分三路修正

計完之後唔好停。將錯誤分類,逐類對應動作:

主要錯誤根因修正方向
漏抽集中在某啲句式語言覆蓋或提示不足改範本嘅行動項撰寫指示
誤抽集中在某類句子指引太鬆明確寫「唔好將討論當行動項」
重複集中在同一件事模型按句抽取指示要求合併同一件事

測試集點砌:10 段、3 類、8 個高風險位

測試集唔需要大,但要「有計較」。建議最少 10 段,來自 3 類會議:

  • 日常類:週會、項目進度會。呢類最平淡,但係真實用量最大。
  • 決策類:有拍板、有資源分配嘅會。呢類最易出現「誤抽」同「漏抽」嘅混合。
  • 壓力類:投訴、事故、跨部門衝突。呢類最易出現語氣強烈嘅句子。

每段要刻意覆蓋呢 8 個港式高風險位:

#高風險位典型講法對行動項嘅影響
1中英夾雜「個 proposal 未 approve,等我 follow 下」專有名詞被改寫,行動項指唔準嘢
2港式英文專名「engine 」「file 」抽取時變成無意義詞
3數字與單位「三萬五」「七點二 percent」金額同小數位錯,最易出事
4人名「阿龔」「Yvonne 姐」負責人派錯人
5公司/項目代號「PJ-7 嗰邊」檢索唔到,行動項變懸空
6懶音「你哋」讀成「你啲」字面意思錯
7重疊發言兩人同時「唔係喎」「等我講」邊句都漏,或者兩句都當行動項
8語氣詞啦/囉/喇/㗎語氣決定咗係咪「已決定」

第 7 個位最關鍵。香港會議嘅重疊發言比例高過一般辦公室,呢個位一錯,覆蓋率就會大幅波動。

順帶講一個量度陷阱:如果你用字錯率(WER)去比較中英夾雜嘅轉寫,數字會偏離你真正關心嘅嘢。香港科技大學團隊做粵英混合語料庫時就指出,傳統 WER 同 CER 對中英夾雜太嚴格——同一句用音譯寫定用原字寫,字面唔同但意思一樣,會被當成錯,於是提出一個額外計語意保真嘅指標(Developing a Multilingual Dataset and Evaluation Metrics for Code-Switching: A Focus on Hong Kong's Polylingual Dynamics,2026-10-25 查閱)。同一批研究之後再提出一個專為中英夾雜而設嘅語意感知誤差率(SwitchLingua,2026-10-25 查閱)。

【獨家觀察】呢個對你做行動項評分有直接啟示:唔好用一個數概括「準唔準」。 覆蓋率、準確率、重複率三個數,加上逐類錯誤清單,先夠你判斷下一步改咩。

標註規則:一份要事先寫死嘅標註指引

再講多次,因為呢步最容易被跳過。

標註指引唔係「大家小心啲」。而係一份逐條寫死嘅判斷表。例如:

原文句式標唔標行動項理由
「我會聽日 send 埋報價」標有動作、有負責人、有期限
「個報價會搞掂㗎」唔標冇明確動作同負責人
「呢個我哋下次再講」唔標冇承諾
「阿明搞埋個 report」標(但標註「冇期限」)有動作有負責人,冇期限
「Tina 同埋 Leo 跟進報價」標(標註「雙負責人」)跟進工作要求單一負責人,要人手拆

最後一行特別值得留意。範本嘅行動項指示本身就要求「列明單一負責人」,所以雙負責人嘅句子,係一個天然嘅測試位。

人工覆核 10 分鐘做法

唔好靠通讀逐字稿去覆核。咁樣要一個鐘,而且會漏。

原理好簡單:模型抽取嘅嘢,一定有語句喺原文支撐住。冇支撐就係誤抽。有支撐但你冇印象,通常係漏咗。研究上亦有用「話語結構」去決定邊啲句子值得抽出嚟做摘要,喺 AMI 同 ICSI 兩個會議語料庫測試過(Leveraging Discourse Structure for Extractive Meeting Summarization,2026-10-25 查閱),同樣係靠結構判斷邊句有意義。

用呢個做法:

  1. 先睇行動項清單(唔睇逐字稿)。將每一條問「我記唔記得有呢件事?」
  2. 有印象嘅,跳過。
  3. 冇印象嘅,跳去逐字稿搜關鍵字(人名、專有名詞、數字)。
  4. 搵到嘅,標「抽中」。搵唔到嘅,標「誤抽」。
  5. 最後對一次標準答案,搵漏咗嘅。呢步先捉到漏抽。

第 5 步唔可以省,因為漏抽係唯一一個你主動睇唔到嘅錯誤類型。

工具層面可以救嘅三招

如果三招都唔夠,先考慮換工具。

第一招:改範本嘅行動項指示。 內置範本嘅行動項節指示要求「跟進事項,以動詞開頭,列明單一負責人;如有期限一併註明」。你可以喺自訂範本加更緊嘅要求,例如「唔好將討論中嘅選項當成行動項」「同一件事合併成一條」。詳情見會議記錄範本庫。

第二招:重轉錄。 如果漏抽嘅根因係逐字稿本身錯(例如人名轉錯、數字轉錯),改範本冇用,要由轉寫層救。港嘢嘅會議助理支援重轉錄,demo 層每場會議可以重轉錄 3 次、每月 100 場。

第三招:重新辨聲。 如果問題係講者分辨錯,令「負責人」掛咗喺錯嘅人身上,就要重做講者分辨。系統喺辨聲狀態異常時會俾你「重新辨聲」入口。

三招都唔work嘅話,通常唔係提示問題,而係錄音質素問題。收音環境、麥克風擺位、重疊發言比例,會直接決定轉寫層能唔能夠抽到啲嘢。

遠程會議呢一塊有研究做過實測。有個專門針對遠程會議錄音嘅挑戰賽,收集咗 30 間會議室、315 場會議,記錄低唔同距離、唔同干擾、包括重疊發言同快速講話者轉換等真實情況;佢哋列出嘅困難包括混響、講者距離同音量變化,同埋背景噪音(NOTSOFAR-1 Challenge: New Datasets, Baseline, and Tasks for Distant Meeting Transcription,2026-10-25 查閱)。

你見到行動項抽唔到、或者抽到但負責人錯,嗰part見混合會議收音設定指南。

邊啲數字我哋未測,同埋你自己點測

以下三項我哋未跑過,唔會作數;但每一項都可以用你自己嘅錄音重跑出嚟。

【實測】本文引用嘅產品行為,我哋逐項對過現行產品設定:內置範本嘅行動項撰寫指示原文、每場會議可重轉錄 3 次同每月 100 場嘅額度、預設揀粵語加普通話加 English 嘅三語混合。呢啲係查返出嚟,唔係估。

  • 一段 10 分鐘中英夾雜會議錄音,AI 抽出行動項嘅覆蓋率、準確率、重複率。
  • 同一段錄音,改範本指示前後,三個數嘅變化。
  • 港式 8 個高風險位各自嘅漏抽率。

想自己跑,可以跟廣東話語音轉文字實測嗰篇嘅測試集砌法,或者直接用語音轉錄頁跑你自己嘅錄音。整套會議記錄流程可以喺廣東話會議記錄 AI 功能頁睇到。

常見問題 FAQ

會議記錄 AI 準確度可以一個數代表嗎?

唔可以。至少要三個:覆蓋率、準確率、重複率。再加上逐類錯誤清單,先知改邊度。

幾多段錄音先夠測?

最少 10 段,但要覆蓋 3 類會議同 8 個港式高風險位。10 段全部係乾淨普通句子,測唔到嘢。

標註要幾多人做?

最少兩個人,各標一次,比較結果。兩人標得唔一致嘅句子,就係指引寫得唔夠清楚嘅地方。呢啲位最影響你之後嘅判斷。

漏抽同誤抽,邊個嚴重啲?

漏抽通常更貴。因為漏咗嘅事唔會出現喺任何人嘅畫面上,直到出事。誤抽至少會有人睇到,再花 10 分鐘刪走。

可以唔要人手覆核?

技術上可以。但冇覆核,你永遠唔知漏咗幾多,覆蓋率就係一個想象數。

幾錢開始?

檔案轉寫按音頻秒數計,係 HK$0.80 每一個音頻小時;即時聽寫係 HK$1.40 每一個音頻小時,都只計成功嘅部分。測試集用你自己嘅錄音,10 段幾十分鐘,成本係幾蚊。

想試下自己嘅會議記錄?

拎一段真實會議錄音(記得先取得出席者同意),去語音轉錄頁跑一次 baseline,再對住會議記錄 AI 比較睇下工具同語言嘅分別。企業方案查詢:聯絡我哋。


本文由港嘢內容團隊編輯審閱(editorial review,2026-10-25)。想了解我哋嘅背景,可以睇關於港嘢;有技術問題或想申請功能開通,聯絡我哋。

相關文章