Generated by Answer me with HTML 0.5.2 · 2026-10-14 16:41 · ★ Star on GitHub

Embedding Gemma 轉錄:一小時音訊,13 秒轉完

原理、速度、限制與 HN 反應懶人包

sourceeg2.haku.sh・HN 411 分・93 則留言

Lead: Embedding 模型轉行做語音轉文字。英文限定,速度極快,準確度還在追。

結論

Mac 上丟入音檔,1 小時約 13 秒出稿。全程本機 Neural Engine 運算,音檔不外傳。英文專用,錯誤率約 5%。

A

原理:從共享空間讀字

搬入文字空間取最近鄰加標點大小寫輸出音檔切片reader229k英文字標點模型逐字稿
  • Audio encoder 沿用 EmbeddingGemma 2,不更動。
  • 訓練對象只有 reader,8×H100 不到 2 小時。
  • 訓練語料是開放授權英文語音。
  • Base 模型原本不做語音轉文字。
B

速度:M3 Air 實測

模型 執行處 結果
Embedding Gemma Transcribe Neural Engine・M3 Air 8GB 288×・1 小時用 12.6 秒
IBM Granite Speech TurboCTC GPU MLX・同機 ~150×・約 25.7 秒
Parakeet TDT v3・Phonon-2 Neural Engine・M4/M5 Pro 原廠數據・機型不同
  • 倍率指每秒處理對應的音訊秒數。
  • 後三列來自 FluidAudio 公布數據,僅供參考。
  • 網友 M4 Mac Mini 實測:33 分鐘音檔用 6.75 秒。
C

限制:三件事先知道

項目 狀態
中文轉錄 不支援・詞表只有英文
錯誤率 約 5%・領先模型約 2–3%
開源 頁面 Apache 2.0 指 base 模型・App 免費但未開源
  • 作者承諾幾天內開源全部程式。
  • 多語言 reader 在計畫中,德文複合字有疑慮。
  • 日常使用足夠,專業用途還不夠穩。
D

HN 反應:吵什麼

  • 技術派問字邊界切分、平行化、CTC head 對比。
  • 作者回覆:reader 本質是 CTC head,輸出 229k 字向量。
  • 字母級 CTC 在乾淨音檔較好,困難音檔拼錯字慘敗。
  • 實測派確認速度,Apple 內建模型慢 3–4 倍。
  • 許願派要 Hindi 混音、韓文、多語言版。
  • 進步感嘆:疫情前轉錄爛到關掉,現在本地秒轉。
E

誰適合用

情境 建議
英文會議錄音快速出稿 適合・本機處理不外傳
英文播客逐字稿初稿 適合・再人工校一遍
中文或中英混音 不適合・等候多語言版
法庭醫療等零容錯場景 不適合・5% 錯誤率太高
  • 用法:丟入音檔,或按住 Right Option 說話放開。
  • 系統需求:macOS 14 起,Apple Silicon。
  • 首次啟動下載模型約 715 MB。