Generated by Answer me with HTML 0.5.2 · 2026-10-14 16:41 · ★ Star on GitHub
Embedding Gemma 轉錄:一小時音訊,13 秒轉完
原理、速度、限制與 HN 反應懶人包
Lead: Embedding 模型轉行做語音轉文字。英文限定,速度極快,準確度還在追。
結論
Mac 上丟入音檔,1 小時約 13 秒出稿。全程本機 Neural Engine 運算,音檔不外傳。英文專用,錯誤率約 5%。
原理:從共享空間讀字
- Audio encoder 沿用 EmbeddingGemma 2,不更動。
- 訓練對象只有 reader,8×H100 不到 2 小時。
- 訓練語料是開放授權英文語音。
- Base 模型原本不做語音轉文字。
速度:M3 Air 實測
| 模型 | 執行處 | 結果 |
|---|---|---|
| Embedding Gemma Transcribe | Neural Engine・M3 Air 8GB | 288×・1 小時用 12.6 秒 |
| IBM Granite Speech TurboCTC | GPU MLX・同機 | ~150×・約 25.7 秒 |
| Parakeet TDT v3・Phonon-2 | Neural Engine・M4/M5 Pro | 原廠數據・機型不同 |
- 倍率指每秒處理對應的音訊秒數。
- 後三列來自 FluidAudio 公布數據,僅供參考。
- 網友 M4 Mac Mini 實測:33 分鐘音檔用 6.75 秒。
限制:三件事先知道
| 項目 | 狀態 |
|---|---|
| 中文轉錄 | 不支援・詞表只有英文 |
| 錯誤率 | 約 5%・領先模型約 2–3% |
| 開源 | 頁面 Apache 2.0 指 base 模型・App 免費但未開源 |
- 作者承諾幾天內開源全部程式。
- 多語言 reader 在計畫中,德文複合字有疑慮。
- 日常使用足夠,專業用途還不夠穩。
HN 反應:吵什麼
- 技術派問字邊界切分、平行化、CTC head 對比。
- 作者回覆:reader 本質是 CTC head,輸出 229k 字向量。
- 字母級 CTC 在乾淨音檔較好,困難音檔拼錯字慘敗。
- 實測派確認速度,Apple 內建模型慢 3–4 倍。
- 許願派要 Hindi 混音、韓文、多語言版。
- 進步感嘆:疫情前轉錄爛到關掉,現在本地秒轉。
誰適合用
| 情境 | 建議 |
|---|---|
| 英文會議錄音快速出稿 | 適合・本機處理不外傳 |
| 英文播客逐字稿初稿 | 適合・再人工校一遍 |
| 中文或中英混音 | 不適合・等候多語言版 |
| 法庭醫療等零容錯場景 | 不適合・5% 錯誤率太高 |
- 用法:丟入音檔,或按住 Right Option 說話放開。
- 系統需求:macOS 14 起,Apple Silicon。
- 首次啟動下載模型約 715 MB。