工作清單

MOSS 0.9B ASR 模型测评:多说话人转录打轴毫无压力?!

逐字稿文字預覽

叮咚棒棒。
今天我們帶來MOS團隊出品的MOS Transcribe Diarize 模型。
0.
9B小模型,卻能適配多說話人場景。
話不多說,直接看應用樣例。
我們先看這個接近40分鐘的單說話人會議場景。
能看到這個識別精度還有打軸的準確率都是比較高的。
It's called Attention Residual,Block Attention Residual,on the right hand side。
這裡像Attention Residual這種名詞也能識別準。
不過像Adam優化器這種出現率比較低的名詞,就識別稍差一點。
And it's back, and now we scale an open source Adam optimizer.
然後看這個35分鐘的多說話人會議場景。
後來我意識到一個問題就是他和之前的這種。
但是我相信只有用過OpenCloud。
我感覺首先可能。
然後另外一個我對。
順著這個剛剛一直在討論。
能看到這五個人基本上都能對上。
有一些專業名詞稍有混淆。
像這裡的OpenCL轉入成OpenCloud。
還有Harness轉入成Hardest。
隨著像Skills啊或者Harness這些大家。
其實影響不太大。
科技名詞更新太快了。
最後的話,看這個有12個說話人的遊戲錄屏。
你們也有男朋友嗎?
5個好像是。
能看到都穩定分隔開來了。
不過後面出現了S13和S14兩個多餘的說話人。
這兩個說話人之前是已經被識別為了S5和S6的。
但考慮到模型才0.
9B,整體還是瑕不掩瑜的。
如果大家用官方提供的WebUI的話,還有比較方便的導出功能。
包括設置特定格式等等。
方便各位後續的處理。
最後看一下官方的客觀指標。
最後看一下官方的客觀指標。
能看到這個小模型甚至能幹過許多大廠必源模型。
並且能看到他們還提供了一個Pro版本。
Pro版本不僅性能更強。
而且MOS官方還提供了網站。
支持在線使用或者調用API使用。
網站我放到簡介和置頂評論裡了。
歡迎大家多多使用。
大家也可以結合其他阿婆主的視頻去看。
大家都對MOS Transcribe Diarize給出了比較正面的評價。
歡迎大家到官網使用。
我們下期視頻再見。

來源:transcript.txt

本次執行流程與問題處理

  1. 下達指令

    指令:videonote https://b23.tv/V6bWZS3 --language zh --auto-source-subtitles

    來源:https://b23.tv/V6bWZS3

    辨識語言:zh | 參數:--language zh --auto-source-subtitles

  2. 預期流程

    依指令產生的處理順序:

    1. 自動字幕優先,Whisper 作為備援
    2. 來源選擇與品質檢查
    3. 文字校正與句子單元
    4. 筆記與發布
    5. 公開網頁發布
  3. 1. 下載與語音辨識

    工具:videonote-transcribe-url(主辨識管線:下載、Whisper 辨識與選稿)

    處理:下載音訊、以 Whisper 辨識並選出最佳逐字稿

    產出:yt_dlp_meta.json(影片元資料)、audio_16k_mono.wav(16kHz 單聲道音訊)、transcript.whisper.json(Whisper 辨識結果)、transcript.json(正式逐字稿)、transcript_selection_report.json(來源選擇報告)

    耗時:18.1 秒

    關係:依序執行

    結果:完成

  4. 2. 全文快速校讀

    工具:videonote_rapid_transcript_review.py

    處理:先速讀完整逐字稿,再修正高可信突兀詞句並列出待確認項目

    產出:rapid_transcript_review_report.json(產出檔案)

    耗時:21.8 秒

    關係:依序執行

    結果:完成

  5. 3. 建立句子單元

    工具:videonote-build-sentence-units

    處理:將逐字稿切成帶時間軸的句子單元

    產出:sentence_units.json(句子單元)

    耗時:0.8 秒

    關係:依序執行

    結果:完成

  6. 4. 句子密度平衡

    工具:videonote_balance_sentence_units.py

    處理:平衡句子長度與密度

    產出:sentence_units.json(句子單元)

    耗時:0.9 秒

    關係:依序執行

    結果:完成

  7. 5. 時間軸稽核

    工具:videonote_timeline_audit.py

    處理:檢查時間軸與音訊對齊

    產出:timeline_audit_report.json(時間軸稽核)

    耗時:0.9 秒

    關係:依序執行

    結果:完成

  8. 6. 品質檢查

    工具:videonote_controlled_quality.py(檢查時間軸與品質)

    處理:檢查語言、時間軸與可讀性品質

    產出:controlled_quality_report.json(品質報告)、language_sanity_report.json(語言檢查)

    耗時:0.9 秒

    關係:依序執行

    結果:完成

  9. 7. 播放時間軸回填

    工具:videonote_rebase_display_timeline.py

    處理:將網頁播放時間軸回填為校正字幕時間

    產出:display_timeline_rebase_report.json(時間軸回填報告)

    耗時:1.0 秒

    關係:依序執行

    結果:完成

  10. 8. 逐字稿交叉檢查

    工具:videonote_cross_check_transcript.py

    處理:交叉檢查逐字稿與來源字幕

    產出:transcript_crosscheck_report.json(交叉檢查)

    耗時:1.0 秒

    關係:依序執行

    結果:完成

  11. 9. 來源句整理

    工具:videonote_prepare_source_entries.py

    處理:整理來源句子供時間軸與頁面使用

    產出:sentence_units.json(句子單元)

    耗時:1.0 秒

    關係:依序執行

    結果:完成

  12. 10. 生成筆記摘要

    工具:videonote-generate-note(生成筆記摘要)

    處理:生成筆記摘要與重點

    產出:note.md(筆記 Markdown)、note.html(筆記 HTML)

    耗時:77.1 秒

    關係:依序執行

    結果:完成

  13. 11. 建立筆記頁面

    工具:videonote-render-html(產生筆記 HTML)

    處理:產生可閱讀的筆記 HTML 頁面

    產出:note.html(筆記 HTML)

    耗時:0.2 秒

    關係:依序執行

    結果:完成

  14. 12. 發布公開頁面

    工具:videonote-publish(發布公開頁面)

    處理:發布到公開網站與每日列表

    產出:公開筆記網址、result.json(管線結果)

    耗時:0.3 秒

    關係:依序執行

    結果:完成

手動來源字幕

自動來源字幕

Whisper 字幕

Qwen 字幕

Parakeet 字幕

MOSS 字幕

聲學時間證據(PyAnnote / WhisperX)

校正前後逐字稿

目前待解決問題與初步改善方向

進一步精進字幕與筆記
使用 Workbench 上傳校正字幕、中文參考稿或回饋 SRT,重新產生雙語與學習單元。
開啟 Workbench