# 影片筆記:日语语音识别 | Japanese ASR | 日语转写 | 日语视频提取字幕 | 音视频字幕提取 | OpenAI Whisper日语优化后的模型 ## ⚠️ 可先使用,仍有待修正項目 本筆記已完成可閱讀的逐字稿與時間跳轉;下列為待處理問題,建議播放原片確認。 - 待修正:逐字稿全文快速校讀未完成(已保留自動字幕/原始逐字稿並繼續生成筆記。;未完成的全文速讀項目可在精進模式回聽確認。) - 待修正:逐字稿可先使用,但有待校正清單(segment=27 adjacent_duplicate: 與前一段完全重複,可能是滾動字幕或 ASR 重複;segment=86 punctuation_only: 段落只有標點或符號) > **⚠️ 警告:逐字稿辨識疑點與校正待辦** > > 根據可讀性檢核結果,以下片段存在識別錯誤或結構問題,**不得視為確定事實**,請參考「逐字稿辨識疑點」章節進行人工校正: > > * **Segment 27**: `adjacent_duplicate` — 與前一段完全重複,可能是滾動字幕或 ASR 重複。 > * **Segment 86**: `punctuation_only` — 段落只有標點或符號。 > * **Segment 86**: `unnatural_sentence_boundary` — 標點出現在句首或停在逗號位置,斷句可能不符合文法/口語。 > > 請務必檢查原始逐字稿中對應 Segment 27 與 86 的內容,並修正上述識別錯誤後,再將相關資訊整合入本筆記。 ## 一句話總結 講者糾正了前期關於 Hugging Face 日語 ASR 模型部署的代碼修改誤解,並演示了一款基於 OpenAI Whisper 日語優化模型的 GUI 工具,涵蓋從環境配置、Token 認證到批量生成 SRT 字幕的完整流程。 ## 核心重點 * **代碼修改必要性**:僅修改 Transformers 庫原始碼不足夠,必須同時修改官方代碼記錄中的特定語句以及 PyTorch Audio 相關部分,否則會報錯。 * **GUI 工具功能**:講者開發了一款圖形界面程序,簡化了模型加載、文件選擇與轉寫過程。 * **環境與硬體**:演示環境為 Windows,硬體為 NVIDIA GeForce RTX 3050(4GB 顯存)。強調無顯卡亦可運行,但速度取決於硬體配置。 * **Hugging Face 訪問問題**:通過設置環境變量或使用國內鏡像解決訪問受阻問題;Token 僅用於認證,無需付費。 * **輸出格式**:最終生成標準 SRT 字幕文件,包含序號、時間戳、講話人區分及文字內容。 ## 詳細大綱 ### 1. 前期內容糾正與技術細節 * 講者指出上一期視頻中關於代碼修改的誤解。 * 強調必須同時修改兩個部分以避免報錯: 1. Transformers 庫下的 `Modeling` 相關代碼。 2. 官方提供代碼記錄中的特定兩條語句。 * 必須修改 PyTorch Audio 下的特定語句。 ### 2. GUI 程序功能演示 * 介紹自行編寫的 GUI 程序,用於簡化操作。 * 程序啟動後會提示加載模型,過程較慢。 * 支持選擇音頻或視頻文件進行處理。 ### 3. 環境與硬體限制說明 * 演示環境為 Windows 系統。 * 硬體配置:NVIDIA GeForce RTX 3050 顯卡,4GB 顯存。 * 強調無顯卡亦可運行,但速度取決於硬體。 * 提及 Windows 系統中自動切換使用的機制。 ### 4. Hugging Face 訪問與 Token 問題 * 解決 Hugging Face 訪問受阻的問題:使用國內鏡像或設置環境變量。 * 澄清 Token 用途:僅用於認證,非購買大模型資源,無需付費。 ### 5. 操作流程與結果輸出 * 選擇官方提供的 26 秒日語視頻進行測試。 * 支持按住 Ctrl 鍵進行多文件連選。 * 點擊「轉寫」按鈕處理文件。 * 解釋運行時的 Warning 訊息(紅色字體)無需擔心。 * 最終生成標準 SRT 格式字幕文件,包含序號、時間戳、講話人區分及文字內容。 ### 6. 資源分享與後續引導 * 提供個人博客連結(6月8日發布),包含部署文檔。 * 推薦搜索關鍵詞:Whisper、OpenAI Whisper、部署、訓練。 * 提及過往文章涵蓋:模型訓練、方言(溫州話、四川話)部署、數據採集等。 ## 工具 / 模型 / 名詞整理 * **Hugging Face**:開源模型平台(逐字稿中聽寫為 "Hugging費"、"hacking費")。 * **OpenAI Whisper**:自動語音識別模型(逐字稿中聽寫為 "OpenAirWhisper")。 * **Transformers**:Python 庫,用於加載和運行預訓練模型。 * **PyTorch Audio**:PyTorch 的音頻處理庫(逐字稿中聽寫為 "Pyamon. audio"、"PyTrain")。 * **GUI 程序**:講者自行編寫的圖形界面程序。 * **SRT**:字幕文件格式。 * **Windows**:作業系統。 * **VSCORN**:逐字稿中聽寫為 "VSCORN",疑為 VS Code。 * **記事本 (Notepad)**:用於查看或編輯文件的工具。 * **NVIDIA GeForce RTX 3050**:顯卡型號,4GB 顯存。 ## 操作流程整理 1. **環境準備**: * 設置環境變量以解決 Hugging Face 訪問問題(或使用國內鏡像)。 * 獲取並設置 Hugging Face Token(僅用於認證,免費)。 2. **啟動 GUI 程序**: * 運行講者編寫的 GUI 程序。 * 等待模型加載完成(過程較慢)。 3. **文件選擇**: * 選擇要處理的音頻或視頻文件。 * 可按住 Ctrl 鍵進行多文件連選。 4. **執行轉寫**: * 點擊「轉寫」按鈕。 * 忽略運行時的紅色 Warning 訊息。 5. **獲取結果**: * 程序生成標準 SRT 字幕文件。 * 字幕內容包含序號、時間戳、講話人區分及文字內容。 ## 值得注意的限制或風險 * **硬體依賴**:雖然無顯卡也可運行,但處理速度取決於硬體配置。 * **模型加載時間**:GUI 程序啟動後加載模型過程較慢。 * **代碼修改複雜性**:需同時修改 Transformers、官方代碼記錄及 PyTorch Audio 三個部分,否則會報錯。 * **Warning 訊息**:運行時會出現紅色 Warning 訊息,需確認其無害性。 ## 逐字稿辨識疑點 以下為逐字稿中疑似識別錯誤的名稱或術語,請根據上下文或原始音頻進行校正: * **Hugging費 / hacking費**:應為 **Hugging Face**。 * **OpenAirWhisper**:應為 **OpenAI Whisper**。 * **Modeling. tl**:應為 **Modeling** 相關代碼文件。 * **Pyamon. audio / PyTrain**:應為 **PyTorch Audio** 或 **PyTorch**。 * **VSCORN**:應為 **Visual Studio Code (VS Code)**。 * **日語 / 異語 / 女音信號**:應為 **日語** / **音頻信號**。 * **溫州方言 / 南話**:應為 **溫州話** / **四川話**(方言名稱)。 * **VisaNono實施語音**:疑為特定項目名稱或技術術語的誤聽。 * **冰淇淨講話人**:應為 **Speaker Diarization**(講話人分離)。 * **千文沙**:應為 **千問**(Qwen)或其他模型名稱。 * **16月8號**:應為 **6月8號**。 ## 可延伸追問 * 如何具體設置環境變量來解決 Hugging Face 的訪問問題? * 講者編寫的 GUI 程序源代碼是否公開? * 對於沒有 NVIDIA 顯卡的用戶,具體的性能損失是多少? * SRT 文件中的「講話人區分」功能是如何實現的?