逐字稿文字預覽
本地大模型到底能不能打?你看哈,我的這個文件夾有70多個文件。非常的凌亂,在Deepseek Harness裡面,我送出了提示詞。不一會兒,四個文件夾建好了,文件全部歸類整齊,還生成了一份整理報告。從我發出命令到結束全部的任務,我沒有碰過一次鍵盤。這個就是千萬3.827B,這個部署在我電腦本地的大模型。和Deepseek Harness配合起來的效果,都是本地哈,網線你都不用插,純純的國內生態,零費用。所以說,到底本地大模型是否有一個大模型? 能不能幹活?我們的電腦帶不帶的動?本地模型能幹哪些事?不著急哈,今天都給你答案。又是手把手的教程,點好收藏與關注,我們這就發車。 你如果用Codex,Code,Code,這些雲端Agent就繞不開幾個問題。價格高,本地讀寫麻煩,隱私不能被保護,還可能被封號。而千萬呢,剛剛推出了3.827B,這個本地大模型。 但是直接跑在你的電腦上的,上面所有的問題就解決了。雲端大模型呢,咱們只能租用,本地的才是完全屬於你。 不過本地模型啊,吃硬件,對於普通人來說呢,安裝還有門檻。速度和智力呢,肯定也比雲端的主流模型可能要弱一點。 那今天咱們就來看一下哈,這套組合到底能不能打? 今天內容有點長啊,而且呢,建議有時間的時候慢慢看,最好是一步一步的跟著做。 咱第一步呢,需要下載模型。 我們打開摩搭社區,都不用搜哈,在主頁上就能看到千萬3.8了。 如果沒有的話呢,你也可以點這個放大鏡,直接搜的到。 這個呢,你可以理解為是原廠原裝的模型,大概有50多G。 所以硬件的要求啊,特別的高,咱普通的家用電腦,咱就不要想了。 不過呢,社區的大神多哈,下面能看到一個後墜GGUF的。 這個GGUF呢,是大模型的一種壓縮包裝格式,類似於像音樂文件一樣的。 官方的50G的版本呢,就等於是無損母帶WAV格式。 一首歌呀,幾十兆上百兆都很正常。 這個GGUF壓縮之後呢,就像是MP3了。 一首歌呢,也就是3、5兆的體積。 常人呢,還一般都聽不出來音質有什麼區別。 這個作者有點厲害哈,可以說是全世界做模型量化。 最出名的。光是這一個模型的倉庫,一個月的下載量就有700多萬次。 基本上呢,是家用電腦最適合的選擇了。 在模型文件這個裡面,你能看到一大堆的模型清單。 有幾個G的,還有幾十個G的都有。 選擇也不難哈,咱們簡單粗暴的理解,你顯存多少個G, 基本上呢,就是選多少G的模型。 但注意哈,一定要留一定的餘量。 因為你運行的時候呢,還會有上下文緩存這樣的一些開銷。 我是16G的5060Ti,咱保守一點哈。 我就選這個13G的Q3版本。 當然呢,選16G的Q4,它也不是不能跑,只是速度呢,會慢一點。 你可以多下幾個版本來自己比較一下。 大模型只是腦子哈,要跑起來呢,還需要一個容器。 趁它在下載的時候啊,咱們再給它安裝一套運行環境。 前幾天,Deep-seek Harness不是才開源了嗎? 今天咱們就用它。 主頁上是它的主張,一切皆插件。 安裝也不難哈,提示也是說一鍵使用。 不過有一個前提,你的電腦必須有依賴的環境。 它需要一個叫做Node.js的環境。 但不用管它是幹嘛的哈。 打開它的主頁,點這個綠色的按鈕,下載對應的版本。 安裝呢,就是下一步下一步的事。 這些具體的過程呢,我都會放到配套的文檔裡面。 如果說你以前用過別的Aten的工具啊,大概率Node.js是你部署過的。 這一步呢,就可以省略了。 我們按下Wn加R這個快接鍵,輸入CMD,回車。 彈出來一個黑乎乎的窗口,這個呢叫做終端。 你啥都不用管哈,在Harness的主頁上,點這個複製按鈕。 到終端裡面,Ctrl加V粘貼上,然後回車。 按照提示,輸入字母Y,再回車。 下面這個滾動起來,就表示已經開始安裝了。 由於它可能會下載很多的東西,需要多等待一會兒。 好了,這個時候呢,安裝結束了。 它自動彈出了瀏覽器。 如果說你的沒有彈出呢,你就把這一行地址,複製到你的瀏覽器。 就OK,封面就有內側聲明,表示啊,這個產品還在測試階段。 展開之後呢,還會提示你輸入Deep-seek的API-key。 由於我們今天用的是本地大模型,所以這一步呢,就跳過就好。 看到了這個黑鯊魚,咱們就算是正式的進入到了Deep-seek Harness的內部了。 這會兒呢,仍然還用不了,因為Harness本身它不能直接的裝入一個本地模型。 只能通過兼容OpenAI的API方式來調用。 所以說我們還需要一個工具,把這個模型給它跑起來。 這個工具呢,叫做Lama.CPP。 現在非常火的什麼Olama呀,LM Studio啊,這些引擎啊,底層用的也都是它。 打開它的地址,點開這裡,把頁面往下拉,找到符合你的操作系統和顯卡的版本,下載到本地。 因為我是Windows系統哈,顯卡是50系的。 所以我下載COODA13這個版本。 如果你是稍微老一點的,什麼30系40系的顯卡,就要選COODA12這個版本了。 文件不大,只有140Mbps。 下載完呢,是一個壓縮包。 解壓不用安裝。 我的i盤是一個固態硬盤。 在這裡呢,我新建了一個MODE文件夾。 把Lama和剛才下載好的CENW3.8全部都放到了這個裡面。 我也強烈的建議啊,你們也要放到固態硬盤裡。 盡量啊,不要放機械硬盤,速度呢才會更快。 就在這個文件夾裡,我們點擊鼠標的右鍵,選擇在終端中打開。 咱們輸入這樣的一條命令。 這個命令呢,我也會放到文檔裡哈。 大概意思呢,就是告訴系統。 把這個模型交給引擎。 而且盡量把模型層放進顯卡。 然後在本機的8080端口開一個接口,等著別的程序來調用它。 回車之後呢,能看到它開始滾動了。 直到你能看到一行127打頭的地址,就表示已經啟動好了。 你可以按住鍵盤上的Ctrl鍵,點擊這個地址。 它就會自動的打開你的默認瀏覽器。 輸入一個你好,如果說它能回覆的話,說明大模型已經啟動成功了。 好了,到這兒啊,冰箱門都打開了。 最後一步,咱就是把大象放進去了。 注意哈,剛才那個終端啊,這個時候是不能關的。 你關了,大模型的服務就停了哈。 以後你重新要打開Harness的話呢,不需要重新安裝。 在終端裡頭,輸入這個命令。 在Harness的頁面,咱們進入設置,模型,添加自定義提供方。 你可以照著我來填哈。 第一個框呢,必須是小寫字母開頭。 顯示名稱,可以取一個你自己記得住的名字。 API地址呢,就是剛才那個後綴是8080的那一段。 但是後面啊,一定要有一個斜槓V1。 API協議保持不變,密要,由於我們是本地模型哈。 所以說就隨便填了,咱就敲了三個1。 點一下獲取可用模型,就能看到咱們的千問3.8了。 點下面的創建提供方,這就添加成功了。 回到Harness主頁,這個時候呢,你還選不了模型,必須還有添加工作區。 添加好了之後啊,就可以選擇模型了。 趙莉,咱發一個你好,第一次可能想應慢一點。 能看到它的回复,咱今天就算是全部的大功告成了。 能回你好,不算本事啊,得看它能不能幹活。 我們先看一個最直觀的例子。 這個文件夾裡面有77個凌亂的文件,什麼格式都有。 文件名也很亂。 如果你的文件夾也這樣,按摩走一波。 手動整理啊,當然很麻煩了。 我在Harness裡面,按摩了這個文件夾。 提示詞是這麼寫的。 我送出命令之後啊,能看到它開始先列舉文件,統計文件數量。 然後挨個的查看文件內容,匯報77個文件清理好了,準備分類。 等到13分鐘的時候,終於看到幾個文件夾出現了。 根下呢,還有一個report和復盤。看來根下兩個文件是臨時文件。 它又把它清理掉了。22分鐘左右,整理報告終於出來了。 你覺得這份報告寫的詳細嗎? 我們的這個任務一共花了20多分鐘。這個時間還是有點久。 當然呢,這個只是參考。 畢竟呢,是它第一次跑任務。 可能啊,有些環境啊工具啊還不具備。 而且呢,我的後臺開著很多的agent,還有陸皮軟件啊這些,都會有一定的影響。 都免費了,還要啥自行車呀? 你的硬件不同,任務不同,當然可以自己去測。 剛才呢,只是文件的整理。它能幹的事兒啊,遠遠不止這些。 通常呢,有幾個共同的特點。 處理大量的本地文件,規則相對明確,反覆發聲,還有一定的隱私性。 我提煉了三大類,你可以來對號入座。 第一類呢,是高頻任務,像什麼清理文件啊,給筆記打標圈啊,寫摘要啊這些。 第二類呢,隱私,敏感型的任務。 像是你的個人日記啊,商務文件啊,這些你當然不想上傳到雲端了。 還有就是,常駐後台型的任務。 比如說呢,你讓它監聽某一個文件家,一旦發生變化,就觸發任務。 你可以不用每次都打開對話框,重新的下命令,它自己就能搞定了。 感謝你能看到這裡啊,總的來說呢,只要你的硬件跑得動,這套模式呢,它是能幹活的。 但是本地大模型呢,它不是雲端Agent的平替。 雲端模型呢,負責最難的判斷,本地模型呢,負責長期的執行。 兩邊都有用。 我們今天不僅是部署了一套模型,更是搭建了一套本地的AI系統。 以後啊,換掉簽文,換掉Harness,你的本地的上下文,永遠都在。 和往常一樣的,今天用到的全部的下載地址而運行命令。 還有這次案例的完整提示詞,所有資料我也都打包好了。 需要的同學,評論區提我。 我是船長,讓我們下期再見,拜拜。
本次執行流程與問題處理
下達指令
預期流程
- 下載與語音辨識
- 來源選擇與品質檢查
- 文字校正與句子單元
- 筆記與發布
- 公開網頁發布
1. 下載與語音辨識
工具：videonote-transcribe-url（主辨識管線：下載、Whisper 辨識與選稿）
處理：下載音訊、以 Whisper 辨識並選出最佳逐字稿
產出：yt_dlp_meta.json（影片元資料）、audio_16k_mono.wav（16kHz 單聲道音訊）、transcript.whisper.json（Whisper 辨識結果）、transcript.json（正式逐字稿）、transcript_selection_report.json（來源選擇報告）
耗時：27.3 秒
關係：依序執行
結果：完成
2. 全文快速校讀
工具：videonote_rapid_transcript_review.py
處理：先速讀完整逐字稿，再修正高可信突兀詞句並列出待確認項目
產出：rapid_transcript_review_report.json（產出檔案）
耗時：41.3 秒
關係：依序執行
結果：完成
3. 建立句子單元
工具：videonote-build-sentence-units
處理：將逐字稿切成帶時間軸的句子單元
產出：sentence_units.json（句子單元）
耗時：0.3 秒
關係：依序執行
結果：完成
4. 句子密度平衡
工具：videonote_balance_sentence_units.py
處理：平衡句子長度與密度
產出：sentence_units.json（句子單元）
耗時：0.3 秒
關係：依序執行
結果：完成
5. 時間軸稽核
工具：videonote_timeline_audit.py
處理：檢查時間軸與音訊對齊
產出：timeline_audit_report.json（時間軸稽核）
耗時：0.4 秒
關係：依序執行
結果：完成
6. 品質檢查
工具：videonote_controlled_quality.py（檢查時間軸與品質）
處理：檢查語言、時間軸與可讀性品質
產出：controlled_quality_report.json（品質報告）、language_sanity_report.json（語言檢查）
耗時：0.4 秒
關係：依序執行
結果：完成
7. 播放時間軸回填
工具：videonote_rebase_display_timeline.py
處理：將網頁播放時間軸回填為校正字幕時間
產出：display_timeline_rebase_report.json（時間軸回填報告）
耗時：0.4 秒
關係：依序執行
結果：完成
8. 逐字稿交叉檢查
工具：videonote_cross_check_transcript.py
處理：交叉檢查逐字稿與來源字幕
產出：transcript_crosscheck_report.json（交叉檢查）
耗時：0.5 秒
關係：依序執行
結果：完成
9. 來源句整理
工具：videonote_prepare_source_entries.py
處理：整理來源句子供時間軸與頁面使用
產出：sentence_units.json（句子單元）
耗時：0.5 秒
關係：依序執行
結果：完成
10. 生成筆記摘要
工具：videonote-generate-note（生成筆記摘要）
處理：生成筆記摘要與重點
產出：note.md（筆記 Markdown）、note.html（筆記 HTML）
耗時：95.3 秒
關係：依序執行
結果：完成
11. 建立筆記頁面
工具：videonote-render-html（產生筆記 HTML）
處理：產生可閱讀的筆記 HTML 頁面
產出：note.html（筆記 HTML）
耗時：0.4 秒
關係：依序執行
結果：完成
12. 發布公開頁面
工具：videonote-publish（發布公開頁面）
處理：發布到公開網站與每日列表
產出：公開筆記網址、result.json（管線結果）
耗時：0.5 秒
關係：依序執行
結果：完成
手動來源字幕
- 尚未產生
自動來源字幕
Whisper 字幕
Qwen 字幕
- 尚未產生
Parakeet 字幕
- 尚未產生
MOSS 字幕
- 尚未產生
聲學時間證據（PyAnnote / WhisperX）
- 尚未產生
校正前後逐字稿
- 校正前 transcript.whisper.json 純文字 JSON
- 校正後 transcript.json 純文字 JSON
目前待解決問題與初步改善方向
- 逐字稿全文快速校讀未完成
已保留自動字幕/原始逐字稿並繼續生成筆記。；未完成的全文速讀項目可在精進模式回聽確認。；RAPID_REVIEW_STATUS=REVIEW_REQUIRED_INVALID_OUTPUT
- Qwen3-ASR 未完成，需確認 qwen_asr_lab 環境與音訊後重試精進模式。