工作清單

不用买Token!手把手教你部署千问3.8,免费接入DeepSeek Harness|AI大模型本地运行教程

逐字稿文字預覽

Hello,大家好。今天這個視頻,我們手把手分享一下,如何在本地部署AI大模型。
比方說這個最新的千問3.8模型,並且把這個大模型配置到你的DevSig Hades上面。
無需購買Token,你就可以免費體驗最新的AI大模型和AI智能體。
OK,那我們就開始吧。
那麼,第一步,我們需要下載和安裝AI大模型的部署工具。
我們打開它的GitHub主頁。
找到這裡的Release這個入口。
在這個頁面我們往下拉。
在列表裡面,我們可以看到各種版本的安裝文件。
你要做的就是根據自己的操作系統進行匹配,找到符合你操作系統的壓縮包進行下載。
在這裡呢,我列了一個標格,大家可以對裝著參考一下。
如果你跟我一樣,用的是英伟大的顯卡,你可以在命令行輸入下面這個指令。
指令裡提供的信息顯示,我用的是CUDA 13.3這個版本。
而我的操作系統又是Windows。
所以我在這裡就選擇這兩個壓縮包進行下載。
請大家一定要注意,這兩個壓縮包都要下載。
接下來我們把這兩個下載好的壓縮包放到一個合適的文件夾下。
然後把這兩個壓縮包解壓之後的文件都放在同一個文件夾裡邊。
接下來打開開始菜單,找到編輯環境變量的這個配置項。
點擊這裡的環境變量。
找到系統變量。
找到PASS。
雙擊打開。
然後把這個項目的環境變量。
然後把這個項目的環境變量。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境。
把這個項目的環境。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
這個項目的環境變成功。
這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
把這個項目的環境變成功。
在項目下,我們勾選這個GGUF的選項。
在這個選項下的模型都是壓縮版的大模型。
因為原版的大模型體積過於驅大。
所以個人電腦想要跑起來會非常的費勁。
那在這裡呢,我們就選擇這個最新的千吻3.8的AI大模型。
在這個大模型的主項下,我們找到右側這裡。
我們在這裡根據自己的設備情況。
選擇一個看起來沒有那麼嚇人的大模型。
點擊它。
點擊這裡。
我們複製這一條指令。
一會兒我們會用到它。
接下來我們找到一個合適的文件夾。
打開命令號終端。
我們先輸入這一條指令。
大家一定一定要輸入這個指令。
不然的話你在下載大模型的時候,
那個速度會非常非常的慢。
接下來將剛才複製的指令粘貼過來。
在最後呢,我們加了一些參數。
它的作用呢,是把大模型下載到當前的這個文件夾下。
可以看到它的下載速度是非常快的。
可以達到20Mbps。
稍等片刻之後呢,我們可以看到這個千吻大模型已經成功下載到了當前這個文件夾中。
我們在命令號終端,輸入這個指令。
這裡-m的意思就是model的意思。
它會把指令的大模型加載進來。
稍等片刻之後呢,它就會加載成功。
我們打開瀏覽器。
在地址欄輸入這個地址。
可以看到這裡顯示OK。
這個表明我們的大模型已經加載成功了。
接下來我們保持這個大模型的加載頁面不變。
重新開啟一個命令號終端。
輸入下面這個指令。
啟動Deepseek Harness。
在Deepseek Harness這個頁面下呢,我們點擊左下角的設置。
點擊這裡的模型。
點擊這裡的添加自定義。
ID這裡呢,我們可以自定義一個。
比方說就叫千問。
顯示名稱這裡呢,我們也可以自定義。
比方說叫千問Local。
API地址這裡呢,要跟視頻這裡呢,保持一致。
密要這裡呢,我們隨意輸入一些內容就可以了。
比方說123-3-21。
接下來我們點擊這個獲取模型。
點擊添加。
點擊創建。
可以看到我們本地部署的千萬大模型已經添加成功了。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。
點擊創建。

來源:transcript.txt

本次執行流程與問題處理

  1. 下達指令

    指令:videonote https://b23.tv/JuzRM5F --language zh --auto-source-subtitles

    來源:https://b23.tv/JuzRM5F

    辨識語言:zh | 參數:--language zh --auto-source-subtitles

  2. 預期流程

    依指令產生的處理順序:

    1. 自動字幕優先,Whisper 作為備援
    2. 來源選擇與品質檢查
    3. 文字校正與句子單元
    4. 筆記與發布
    5. 公開網頁發布
  3. 1. 下載與語音辨識

    工具:videonote-transcribe-url(主辨識管線:下載、Whisper 辨識與選稿)

    處理:下載音訊、以 Whisper 辨識並選出最佳逐字稿

    產出:yt_dlp_meta.json(影片元資料)、audio_16k_mono.wav(16kHz 單聲道音訊)、transcript.whisper.json(Whisper 辨識結果)、transcript.json(正式逐字稿)、transcript_selection_report.json(來源選擇報告)

    耗時:42.0 秒

    關係:依序執行

    結果:完成

  4. 2. 全文快速校讀

    工具:videonote_rapid_transcript_review.py

    處理:先速讀完整逐字稿,再修正高可信突兀詞句並列出待確認項目

    產出:rapid_transcript_review_report.json(產出檔案)

    耗時:40.0 秒

    關係:依序執行

    結果:完成

  5. 3. 建立句子單元

    工具:videonote-build-sentence-units

    處理:將逐字稿切成帶時間軸的句子單元

    產出:sentence_units.json(句子單元)

    耗時:1.0 秒

    關係:依序執行

    結果:完成

  6. 4. 句子密度平衡

    工具:videonote_balance_sentence_units.py

    處理:平衡句子長度與密度

    產出:sentence_units.json(句子單元)

    耗時:0.0 秒

    關係:依序執行

    結果:完成

  7. 5. 時間軸稽核

    工具:videonote_timeline_audit.py

    處理:檢查時間軸與音訊對齊

    產出:timeline_audit_report.json(時間軸稽核)

    耗時:0.1 秒

    關係:依序執行

    結果:完成

  8. 6. 品質檢查

    工具:videonote_controlled_quality.py(檢查時間軸與品質)

    處理:檢查語言、時間軸與可讀性品質

    產出:controlled_quality_report.json(品質報告)、language_sanity_report.json(語言檢查)

    耗時:0.1 秒

    關係:依序執行

    結果:完成

  9. 7. 播放時間軸回填

    工具:videonote_rebase_display_timeline.py

    處理:將網頁播放時間軸回填為校正字幕時間

    產出:display_timeline_rebase_report.json(時間軸回填報告)

    耗時:0.1 秒

    關係:依序執行

    結果:完成

  10. 8. 逐字稿交叉檢查

    工具:videonote_cross_check_transcript.py

    處理:交叉檢查逐字稿與來源字幕

    產出:transcript_crosscheck_report.json(交叉檢查)

    耗時:0.2 秒

    關係:依序執行

    結果:完成

  11. 9. 來源句整理

    工具:videonote_prepare_source_entries.py

    處理:整理來源句子供時間軸與頁面使用

    產出:sentence_units.json(句子單元)

    耗時:0.2 秒

    關係:依序執行

    結果:完成

  12. 10. 生成筆記摘要

    工具:videonote-generate-note(生成筆記摘要)

    處理:生成筆記摘要與重點

    產出:note.md(筆記 Markdown)、note.html(筆記 HTML)

    耗時:66.4 秒

    關係:依序執行

    結果:完成

  13. 11. 建立筆記頁面

    工具:videonote-render-html(產生筆記 HTML)

    處理:產生可閱讀的筆記 HTML 頁面

    產出:note.html(筆記 HTML)

    耗時:0.5 秒

    關係:依序執行

    結果:完成

  14. 12. 發布公開頁面

    工具:videonote-publish(發布公開頁面)

    處理:發布到公開網站與每日列表

    產出:公開筆記網址、result.json(管線結果)

    耗時:0.5 秒

    關係:依序執行

    結果:完成

手動來源字幕

自動來源字幕

Whisper 字幕

Qwen 字幕

Parakeet 字幕

MOSS 字幕

聲學時間證據(PyAnnote / WhisperX)

校正前後逐字稿

目前待解決問題與初步改善方向

進一步精進字幕與筆記
使用 Workbench 上傳校正字幕、中文參考稿或回饋 SRT,重新產生雙語與學習單元。
開啟 Workbench