# 影片筆記:不用买Token!手把手教你部署千问3.8,免费接入DeepSeek Harness|AI大模型本地运行教程 ## ⚠️ 可先使用,仍有待修正項目 本筆記已完成可閱讀的逐字稿與時間跳轉;下列為待處理問題,建議播放原片確認。 - 待修正:逐字稿全文快速校讀未完成(已保留自動字幕/原始逐字稿並繼續生成筆記。;未完成的全文速讀項目可在精進模式回聽確認。) - 待修正:逐字稿可先使用,但有待校正清單(segment=30 adjacent_duplicate: 與前一段完全重複,可能是滾動字幕或 ASR 重複;segment=32 adjacent_duplicate: 與前一段完全重複,可能是滾動字幕或 ASR 重複) ## 一句話總結 影片演示如何在本地電腦部署「千問 3.8」大模型,並透過配置環境變量與命令行工具,將其接入 DeepSeek Harness(或稱 DevSig Hades),實現免費本地運行 AI 智能體,無需購買 Token。 ## 核心重點 1. **本地部署優勢**:強調無需購買 Token,即可在本地電腦運行最新 AI 大模型與智能體。 2. **關鍵步驟**: * 從 GitHub Release 頁面下載對應操作系統(Windows)與顯卡驅動(CUDA 13.3)的部署工具壓縮包。 * 配置系統環境變量(PATH),將工具路徑加入其中。 * 下載 GGUF 格式的壓縮版模型(千問 3.8)。 * 使用命令行加載模型並啟動服務。 * 在 DeepSeek Harness 中創建自定義模型連接,填入 API 地址與密鑰。 ## 詳細大綱 ### 1. 前言與目標 * 介紹如何在本地部署 AI 大模型(以千問 3.8 為例)。 * 將模型配置到 DevSig Hades / Deepseek Harness。 * 核心賣點:免費體驗最新 AI 大模型和智能體,無需購買 Token。 ### 2. 第一步:下載與安裝部署工具 * 訪問 GitHub 主頁,進入 Release 頁面。 * 根據操作系統(Windows)和顯卡驅動版本(CUDA 13.3)下載對應的壓縮包。 * **注意**:必須下載兩個壓縮包,並解壓至同一文件夾。 ### 3. 第二步:配置環境變量 * 打開開始菜單,進入「編輯環境變量」。 * 在系統變量中找到 `PATH`(逐字稿聽寫為 PASS)。 * 將項目路徑添加到環境變量中(此步驟在逐字稿中有大量重複口語)。 ### 4. 第三步:下載與加載大模型 * 在項目中勾選 GGUF 選項(壓縮版模型,適合個人電腦)。 * 選擇「千問 3.8」模型。 * 複製下載指令,在命令號終端(Command Terminal)中執行。 * 添加參數將模型下載至當前文件夾(速度可達 20Mbps)。 * 使用 `-m` 參數加載大模型。 ### 5. 第四步:驗證服務與配置 Deepseek Harness * **驗證服務**:打開瀏覽器,輸入地址確認服務顯示「OK」,表示模型加載成功。 * **啟動工具**:重新開啟命令號終端,輸入指令啟動 Deepseek Harness。 * **配置連接**: 1. 在 Deepseek Harness 頁面點擊左下角「設置」->「模型」->「添加自定義」。 2. 填寫配置資訊: * **ID**:自定義(如「千問」)。 * **顯示名稱**:自定義(如「千問 Local」)。 * **API 地址**:與視頻中顯示的地址保持一致。 * **密要(Key)**:隨意輸入(如 123-3-21)。 3. 點擊「獲取模型」、「添加」、「創建」,完成本地模型添加。 ## 工具 / 模型 / 名詞整理 * **模型名稱**:千問 3.8(逐字稿中亦出現「千吻 3.8」、「千萬大模型」等聽寫變體) * **部署/運行工具**: * GitHub(Release 頁面) * 命令號終端(Command Terminal) * Deepseek Harness(逐字稿中亦稱為 DevSig Hades) * **技術規格/格式**: * CUDA 13.3 * Windows * GGUF(壓縮版大模型格式) * Token(提及無需購買) ## 操作流程整理 1. **準備環境**:確認電腦為 Windows 系統,並檢查顯卡驅動版本是否為 CUDA 13.3。 2. **下載工具**:前往 GitHub Release 頁面,下載兩個壓縮包並解壓至同一資料夾。 3. **設定路徑**:進入系統環境變量編輯頁面,將工具路徑加入 `PATH`(或 PASS)變量中。 4. **下載模型**: * 勾選 GGUF 格式。 * 選擇千問 3.8。 * 複製指令至命令號終端執行下載。 * 使用 `-m` 參數加載模型。 5. **啟動服務**: * 瀏覽器訪問指定地址,確認顯示「OK」。 * 在終端中輸入指令啟動 Deepseek Harness。 6. **建立連接**: * 進入 Deepseek Harness 設置 -> 模型 -> 添加自定義。 * 輸入自定義 ID、顯示名稱、API 地址及密要(Key)。 * 點擊獲取模型並創建,完成部署。 ## 值得注意的限制或風險 * **硬體要求**:需確認顯卡驅動版本為 CUDA 13.3,且電腦需具備足夠資源運行 GGUF 格式的壓縮模型。 * **工具名稱不確定**:影片中介紹的工具在逐字稿中交替出現「DevSig Hades」與「Deepseek Harness」,實際軟件名稱需查證,可能影響後續搜尋或下載。 * **環境變量名稱**:影片口語中將環境變量稱為「PASS」,實際系統中應為「PATH」,若嚴格照字面輸入可能導致配置失敗。 * **重複語句干擾**:逐字稿中關於環境變量配置及創建步驟有大量重複語句,操作時需忽略重複部分,專注於關鍵動作。 ## 逐字稿辨識疑點 * **DevSig Hades / Deepseek Harness**:逐字稿開頭稱為「DevSig Hades」,後續稱為「Deepseek Harness」,兩者指代同一個啟動後的頁面或工具,需查證實際軟件名稱。 * **千問 3.8 / 千吻 3.8 / 千萬大模型**:模型名稱在逐字稿中多次變換,疑似聽寫錯誤,實際模型名稱需查證。 * **PASS**:環境變量中提到的變量名稱為「PASS」,通常環境變量為「PATH」,此處為疑似錯字。 * **英伟大顯卡**:形容詞「英伟大」疑似聽寫錯誤,可能指代 NVIDIA(英偉達)顯卡,但需查證。 * **驅大**:形容模型體積時使用「驅大」,疑似為「巨大」的聽寫錯誤。 * **密要**:配置 API 時提到的欄位名稱為「密要」,通常應為「密鑰」或「Key」。 * **命令號終端**:對 Terminal 的稱呼,通常稱為「命令提示字元」或「終端機」。 * **重複語句**:逐字稿中「把這個項目的環境變成功」及後續的「點擊創建」出現大量重複,為錄音或轉錄時的口誤/重複。 * **Segment 重複問題**:根據可讀性檢核,Segment 30-39, 41, 43-44 均標記為 `adjacent_duplicate`(與前一段完全重複),這可能是滾動字幕或 ASR 重複造成的辨識問題,上述筆記已嘗試整合核心資訊,但請留意原始逐字稿中這些段落可能存在大量無意義重複。 ## 可延伸追問 * 實際的軟件名稱究竟是 DevSig Hades 還是 Deepseek Harness? * 千問 3.8 的準確模型名稱為何?是否為 Qwen 2.5 或其他版本? * CUDA 13.3 是否為筆誤,常見版本是否為 CUDA 11.x 或 12.x? * GGUF 格式在本地部署中的具體優勢與限制為何? * 若瀏覽器訪問地址不顯示「OK」,常見的除錯步驟為何?