# 影片筆記:本地部署DeepSeek Harness 加 Qwen3.8-27B教程,实现token自由!我还发现“梁圣”在源码中的彩蛋! ## ⚠️ 可先使用,仍有待修正項目 本筆記已完成可閱讀的逐字稿與時間跳轉;下列為待處理問題,建議播放原片確認。 - 待修正:逐字稿全文快速校讀未完成(已保留自動字幕/原始逐字稿並繼續生成筆記。;未完成的全文速讀項目可在精進模式回聽確認。) ## 一句話總結 講者演示如何在本地環境中安裝並配置 **DeepSeek-Hannis** 框架與 **Qwen 3.8-27B** 模型,通過 LM Studio 進行本地部署與 API 對接,並透過多任務壓力測試驗證該組合在遊戲開發與小說創作上的生產力潛力。 ## 核心重點 * **DeepSeek-Hannis 定位**:被描述為類似「樂高底板」的本地 Agent 框架,具備高度自由度與開放性,可作為插件載入各種能力,支援自訂 UI 皮膚,且設計上考慮調用其他本地 Agent(如 Codex)的能力。 * **Qwen 3.8-27B 特性**:具備強大的 Agent 能力與原生視覺語言能力(可識圖),在本地部署後可作為後端模型接入 DeepSeek-Hannis。 * **本地部署流程**: 1. 安裝 Node.js 與 DeepSeek-Hannis。 2. 使用 LM Studio 下載並運行 Qwen 3.8-27B 模型。 3. 在 DeepSeek-Hannis 中配置自定義模型,指向 LM Studio 的本地 API 地址。 * **壓力測試結果**: * 同時運行遊戲開發、小說創作、天體生成等多個重型任務時,導致電腦資源耗盡、系統卡頓(內存頻繁)。 * 儘管系統卡頓,但生成的遊戲(飛行小遊戲)與小說(科幻小說)質量令人驚訝,具備生產力潛力。 * 建議在內存不足時設置上下文長度(Context Length)在 64K 以下。 ## 詳細大綱 ### 一、 DeepSeek-Hannis 介紹與特性 * **架構定位**:非單純的 DeepSeek 版 Codex 或 Cloud,而是類似「樂高底板」的本地 Agent 框架。 * **核心優勢**: * **高度自由**:所有 AZ 能力作為插件,可任意組合、按需替換。 * **透明可追溯**:運行過程公開透明,有跡可循。 * **開放性**:設計之初考慮調用其他同類本地 Agent 能力(如 Codex)。 * **自訂性**:可更換 UI 皮膚(如 20 元角色)。 ### 二、 DeepSeek-Hannis 安裝與配置 * **前置條件**:需安裝 Node.js。 * **安裝步驟**: 1. 下載安裝 Node.js。 2. 從官網複製快速體驗命令,在 PowerShell 中執行。 3. 輸入 Y 確認下載,等待外部 UI 地址出現。 4. 瀏覽器打開地址完成安裝。 * **API Key 配置**: * 可選擇使用官方 API Key 或本地部署。 * 若使用 API Key,需從 DeepSeek 官網 API 開放平台創建並確保餘額充足。 * **工作區(Workspace)概念**:類似項目生產車間,存放文件資料與生成結果。 * **權限設置**: 1. 只讀:僅讀取文件,不更改電腦。 2. 工作區寫入:僅對選擇的資料夾進行寫入(推薦)。 3. 全部權限:適合進階用戶。 * **聯通性測試**:發送訊息並收到回覆即安裝成功。 ### 三、 Qwen 3.8-27B(千問 3.8-27B)本地部署 * **工具使用**:LM Studio(講者口誤為 LM499/LM199/LM1919)。 * **安裝步驟**: 1. 官網下載安裝 LM Studio。 2. 設置語言為中文。 3. 使用搜尋功能下載 Qwen 3.8-27B 模型。 * **顯存與量化選擇建議**: * 顯存 16GB:選擇特定版本(講者口誤為 17 個 J),部分可裝入內存。 * 內存 24GB:選擇 Q6 量化。 * 顯存 29GB 以上:選擇 Q8 量化。 * **功能測試**: * 原生視覺語言模型,可識圖。 * 測試數筆圖片數量(15 支),成功區分筆桿與筆帽分離的情況。 ### 四、 將 Qwen 3.8-27B 接入 DeepSeek-Hannis * **LM Studio 設置**: 1. 點擊左側第二個圖標,開啟運行按鈕。 2. 點擊加載模型,選擇 Qwen 3.8-27B。 * **DeepSeek-Hannis 配置**: 1. 點擊左下角設置 -> 模型 -> 添加自定義配置。 2. **Provider ID**:必須以小寫字母開頭。 3. **顯示名稱**:隨意填寫。 4. **API 地址**:從 LM Studio 複製,並在末尾加上 `/v1`。 5. **API 協議**:選擇 OpenAI Comulations(講者口誤,應為 Completions)。 6. **模型目錄**:從 LM Studio 複製。 7. **助理**:注意複製時可能帶有空格。 * **最終測試**:在對話框修改模型為 Qwen 3.8-27B,發送訊息確認回應。 ### 五、 多任務壓力測試與結果分析 * **測試場景**: 1. 生成飛行小遊戲。 2. 寫科幻小說。 3. 生成天體任務。 * **系統反應**: * 三個任務同時運行,電腦風扇狂轉,系統開始卡頓。 * 出現內存頻繁(講者口誤為內存頻引/內存),導致鼠標移動困難、點擊無反應。 * 講者電腦配置為 32GB 內存,運行多任務時撐不住。 * **建議**: * 若內存不足,建議設置上下文長度(Context Length)在 64K 以下。 * 避免同時執行多個重型任務。 * **生成結果評價**: * **飛行小遊戲**:處理碰撞、移動、敵人生成無問題,對於 27B 小模型而言表現優秀,具備多輪對話潛力。 * **科幻小說**:內容質量高,設定類似《羊毛戰記》(講者口誤為羊毛戰記/末日地寶),具有畫面感與震撼力,難以辨別為 AI 所寫。 * **結論**:該模型可視為具備生產力的模型。 ## 工具 / 模型 / 名詞整理 | 類別 | 名稱/專有名詞 | 備註/原文狀態 | | :--- | :--- | :--- | | **框架/軟體** | DeepSeek-Hannis | 講者口誤為 DeepseekHannis、Deepseek Harness、DVSIC HANIS、Hanis | | **框架/軟體** | LM Studio | 講者口誤為 LM499、LM199、LM1919 | | **框架/軟體** | Node.js | 官網下載安裝 | | **框架/軟體** | PowerShell | 用於執行安裝命令 | | **框架/軟體** | Codex | 被提及為同類本地 Agent 能力 | | **框架/軟體** | Cloud | 被提及為同類本地 Agent 能力 | | **模型** | Qwen 3.8-27B | 講者口誤為千问3.827B、千万3.8、千万3.8RTB、千辛3.8RTB、27B | | **模型** | Q6 量化 | 講者口誤為 Q6量化的 | | **模型** | Q8 量化 | 講者口誤為 Q8量化的 | | **API/協議** | OpenAI Comulations | 講者口誤,應為 Completions | | **API/協議** | API Key | DeepSeek 官網 API 開放平台創建 | | **其他** | 樂高底板 | 比喻 DeepSeek-Hannis 架構 | | **其他** | 20元角色 | 比喻 UI 皮膚 | | **其他** | 32級內存 | 講者口誤,應為 32GB 內存 | | **其他** | 16個JJ / 17個J | 講者口誤,應為 16GB 顯存 | | **其他** | 29個J | 講者口誤,應為 29GB 顯存 | | **其他** | 內存頻引 / 內存 | 講者口誤,應為 內存頻繁 (Memory thrashing) | | **其他** | 羊毛戰記 / 末日地寶 | 講者口誤,應為《羊毛戰記》(Silo) 或類似作品 | | **其他** | 集水柱 / 牆上的救贖 | 講者口誤,小說中的設定名稱 | ## 操作流程整理 1. **環境準備**: * 安裝 Node.js。 * 從 DeepSeek-Hannis 官網複製快速體驗命令,在 PowerShell 中執行並確認下載。 * 瀏覽器打開出現的外部 UI 地址完成安裝。 2. **DeepSeek-Hannis 基礎配置**: * 配置 API Key(可選)或準備本地部署。 * 設置工作區權限(推薦「工作區寫入」)。 * 進行聯通性測試(發送訊息並接收回覆)。 3. **LM Studio 模型部署**: * 下載並安裝 LM Studio,設置語言為中文。 * 搜尋並下載 Qwen 3.8-27B 模型(根據顯存選擇量化版本:16GB/24GB/29GB+)。 * 在 LM Studio 中加載模型並點擊運行按鈕。 4. **模型接入 DeepSeek-Hannis**: * 在 DeepSeek-Hannis 中進入設置 -> 模型 -> 添加自定義配置。 * 填寫 Provider ID(小寫開頭)、顯示名稱。 * 複製 LM Studio 的 API 地址並追加 `/v1`。 * 選擇 API 協議(OpenAI Comulations)。 * 複製模型目錄與助理名稱。 5. **驗證與測試**: * 在 DeepSeek-Hannis 對話框中將模型切換為 Qwen 3.8-27B。 * 發送訊息確認回應。 * 執行多任務壓力測試(遊戲、小說、天體生成)。 ## 值得注意的限制或風險 * **硬體資源限制**: * 同時運行多個重型任務(如遊戲開發、小說創作)會導致電腦資源耗盡,引發系統卡頓、鼠標移動困難、點擊無反應。 * 講者電腦配置為 32GB 內存,在多任務下無法支撐。 * **記憶體管理建議**: * 若內存不足,建議設置上下文長度(Context Length)在 64K 以下。 * 避免同時執行多個重型任務。 * **模型能力邊界**: * 雖然 27B 小模型在處理碰撞、移動、敵人生成等遊戲邏輯上表現優秀,但需留意其多輪對話潛力與實際生產力之間的差距。 ## 逐字稿辨識疑點 1. **DeepseekHannis / Deepseek Harness / DVSIC HANIS / Hanis**:逐字稿中該框架名稱拼寫不一致,疑為聽寫錯誤或講者口誤。 2. **LM499 / LM199 / LM1919**:逐字稿中 LM Studio 的版本號或名稱多次變換,疑為聽寫錯誤。 3. **千问3.827B / 千万3.8 / 千万3.8RTB / 千辛3.8RTB / 27B**:模型名稱拼寫混亂,疑為聽寫錯誤。 4. **OpenAI Comulations**:逐字稿中拼寫為 Comulations,疑為聽寫錯誤,實際應為 Completions(但依規則不更正,僅標註疑點)。 5. **16個JJ / 17個J / 29個J**:顯存單位描述混亂,疑為聽寫錯誤。 6. **內存頻引 / 內存**:描述系統卡頓原因時的名詞,疑為聽寫錯誤。 7. **羊毛戰記 / 末日地寶**:小說名稱或比喻,疑為聽寫錯誤。 8. **集水柱 / 牆上的救贖**:小說中的具體設定名稱,疑為聽寫錯誤。 9. **AZ 的能力**:指代不明,疑為聽寫錯誤。 10. **20元角色**:指代 UI 皮膚,疑為聽寫錯誤或特定梗。 11. **32級內存**:指代內存容量,疑為聽寫錯誤。 12. **ZZ / VV**:講者自稱前後不一致,疑為口誤或不同段落錄音來源不同。 13. **正行命令**:指代 PowerShell 命令,疑為聽寫錯誤。 14. **群演等級**:指代權限設置,疑為聽寫錯誤。 15. **聯通信測試 / 聯通性測試**:指代 Connectivity Test,疑為聽寫錯誤。 16. **對話空中**:指代對話框,疑為聽寫錯誤。 17. **精彩圖片**:指代畫面凍結,疑為聽寫錯誤。 18. **聽紙**:指代某個界面元素或位置,疑為聽寫錯誤。 19. **排生成的**:指代生成結果,疑為聽寫錯誤。 20. **發布空間**:指代潛力或空間,疑為聽寫錯誤。 ## 可延伸追問 * DeepSeek-Hannis 的「樂高底板」架構具體支持哪些類型的插件或 Agent 接入? * 在本地部署 Qwen 3.8-27B 時,不同量化版本(Q6/Q8)對推理速度和質量的具體影響差異為何? * 如何優化 DeepSeek-Hannis 的權限設置以平衡安全性與便利性? * 針對 32GB 內存的用戶,有哪些具體的參數調整策略可以避免多任務下的系統卡頓?