# 影片筆記:Claude 被开源了?Qwythos-9B 突然发布!无审查、104万上下文、4GB 显存可跑!附本地部署 | 零度解说 ## 一句話總結 影片介紹並實測了一款名為 **Qwythos-9B** 的開源模型,宣稱其基於 Qwen3.5 並吸收 Claude Mythos 與 Fable 5 的推理軌跡,具備無審查、百萬 token 上下文及低顯存(4GB)部署能力,並通過程式碼生成、多模態理解等實測驗證其功能。 ## 核心重點 * **模型核心特性**: * 模型名稱:**Qwythos-9B**(V2版本)。 * 技術基礎:基於未經審查的 **Qwen3.5** 演變而來。 * 訓練數據:吸收了超過 5 億條來自 **Claude Mythos** 和 **Fable 5** 的高品質推理軌跡(蒸餾/思維鏈資料)。 * 關鍵功能:無審查機制、支援高達 100 萬 token 的上下文窗口、原生函數呼叫、工具調用及自我糾錯能力。 * **硬體與部署優勢**: * 提供 GGUF 格式下載。 * 最低仅需 **4GB 顯存** 即可運行(Q4量化版本)。 * 支援多平台:macOS, Linux, Windows, Android。 * **實測驗證結果**: * **程式碼生成**:成功生成可運行的 3D 賽車遊戲(使用 Three.js)及 Chrome 瀏覽器插件(自動總結網頁、擷取重點)。 * **無審查測試**:直接生成支援 TCP/UDP/SYN ACK 的壓力測試腳本,未出現拒絕回答。 * **多模態能力**:透過下載特定視覺模型,實現圖片上傳、識別及 3D 場景生成(如隨風擺動的草地場景)。 ## 詳細大綱 ### 1. 模型介紹與技術背景 * **名稱與版本**:Qwythos-9B(V2版本)。 * **來源與演進**: * 基於 Qwen3.5 基礎模型。 * 吸收 Claude Mythos 和 Fable 5 的推理軌跡進行訓練(提及 "Empero AI 內部的 rethink 系統")。 * **核心賣點**: * **無審查**:強調無過濾機制。 * **長上下文**:支援 100 萬 token。 * **低資源需求**:Q4 量化版本僅需 4G 顯存。 * **進階功能**:支援原生函數呼叫、工具調用、自我糾錯。 ### 2. 本地部署準備工作 * **資源獲取**: * 透過 Hugging Face 或打包下載。 * 根據顯存大小選擇量化版本:BF16 全量、Q8、Q6、Q5、Q4。 * **視覺模型下載**: * 需下載以 `mmpro` 開頭的視覺模型(約 900多M)。 * 注意大小寫區分:小寫 `f16` 支援圖片上傳,大寫 `F16` 僅支援文本。 * **運行環境安裝**: * 下載並安裝 **llama.cpp**(提及最新版本號為 "B9776")。 * 支援平台:macOS, Linux, Windows, Android。 * Windows 顯卡驅動選擇:CUDA(英偉達)或 Vulkan(A卡)。 ### 3. 部署執行步驟 * **目錄結構**:建立 `models` 資料夾存放模型文件。 * **腳本配置**: * 複製一鍵啟動腳本代碼。 * 另存為 `.bat` 批次文件。 * **重要提示**:注意編碼選擇 **ANSI**。 * **啟動服務**: * 執行腳本,選擇對應顯存大小的配置。 * 獲取本地存取地址:**127.0.0.1:8080**。 ### 4. 實測驗證 * **程式碼能力測試**: * **3D 賽車遊戲**: * 技術棧:Three.js。 * 功能:第三人稱視角、無限高速公路、AI 碰撞偵測、氮氣加速、計時系統、行動端觸控。 * 結果:實測代碼可正常運行。 * **Chrome 瀏覽器插件**: * 功能:自動總結網頁、擷取文章重點並打包執行。 * 結果:實測功能正常。 * **無審查特性測試**: * 指令:要求撰寫支援 TCP/UDP/SYN ACK 的壓力測試腳本。 * 結果:模型直接生成代碼,未出現拒絕回答的情況。 * **多模態能力測試**: * 前置條件:下載小寫 `f16` 的多模態模型以支援圖片上傳。 * 實測案例:根據截圖生成 3D 草地場景。 * 結果:代碼一步到位,實現隨風擺動及滑鼠互動功能。 ## 工具 / 模型 / 名詞整理 * **模型名稱**: * Qwythos-9B(或 Qwythos V2) * Claude Mythos * Fable 5 * Qwen3.5 * **技術/框架/庫**: * GGUF(模型格式) * BF16(精度格式) * llama.cpp(開源項目,用於載入模型) * Three.js(用於編寫 3D 遊戲) * CUDA(英偉達顯卡引擎) * Vulkan(A卡引擎) * MTP 變體 * mmpro(視覺模型前綴) * **平台/網站**: * Hugging Face * GitHub * Chrome 瀏覽器 * 零度部落格 * **系統/環境**: * Windows * macOS * Linux * Android * 127.0.0.1:8080(本地存取地址) ## 操作流程整理 1. **下載模型文件**: * 前往 Hugging Face 或相關打包源。 * 根據顯存選擇量化版本(如 Q4 對應 4G 顯存)。 * 若需多模態功能,下載以 `mmpro` 開頭的視覺模型(注意選擇小寫 `f16` 以支援圖片)。 2. **安裝運行環境**: * 下載並安裝 llama.cpp(版本號提及為 B9776)。 * 根據顯卡類型安裝對應驅動(CUDA 或 Vulkan)。 3. **配置本地目錄**: * 建立 `models` 資料夾。 * 將下載的模型文件放入該資料夾。 4. **創建啟動腳本**: * 複製影片提供的一鍵啟動腳本代碼。 * 新建文字文件,貼上代碼。 * 另存為 `.bat` 檔案,確保編碼為 **ANSI**。 5. **啟動服務**: * 雙擊執行 `.bat` 檔案。 * 在彈出選項中選擇對應顯存大小的配置。 * 等待服務啟動,獲取本地地址(127.0.0.1:8080)。 6. **進行實測**: * 訪問本地地址進行對話。 * 測試程式碼生成(如 3D 遊戲、Chrome 插件)。 * 測試無審查特性(如壓力測試腳本)。 * 測試多模態功能(上傳圖片生成 3D 場景)。 ## 值得注意的限制或風險 * **硬體依賴**:雖宣稱 4GB 顯存可跑,但需依賴 Q4 量化版本,可能影響模型精度或複雜任務表現。 * **編碼問題**:Windows 用戶創建啟動腳本時,若編碼非 ANSI 可能導致腳本無法正確執行。 * **模型版本混淆**:視覺模型的大小寫區分(小寫 f16 vs 大寫 F16)對功能有直接影響,需嚴格區分。 * **來源不確定性**:模型名稱 "Qwythos" 及相關訓練數據來源(Claude Mythos, Fable 5)與常見公開資訊可能存在差異,需謹慎評估其真實性與安全性。 ## 逐字稿辨識疑點 * **Qwythos**:逐字稿中多次出現此名稱,與常見開源模型名稱拼寫不同,需查證是否為特定小眾模型或聽寫錯誤。 * **Mythos**:逐字稿提及 "Claude 最強的Mythos模型" 及 "Claude Mythos",需查證 Claude 是否有此特定模型版本名稱。 * **Fable 5**:逐字稿提及 "Fable 5",需查證是否為特定模型或數據集名稱。 * **Empero AI**:逐字稿提及 "Empero AI 內部的rethink 系統",需查證該公司或系統名稱是否正確。 * **rethink 系統**:需查證是否為特定技術術語或內部系統名稱。 * **B9776**:逐字稿提及 llama.cpp 最新版本為 "B9776",需查證該版本號是否準確。 * **mmpro**:逐字稿提及視覺模型為 "mmpro這個開頭",需查證該模型前綴是否正確。 * **小寫的f16 / 大寫的F16**:逐字稿區分多模態模型的大小寫版本(小寫 f16 支援圖片,大寫 F16 僅支援文本),需查證該命名規則是否為實際情況。 * **Qwythos 與 Qwen 的關係**:逐字稿稱 Qwythos 建立在 Qwen3.5 基礎之上,需查證兩者具體的衍生關係。 ## 可延伸追問 * Qwythos-9B 的訓練數據中,"5 億條推理軌跡" 的具體來源和質量如何評估? * "無審查" 特性在實際應用中是否會帶來安全風險或內容準確性問題? * 4GB 顯存運行 Q4 量化版本時,處理 100 萬 token 上下文的實際效能表現如何? * Empero AI 與 Qwythos 模型的具體關係為何? * 該模型在生產環境中的穩定性與長期維護情況如何?