影片筆記：Claude 被开源了？Qwythos-9B 突然发布！无审查、104万上下文、4GB 显存可跑！附本地部署 | 零度解说

一句話總結

影片介紹並實測了一款名為 Qwythos-9B 的開源模型，宣稱其基於 Qwen3.5 並吸收 Claude Mythos 與 Fable 5 的推理軌跡，具備無審查、百萬 token 上下文及低顯存（4GB）部署能力，並通過程式碼生成、多模態理解等實測驗證其功能。

核心重點

• 模型核心特性：
• 模型名稱：Qwythos-9B（V2版本）。
• 技術基礎：基於未經審查的 Qwen3.5 演變而來。
• 訓練數據：吸收了超過 5 億條來自 Claude Mythos 和 Fable 5 的高品質推理軌跡（蒸餾/思維鏈資料）。
• 關鍵功能：無審查機制、支援高達 100 萬 token 的上下文窗口、原生函數呼叫、工具調用及自我糾錯能力。
• 硬體與部署優勢：
• 提供 GGUF 格式下載。
• 最低仅需 4GB 顯存 即可運行（Q4量化版本）。
• 支援多平台：macOS, Linux, Windows, Android。
• 實測驗證結果：
• 程式碼生成：成功生成可運行的 3D 賽車遊戲（使用 Three.js）及 Chrome 瀏覽器插件（自動總結網頁、擷取重點）。
• 無審查測試：直接生成支援 TCP/UDP/SYN ACK 的壓力測試腳本，未出現拒絕回答。
• 多模態能力：透過下載特定視覺模型，實現圖片上傳、識別及 3D 場景生成（如隨風擺動的草地場景）。

詳細大綱

1. 模型介紹與技術背景

• 名稱與版本：Qwythos-9B（V2版本）。
• 來源與演進：
• 基於 Qwen3.5 基礎模型。
• 吸收 Claude Mythos 和 Fable 5 的推理軌跡進行訓練（提及 "Empero AI 內部的 rethink 系統"）。
• 核心賣點：
• 無審查：強調無過濾機制。
• 長上下文：支援 100 萬 token。
• 低資源需求：Q4 量化版本僅需 4G 顯存。
• 進階功能：支援原生函數呼叫、工具調用、自我糾錯。

2. 本地部署準備工作

• 資源獲取：
• 透過 Hugging Face 或打包下載。
• 根據顯存大小選擇量化版本：BF16 全量、Q8、Q6、Q5、Q4。
• 視覺模型下載：
• 需下載以 mmpro 開頭的視覺模型（約 900多M）。
• 注意大小寫區分：小寫 f16 支援圖片上傳，大寫 F16 僅支援文本。
• 運行環境安裝：
• 下載並安裝 llama.cpp（提及最新版本號為 "B9776"）。
• 支援平台：macOS, Linux, Windows, Android。
• Windows 顯卡驅動選擇：CUDA（英偉達）或 Vulkan（A卡）。

3. 部署執行步驟

• 目錄結構：建立 models 資料夾存放模型文件。
• 腳本配置：
• 複製一鍵啟動腳本代碼。
• 另存為 .bat 批次文件。
• 重要提示：注意編碼選擇 ANSI。
• 啟動服務：
• 執行腳本，選擇對應顯存大小的配置。
• 獲取本地存取地址：127.0.0.1:8080。

4. 實測驗證

• 程式碼能力測試：
• 3D 賽車遊戲：
• 技術棧：Three.js。
• 功能：第三人稱視角、無限高速公路、AI 碰撞偵測、氮氣加速、計時系統、行動端觸控。
• 結果：實測代碼可正常運行。
• Chrome 瀏覽器插件：
• 功能：自動總結網頁、擷取文章重點並打包執行。
• 結果：實測功能正常。
• 無審查特性測試：
• 指令：要求撰寫支援 TCP/UDP/SYN ACK 的壓力測試腳本。
• 結果：模型直接生成代碼，未出現拒絕回答的情況。
• 多模態能力測試：
• 前置條件：下載小寫 f16 的多模態模型以支援圖片上傳。
• 實測案例：根據截圖生成 3D 草地場景。
• 結果：代碼一步到位，實現隨風擺動及滑鼠互動功能。

工具 / 模型 / 名詞整理

• 模型名稱：
• Qwythos-9B（或 Qwythos V2）
• Claude Mythos
• Fable 5
• Qwen3.5
• 技術/框架/庫：
• GGUF（模型格式）
• BF16（精度格式）
• llama.cpp（開源項目，用於載入模型）
• Three.js（用於編寫 3D 遊戲）
• CUDA（英偉達顯卡引擎）
• Vulkan（A卡引擎）
• MTP 變體
• mmpro（視覺模型前綴）
• 平台/網站：
• Hugging Face
• GitHub
• Chrome 瀏覽器
• 零度部落格
• 系統/環境：
• Windows
• macOS
• Linux
• Android
• 127.0.0.1:8080（本地存取地址）

操作流程整理

下載模型文件：

• 前往 Hugging Face 或相關打包源。
• 根據顯存選擇量化版本（如 Q4 對應 4G 顯存）。
• 若需多模態功能，下載以 mmpro 開頭的視覺模型（注意選擇小寫 f16 以支援圖片）。

安裝運行環境：

• 下載並安裝 llama.cpp（版本號提及為 B9776）。
• 根據顯卡類型安裝對應驅動（CUDA 或 Vulkan）。

配置本地目錄：

• 建立 models 資料夾。
• 將下載的模型文件放入該資料夾。

創建啟動腳本：

• 複製影片提供的一鍵啟動腳本代碼。
• 新建文字文件，貼上代碼。
• 另存為 .bat 檔案，確保編碼為 ANSI。

啟動服務：

• 雙擊執行 .bat 檔案。
• 在彈出選項中選擇對應顯存大小的配置。
• 等待服務啟動，獲取本地地址（127.0.0.1:8080）。

進行實測：

• 訪問本地地址進行對話。
• 測試程式碼生成（如 3D 遊戲、Chrome 插件）。
• 測試無審查特性（如壓力測試腳本）。
• 測試多模態功能（上傳圖片生成 3D 場景）。

值得注意的限制或風險

• 硬體依賴：雖宣稱 4GB 顯存可跑，但需依賴 Q4 量化版本，可能影響模型精度或複雜任務表現。
• 編碼問題：Windows 用戶創建啟動腳本時，若編碼非 ANSI 可能導致腳本無法正確執行。
• 模型版本混淆：視覺模型的大小寫區分（小寫 f16 vs 大寫 F16）對功能有直接影響，需嚴格區分。
• 來源不確定性：模型名稱 "Qwythos" 及相關訓練數據來源（Claude Mythos, Fable 5）與常見公開資訊可能存在差異，需謹慎評估其真實性與安全性。

逐字稿辨識疑點

• Qwythos：逐字稿中多次出現此名稱，與常見開源模型名稱拼寫不同，需查證是否為特定小眾模型或聽寫錯誤。
• Mythos：逐字稿提及 "Claude 最強的Mythos模型" 及 "Claude Mythos"，需查證 Claude 是否有此特定模型版本名稱。
• Fable 5：逐字稿提及 "Fable 5"，需查證是否為特定模型或數據集名稱。
• Empero AI：逐字稿提及 "Empero AI 內部的rethink 系統"，需查證該公司或系統名稱是否正確。
• rethink 系統：需查證是否為特定技術術語或內部系統名稱。
• B9776：逐字稿提及 llama.cpp 最新版本為 "B9776"，需查證該版本號是否準確。
• mmpro：逐字稿提及視覺模型為 "mmpro這個開頭"，需查證該模型前綴是否正確。
• 小寫的f16 / 大寫的F16：逐字稿區分多模態模型的大小寫版本（小寫 f16 支援圖片，大寫 F16 僅支援文本），需查證該命名規則是否為實際情況。
• Qwythos 與 Qwen 的關係：逐字稿稱 Qwythos 建立在 Qwen3.5 基礎之上，需查證兩者具體的衍生關係。

可延伸追問

• Qwythos-9B 的訓練數據中，"5 億條推理軌跡" 的具體來源和質量如何評估？
• "無審查" 特性在實際應用中是否會帶來安全風險或內容準確性問題？
• 4GB 顯存運行 Q4 量化版本時，處理 100 萬 token 上下文的實際效能表現如何？
• Empero AI 與 Qwythos 模型的具體關係為何？
• 該模型在生產環境中的穩定性與長期維護情況如何？