# 影片筆記:DeepSeek V4.1 Flash 552B权重翻倍,DGX Spark 3台可以装下权重,AMD小主机彻底出局,苹果M5 Ultra 512G成唯一幸存者! ## ⚠️ 可先使用,仍有待修正項目 本筆記已完成可閱讀的逐字稿與時間跳轉;下列為待處理問題,建議播放原片確認。 - 待修正:逐字稿全文快速校讀未完成(已保留自動字幕/原始逐字稿並繼續生成筆記。;未完成的全文速讀項目可在精進模式回聽確認。) - 待修正:逐字稿可先使用,但有待校正清單(segment=1 unnatural_sentence_boundary: 標點出現在句首或停在逗號位置,斷句可能不符合文法/口語;segment=105 unnatural_sentence_boundary: 標點出現在句首或停在逗號位置,斷句可能不符合文法/口語) ## 一句話總結 DeepSeek V4.1 Flash 發布後,因參數與權重規模大幅增長,導致 AMD 小主機因記憶體不足出局,Apple 256G 機型無法運行,唯有 Apple M5 Ultra 512G 或組合多台 NVIDIA DGX Spark 成為可行的本地部署方案。 ## 核心重點 * **DeepSeek V4.1 Flash 規格變更**:總參數從 V4 的 284B 激增至 748B,權重總體達 510G(其中 MOE 及主模型 306G,英官支持權重 204G)。 * **AMD 平台出局**:AMD AI Max 400 最大記憶體僅 192G,無法運行 V4.1 Flash,僅能勉強運行 V4 Flash。 * **Apple 平台選擇**: * M5 Ultra 256G 無法運行 V4.1 Flash,價值大打折扣。 * M5 Osh 512G 是目前個人消費級小主機中記憶體最大的選擇,建議一步到位購買,但價格高昂。 * 現有 64G/96G 用戶適合運行青文(Qwen)3.8 27B 等本地模型。 * **NVIDIA 平台優勢**: * 透過三台 DGX Spark 組合(總統一記憶體 384G),可運行 V4.1 Flash(佔用 306G),並預留資源進行多任務處理。 * 原生支援 NVFP4、FP8 推理,具備企業市場標準地位。 * **開源生態格局**:DeepSeek 被視為開源 AI 王者,其堅定開源路線確立了基礎設施地位;阿里巴巴通過青文系列小模型在本地部署市場保持競爭力。 ## 詳細大綱 ### 一、 DeepSeek V4.1 Flash 規格變更與影響 * **參數大幅提升**: * V4 總參數:284B。 * V4.1 Flash 總參數:748B(7480億),接近旗艦模型配置。 * 權重總體大小:510G。 * MOE 及主模型權重:306G。 * 英官支持權重:204G(可放置於 SSD,利用小核部署)。 * **對硬體選擇的直接衝擊**: * 模型變大導致記憶體需求激增,改變了之前的硬體推薦邏輯。 ### 二、 各平台硬體評估與建議 * **AMD 平台**: * **結論**:直接出局。 * **原因**:AI Max 400 最大記憶體僅 192G,無法運行 V4.1 Flash。 * **現狀**:僅能勉強運行 V4 Flash,體驗不佳。 * **Apple 平台**: * **256G 記憶體機型(M5 Ultra)**: * 無法運行 V4.1 Flash,未來無法升級該家族模型。 * 價值大打折扣,僅適合運行 V4 Flash 或 GLM5.3 Flash(300B 左右模型)。 * **512G 記憶體機型(M5 Osh)**: * **建議**:若購買蘋果小主機,應一步到位選擇 512G 版本。 * **優勢**:目前個人消費級小主機中記憶體最大,做工、生態、大模型能力俱佳。 * **劣勢**:價格極高(「看腎夠不夠賣」)。 * **現有用戶(64G/96G)**: * 無需悲觀,因 256G 也跑不了 V4.1 Flash。 * 適合運行青文(Qwen)3.8 27B 等本地黃金尺寸模型。 * M5 Ocha 96G 體驗優於 M5 Max 64G;M5 Max 128G 體驗優於 64G,但 64G 性價比高(比 128G 便宜 50%)。 * **NVIDIA(英偉達)平台**: * **DGX Spark 組合方案**: * V4 Flash 時代:兩台 128G 拼湊 256G 即可運行。 * V4.1 Flash 需求:需三台 DGX Spark。 * **資源分配**: * 總統一記憶體:384G(三台合計)。 * 系統與框架開銷:約 24G。 * 剩餘可用:360G。 * 模型佔用:306G。 * 剩餘資源:54G(用於長生雅文多開、繪畫等)。 * **擴展性**: * 三台為黃金甜點配置,互聯效率不打折。 * 未來若需運行 4.2 或 5.0 Flash,可擴充至四台(DGX Spark 極限),超過四台通信效率下降。 * 平滑過渡流程:兩台跑 V4,三台跑 V4.1,四台跑未來版本。 * **技術優勢**: * 原生支援 NVFP4、FP8 推理,全內路支援。 * 企業市場標準(NVFP4 + FP),與華為並列世界標準。 ### 三、 開源 AI 生態格局分析 * **DeepSeek 的地位**: * 被稱為「當下的開源 AI 王者」。 * 通過 G-R03 操作及短短一個月的時間奠定地位。 * 路線堅定:完整開放 MoE 架構、核心機密及權重(包括 DeepSeq Harness)。 * 基礎設施意義:確保權重能在 NVIDIA 集群運行,維持全球通用性。 * **阿里巴巴(青文 Qwen)的角色**: * 通過本地切換小模型(如青文 3.8 27B)與 DeepSeek 競爭。 * 在本地部署市場仍具競爭力,但基礎設施層面已「基本出局」。 * **硬體廠商的反思**: * **現狀**:AMD、Intel 在生態建設期缺席,導致 NVIDIA 壟斷並高價銷售。 * **建議**:中國企業(如華為、小米、阿里巴巴、海武 G 等)應推出支援 DeepSeek 的小盒子產品。 * **市場機會**:若能支援 DeepSeek 推理及 ComphiUI 等應用,將極具性價比,打開個人開發者及中小團隊市場。 ## 工具 / 模型 / 名詞整理 * **模型/技術名稱**: * DeepSeek V4 Flash * DeepSeek V4.1 Flash * DeepSeq(逐字稿提及,疑為 DeepSeek 之誤或特定稱呼) * DeepSeq Harness * MoE(Mixture of Experts) * GLM5.3 Flash * 青文 3.8 27B(Qwen 3.8 27B) * 青文家族(Qwen Family) * NVFP4 * FP8 推理 * DBC(逐字稿提及,疑指 DeepSeek 技術或特定優化技術) * ComphiUI(疑為 ComfyUI 之誤) * 長生雅文(疑為特定應用或模型名稱,需查證) * 繪畫(應用場景) * **硬體/產品名稱**: * AMD AI Max 400 * Apple M5 Ultra 256G * Apple M5 Osh 512G(疑為 Mac Studio 或類似機型代號) * Apple M5 Ocha 96G * Apple M5 Max 64G * Apple M5 Max 128G * NVIDIA DGX Spark * 華為 950PR * 華為 950DT * 小主機(Mini PC / Small Host) * SSD * 統一綠存(疑為統一記憶體 Unified Memory 之誤或特定稱呼) * **其他專有名詞**: * 總餐(疑為總參數 Total Parameters 之誤) * 英官支持權重(疑為英偉達支持權重 NVIDIA Support Weights 之誤) * 小核(CPU 小核心) * Linux * G-R03(疑為特定操作或版本代號) * 老黃(NVIDIA CEO 黃仁勳的暱稱) * 肩商(疑為 NVIDIA 或特定稱呼之誤) * 梁子(疑為 DeepSeek 或相關團隊暱稱) * 英特爾(Intel) * 海武 G(疑為海光 Hygon 或其他廠商) ## 操作流程整理 1. **評估硬體需求**:根據 DeepSeek V4.1 Flash 的權重總體大小(510G)及 MOE 主模型權重(306G),計算所需記憶體。 2. **選擇硬體平台**: * **AMD 用戶**:確認 AI Max 400 記憶體僅 192G,判定為無法運行,建議出局或僅運行 V4 Flash。 * **Apple 用戶**: * 若為 256G(M5 Ultra),確認無法運行 V4.1 Flash,僅適合舊版或小型模型。 * 若需運行 V4.1 Flash,建議購買 512G 記憶體機型(M5 Osh)。 * 若為 64G/96G 用戶,建議運行青文 3.8 27B 等本地模型。 * **NVIDIA 用戶**: * 購買三台 DGX Spark。 * 組建統一記憶體環境(總計 384G)。 * 分配資源:系統與框架開銷約 24G,模型佔用 306G,剩餘 54G 用於多任務(如長生雅文多開、繪畫)。 3. **部署與擴展**: * 三台 DGX Spark 為黃金甜點配置,互聯效率不打折。 * 未來若需運行更大版本(如 4.2 或 5.0 Flash),可擴充至四台 DGX Spark。 * 利用 NVFP4、FP8 原生支援進行推理。 ## 值得注意的限制或風險 * **硬體記憶體限制**:AMD AI Max 400 最大記憶體僅 192G,無法運行 V4.1 Flash。 * **Apple 256G 機型兼容性**:M5 Ultra 256G 無法運行 V4.1 Flash,未來無法升級該家族模型。 * **Apple 512G 機型價格**:M5 Osh 512G 價格極高,可能超出個人消費者預算。 * **NVIDIA 擴展限制**:DGX Spark 超過四台後通信效率下降,四台為極限。 * **生態建設缺席**:AMD、Intel 在生態建設期缺席,導致 NVIDIA 壟斷並高價銷售。 ## 逐字稿辨識疑點 * **Deepseek V4.1 Flush**:Flush 一詞在模型命名中較不常見,通常為 "Flash" 或特定版本號,但逐字稿多次提及,保留原樣。 * **總餐 / 7480億總餐**:應為「總參數」,逐字稿聽寫為「總餐」。 * **英官支持權重**:應為「英偉達支持權重」或類似含義,「英官」疑為聽寫錯誤。 * **DeepSig / DeepSeq**:逐字稿中交替出現 DeepSig 和 DeepSeq,應均指代 DeepSeek,但需查證是否為特定分支或誤聽。 * **M5Osh / M5Ocha**:Apple 機型命名不常見,疑為 M5 Max / M5 Ultra 等型號的誤聽或特定內部代號。 * **青文 3.8 27B**:應為「Qwen 3.8 27B」(通義千問),逐字稿聽寫為「青文」。 * **長生雅文**:不明確的應用或模型名稱,疑為「長文本」或其他技術術語的誤聽。 * **DGX Spark**:NVIDIA 產品線中常見 DGX Station 或 DGX Spark(若為新產品),需查證是否存在此型號。 * **統一綠存**:應為「統一記憶體」(Unified Memory),「綠存」疑為聽寫錯誤。 * **肩商**:應為「NVIDIA」或「英偉達」,「肩商」疑為聽寫錯誤。 * **梁子**:指代不明,疑為 DeepSeek 團隊或相關人物的暱稱。 * **ComphiUI**:應為「ComfyUI」,逐字稿聽寫為「ComphiUI」。 * **海武 G**:應為「海光 Hygon」或其他國產晶片廠商,「海武」疑為聽寫錯誤。 * **G-R03**:不明確的操作或版本代號,需查證。 * **DBC**:逐字稿提及「因為這個 DBC 它這次技術又有了重大的進步」,指代不明,疑為 DeepSeek 技術縮寫或特定優化技術。 ## 可延伸追問 * DeepSeek V4.1 Flash 的具體技術架構與 V4 相比有哪些重大改進? * NVIDIA DGX Spark 的具體規格與市場售價為何? * Apple M5 Osh 512G 的確切型號與購買渠道為何? * 青文(Qwen)3.8 27B 在本地部署的具體性能表現如何? * 華為 950PR 與 950DT 在支援 DeepSeek 方面的具體能力為何?