# 影片筆記:Deepseek 瘋了?最強旗艦 Pro 竟然被自己下架!AI 界歷史性的一天,OpenAI 這次真的要跪了... 😱 ## ⚠️ 可先使用,仍有待修正項目 本筆記已完成可閱讀的逐字稿與時間跳轉;下列為待處理問題,建議播放原片確認。 - 待修正:逐字稿全文快速校讀未完成(已保留自動字幕/原始逐字稿並繼續生成筆記。;未完成的全文速讀項目可在精進模式回聽確認。) ## 一句話總結 DeepSeek 發布新一代模型 **V4.1 Flash**,透過架構革新(Causal Encoder Decoder)與非對稱參數激活,大幅降低推理成本,並宣布讓輕量模型接管旗艦 **V4 Pro** 的流量,同時將視覺理解原生整合進基礎架構,針對智能體(Agent)與代碼自動化任務進行優化,試圖打破「能力越強越貴」的行業慣性。 ## 核心重點 1. **架構革新:非對稱激活** * 採用 **Causal Encoder Decoder**(因果編碼器與解碼器)結構。 * 總參數達 5,520 億,但採用混合專家模型(MoE)實現非對稱激活: * 輸入階段(讀取):僅激活約 80 億參數。 * 輸出階段(生成):激活約 160 億參數。 * 設計邏輯針對智能體時代特徵:大量閱讀(高輸入 Token)與少量生成(低輸出 Token),解決傳統架構在輸入階段浪費算力的問題。 2. **基礎設施與成本優化** * **KV Cache 壓縮**:累計縮小約 437 倍(與最早一代架構相比)。 * **硬件需求降低**:HBM(高頻寬記憶體)需求降至上一代的 1/4,SSD 需求降至 1/8。 * **效益**:減少顯存與外部存儲之間的數據搬運,降低延遲,為現有服務器騰出更多併發用戶空間,緩解長任務中的數據交換瓶頸。 3. **能力定位:原生視覺與智能體專用** * **視覺整合**:舊版 V4 Flash 與 V4 Flash Vision xLarge 下線。V4.1 Flash 將視覺理解直接放入基礎架構,不再區分文本或圖片請求。 * **應用場景**:支持截圖、圖表、網頁界面與文字進入同一套推理流程,解決智能體在真實電腦操作中同時處理文字與畫面的需求(如按鈕位置、錯誤提示、圖表數據)。 * **基準測試成績**:重點提升集中在終端代碼倉庫自動化、網絡安全任務,而非單純聊天流暢度。 * GPQA Diamond: 90.9 * HLE: 36.8 * Codeforces: 3471 * Terminal Bench 2.1: 90.6 * DeepSW 1.1: 74.2 * NL to Repo Bench: 65.4 * CyberGem: 88.1 4. **定價策略:峰谷計費與緩存命中機制** * **計費模式**: * **閒時**:緩存命中輸入 0.02 元/百萬 Token;未命中輸入 1 元;輸出 4 元。 * **高峰**:緩存命中輸入 0.04 元;未命中輸入 2 元;輸出 8 元。 * **策略意圖**:極低的緩存命中價格鼓勵開發者重複攜帶長上下文。針對智能體特性(代理每天處理相同規則、代碼倉庫與長期記憶),引導產品設計保留長期記憶,減少無意義長回答,並通過算力調度將非緊急任務推向空閒時段。 5. **商業與生態影響** * **流量路由**:DeepSeek 願意將實際 Pro 流量交給 Flash,有序下線舊 Pro,統一接口名稱轉向 V4.1 Flash,減少維護成本。 * **合作夥伴**:騰訊的 Work Buddy、Code Buddy 和 Open Code 成為首批官方合作夥伴,瞄準辦公代理與代碼工具市場。 * **開源與閉源競爭**:權重發布於 Hugging Face,支持社區量化與私有部署。迫使其他廠商重新定價,從「比參數」轉向「比每美元完成的任務」。 ## 詳細大綱 ### I. 架構革新:非對稱激活與 Causal Encoder Decoder * **參數配置**: * 總參數:5,520 億。 * 輸入階段激活:約 80 億參數(輕量讀取)。 * 輸出階段激活:約 160 億參數(重質生成)。 * 混合專家模型(MoE)繼續採用,但輸入輸出階段激活規模不同。 * **設計邏輯**: * 針對智能體時代特徵:大量閱讀(高輸入 Token)與少量生成(低輸出 Token)。 * 傳統架構在輸入階段浪費算力,新架構將讀取與生成分為非對稱路徑。 * 目標:控制代理連續工作幾小時後的帳單成本。 ### II. 基礎設施優化:KV Cache 壓縮與硬件需求降低 * **緩存壓縮**: * KV Cache 累計縮小約 437 倍(與最早一代架構相比)。 * HBM(高頻寬記憶體)需求降至上一代的 1/4。 * SSD(固態硬碟)需求降至上一代的 1/8。 * **硬件影響**: * 減少顯存與外部存儲之間的數據搬運,降低延遲。 * 在不購買同等數量新硬件的情況下,為現有服務器騰出更多併發用戶空間。 * 緩解長任務中的數據交換瓶頸。 ### III. 能力定位:原生視覺與智能體專用 * **視覺整合**: * 舊版 V4 Flash 與 V4 Flash Vision xLarge 下線。 * V4.1 Flash 將視覺理解直接放入基礎架構,不再區分文本或圖片請求。 * 支持截圖、圖表、網頁界面與文字進入同一套推理流程。 * 解決智能體在真實電腦操作中同時處理文字與畫面的需求(如按鈕位置、錯誤提示、圖表數據)。 * **基準測試成績**: * GPQA Diamond: 90.9 * HLE: 36.8 * Codeforces: 3471 * Terminal Bench 2.1: 90.6 * DeepSW 1.1: 74.2 * NL to Repo Bench: 65.4 * CyberGem: 88.1 * **重點**:提升集中在終端代碼倉庫自動化、網絡安全任務,而非單純聊天流暢度。 ### IV. 定價策略:峰谷計費與緩存命中機制 * **計費模式**: * **閒時**:緩存命中輸入 0.02 元/百萬 Token;未命中輸入 1 元;輸出 4 元。 * **高峰**:緩存命中輸入 0.04 元;未命中輸入 2 元;輸出 8 元。 * **策略意圖**: * 極低的緩存命中價格鼓勵開發者重複攜帶長上下文。 * 針對智能體特性:代理每天處理相同規則、代碼倉庫與長期記憶,大部分輸入會反覆出現。 * 引導產品設計:保留長期記憶變得更可行,減少無意義長回答,引導「大量讀取、少量決策、精確行動」的工作方式。 * 算力調度:將非緊急任務推向空閒時段,平衡總流量,減少 GPU 空轉。 ### V. 商業與生態影響 * **流量路由**: * DeepSeek 願意將實際 Pro 流量交給 Flash,有序下線舊 Pro。 * 統一接口名稱轉向 V4.1 Flash,減少維護多款舊模型的容量與質量修補成本。 * 風險:底層模型更換可能導致自動化流程出現難以發現的漂移。 * **合作夥伴**: * 騰訊的 Work Buddy、Code Buddy 和 Open Code 成為首批官方合作夥伴。 * 瞄準市場:辦公代理與代碼工具,而非娛樂聊天或圖片問答。 * **開源與閉源競爭**: * 權重發布於 Hugging Face,支持社區量化與私有部署。 * 總參數 5,520 億意味著消費級電腦無法運行完整模型,仍需大規模 GPU 集群。 * API 可能比自建集群更現實,除非數據敏感或調用量極大。 * 迫使其他廠商重新定價,從「比參數」轉向「比每美元完成的任務」。 ### VI. 潛在風險與挑戰 * **工程實現**: * 稀疏激活不自動兌現低延遲,需依賴路由算法、並行策略與推理框架配合。 * 專家分佈不均可能導致 GPU 排隊與跨卡通信延遲。 * 官方 API 優化與社區部署(不同 GPU、帶寬、量化方式)存在性能差異。 * **智能體治理**: * 任務分數高不代表每一步操作可信,長鏈任務中小錯誤概率會累積放大。 * 網絡安全任務(Cyberjail)得分 88.1 帶來雙重影響:防守方用於審計,供給方用於尋找入口。 * 需建立權限隔離、日誌審計、人工批准與事故響應機制。 * **長上下文與視覺穩定性**: * KV Cache 減少保存成本,但未自動解決檢索與注意力質量問題。 * 需觀察模型在超長任務末尾能否準確引用早期約束。 * 原生多模態不代表適合無人監督操作所有界面(如按鈕遮擋、惡意頁面注入)。 ### VII. 行業趨勢與未來展望 * **更新節奏**: * V4 於 4 月亮相,7 月底更新 Flash,9 月推出 V4.1 Flash。 * 舊模型生命週期縮短,開發者承擔更頻繁的遷移成本。 * DeepSeek 使用兼容路由減少接口遷移成本,但行為兼容性比接口兼容性更難。 * **服務體系競爭**: * 競爭從模型權重擴展到服務體系(推理框架、緩存系統、工具協議、監控平台、穩定 API)。 * DeepSeek 通過極低 API 價格吸引流量,形成「開放權重 + 官方服務」雙重策略。 * 模型本身可能變成入口,作為利潤中心的重要性下降,生態影響力上升。 * **最終裁判**: * 不是排行榜,而是每一次完成的任務、每一筆實際帳單。 * 需要觀察四件事:獨立評測復現、百萬 Token 上下文穩定性、真實網頁視覺工具調用、Pro 流量切換後企業客戶質量回退。 ## 工具 / 模型 / 名詞整理 * **模型/版本**: * DeepSeek V4.1 Flash * DeepSeek V4 Pro * DeepSeek V4 Flash * DeepSeek V4 Flash Vision xLarge * DeepSeek V4 * Flash(泛指輕量級模型系列) * Pro(泛指旗艦級模型系列) * **架構/技術術語**: * Causal Encoder Decoder(因果編碼器與解碼器結構) * 混合專家模型(MoE) * KV Cache * HBM(高頻寬記憶體) * SSD(固態硬碟) * Sparse Activation(稀疏激活) * Expert Routing(專家路由) * Cross-Card Communication(跨卡通信) * Quantization(量化) * Inference Framework(推理框架) * **基準測試/數據集**: * GPQA Diamond * HLE * Codeforces * Terminal Bench 2.1 * DeepSW 1.1 * NL to Repo Bench * CyberGem / Cyberjail * Seckbench * Automation Bench * DeepSeek Harness(minimal 模式) * **合作夥伴/平台**: * Hugging Face * Tencent Work Buddy(騰訊 Work Buddy) * Tencent Code Buddy(騰訊 Code Buddy) * Open Code * SGLang * vLLM * **其他專有名詞**: * Agent(智能體/代理) * Token * API * GPU * Server Cluster(服務器集群) * HBM(High Bandwidth Memory) ## 操作流程整理 1. **模型選擇與部署**: * 開發者選擇 DeepSeek V4.1 Flash 作為基礎模型。 * 若需私有部署,可從 Hugging Face 獲取權重並進行量化(需注意消費級電腦無法運行完整 5,520 億參數模型,需依賴大規模 GPU 集群或 API)。 2. **智能體任務配置**: * 配置智能體(Agent)處理需要同時閱讀大量文本/代碼並進行少量生成的任務。 * 啟用原生視覺功能,允許模型直接處理截圖、圖表、網頁界面與文字輸入。 3. **長上下文管理**: * 利用 KV Cache 壓縮技術,將長上下文緩存成本降至極低。 * 設計智能體邏輯,使其在處理重複規則或長期記憶時,能利用緩存命中機制。 4. **計費與調度優化**: * 將非緊急、可預測的智能體任務安排在「閒時」執行,以享受極低的緩存命中輸入價格(0.02 元/百萬 Token)。 * 監控高峰時段的未命中輸入與輸出成本,確保成本效益。 5. **流量路由切換**: * 將原本指向 DeepSeek V4 Pro 的流量路由至 V4.1 Flash。 * 監控自動化流程是否出現行為漂移,並建立日誌審計與人工批准機制以應對潛在錯誤累積。 ## 值得注意的限制或風險 1. **工程實現延遲**:稀疏激活不自動兌現低延遲,需依賴路由算法、並行策略與推理框架配合;專家分佈不均可能導致 GPU 排隊與跨卡通信延遲。 2. **智能體治理風險**:任務分數高不代表每一步操作可信,長鏈任務中小錯誤概率會累積放大;網絡安全任務得分帶來防守與供給雙重影響。 3. **長上下文穩定性**:KV Cache 減少保存成本,但未自動解決檢索與注意力質量問題;需觀察模型在超長任務末尾能否準確引用早期約束。 4. **視覺操作局限性**:原生多模態不代表適合無人監督操作所有界面,仍存在按鈕遮擋、惡意頁面注入等風險。 5. **兼容性風險**:底層模型更換(從 Pro 到 Flash)可能導致自動化流程出現難以發現的行為漂移,行為兼容性比接口兼容性更難保證。 6. **硬件依賴**:總參數 5,520 億意味著消費級電腦無法運行完整模型,仍需大規模 GPU 集群,自建集群僅在數據敏感或調用量極大時才現實。 ## 逐字稿辨識疑點 * **Deepsw 1.1**:逐字稿提及「deepsw 1.1 達到 74.2」,疑為特定基準測試名稱或聽寫錯誤,需查證正確名稱。 * **Cybergem / Cyberjams**:逐字稿中交替出現「cybergem」與「cyberjams」,疑為同一基準測試名稱的不同聽寫或拼寫錯誤,需查證正確名稱。 * **Seckbench**:逐字稿提及「cyberjail 與 Seckbench」,疑為特定安全基準測試名稱,需查證正確拼寫。 * **Open Code**:逐字稿提及「open code 已經成為首批官方合作夥伴」,疑為特定產品或平台名稱,需查證是否為「OpenCode」或其他變體。 * **SGLang**:逐字稿提及「SG Lang」,通常指代開源推理框架,疑為「SGLang」的聽寫或空格誤植。 * **V4.1 Pro**:逐字稿提及「未來 V4.1 Pro 就可以沿著同一條路線擴大容量」,需確認 DeepSeek 官方規劃中是否存在此版本命名,或為推測性表述。 * **HLE**:逐字稿提及「HLE 是 36.8」,需查證此基準測試的完整名稱與定義。 * **GPQA Diamond**:需確認此為 GPQA 基準測試的特定子集或版本名稱。 * **Terminal Bench 2.1**:需確認此基準測試的版本號是否準確。 * **NL to Repo Bench**:需確認此基準測試的完整名稱。 * **Automation Bench**:需確認此基準測試的完整名稱。 * **DeepSeek Harness**:需確認此為 DeepSeek 官方提供的基準測試工具或框架名稱。 ## 可延伸追問 1. **基準測試驗證**:DeepSW 1.1、CyberGem/Cyberjail、Seckbench 等基準測試的具體定義