# 影片筆記：Z.AI And The Chinese Open Source Moment

## 一句話總結

中國開源模型（如 GLM 5.2）在「代理工作」與成本效益上迅速追趕美國前沿模型，推動企業採用混合架構與模型路由策略；同時，地緣政治出口管制促使各國發展主權 AI，而硬體供應鏈正經歷由真實需求驅動的「超級週期」，OpenAI 與 Broadcom 合作推出自研晶片 Jalapeno 標誌著硬體生態系的擴張與競爭加劇。

## 核心重點

1.  **開源與前沿模型的差距縮小**：
    *   中國模型（如 GLM 5.2）在代理工作（agentic work）基準測試中表現優異，僅以極低成本（約 Opus 4.8 的五分之一）達到接近前沿模型的表現。
    *   開源與前沿模型的差距縮短至 3 到 6 個月，這在組織內部的 AI 擴散噪音範圍內，使得企業可以接受開源模型，無需等待兩三年。
    *   企業轉向「混合架構」：關鍵決策使用高成本的前沿智能（Frontier Intelligence），簡單任務使用低成本開源模型，類似於根據員工職級分配薪資。

2.  **AI 經濟學與指標轉變**：
    *   關注點從單純追求「最聰明模型」轉向「每美元智力」（intelligence per dollar）。
    *   企業更關注運行成本，能否以足夠低的成本反覆運行百萬次。
    *   蒸餾技術（Distillation）讓中國實驗室能夠以較低成本逼近前沿性能，但也引發了關於授權與道德的爭議。

3.  **從模型到代理（Agents）的系統性轉變**：
    *   AI 從單純的模型轉向嵌入業務流程的代理系統，訓練數據將更多來自企業自身（如律所的 M&A 數據）。
    *   出現「多人遊戲模式」（Multiplayer mode）：AI 不再是個人生產力工具，而是組織內的「協作同事」，具備共享上下文與資源，類似於團隊成員在 Slack 頻道中互動。
    *   應用層（App Layer）成為路由工作負載的邏輯位置，可靈活選擇底層模型。

4.  **地緣政治與主權 AI（Sovereign AI）**：
    *   美國透過出口管制限制 AI 模型存取，打破了「軟體全球通用」的假設。
    *   各國（如歐盟、中國）必須建立自己的 AI 能力或後盾，以確保國家安全與經濟利益。
    *   蒸餾技術被視為應對策略，但也引發了美國實驗室（如 Anthropic）對「非授權蒸餾」的訴訟。

5.  **硬體供應鏈與晶片創新**：
    *   OpenAI 與 Broadcom 合作推出首款自研推論晶片 Jalapeno，耗時九個月設計完成，旨在降低推論成本約 50%。
    *   半導體產業結構變化：VC 投資進入，市場規模擴大，競爭加劇但整體餅圖擴大。
    *   供應鏈出現「滾動式瓶頸」，從加速器轉移至記憶體、半導體設備、光學與網路、電源半導體，甚至 CPU。
    *   當前被視為「真正的需求週期」（True demand cycle）或「超級週期」，由極度龐大的需求驅動。

## 詳細大綱

### 1. GLM 5.2 的市場衝擊與經濟學轉變
*   **GLM 5.2 的發布**：由 Ji-Poo (Z.AI) 開發，在矽谷引起轟動，在 Open Router 上的採用速度快於 DeepSeek V4。
*   **代理工作表現**：GLM 5.2 在代理工作基準測試中表現優異，僅以 Opus 4.8 五分之一成本達到接近其表現（相差僅 1%）。
*   **每美元智力**：華爾街開始關注「每美元智力」，企業關注運行成本，能否以足夠低的成本反覆運行百萬次。
*   **蒸餾技術**：-distillation（蒸餾技術）讓中國實驗室能夠以較低成本逼近前沿性能。

### 2. 企業採用策略：混合架構與模型路由
*   **混合架構**：企業不再只買單一模型，而是根據任務複雜度進行分配。關鍵決策使用前沿智能，簡單任務使用開源智能。
*   **模型路由**：這種做法類似於企業根據員工職級分配薪資。只要差距不大於讓組織失去競爭優勢的閾值，3-6 個月的差距是可以接受的。
*   **嘉賓觀點**：
    *   **Gabe Pereira**：開源正在迅速追趕，GLM 5.2 是第一個真正與封閉源前沿模型競爭的模型。
    *   **Aaron Levy**：目前可能仍處於開源與前沿模型差距為 3 到 6 個月的狀態，而非快速取代之前的場景。未來 1-2 年，前沿級智能對企業仍至關重要。

### 3. 開源權重與前線智能的關係
*   **時間差距縮小**：若差距為兩到三年，企業不會使用次優模型；若差距為三到六個月，企業可以接受開源模型。
*   **後訓練（Post-training）的價值**：企業可以針對特定領域任務對開源模型進行後訓練，這比單純比較 token 成本更重要。
*   **從模型到代理的演變**：隨著 AI 從單純的模型轉向嵌入業務流程的代理系統，訓練數據將更多來自企業自身。
*   **啞鈴型動態（Barbell Dynamic）**：前線智能仍將存在，主要用於高價值、複雜的規劃或審查任務；而大量繁重的文檔處理和分析工作將由更便宜、更快的開源模型承擔。

### 4. 前線實驗室的開源策略與市場結構
*   **現狀觀察**：OpenAI, Google (Gemini) 已訓練開源模型，但在採用數據和基準測試中未顯著體現。中國開源模型在採用率上領先。
*   **遊戲理論觀點**：理想策略是前線實驗室應持續提供接近前線水平的開源權重模型，以獲取兩側的生態系效應。
*   **應用層的靈活性**：應用層獨立於模型，成為路由工作負載的邏輯位置。例如 Cursor 使用基於中國公司 Moonshot 的 Kimmy 架構訓練自訂模型。

### 5. Anthropic 政策與地緣政治影響
*   **出口管制**：美國透過出口管制阻斷對 AI 模型的存取，打破了「軟體全球通用」的假設。
*   **主權 AI**：各國需保護其獲取智慧的能力，避免經濟與國家安全受威脅。歐盟需投資開源或後訓練模型作為美國模型的後盾。
*   **蒸餾技術的爭議**：蒸餾被視為一種應對策略，但也引發了美國實驗室對「非授權蒸餾」的訴訟。
*   **Claude Tagg**：Anthropic 的新產品概念，將 AI 從個人生產力工具轉變為組織內的「協作同事」，具備共享上下文與資源。

### 6. AI Agent 的未來工作模式與架構
*   **多人遊戲模式**：未來工作模式將涉及多個 Agent 與人類組成團隊，處理複雜任務。
*   **技術架構與鎖定效應**：雲端可作為路由器，連接不同的 MCP 伺服器或其他 Agent 系統。使用者可選擇使用多少雲端智慧層，設計實施方式以控制鎖定程度。

### 7. OpenAI 與 Broadcom 合作晶片分析 (Jalapeno)
*   **產品發布細節**：OpenAI 與 Broadcom 聯合發布 Jalapeno，這是 OpenAI 首款完全從零開始設計的自研推論晶片，耗時九個月。
*   **商業合約**：OpenAI 與 Broadcom 簽署總值 100 億美元（原文提及 gigawatt deal，疑點見下文）、為期五年的合約。
*   **半導體產業結構變化**：VC 投資進入，市場規模擴大，競爭加劇但整體餅圖擴大。

### 8. 硬體供應鏈瓶頸與投資回報
*   **瓶頸的輪動現象**：從加速器轉移至記憶體、半導體設備、光學與網路、電源半導體，甚至 CPU。
*   **中國硬體現狀**：受出口管制影響，被迫使用次標準製程技術，但在模型效率上進行創新。
*   **超級週期**：當前被視為「真正的需求週期」，由極度龐大的需求驅動。
*   **傑文斯悖論**：成本下降會推動採用率上升，從而增加總體需求。半導體成本每兩年减半，長期來看對半導體產業是好事。

## 工具 / 模型 / 名詞整理

*   **GLM 5.2**：Ji-Poo / Z.AI 發布的最新模型，在代理工作基準測試中表現優異。
*   **Ji-Poo**：開發 GLM 5.2 的實體/公司。
*   **Z.AI**：Ji-Poo 的別稱。
*   **DeepSeek / DeepSeek V4**：DeepSeek 在四月發布的版本，此前引發市場震動。
*   **Opus 4.7 / Opus 4.8**：Anthropics 最強大的可用模型，GLM 5.2 在其代理基準測試中僅相差 1%。
*   **Anthropic**：Opus 系列模型的開發者。
*   **Open Router**：顯示 GLM 5.2 採用速度較快的平台。
*   **Box**：Aaron Levy 經營的公司。
*   **Harvey**：Gabe Pereira 聯合創始的 AI 平台，被半數 AM Law 100 公司使用。
*   **AM Law 100**：美國律師事務所排名前 100 的列表。
*   **DeepMind**：Gabe Pereira 曾工作的研究機構。
*   **Meta**：Gabe Pereira 曾工作的研究機構。
*   **Factory**：Aaron Levy 提到的 AI 層之一。
*   **Cognition**：Aaron Levy 提到的 AI 層之一。
*   **Artificial Analysis**：提供性能與成本對比圖表的機構。
*   **前線實驗室/公司 (Frontier Labs)**：OpenAI, Anthropic, Google。
*   **Gemini / Gemma**：Google 的模型系列及開源模型。
*   **Fable Mythos / Fable**：Anthropic 的模型，文中提及被切斷訪問。
*   **GPD 5.5 / GPD 5.6**：疑似口誤，可能指 GPT-5.5 或類似版本。
*   **Kimmy**：中國模型，用於 Moonshot/Cursor 的底層架構。
*   **Mistral**：歐洲客戶使用的模型。
*   **Cursor**：應用層公司，提及使用中國底層模型。
*   **Moonshot**：中國公司，與 Cursor 相關。
*   **Claude Tagg**：Anthropic 的新功能或產品，具備協作與上下文學習能力。
*   **OpenClaw**：協作編碼系統之一。
*   **Hermes**：協作編碼系統之一。
*   **Devon**：協作編碼系統之一。
*   **Slack**：提及作為協作平台。
*   **Jalapeno**：OpenAI 與 Broadcom 合作推出的自研推論晶片。
*   **Nvidia GPUs / TPUs**：現有的 GPU 與張量處理單元。
*   **SOX index**：半導體設備指數。
*   **Micron**：美光，記憶體廠商。
*   **Rippling**：提及建立員工數據層。
*   **MCP server**：Model Context Protocol server。
*   **Distillation (蒸餾技術)**：使用大型模型輸出訓練較小模型。
*   **Post-training (後訓練)**：針對特定領域任務對模型進行訓練。
*   **Agentic systems / Agents (代理系統)**：嵌入業務流程的 AI 系統。
*   **Orchestrator (協調器)**：前線智能的角色之一。
*   **Planner (規劃者)**：前線智能的角色之一。
*   **Reviewer (審查者)**：前線智能的角色之一。
*   **Single player mode (單人模式)**：目前的 AI 主要處於此模式。
*   **Multiplayer mode (多人遊戲模式)**：未來工作模式，多個 Agent 與人類協作。
*   **Shared intelligence (共享智慧)**：轉向共享智慧而非僅個人生產力。
*   **Sovereign AI (主權 AI)**：各國建立自己的 AI 能力。
*   **Export Controls (出口管制)**：美國限制 AI 模型存取的措施。
*   **Backstop/Hedge (後盾/對沖)**：歐盟需投資開源或後訓練模型作為美國模型的後盾。
*   **Non sanctioned distillation (非授權蒸餾)**：美國實驗室訴訟針對的對象。
*   **Blunt instruments (鈍器/粗獷工具)**：形容出口管制。
*   **Fine grained (細粒度)**：形容晶片管制。
*   **Accelerators (加速器)**：硬體供應鏈瓶頸之一。
*   **Memory (記憶體)**：硬體供應鏈瓶頸之一。
*   **Semi-cap (半導體設備)**：硬體供應鏈瓶頸之一。
*   **Optical and networking (光學與網路)**：硬體供應鏈瓶頸之一。
*   **Power semis (電源半導體)**：硬體供應鏈瓶頸之一。
*   **CPUs (中央處理器)**：近期瓶頸之一。
*   **Picks and shovels (鏟子與鑿子)**：比喻基礎設施供應商。
*   **Super cycle (超級週期)**：當前被視為真正的需求週期。
*   **True demand cycle (真正的需求週期)**：由需求規模驅動。
*   **Inventory cycles (庫存週期)**：供應鏈後端，需求波動向後傳播。
*   **Supply cycles (供應週期)**：供應緊張導致價格上漲。
*   **Product/Socket cycles (產品/插座週期)**：單一晶片進入特定設備對營收影響巨大。

## 操作流程整理

1.  **評估任務複雜度**：企業根據任務性質（關鍵決策 vs. 簡單任務）決定使用前沿智能還是開源智能。
2.  **選擇模型與架構**：
    *   對於關鍵任務，選擇高成本的前沿模型（如 Opus 4.8）。
    *   對於簡單任務，選擇低成本開源模型（如 GLM 5.2）。
    *   考慮使用蒸餾技術或後訓練來優化開源模型在特定領域的表現。
3.  **實施模型路由**：在應用層（App Layer）建立路由邏輯，根據任務適配使用 frontier 或 open weights 模型。
4.  **部署代理系統**：
    *   從單人模式轉向多人遊戲模式，讓 AI 成為組織內的協作同事。
    *   利用共享上下文與資源，通過類似 Slack 頻道的方式與 AI 互動。
5.  **監控供應鏈與成本**：
    *   關注硬體供應鏈的瓶頸轉移（從加速器到記憶體、光學等）。
    *   評估推論成本（如使用 Jalapeno 晶片降低 50% 成本）。
    *   監控需求週期，確保投資回報（ROI）。

## 值得注意的限制或風險

1.  **出口管制與地緣政治風險**：美國透過出口管制限制 AI 模型存取，可能影響全球供應鏈與各國主權 AI 發展。
2.  **蒸餾技術的爭議**：蒸餾技術可能引發法律訴訟（如 Anthropic 對 Alibaba 的訴訟），影響商業連續性。
3.  **模型鎖定效應**：隨著 AI 深度嵌入業務流程，替換模型變得困難，可能產生鎖定效應。
4.  **供應鏈瓶頸**：硬體供應鏈出現滾動式瓶頸，可能影響 AI 發展速度。
5.  **中國硬體限制**：中國受出口管制影響，無法使用先進製程，導致良率與產能受限，需依賴模型效率創新。
6.  **前沿模型差距縮小**：開源與前沿模型差距縮小，可能影響前沿實驗室的商業模式，需通過生態系效應維持競爭力。

## 逐字稿辨識疑點

*   **DeepSeq**：逐字稿中出現 "DeepSeq showed Wall Street..."，疑為 **DeepSeek** 的聽寫錯誤或口誤。
*   **Ji-Poo**：逐字稿中多次出現 "Ji-Poo" 作為開發 GLM 5.2 的公司名稱，疑為 **01.AI**（零一萬物）或其他中國 AI 公司的音譯錯誤或特定稱呼，需查證。
*   **GPO**：逐字稿中出現 "That's why GPO is interesting"，疑為 **Z.AI** 或 **GLM** 的聽寫錯誤，需查證。
*   **fable level**：Aaron Levy 提到 "fable level kind of intelligence"，疑為 **frontier level**（前沿級）的聽寫錯誤。
*   **Opus 4.7 / Opus 4.8**：逐字稿中交替出現 Opus 4.7 和 Opus 4.8，需確認具體指代的模型版本編號是否一致。
*   **ZAI / Z.AI**：逐字稿中交替使用 "ZAI" 和 "Z.AI"，需確認官方名稱寫法。
*   **agentic work**：多次出現，指代代理型 AI 工作負載，此為專業術語，保留原樣。
*   **open weights**：Aaron Levy 使用 "open weights" 指代開源模型，與 "open source" 混用，保留原樣。
*   **AM Law 100**：指代美國