# 影片筆記：速度暴涨2000%？俄15人团队让AI“神交”，大模型只读不写小模型借脑干活【Mostik】


<!-- VIDEONOTE_PUBLICATION_WARNINGS_BEGIN -->
## ⚠️ 可先使用，仍有待修正項目

本筆記已完成可閱讀的逐字稿與時間跳轉；下列為待處理問題，建議播放原片確認。

- 待修正：逐字稿來源選擇未完全通過，仍先生成筆記（no_trustworthy_transcript_source；原始逐字稿保留；請進入精進模式確認來源。）
- 待修正：逐字稿全文快速校讀未完成（已保留自動字幕/原始逐字稿並繼續生成筆記。；未完成的全文速讀項目可在精進模式回聽確認。）
- 待修正：逐字稿品質檢核未完全通過（{'stage': 'canonical_transcript_quality', 'action': 'published_with_warning', 'signals': ['canonical_hallucination_detected', 'transcript_selection_not_resolved']}）

<!-- VIDEONOTE_PUBLICATION_WARNINGS_END -->

## 一句話總結

俄羅斯團隊 Mustik 提出一種「隱藏狀態橋接」技術，讓大模型（GLM 5.2）僅負責「讀」題並輸出隱藏狀態，小模型（QAM 3.5）僅負責「寫」答案，兩者之間通過非文本的「橋」進行數據轉換。該方法宣稱能節省算力並提升效率，但在 RKGI 競賽中最終僅獲第四名，且目前缺乏論文、代碼與可復現基準，評論者建議保持懷疑態度。

## 核心重點

1.  **技術架構創新**：
    *   **大模型（發送端）**：GLM 5.2（7530 億參數），負責讀取題目，輸出內部隱藏狀態（Hidden States），不輸出任何 Token。
    *   **小模型（接收端）**：QAM 3.5（40 億參數，可在手機運行），負責根據接收到的隱藏狀態生成答案。
    *   **橋接機制**：大模型與小模型之間通過一個可學習的「橋」連接，將大模型的隱藏狀態轉換為小模型的隱空間格式，而非轉換為文本。
    *   **訓練方式**：大模型與小模型的權重均凍結，僅「橋」這一個部件在學習。

2.  **效率與經濟學分析**：
    *   **讀與寫的區別**：讀題是並行計算（便宜），寫答案是逐 Token 串行（昂貴）。
    *   **官方宣稱**：相比傳統文本交接，該方法在算力效率上提升顯著。官方數據顯示縮小差距一半（相對提升 25%），困難子集提升兩倍，算力節省兩倍半。
    *   **評論者質疑**：評論者認為「快 20 倍」的說法僅節省了「寫」的算力，並未節省「讀」的算力，且大模型仍需在線，仍需為大模型付費。

3.  **競賽表現與現狀**：
    *   **團隊背景**：Mustik 為俄羅斯團隊，成立 4 個月，15 人（包含 12 位博士及 1 位菲爾茲獎得主）。
    *   **競賽結果**：在 RKGI 三競賽中，Mustik 團隊發布當天曾創榜價新高（7.51%），衝上榜首，但最終排名第四，落後於 TufaLabs（11.04）、Fert Intelligence（8.21）及 Daniel Franzen（7.63）。
    *   **數據質疑**：競賽僅用一半測試數據，基準和任務清單未公布，「快 20 倍」與技術文檔「縮小一半差距」口徑不一。

4.  **行業影響與未來展望**：
    *   **與現有技術區別**：不同於知識蒸留（部署前一次性完成）和投機解碼（仍傳輸文本），Mustik 的橋接是實時傳輸隱藏狀態。
    *   **依賴性**：小模型每個請求都依賴大模型在線，並未完全解決成本問題。
    *   **發展軸線**：AI 發展軸線從預訓練（知識）和測試時計算（推理）轉向第三條軸線：模型間協調。
    *   **結論**：模型開始交換思想（從「說人話」轉向「傳腦波」），但需等待 9 月 30 日競賽節點及代碼/論文發布，目前建議「觀望，別急著壓注」。

## 詳細大綱

### 1. 問題背景：協作的瓶頸
*   大模型內部計算產生大量隱藏狀態（約 2MB），但最終輸出僅為極少量比特（17比特）。
*   現有系統（子智能體、多模型議會、路由系統）均擠在「鑰匙孔」上通過文本進行協作。
*   文本只是思考的「壓縮包」，丟失了隱藏狀態中的計算信息。

### 2. Mustik 團隊介紹
*   俄羅斯團隊，成立 4 個月，15 人（12 位博士 + 1 位菲爾茲獎得主）。
*   公司名 "Mustik" 俄語意為「小喬」。
*   在 RKGI 三競賽中一度衝上榜首。

### 3. 技術架構：讓大模型只讀不寫，小模型只寫不讀
*   **發送端**：GLM 5.2（7530 億參數）。
*   **接收端**：QAM 3.5（40 億參數，手機可運行）。
*   **流程**：大模型讀題 -> 隱藏狀態經過「橋」轉換為小模型隱空間格式 -> 大模型停機 -> 小模型生成答案。
*   **三個關鍵點**：大模型不輸出 Token、兩模型權重凍結、僅「橋」在學習。

### 4. 經濟學與效率分析
*   讀題是並行計算（便宜），寫答案是逐 Token 串行（貴）。
*   讓大模型指出思想，小模型承擔體力。
*   官方數據：縮小差距一半（相對提升 25%），困難子集提升兩倍，算力節省兩倍半。
*   與傳統文本交接對比：隱藏狀態交接更好，且發生越早優勢越大。

### 5. 與現有方案的區別
*   **知識蒸留**：部署前一次性完成，教師模型可刪除，學生獨立。
*   **投機解碼**：草稿模型猜 Token，大模型驗證，仍傳輸文本。
*   **Mustik 的橋**：每次請求實時傳輸隱藏狀態，不轉為文本。
*   **依賴性**：橋接的小模型每個請求都依賴大模型在線，仍需為大模型付費。

### 6. 競賽現狀與數據質疑
*   RKGI 三考智能體償任務，極難。
*   Mustik 發布當天創榜價新高（7.51%），後排第四（落後於 TufaLabs, Fert Intelligence, Daniel Franzen）。
*   競賽剩兩個月，公開榜單僅用一半測試數據。
*   **質疑點**：
    *   「快 20 倍」與技術文檔「縮小一半差距」口徑不一，基準和任務清單未公布。
    *   零論文、零代碼、零可復現基準。
    *   「榜一」說法在競賽結束前無法證實。

### 7. 行業影響與未來展望
*   前沿實驗室可能不樂見隱藏狀態被介入。
*   AI 發展軸線：預訓練（知識）、測試時計算（推理）曲線變平，Mustik 押注第三條軸：模型間協調。
*   高效協調前提是高效通信：從「說人話」轉向「傳腦波」。
*   結論：模型開始交換思想，但需保持懷疑，等待 9 月 30 日競賽節點及代碼/論文發布。

## 工具 / 模型 / 名詞整理

*   **Mustik**：俄羅斯團隊/公司名稱，俄語意為「小喬」。
*   **GLM 5.2**：作為發送端的大模型，7530 億參數。
*   **QAM 3.5**：作為接收端的小模型，40 億參數。
*   **RKGI 三競賽**：智能體償任務競賽。
*   **TufaLabs**：競賽中排名第一的團隊（11.04）。
*   **Fert Intelligence**：競賽中排名第二的團隊（8.21）。
*   **Daniel Franzen**：競賽中排名第三的團隊（7.63）。
*   **ARKPRESS**：官方賬號，曾專門發帖認證。
*   **知識蒸留**：提及的現有技術方案。
*   **投機解碼**：提及的現有技術方案。
*   **隱藏狀態 (Hidden States)**：模型內部的計算狀態，大模型輸出此狀態而非 Token。
*   **橋 (Bridge)**：連接大模型與小模型的部件，負責將大模型隱藏狀態轉換為小模型隱空間格式，僅此部件在學習。
*   **子智能體**：指寫代碼的智能體。
*   **多模型議會**：指協作模式。
*   **路由系統**：指協作模式。
*   **文本接力**：指現有協作方式。
*   **脚手架**：指可解釋性研究中對丟失內容的描述。
*   **Token**：指文本單元。
*   **表征**：指名詞的內部表示。
*   **運腳**：指寫詩時的韻腳或結構。
*   **隱空間格式**：指小模型接受的隱藏狀態格式。
*   **權重凍結**：指模型參數不更新。
*   **逐 Token 串行**：指生成答案的方式。
*   **教師模型**：指知識蒸留中的大模型。
*   **學生獨立上崗**：指知識蒸留後的狀態。
*   **草稿模型**：指投機解碼中的小模型。
*   **智能體償任務**：指 RKGI 三競賽的任務類型。
*   **榜價新高**：指競賽排名分數。
*   **公開榜單**：指競賽排名顯示。
*   **測試數據**：指競賽使用的數據集。
*   **基準**：指評估標準。
*   **任務清單**：指競賽具體任務列表。
*   **可復現基準**：指可重複驗證的評估標準。
*   **困難子集**：指競賽中較難的部分。
*   **前沿實驗室**：指提供大模型的機構。
*   **預訓練**：指 AI 發展軸線之一。
*   **測試時計算**：指 AI 發展軸線之二。
*   **推理**：指測試時計算帶來的能力。
*   **模型之間的協調**：指 Mustik 押注的第三條軸線。
*   **接口標準**：指未來模型通信標準。
*   **說人話**：指當前模型通信方式。
*   **傳腦波**：指未來模型通信方式。
*   **開源前哨**：指頻道名稱。

## 操作流程整理

1.  **輸入題目**：大模型（GLM 5.2）讀取題目。
2.  **生成隱藏狀態**：大模型進行內部計算，生成隱藏狀態（約 2MB 數據）。
3.  **橋接轉換**：隱藏狀態經過「橋」轉換為小模型（QAM 3.5）的隱空間格式。
4.  **大模型停機**：大模型不輸出任何 Token，停止運算。
5.  **小模型生成答案**：小模型根據接收到的隱藏狀態生成最終答案。

## 值得注意的限制或風險

1.  **算力節省有限**：評論者指出，該方法僅節省了「寫」的算力，未節省「讀」的算力，且大模型仍需在線，仍需為大模型付費。
2.  **依賴性高**：小模型每個請求都依賴大模型在線，無法完全脫離大模型獨立運行。
3.  **缺乏透明度**：目前零論文、零代碼、零可復現基準，無法驗證其技術細節。
4.  **競賽數據質疑**：
    *   「快 20 倍」與技術文檔「縮小一半差距」口徑不一。
    *   基準和任務清單未公布。
    *   競賽僅用一半測試數據，最終排名第四，並非官方宣稱的榜首。
5.  **行業阻力**：前沿實驗室可能不樂見隱藏狀態被介入，可能影響技術推廣。

## 逐字稿辨識疑點

*   **上百万个数字**：逐字稿原文，指大模型內部計算出的數字數量。
*   **17比特**：逐字稿原文，指模型最終出口的數據量。
*   **菲尔兹奖得主**：逐字稿原文，指團隊成員資歷。
*   **RKGI 三竞赛**：逐字稿原文，競賽名稱。
*   **子智能体**：逐字稿原文，指寫代碼的智能體。
*   **多模型议会**：逐字稿原文，指協作模式。
*   **路由系统**：逐字稿原文，指協作模式。
*   **文本接力**：逐字稿原文，指現有協作方式。
*   **隐藏状态**：逐字稿原文，指模型內部的計算狀態。
*   **脚手架**：逐字稿原文，指可解釋性研究中對丟失內容的描述。
*   **Token**：逐字稿原文，指文本單元。
*   **表征**：逐字稿原文，指名詞的內部表示。
*   **运脚**：逐字稿原文，指寫詩時的韻腳或結構。
*   **隐空间格式**：逐字稿原文，指小模型接受的隱藏狀態格式。
*   **权重冻结**：逐字稿原文，指模型參數不更新。
*   **逐 Token 串行**：逐字稿原文，指生成答案的方式。
*   **知识蒸留**：逐字稿原文，指現有技術。
*   **教师模型**：逐字稿原文，指知識蒸留中的大模型。
*   **学生独立上岗**：逐字稿原文，指知識蒸留後的狀態。
*   **投机解码**：逐字稿原文，指現有技術。
*   **草稿模型**：逐字稿原文，指投機解碼中的小模型。
*   **智能体偿任务**：逐字稿原文，指 RKGI 三競賽的任務類型。
*   **榜价新高**：逐字稿原文，指競賽排名分數。
*   **公开榜单**：逐字稿原文，指競賽排名顯示。
*   **测试数据**：逐字稿原文，指競賽使用的數據集。
*   **基准**：逐字稿原文，指評估標準。
*   **任务清单**：逐字稿原文，指競賽具體任務列表。
*   **可复现基准**：逐字稿原文，指可重複驗證的評估標準。
*   **困难子集**：逐字稿原文，指競賽中較難的部分。
*   **前沿实验室**：逐字稿原文，指提供大模型的機構。
*   **预训练**：逐字稿原文，指 AI 發展軸線之一。
*   **测试时计算**：逐字稿原文，指 AI 發展軸線之二。
*   **推理**：逐字稿原文，指測試時計算帶來的能力。
*   **模型之间的协调**：逐字稿原文，指 Mustik 押注的第三條軸線。
*   **接口标准**：逐字稿原文，指未來模型通信標準。
*   **说人话**：逐字稿原文，指當前模型通信方式。
*   **传脑波**：逐字稿原文，指未來模型通信方式。
*   **开源前哨**：逐字稿原文，指頻道名稱。

## 可延伸追問

1.  「橋」的具體架構是什麼？如何確保隱藏狀態轉換的準確性？
2.  大模型與小模型之間的隱藏狀態轉換是否存在信息丟失？如何量化這種丟失？
3.  該技術是否適用於所有類型的大模型和小模型？還是僅限於特定架構？
4.  競賽中其他團隊（如 TufaLabs, Fert Intelligence）採用了什麼技術？與 Mustik 相比有何優劣？
5.  隨著大模型成本下降，這種「大模型只讀不寫」的架構是否仍有經濟優勢？
6.  未來模型通信標準（接口標準）是否會向「傳腦波」方向發展？