影片筆記：速度暴涨2000%？俄15人团队让AI“神交”，大模型只读不写小模型借脑干活【Mostik】

<!-- VIDEONOTE_PUBLICATION_WARNINGS_BEGIN -->

⚠️ 可先使用，仍有待修正項目

本筆記已完成可閱讀的逐字稿與時間跳轉；下列為待處理問題，建議播放原片確認。

• 待修正：逐字稿來源選擇未完全通過，仍先生成筆記（no_trustworthy_transcript_source；原始逐字稿保留；請進入精進模式確認來源。）
• 待修正：逐字稿全文快速校讀未完成（已保留自動字幕/原始逐字稿並繼續生成筆記。；未完成的全文速讀項目可在精進模式回聽確認。）
• 待修正：逐字稿品質檢核未完全通過（{'stage': 'canonical_transcript_quality', 'action': 'published_with_warning', 'signals': ['canonical_hallucination_detected', 'transcript_selection_not_resolved']}）

<!-- VIDEONOTE_PUBLICATION_WARNINGS_END -->

一句話總結

俄羅斯團隊 Mustik 提出一種「隱藏狀態橋接」技術，讓大模型（GLM 5.2）僅負責「讀」題並輸出隱藏狀態，小模型（QAM 3.5）僅負責「寫」答案，兩者之間通過非文本的「橋」進行數據轉換。該方法宣稱能節省算力並提升效率，但在 RKGI 競賽中最終僅獲第四名，且目前缺乏論文、代碼與可復現基準，評論者建議保持懷疑態度。

核心重點

1. 技術架構創新：

• 大模型（發送端）：GLM 5.2（7530 億參數），負責讀取題目，輸出內部隱藏狀態（Hidden States），不輸出任何 Token。
• 小模型（接收端）：QAM 3.5（40 億參數，可在手機運行），負責根據接收到的隱藏狀態生成答案。
• 橋接機制：大模型與小模型之間通過一個可學習的「橋」連接，將大模型的隱藏狀態轉換為小模型的隱空間格式，而非轉換為文本。
• 訓練方式：大模型與小模型的權重均凍結，僅「橋」這一個部件在學習。

1. 效率與經濟學分析：

• 讀與寫的區別：讀題是並行計算（便宜），寫答案是逐 Token 串行（昂貴）。
• 官方宣稱：相比傳統文本交接，該方法在算力效率上提升顯著。官方數據顯示縮小差距一半（相對提升 25%），困難子集提升兩倍，算力節省兩倍半。
• 評論者質疑：評論者認為「快 20 倍」的說法僅節省了「寫」的算力，並未節省「讀」的算力，且大模型仍需在線，仍需為大模型付費。

1. 競賽表現與現狀：

• 團隊背景：Mustik 為俄羅斯團隊，成立 4 個月，15 人（包含 12 位博士及 1 位菲爾茲獎得主）。
• 競賽結果：在 RKGI 三競賽中，Mustik 團隊發布當天曾創榜價新高（7.51%），衝上榜首，但最終排名第四，落後於 TufaLabs（11.04）、Fert Intelligence（8.21）及 Daniel Franzen（7.63）。
• 數據質疑：競賽僅用一半測試數據，基準和任務清單未公布，「快 20 倍」與技術文檔「縮小一半差距」口徑不一。

1. 行業影響與未來展望：

• 與現有技術區別：不同於知識蒸留（部署前一次性完成）和投機解碼（仍傳輸文本），Mustik 的橋接是實時傳輸隱藏狀態。
• 依賴性：小模型每個請求都依賴大模型在線，並未完全解決成本問題。
• 發展軸線：AI 發展軸線從預訓練（知識）和測試時計算（推理）轉向第三條軸線：模型間協調。
• 結論：模型開始交換思想（從「說人話」轉向「傳腦波」），但需等待 9 月 30 日競賽節點及代碼/論文發布，目前建議「觀望，別急著壓注」。

詳細大綱

1. 問題背景：協作的瓶頸

• 大模型內部計算產生大量隱藏狀態（約 2MB），但最終輸出僅為極少量比特（17比特）。
• 現有系統（子智能體、多模型議會、路由系統）均擠在「鑰匙孔」上通過文本進行協作。
• 文本只是思考的「壓縮包」，丟失了隱藏狀態中的計算信息。

2. Mustik 團隊介紹

• 俄羅斯團隊，成立 4 個月，15 人（12 位博士 + 1 位菲爾茲獎得主）。
• 公司名 "Mustik" 俄語意為「小喬」。
• 在 RKGI 三競賽中一度衝上榜首。

3. 技術架構：讓大模型只讀不寫，小模型只寫不讀

• 發送端：GLM 5.2（7530 億參數）。
• 接收端：QAM 3.5（40 億參數，手機可運行）。
• 流程：大模型讀題 -> 隱藏狀態經過「橋」轉換為小模型隱空間格式 -> 大模型停機 -> 小模型生成答案。
• 三個關鍵點：大模型不輸出 Token、兩模型權重凍結、僅「橋」在學習。

4. 經濟學與效率分析

• 讀題是並行計算（便宜），寫答案是逐 Token 串行（貴）。
• 讓大模型指出思想，小模型承擔體力。
• 官方數據：縮小差距一半（相對提升 25%），困難子集提升兩倍，算力節省兩倍半。
• 與傳統文本交接對比：隱藏狀態交接更好，且發生越早優勢越大。

5. 與現有方案的區別

• 知識蒸留：部署前一次性完成，教師模型可刪除，學生獨立。
• 投機解碼：草稿模型猜 Token，大模型驗證，仍傳輸文本。
• Mustik 的橋：每次請求實時傳輸隱藏狀態，不轉為文本。
• 依賴性：橋接的小模型每個請求都依賴大模型在線，仍需為大模型付費。

6. 競賽現狀與數據質疑

• RKGI 三考智能體償任務，極難。
• Mustik 發布當天創榜價新高（7.51%），後排第四（落後於 TufaLabs, Fert Intelligence, Daniel Franzen）。
• 競賽剩兩個月，公開榜單僅用一半測試數據。
• 質疑點：
• 「快 20 倍」與技術文檔「縮小一半差距」口徑不一，基準和任務清單未公布。
• 零論文、零代碼、零可復現基準。
• 「榜一」說法在競賽結束前無法證實。

7. 行業影響與未來展望

• 前沿實驗室可能不樂見隱藏狀態被介入。
• AI 發展軸線：預訓練（知識）、測試時計算（推理）曲線變平，Mustik 押注第三條軸：模型間協調。
• 高效協調前提是高效通信：從「說人話」轉向「傳腦波」。
• 結論：模型開始交換思想，但需保持懷疑，等待 9 月 30 日競賽節點及代碼/論文發布。

工具 / 模型 / 名詞整理

• Mustik：俄羅斯團隊/公司名稱，俄語意為「小喬」。
• GLM 5.2：作為發送端的大模型，7530 億參數。
• QAM 3.5：作為接收端的小模型，40 億參數。
• RKGI 三競賽：智能體償任務競賽。
• TufaLabs：競賽中排名第一的團隊（11.04）。
• Fert Intelligence：競賽中排名第二的團隊（8.21）。
• Daniel Franzen：競賽中排名第三的團隊（7.63）。
• ARKPRESS：官方賬號，曾專門發帖認證。
• 知識蒸留：提及的現有技術方案。
• 投機解碼：提及的現有技術方案。
• 隱藏狀態 (Hidden States)：模型內部的計算狀態，大模型輸出此狀態而非 Token。
• 橋 (Bridge)：連接大模型與小模型的部件，負責將大模型隱藏狀態轉換為小模型隱空間格式，僅此部件在學習。
• 子智能體：指寫代碼的智能體。
• 多模型議會：指協作模式。
• 路由系統：指協作模式。
• 文本接力：指現有協作方式。
• 脚手架：指可解釋性研究中對丟失內容的描述。
• Token：指文本單元。
• 表征：指名詞的內部表示。
• 運腳：指寫詩時的韻腳或結構。
• 隱空間格式：指小模型接受的隱藏狀態格式。
• 權重凍結：指模型參數不更新。
• 逐 Token 串行：指生成答案的方式。
• 教師模型：指知識蒸留中的大模型。
• 學生獨立上崗：指知識蒸留後的狀態。
• 草稿模型：指投機解碼中的小模型。
• 智能體償任務：指 RKGI 三競賽的任務類型。
• 榜價新高：指競賽排名分數。
• 公開榜單：指競賽排名顯示。
• 測試數據：指競賽使用的數據集。
• 基準：指評估標準。
• 任務清單：指競賽具體任務列表。
• 可復現基準：指可重複驗證的評估標準。
• 困難子集：指競賽中較難的部分。
• 前沿實驗室：指提供大模型的機構。
• 預訓練：指 AI 發展軸線之一。
• 測試時計算：指 AI 發展軸線之二。
• 推理：指測試時計算帶來的能力。
• 模型之間的協調：指 Mustik 押注的第三條軸線。
• 接口標準：指未來模型通信標準。
• 說人話：指當前模型通信方式。
• 傳腦波：指未來模型通信方式。
• 開源前哨：指頻道名稱。

操作流程整理

1. 輸入題目：大模型（GLM 5.2）讀取題目。
2. 生成隱藏狀態：大模型進行內部計算，生成隱藏狀態（約 2MB 數據）。
3. 橋接轉換：隱藏狀態經過「橋」轉換為小模型（QAM 3.5）的隱空間格式。
4. 大模型停機：大模型不輸出任何 Token，停止運算。
5. 小模型生成答案：小模型根據接收到的隱藏狀態生成最終答案。

值得注意的限制或風險

1. 算力節省有限：評論者指出，該方法僅節省了「寫」的算力，未節省「讀」的算力，且大模型仍需在線，仍需為大模型付費。
2. 依賴性高：小模型每個請求都依賴大模型在線，無法完全脫離大模型獨立運行。
3. 缺乏透明度：目前零論文、零代碼、零可復現基準，無法驗證其技術細節。
4. 競賽數據質疑：

• 「快 20 倍」與技術文檔「縮小一半差距」口徑不一。
• 基準和任務清單未公布。
• 競賽僅用一半測試數據，最終排名第四，並非官方宣稱的榜首。

1. 行業阻力：前沿實驗室可能不樂見隱藏狀態被介入，可能影響技術推廣。

逐字稿辨識疑點

• 上百万个数字：逐字稿原文，指大模型內部計算出的數字數量。
• 17比特：逐字稿原文，指模型最終出口的數據量。
• 菲尔兹奖得主：逐字稿原文，指團隊成員資歷。
• RKGI 三竞赛：逐字稿原文，競賽名稱。
• 子智能体：逐字稿原文，指寫代碼的智能體。
• 多模型议会：逐字稿原文，指協作模式。
• 路由系统：逐字稿原文，指協作模式。
• 文本接力：逐字稿原文，指現有協作方式。
• 隐藏状态：逐字稿原文，指模型內部的計算狀態。
• 脚手架：逐字稿原文，指可解釋性研究中對丟失內容的描述。
• Token：逐字稿原文，指文本單元。
• 表征：逐字稿原文，指名詞的內部表示。
• 运脚：逐字稿原文，指寫詩時的韻腳或結構。
• 隐空间格式：逐字稿原文，指小模型接受的隱藏狀態格式。
• 权重冻结：逐字稿原文，指模型參數不更新。
• 逐 Token 串行：逐字稿原文，指生成答案的方式。
• 知识蒸留：逐字稿原文，指現有技術。
• 教师模型：逐字稿原文，指知識蒸留中的大模型。
• 学生独立上岗：逐字稿原文，指知識蒸留後的狀態。
• 投机解码：逐字稿原文，指現有技術。
• 草稿模型：逐字稿原文，指投機解碼中的小模型。
• 智能体偿任务：逐字稿原文，指 RKGI 三競賽的任務類型。
• 榜价新高：逐字稿原文，指競賽排名分數。
• 公开榜单：逐字稿原文，指競賽排名顯示。
• 测试数据：逐字稿原文，指競賽使用的數據集。
• 基准：逐字稿原文，指評估標準。
• 任务清单：逐字稿原文，指競賽具體任務列表。
• 可复现基准：逐字稿原文，指可重複驗證的評估標準。
• 困难子集：逐字稿原文，指競賽中較難的部分。
• 前沿实验室：逐字稿原文，指提供大模型的機構。
• 预训练：逐字稿原文，指 AI 發展軸線之一。
• 测试时计算：逐字稿原文，指 AI 發展軸線之二。
• 推理：逐字稿原文，指測試時計算帶來的能力。
• 模型之间的协调：逐字稿原文，指 Mustik 押注的第三條軸線。
• 接口标准：逐字稿原文，指未來模型通信標準。
• 说人话：逐字稿原文，指當前模型通信方式。
• 传脑波：逐字稿原文，指未來模型通信方式。
• 开源前哨：逐字稿原文，指頻道名稱。

可延伸追問

1. 「橋」的具體架構是什麼？如何確保隱藏狀態轉換的準確性？
2. 大模型與小模型之間的隱藏狀態轉換是否存在信息丟失？如何量化這種丟失？
3. 該技術是否適用於所有類型的大模型和小模型？還是僅限於特定架構？
4. 競賽中其他團隊（如 TufaLabs, Fert Intelligence）採用了什麼技術？與 Mustik 相比有何優劣？
5. 隨著大模型成本下降，這種「大模型只讀不寫」的架構是否仍有經濟優勢？
6. 未來模型通信標準（接口標準）是否會向「傳腦波」方向發展？