# 影片筆記:Google 瘋了!絕密「三王牌」突襲 OpenAI:聊天機器人時代正式終結! ## ⚠️ 可先使用,仍有待修正項目 本筆記已完成可閱讀的逐字稿與時間跳轉;下列為待處理問題,建議播放原片確認。 - 待修正:逐字稿全文快速校讀未完成(已保留自動字幕/原始逐字稿並繼續生成筆記。;未完成的全文速讀項目可在精進模式回聽確認。) ## 一句話總結 Google 發布三項技術進展(Teamwork、Skill State、TimesFM 3.0),旨在解決 AI 從「單次回答」轉向「長期研究夥伴」時的系統性缺口,推動競爭核心從模型單次智商轉向系統連續完成複雜任務的能力。 ## 核心重點 1. **系統性缺口**:當前 AI 擅長短時任務,但在十小時級別的長時任務中易出現忘記驗證、沿錯誤方向重複、使用過時信息或失去專業判斷力等問題。 2. **Teamwork (Antigravity)**:解決多智能體協作中的「集體錯誤自我強化」問題。通過並行競爭、批評者檢查等協作模式,處理開放式研究與工程任務,並建立「陷阱記錄」以記錄失敗原因。 3. **Skill State**:解決長任務中上下文無限增長導致的狀態失控。通過結構化狀態字段取代傳統歷史追加,控制 Token 消耗並保持決策清晰度,實現隨步數線性增加的 Token 消耗。 4. **TimesFM 3.0**:針對企業級時間序列預測場景,提供通用預訓練模型。支持多變量與協變量預測,填補語言模型在專業數據處理上的不足,目前預訓練權重採用非商業許可證。 5. **競爭轉向**:重點從「模型一次能達多聰明」轉向「系統能否連續幾天做對一件複雜的事」,Google 試圖通過閉環優勢(Gemini、Antigravity、Cloud、BigQuery)出售能進入研究流程和生產系統的工作環境。 ## 詳細大綱 ### 一、 背景:AI 參與研究的系統性缺口 * **當前限制**:AI 能完成短時任務(如寫代碼、讀論文),但在長時任務(十小時級別)中會忘記驗證結果、沿錯誤方向重複、使用過時信息或失去專業判斷力。 * **競爭轉向**:重點從「模型一次能達多聰明」轉向「系統能否連續幾天做對一件複雜的事」。 * **研究特性**:真實研究涉及多路線探索、反覆編譯、變量關係理解及失敗記錄,單一聊天窗口無法提供這些機制。 ### 二、 Teamwork:多智能體協作與組織方式 * **核心問題**:傳統多智能體系統易出現「錯誤包裝」,即後期智能體默認前期方向正確,導致集體沿錯誤路線加速。 * **協作模式**: * **不可拆分任務**:進入反覆測試與修改循環。 * **可拆分工程任務**:多個工作單元並行完成,由批評者檢查。 * **數學證明**:生成多套候選策略,每套策略旁安排專門找漏洞的角色。 * **Long Proof 功能**: * 多條路線並行競爭,接受反駁者的壓力測試。 * 被否定的路線不徹底消失,有用局部想法保留,失敗原因進入共享的「陷阱記錄」。 * 將選中策略拆分為帶有依賴關係的子問題,並行推進可處理部分,順序執行需等待前置結論部分。 * **成果與驗證**: * 處理 7 項數學和理論計算機科學開放問題(涉及稀疏凸優化、子空間近似向量嵌入、量化和矩陣分解等)。 * 5 項結果形成公開論文,經人類專家審查。 * 使用 **Lin** (疑點:可能指 Lean) 進行形式化驗證。 * **Gemini 3.7 Flash** 和 **3.1 Pro** 配合 Long Proof 在 **TCS bench** 上達到 71% 成績(此前為 67.7%)。 * 驗證方式多樣:形式系統檢查、領域專家判斷、AI 生成證明等。 * **失敗記錄價值**:記錄引理不成立的原因和邊界條件,幫助下一輪搜索繞開死路。 * **工程任務表現**: * 構建亂序執行的 **risk v** (疑點:可能指 RISC-V) 週期級模擬器。 * 啟動 **XV6** 操作系統,運行 100 多項標準基準。 * 與 **boom** 處理器參考結果比較,未見過工作負載上平均週期對齊誤差為 0.71%。 * 兩階段驗證:使用與主環境隔離的 **Spike** 進行持續所部 (疑點:可能指部署/部署) 對照。 * **開源項目貢獻**: * 對 **Eigen** 和 **Polyhash** 提出性能優化。 * 部分改動通過正常代碼審查進入上游項目。 * **Polyhash** 結果:64 線程下初始插入吞吐量提高約兩倍,單線程整體性能提高約 1.5 倍,內存減少約 25%。 * **用戶訪問**:公開用戶可在付費 **Antigravity** 計劃裡調用 Teamwork 預覽,但不能認定普通帳戶會復現所有結果。 ### 三、 Skill State:長任務狀態控制 * **核心問題**:傳統智能體將觀察結果、工具輸出和中間推理追加到對話,導致上下文變成混合當前事實、過期結論和失敗嘗試的倉庫。 * **解決方案**: * 每一步只給模型三類信息:固定任務規範、當前結構化狀態、環境新觀察。 * 模型提出狀態修改和下一步動作,運行時驗證合法性後寫入狀態,中間推理隨後被丟棄。 * 區別於傳統上下文壓縮:不重新寫成文字,而是規定哪些字段代表當前世界。 * **複雜度與效率**: * 傳統方式累計 Token 消耗接近任務步數的平方。 * Skill State 累計消耗隨步數線性增加。 * **實驗數據 (InterCode CTF 安全任務)**: * 100 步任務:**Gemini 3 Flash** 使用普通 React 方法成功率 84%,消耗約 124 萬 Token;Skill State 成功率 94%,消耗約 6.5 萬 Token。 * 200 步任務:React 成功率降至 74%,Skill State 保持 94%。 * 平均提示規模和總 Token 壓低。 * **噪聲測試**:加入與狀態無關的遙測信息後,普通提示惡化,Skill State 成功率保持接近完整水平。 * **代價與風險**: * 狀態結構需由人提前設計,早期無關信息可能後期重要,若未進入狀態字段則可能丟失。 * 小模型失敗分析:**Gemma** 開放權重模型在 100 步任務中僅 42% 得分,68% 失敗來自過早覆蓋或刪除重要狀態。 * 需保存兩層記錄:決策層(讀取精简狀態)與審計層(保存完整日誌)。 * **應用場景限制**: * 醫療、金融和關鍵基礎設施可能要求更嚴格的留痕,需權衡隱私成本與可追責性。 * 狀態結構設計可能成為新的專業崗位,領域專家重新進入系統設計中心。 ### 四、 TimesFM 3.0:專業時間序列預測 * **企業需求**:現實決策建立在時間序列上(零售銷量、電網負荷、雲平台容量、設備異常),語言模型擅長文字但缺乏對趨勢、週期、變量聯動的專業理解。 * **技術架構**: * 約 3 億參數,支持單變量和多變量預測,接收協變量。 * **多變量**:同時理解彼此影響的序列(如價格、銷量、庫存、客流)。 * **協變量**:分為只有過去數據和未來已知信息(如節假日安排、電價計劃)。 * 採用 **Stack mixing Transformer** 架構,引入 **varied attention** (疑點:可能指 Variable Attention) 處理變量關係,歸一化機制減少序列尺度干擾。 * **訓練與評估**: * 訓練材料包括去除評測重疊後的時間序列數據,納入截至 2023 年 11 月的 **Wikipedia** 頁面訪問量、截至 2022 年底的 **Google Trends** 熱門查詢、合成數據和增強數據。 * **數據洩露控制**:排除與 **Fbench** 重疊的數據集。 * 在 **Fbench**、**time Benchmark** 和 **JIFF Evals** 三個主要評測中排名第一。 * **商業價值與部署**: * 統一模型減少部門重複訓練成本,適合智能體調用。 * 提供分位數預測,讓使用者看到不同可能區間,適合決策。 * 較早版本已進入 **bigqueryml** 和 **googlesheets** 等產品生態。 * 公開了 **Pytorch** 權重和使用方式。 * **許可證限制**:代碼倉庫採用 **Apache2.0**,但 3.0 預訓練權重使用單獨的非商業許可證,目前不允許用於商業生產。 ### 五、 綜合策略與未來展望 * **三根支柱**: 1. **Teamwork**:擴大搜索空間,讓多個智能體競爭和互相糾錯。 2. **Skill State**:控制長任務的狀態和成本。 3. **TimesFM 3.0**:提供專業預測能力。 * **Google 的閉環優勢**: * 擁有 **Gemini** 模型、**Antigravity** 智能體工作界面、**Cloud** 和 **BigQuery** 承接企業數據。 * 潛在閉環:出售能進入研究流程和生產系統的工作環境,而非僅是聊天機器人。 * 購買單位變化:從按模型調用次數購買,轉向按完成的研宄活動、工程任務或預測工作流付費。 * **競爭對手與複製難點**: * 多智能體編排、結構化狀態和專業模型無理論壁壘。 * Google 較難複製的部分是搜索、雲辦公套件、開發工具和自研模型形成的分發網絡。 * **成本與責任**: * Teamwork 依賴並行搜索和多輪驗證,消耗更多推理資源。 * Skill State 需設計狀態結構,TimesFM 需乾淨數據。 * 責任邊界未消失:人類仍掌握目標和最終驗收,確認數據偏差、判斷異常來源、承擔錯誤決策後果。 * **結論**: * AI 成為長期研究夥伴的標誌是安靜地連續工作、知道當前項目狀態、主動找人反駁、調用專業模型、留下可檢查結果並接受外部驗證。 * 競爭目標已變:從一分鐘內給出驚艷答案,轉向 100 個步驟後仍知道自己為什麼這麼做,並將結果交給專家複核,控制成本。 ## 工具 / 模型 / 名詞整理 * **Google 內部產品/平台**: * Antigravity (智能體工作界面/計劃) * Gemini (模型系列) * Gemini 3.7 Flash * Gemini 3.1 Pro * Cloud (雲端服務) * BigQuery (數據倉庫) * BigQueryML * Google Sheets * **AI 模型與技術**: * TimesFM 3.0 (時間序列基礎模型) * Stack mixing Transformer (架構) * Varied attention (疑點:可能指 Variable Attention) * React (方法) * Gemma (開放權重模型) * **評估基準與數據集**: * TCS bench * Fbench * Time Benchmark * JIFF Evals * InterCode CTF (安全任務) * Wikipedia (頁面訪問量數據) * Google Trends (熱門查詢數據) * **開源項目與工具**: * RISC-V (疑點:逐字稿聽寫為 "risk v") * XV6 (操作系統) * Boom (處理器參考結果) * Spike (隔離環境工具) * Eigen (開源項目) * Polyhash (開源項目) * Flat hash map (對比對象) * Lean (疑點:逐字稿聽寫為 "Lin") * **許可證**: * Apache 2.0 * 非商業許可證 ## 操作流程整理 * **Teamwork 協作流程**: 1. 將任務分為不可拆分或可拆分類型。 2. 對於數學證明,生成多套候選策略並安排專門角色找漏洞。 3. 多條路線並行競爭,接受反駁者壓力測試。 4. 保留有用局部想法,將失敗原因進入共享的「陷阱記錄」。 5. 將選中策略拆分為帶有依賴關係的子問題,並行或順序執行。 * **Skill State 狀態管理流程**: 1. 輸入固定任務規範、當前結構化狀態、環境新觀察。 2. 模型提出狀態修改和下一步動作。 3. 運行時驗證合法性後寫入狀態。 4. 丟棄中間推理,僅保留結構化狀態字段。 5. 保存兩層記錄:決策層(精简狀態)與審計層(完整日誌)。 * **TimesFM 3.0 預測流程**: 1. 輸入單變量或多變量時間序列數據。 2. 輸入協變量(過去數據或未來已知信息)。 3. 模型通過 Stack mixing Transformer 架構進行預測。 4. 輸出分位數預測結果,提供不同可能區間。 ## 值得注意的限制或風險 * **Teamwork**: * 依賴並行搜索和多輪驗證,消耗更多推理資源。 * 公開用戶在付費 Antigravity 計劃中調用預覽,普通帳戶可能無法復現所有結果。 * **Skill State**: * 狀態結構需由人提前設計,若早期無關信息未進入狀態字段可能丟失。 * 小模型(如 Gemma)在長任務中失敗率較高,主要來自過早覆蓋或刪除重要狀態。 * 醫療、金融等關鍵領域需權衡隱私成本與可追責性。 * **TimesFM 3.0**: * 預訓練權重採用非商業許可證,目前不允許用於商業生產。 * 需乾淨數據,且需排除與評測重疊的數據集以控制數據洩露。 * **通用風險**: * 責任邊界未消失:人類仍掌握目標和最終驗收,需確認數據偏差、判斷異常來源、承擔錯誤決策後果。 ## 逐字稿辨識疑點 * **Lin**:逐字稿中提到「使用 Lin 進行形式化驗證」,在數學證明驗證領域通常指 **Lean** 定理證明助手,此處聽寫可能錯誤。 * **Risk v**:逐字稿中提到「亂序執行的 risk v 週期級模擬器」,在計算機體系結構中通常指 **RISC-V** 架構,此處聽寫可能錯誤。 * **Varied attention**:逐字稿中提到「引入 varied attention 處理不同變量之間的關係」,在 Transformer 架構中通常指 **Variable Attention** 或特定變體名稱,此處聽寫可能錯誤。 * **所部**:逐字稿中提到「使用與主環境隔離的 Spike 進行持續所部對照」,語境上應為「部署」或「部署對照」,此處聽寫可能錯誤。 * **Skill point state**:逐字稿中部分段落口語化聽寫為「skill point state」,但上下文及標題均為 **Skill State**,疑為口誤。 * **71% 成績**:逐字稿中提到「Gemini3.7Flash 和 3.1Pro 配合 long proof 在 TCS bench 上達到 71%」,需查證該具體數值是否準確對應該模型組合與基準測試。 * **TimesFM 3.0 參數**:逐字稿中提到「TIMESFM3.0 大約有 3 億參數」,需查證該參數量是否準確。 ## 可延伸追問 * Teamwork 中的「陷阱記錄」如何具體影響後續智能體的決策路徑?是否有自動化的機制來讀取這些記錄? * Skill State 的狀態結構設計是否依賴於特定領域的專家知識?對於通用任務,是否有自動生成狀態結構的方法? * TimesFM 3.0 的非商業許可證具體限制範圍為何?未來是否有計劃開放商業使用? * Google 如何確保 Teamwork 和 Skill State 在實際企業應用中的成本效益?與傳統人工研究相比,ROI 如何評估? * 多智能體協作中的「集體錯誤自我強化」在哪些特定類型的任務中最為顯著?是否有數據支持 Teamwork