# 影片筆記:砸 20 億推出爭議大模型!離開 OpenAI 的頂尖人才,跳出跑分競賽另辟賽道 ## ⚠️ 可先使用,仍有待修正項目 本筆記已完成可閱讀的逐字稿與時間跳轉;下列為待處理問題,建議播放原片確認。 - 待修正:逐字稿全文快速校讀未完成(已保留自動字幕/原始逐字稿並繼續生成筆記。;未完成的全文速讀項目可在精進模式回聽確認。) ## 一句話總結 前 OpenAI 核心團隊出走成立 Thinking Machines Lab,獲得 20 億美元投資後發布開源模型 Inkling,雖在基準測試中表現平庸,但透過「智能調節推理力度」、「誠實輸出」及「自動化微調平台 Tinker」鎖定企業商用場景,以合規與低成本策略避開通用模型內卷,構建商業護城河。 ## 核心重點 1. **團隊背景與資本佈局**: * 2024 年底,Mira Murati、John Schulman 等 OpenAI 核心高管集體離職,帶走半數研發力量。 * 成立 Thinking Machines Lab,獲得 Andreessen Horowitz (a16z) 20 億美元投資,估值達 120 億美元。 * 業界預期其帶來技術降維打擊,打破 OpenAI 閉源壟斷。 2. **Inkling 模型發布與表現**: * 2026 年 7 月發布基礎模型 Inkling,參數量 9750 億(MOE 架構,激活參數 410 億)。 * 基準測試排名平庸,未進前五,落後於 Claude 3.5、OpenAI 主流模型及月之暗面 KIMI K3。 * 被視為「降維打擊」的商業佈局,而非爭奪「最強通用大模型」頭銜。 3. **三大反直覺技術設定(針對企業痛點)**: * **智能調節推理力度**:根據任務複雜度動態調整算力。簡單任務(如發票分類)調低思考力度,降低成本;複雜任務(如代碼修復)調高力度,對標第一梯隊效率。 * **誠實輸出特性**:透過強化學習引導模型在資訊不足時承認無法解答,減少「幻覺」,適合金融、醫療等嚴肅場景。 * **極致壓縮成本**:演化出精簡的內部思考語言,拋棄完整語法,僅保留核心關鍵詞,削減詞源(Token)佔用。 4. **商業變現模式:Tinker 平台**: * 免費開源 Inkling(含輕量化版 Inkling Small)作為引流。 * 通過同步推出的 Tinker 自動化微調平台變現。 * 企業無需管理算力,上傳私有數據即可自動訓練垂直領域專家模型,實現「自我迭代」。 5. **市場邏輯與合規優勢**: * 利用美國企業對數據合規、隱私保護的焦慮,以及對海外(如中國)開源模型的地緣政治擔憂。 * 提供「純正美國血統」、代碼公開託管於 Hugging Face、可本地私有化部署的解決方案。 * 競爭終局從技術參數競賽轉向商業落地競賽,未來屬於「成千上萬扎根細分行業、低成本、數據歸屬企業自身的領域專用模型」。 ## 詳細大綱 ### I. 傳奇出走與資本狂熱 * **OpenAI 高管離職風波**:2024 年底,Mira Murati、John Schulman 等核心人員集體辭職,抽走 OpenAI 半數研發力量。 * **風投押注**:Andreessen Horowitz 投入 20 億美元,Thinking Machines Lab 估值達 120 億美元,被視為搶佔通用人工智能時代的「最後船票」。 * **行業期待**:業界期待其帶來技術降維打擊,打破 OpenAI 閉源模式壟斷。 ### II. 發布與錯愕:Inkling 的平庸表現 * **發布時間**:2026 年 7 月中旬,沉寂一年半後公開成果。 * **基準測試結果**: * 無法進入主流權威基準前五。 * 落後於 Claude 3.5、OpenAI 主流閉源模型。 * 被月之暗面 KIMI K3(2.8 萬億參數)正面抗衡甚至反超。 * 綜合水平僅屬中上游,且發布後立即被 KIMI K3 搶走開發者關注度。 * **表面結論**:頂級團隊、資金、資源,最終產出平平無奇甚至被碾壓的產品。 ### III. 深度拆解:Inkling 的技術底層與架構 * **模型架構**: * 總參數量 9750 億的混合專家模型(MOE 架構)。 * 稀疏激活:每次僅激活 410 億參數。 * 原生支持 100 萬長度上下文窗口。 * 基於 45 萬億詞源規模的文本、圖像、音頻混合數據預訓練。 * **多模態創新**: * 跳過中間轉化流程,直接讀取原始像素與音頻波形信號。 * 重構多模態信息處理邏輯,無需獨立編碼器。 * **開源協議**:採用 Apache 2.0 協議,權重上傳至 Hugging Face(逐字稿稱「哈格面部」),允許自由修改、部署、商用。 * **技術借鑑**: * 底層代碼顯示與國內開源模型 DeepSeek V3 高度相似(256 個路由專家單元、Sigmoid 路由機制、滑動窗口注意力配比)。 * 早期預訓練使用成熟開源模型生成的合成數據輔助,降低成本與週期。 ### IV. 三大反直覺技術設定(針對企業痛點) 1. **思考力度控制系統(智能調節推理力度)**: * 解決「重型卡車送貨」式的算力浪費問題。 * 簡單任務(如發票分類、客服):調低思考力度,極快響應,極低成本。 * 複雜任務(如代碼修復、數學推理):調高思考力度,對標第一梯隊推理效率,但消耗低於同級產品。 2. **誠實輸出特性(認知邊界引導)**: * 引入認知學導向訓練,利用強化學習獎勵模型。 * 引導模型在信息不足時主動承認無法解答,而非強行編造(減少幻覺)。 * 在金融預測、醫療診斷等場景中,準確率超越多款主流通用大模型。 3. **極致壓縮運行成本(內部思考語言)**: * 經過 3000 萬輪強化學習迭代,自主演化出高度精簡的內部思考語言。 * 拋棄完整語法,只保留核心關鍵詞,極大削減詞源佔用,推理效果未減。 ### V. 商業變現核心:Tinker 自動化微調平台 * **平台功能**: * 使用者無需理解底層框架或管理算力節點。 * 上傳私有業務數據,自動全過程訓練專屬垂直領域專家模型。 * Inkling 可自主編寫訓練腳本、生成配套訓練數據集,實現「自我迭代」與「全自動自主微調」。 * **商業邏輯**: * **引流**:免費提供開源模型 Inkling(含輕量化版本 Inkling Small,2760 億參數,激活 120 億)。 * **變現**:通過 Tinker 平台收取服務費用,鎖定客戶。 * **定位**:不賣通用智能大腦 API,而是提供「批量定制行業專家模型生產工具」。 ### VI. 市場環境與合規焦慮 * **海外開源模型的困境**: * 美國企業曾轉向使用海外(如中國)開源模型以降低成本(如 Coinbase 遷移業務,橋水基金微调)。 * 監管壓力:美國監管機構發送警示信函,國會啟動調研,擬定採購限制條款。 * 數據安全:華爾街投行、醫療集團無法承受數據跨境合規風險。 * **Meta 授權收緊**:Llama 系列逐步轉向封閉商業授權,終結免費商用紅利。 * **Inkling 的定位**: * 純正美國本土血統,合規安全。 * 代碼完整公開託管於 Hugging Face,流程透明。 * 滿足企業對「本地私有化部署」與「數據不出境」的剛需。 ### VII. 行業洞察與未來預判 * **內卷現狀**:多數團隊迷信基準測試分數,堆砌參數,導致商用成本高、落地兼容性差。 * **終局形態**:AI 競爭從技術參數競賽轉向商業落地競賽。未來不是「無所不能的通用超級大腦」,而是「成千上萬扎根細分行業、低成本、數據歸屬企業自身的領域專用模型」。 * **資本邏輯**:a16z 投資 20 億美元賭的是「企業 AI 私有化、定制化、合規化」的萬億級風口,而非單個模型的輸贏。 * **總結**:Thinking Machines Lab 通過放棄跑分內卷,深耕企業服務賽道,築起高護城河,完成了一次頂級的商業佈局。 ## 工具 / 模型 / 名詞整理 * **Thinking Machines Lab**:Mira Murati 離開 OpenAI 後創立的初創公司名稱(逐字稿中有聽寫錯誤如 SY NTNG Mac King ES Lab)。 * **Inkling**:Thinking Machines Lab 發布的開源基礎模型代號。 * *註:逐字稿中模型名稱拼寫存在不一致,包括 "Inkling", "Inkling Small" 等。* * **OpenAI**:前雇主,ChatGPT 開發者。 * **ChatGPT**:OpenAI 的產品。 * **GPT3, GPT4**:OpenAI 的模型版本。 * **Andreessen Horowitz (a16z)**:投資 Thinking Machines Lab 的風投機構(逐字稿稱「安德森霍洛維茨」)。 * **Claude 3.5**:逐字稿稱「克勞德·菲波 5」,指 Anthropic 的模型。 * **OpenAI 主流閉源模型**:泛指 OpenAI 的付費 API 模型。 * **月之暗面 KIMI K3**:逐字稿稱「月之暗面 KIMI K3」,指中國公司月之暗面(Moonshot AI)的模型。 * **Meta**:Facebook 母公司,Llama 系列開發者。 * **Llama 系列**:Meta 的開源模型系列。 * **DeepSeek V3**:逐字稿稱「深度求索, Deep-Seek V3」,指中國公司深度求索的模型。 * **Hugging Face**:逐字稿稱「哈格面部平台」,開源模型託管平台。 * **Apache 2.0**:Inkling 使用的開源協議。 * **Tinker**:Thinking Machines Lab 推出的自動化微調平台(逐字稿中也有拼寫為 "Tinker" 或 "SY NTNG Mac King ES Lab" 對應的公司名,平台名主要為 Tinker)。 * **Inkling Small**:Inkling 的輕量化版本,總參數 2760 億,激活 120 億。 * **Coinbase**:提及使用海外開源模型的美國企業。 * **橋水基金 (Bridgewater)**:提及使用海外開源模型的美國對沖基金。 * **MOE 架構**:混合專家模型(Mixture of Experts)。 * **詞源**:逐字稿中多次使用,結合上下文疑為 **Token**(詞元/記號)的聽寫錯誤。 * **閉源**:逐字稿中出現「避原」、「必源」等混用,疑為 **Closed-source** 的聽寫錯誤。 ## 操作流程整理 1. **企業需求分析**:企業面臨數據合規焦慮、海外模型監管壓力及 Meta 授權收緊問題,需要本地私有化部署方案。 2. **獲取基礎模型**:下載開源的 Inkling 模型(或輕量化版 Inkling Small),利用 Apache 2.0 協議進行自由部署。 3. **數據準備**:企業上傳私有業務數據至 Tinker 平台。 4. **自動化微調**: * Tinker 平台自動全過程訓練專屬垂直領域專家模型。 * Inkling 模型自主編寫訓練腳本、生成配套訓練數據集。 * 實現「自我迭代」與「全自動自主微調」。 5. **部署與應用**: * 根據任務類型選擇推理力度(簡單任務低力度,複雜任務高力度)。 * 利用模型的「誠實輸出特性」處理金融、醫療等嚴肅場景,減少幻覺風險。 * 享受極致壓縮成本帶來的低運營費用。 ## 值得注意的限制或風險 1. **基準測試表現平庸**:Inkling 在主流權威基準測試中未進前五,落後於 Claude 3.5 及 OpenAI 主流模型,甚至被月之暗面 KIMI K3 反超,技術實力在通用領域未獲公認領先。 2. **技術借鑑爭議**:底層代碼顯示與國內開源模型 DeepSeek V3 高度相似(如 256 個路由專家單元、Sigmoid 路由機制),可能引發技術原創性爭議。 3. **數據合規與地緣政治**:雖然強調「純正美國血統」,但美國監管機構對海外開源模型的警示信函及國會調研顯示,數據跨境合規風險依然存在,華爾街投行等機構對數據出境敏感。 4. **商業模式依賴性**:變現高度依賴 Tinker 平台,若企業無法接受該平台服務或自行開發微調能力,可能影響長期用戶鎖定。 5. **時間點疑義**:影片提及「2026 年 7 月中旬」發布模型,若當前時間早於此,則為預測性或未來視角敘述,需確認是否為口誤或特定敘事手法。 ## 逐字稿辨識疑點 * **人名拼寫與稱呼不一致**: * 逐字稿中多次出現「米拉姆拉蒂」、「米拉帶走」、「米拉在 OpenAI 長期生耕」、「MamalaD」、「Mira Murati」等,指代同一人,但拼寫混亂。 * 「約翰·舒爾曼」對應 John Schulman。 * 「巴雷特·佐夫」對應 Barrett Zoph。 * **模型名稱拼寫錯誤/不一致**: * 模型主要被稱為 **Inkling**,但逐字稿中多次出現 **Inkling**、**Inkling**、**Inkling Small** 等拼寫變體,甚至出現 **Inkling** 與 **Inkling** 混用。 * 「克勞德·菲波 5」應指 **Claude 3.5**。 * 「月之暗面 KIMI K3」應指 **Kimi K2** 或 **Kimi K3**(需查證月之暗面具體模型版本,逐字稿為 KIMI K3)。 * 「Deep-Seek V3」應為 **DeepSeek V3**。 * **公司/機構名稱聽寫錯誤**: * 「安德森霍洛維茨」應為 **Andreessen Horowitz** (a16z)。 * 「哈格面部平台」應為 **Hugging Face**。 * 「SY NTNG Mac King ES Lab」或「SY NTNG MacainES Lab」應為 **Thinking Machines Lab** 的嚴重聽寫錯誤。 * 「Tai Mankey & G. McKean ES Lab」應為 **Thinking Machines Lab** 的聽寫錯誤。 * **技術術語疑點**: * 「詞源」:逐字稿中多次使用「詞源」,結合上下文(如「詞源開銷」、「詞源路由」),疑為 **Token**(詞元/記號)的聽寫錯誤。 * 「避原」:逐字稿中多次使用「避原模型」、「必源方案」、「閉源」混用,疑為 **閉源** (Closed-source) 的聽寫錯誤。 * 「日軍千萬次」:疑為 **日均千萬次** 的聽寫錯誤。 * 「無板權捆綁」:疑為 **無版權捆綁** 或 **無版權限制**。 * 「花格」:疑為 **Hugging Face** 或相關平台的誤聽。 * 「OPE NRO UTR 平台」:疑為 **Hugging Face** 或 **OpenRouter** 等平台的誤聽,結合上下文「詞源路由統計數據」,可能是指某個 API 路由平台。 * 「B原大模型」:疑為 **閉源大模型**。 * 「臂源大模型」:疑為 **閉源大模型**。 * 「必源競爭」:疑為 **閉源競爭**。 * **數據與事實疑點**: * 逐字稿提到「2026 年 7 月中旬」,若當前時間早於此,則為預測性或未來視角敘述,或為口誤。 * 「2.8 萬億參數」的 K