工作清單

速度暴涨2000%？俄15人团队让AI“神交”，大模型只读不写小模型借脑干活【Mostik】

逐字稿文字預覽

一个词,大模型内部要先算出上百万个数字,约2MB的隐藏状态,最后出口只有17比特。今天所有让模型互相协作的系统,都挤在这个钥匙孔上通话。
9月初,一支俄罗斯团队跳出来说,把孔变成门。公司叫Mustik,俄语意思是小乔。成立4个月,15个人,12位博士加一位菲尔兹奖得主。在RKGI三竞赛上一度冲上榜首。
先看他们要解决的问题。模型协作早就是常态,写代码的子智能体,多模型议会,路由系统,但所有这些协作都走同一条路,文本接力。A模型写一段话,B模型读一段话。Mustik官网的原话很扎,他们交换的是成品文本,丢掉的是文本背后的计算。
可解释性研究早就证明,被丢掉的隐藏状态不是脚手架。模型在写出名词之前,几个token,就已经携带着这个名词的表征。写诗的模型会先定好运脚,再朝它写。一句话,真正的思考在隐藏状态里,文本只是它的压缩包。他们的做法,一句话讲完,让大模型只读不写,小模型只写不读。
发送方式GLM 5.2,7530亿参数,接收方式QAM 3.5,40亿参数,手机就能跑。
大模型把题目读一遍,隐藏状态,经过一座受过训练的小桥,翻译成小模型的隐空间格式,然后大模型停机,小模型接着生成答案。
注意三个关键点,大模型一个token都不输出,两个模型的权重全部冻结,整个系统里只有乔这一个部件在学习。
经济学基础很清楚,读题是一次并行计算,便宜,写答案是逐token串行,贵。
让贵的部分交给小模型,让大模型指出思想,不出体力。
官方技术业给的数字是这样,接上桥之后,小模型缩小了与大模型之间差距的一半,换算成相对提升是25%,在更难的子级上,提升达到两倍。
跟跑一个同分数的中型模型相比,算力省两倍半。
他们还跟传统的文本交接做了对比,在每个大模型算力当位上,隐藏状态交接都更好。
最多高出10个百分点,而且交接发生得越早,优势越大,大模型一个字还没写的时候,文本交接两手空空,隐藏状态里已经装满了独体的思考。
拿两个熟悉的方案对比一下,就知道它心在哪。
知识蒸留,部署前一次性完成,教师模型,教完可以删,学生独立上岗。
投机解码,草稿模型猜Token,大模型验证,每次请求传的还是文本。
Mistake的桥,每次请求实时传隐藏状态,从头到尾不转成文本。
但这里有个关键差别要画清楚,蒸留出来的小模型是独立的,而桥接的小模型每个请求都依赖大模型在线。
你还是要为那700多币的钱向传播付钱,省下的只是逐Token解码的开销。
所以,推文里那句快20倍,合理怀疑就是从这里来的,省的是写的钱,读的钱一分没省。
再说竞赛。ARKGI三考的是智能体偿任务,公认极难。
9月3日,Mistake发布当天,他们以7.51%创下当时的榜价新高。
ARKPRESS官方账号专门发帖认证。
不过榜单是流动的,到结稿时,他们排在第四,前面是TufaLabs的11.04。
Fert Intelligence的8.21,Daniel Franzen的7.63。
整个竞赛有2900多支队伍,还剩两个月,而且公开榜单只用一半测试数据计算,最终排名要看另外一半。
9月30日是下一个里程碑奖金节点。
这个频道的规矩,洗爆之后翻账本。
第一条,推文说达到大模型八成准确率,快20倍,技术业说的是缩小一半差距。
省两倍半算力。
两套口径没法互相推导,基准和任务清单都没公布。
第二条,零论文,零代码,零可复现基准,困难子集是什么也没定义。
第三条,榜一这个说法在竞赛结束前按构造没法证委,等你看到结果。
新闻周期已经过去了。
第三方分析的结论八个字,可以观望,别急着压住。
还有一层少有人提,被当作发送端的前沿实验室,未必乐意自己的隐藏状态,被这样介入。
最后说判断。
AI发展到今天,沿两条轴扩展,预训练带来知识,测试时计算带来推理,两条曲线都在变平。
Mustick压的是第三条轴,模型之间的协调。
而高效协调的前提是高效通信,现在的方案是模型互相写句子,一次丢掉99%以上的计算量。
如果这条通道被验证成立,模型世界的接口标准会从说人话,变成传脑波。
一句话总结这期,模型之间终于不用说话了,他们开始交换思想。
但先别激动,9月30日竞赛节点见分晓,代码和论文出来之前,保持关注,保持怀疑。
这里是开源前哨,下期见。
请不吝点赞 订阅 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏 转发 打赏

來源：transcript.txt

本次執行流程與問題處理

  1. 下達指令

    指令：videonote https://b23.tv/Zp6i44B --language zh --auto-source-subtitles

    來源：https://b23.tv/Zp6i44B

    辨識語言：zh ｜ 參數：--language zh --auto-source-subtitles

  2. 預期流程

    依指令產生的處理順序：

    1. 自動字幕優先，Whisper 作為備援
    2. 來源選擇與品質檢查
    3. 文字校正與句子單元
    4. 筆記與發布
    5. 公開網頁發布

  3. 1. 下載與語音辨識

    工具：videonote-transcribe-url（主辨識管線：下載、Whisper 辨識與選稿）

    處理：下載音訊、以 Whisper 辨識並選出最佳逐字稿

    產出：yt_dlp_meta.json（影片元資料）、audio_16k_mono.wav（16kHz 單聲道音訊）、transcript.whisper.json（Whisper 辨識結果）、transcript.json（正式逐字稿）、transcript_selection_report.json（來源選擇報告）

    耗時：23.2 秒

    關係：依序執行

    結果：完成

  4. 2. 全文快速校讀

    工具：videonote_rapid_transcript_review.py

    處理：先速讀完整逐字稿，再修正高可信突兀詞句並列出待確認項目

    產出：rapid_transcript_review_report.json（產出檔案）

    耗時：38.8 秒

    關係：依序執行

    結果：完成

  5. 3. 建立句子單元

    工具：videonote-build-sentence-units

    處理：將逐字稿切成帶時間軸的句子單元

    產出：sentence_units.json（句子單元）

    耗時：0.9 秒

    關係：依序執行

    結果：完成

  6. 4. 句子密度平衡

    工具：videonote_balance_sentence_units.py

    處理：平衡句子長度與密度

    產出：sentence_units.json（句子單元）

    耗時：0.9 秒

    關係：依序執行

    結果：完成

  7. 5. 時間軸稽核

    工具：videonote_timeline_audit.py

    處理：檢查時間軸與音訊對齊

    產出：timeline_audit_report.json（時間軸稽核）

    耗時：0.9 秒

    關係：依序執行

    結果：完成

  8. 6. 品質檢查

    工具：videonote_controlled_quality.py（檢查時間軸與品質）

    處理：檢查語言、時間軸與可讀性品質

    產出：controlled_quality_report.json（品質報告）、language_sanity_report.json（語言檢查）

    耗時：1.0 秒

    關係：依序執行

    結果：完成

  9. 7. 播放時間軸回填

    工具：videonote_rebase_display_timeline.py

    處理：將網頁播放時間軸回填為校正字幕時間

    產出：display_timeline_rebase_report.json（時間軸回填報告）

    耗時：1.0 秒

    關係：依序執行

    結果：完成

  10. 8. 逐字稿交叉檢查

    工具：videonote_cross_check_transcript.py

    處理：交叉檢查逐字稿與來源字幕

    產出：transcript_crosscheck_report.json（交叉檢查）

    耗時：0.0 秒

    關係：依序執行

    結果：完成

  11. 9. 來源句整理

    工具：videonote_prepare_source_entries.py

    處理：整理來源句子供時間軸與頁面使用

    產出：sentence_units.json（句子單元）

    耗時：0.1 秒

    關係：依序執行

    結果：完成

  12. 10. 生成筆記摘要

    工具：videonote-generate-note（生成筆記摘要）

    處理：生成筆記摘要與重點

    產出：note.md（筆記 Markdown）、note.html（筆記 HTML）

    耗時：122.4 秒

    關係：依序執行

    結果：完成

  13. 11. 建立筆記頁面

    工具：videonote-render-html（產生筆記 HTML）

    處理：產生可閱讀的筆記 HTML 頁面

    產出：note.html（筆記 HTML）

    耗時：0.5 秒

    關係：依序執行

    結果：完成

  14. 12. 發布公開頁面

    工具：videonote-publish（發布公開頁面）

    處理：發布到公開網站與每日列表

    產出：公開筆記網址、result.json（管線結果）

    耗時：0.6 秒

    關係：依序執行

    結果：完成

手動來源字幕

自動來源字幕

Whisper 字幕

Qwen 字幕

Parakeet 字幕

MOSS 字幕

聲學時間證據（PyAnnote / WhisperX）

校正前後逐字稿

目前待解決問題與初步改善方向

進一步精進字幕與筆記
使用 Workbench 上傳校正字幕、中文參考稿或回饋 SRT，重新產生雙語與學習單元。
開啟 Workbench