0:00.100–0:02.233
zh大家好欢迎来到灵姐说AI
0:02.533–0:03.400
zh这期视频啊
0:03.400–0:04.600
zh给大家介绍一个
0:04.633–0:06.200
zh大家可能比较熟悉
0:06.200–0:07.200
zh听得很多
0:07.300–0:09.733
zh但是未必深刻理解
0:09.733–0:11.866
zh知道怎么去应用的一个
0:11.866–0:14.733
zh模型的训练方法以及概念：蒸馏
0:14.766–0:16.466
zh我希望通过这期视频
0:16.533–0:20.166
zh你能够真正的理解蒸馏的本质
0:20.433–0:21.600
zh它有哪些类型
0:21.633–0:23.666
zh并且如何应用在我们
0:23.700–0:26.200
zh实际的生产力的场景中
0:26.233–0:29.700
zh我们先从最近闹得沸沸扬扬的
0:29.766–0:32.933
zhAnthropic发布的蒸馏报告说起啊
0:33.000–0:35.633
zh这个报告他们发布在9月10号
0:35.633–0:40.266
zh他声称7家中国的AI大模型的实验室
0:40.666–0:41.533
zh这些公司啊
0:41.566–0:44.100
zh对他们进行了深度的蒸馏
0:44.333–0:46.500
zh实际上Anthropic这家公司啊
0:46.566–0:48.800
zh对于蒸馏这个事情非常的重视
0:48.833–0:49.933
zh也非常的紧张
0:50.066–0:51.733
zh他们在2月份的时候就
0:51.766–0:53.200
zh披露了相关的数据
0:53.233–0:55.500
zh当时他们专门点名了
0:55.533–0:57.733
zh三家中国的AI模型公司
0:57.900–1:00.266
zhDeepseek、月之暗面、Minimax
1:00.500–1:04.533
zh进行了1,600多万次的交互蒸馏
1:04.666–1:07.266
zh这一次涉及的公司更多
1:07.400–1:09.200
zh覆盖的账户更多
1:09.233–1:11.433
zh涉及的交互次数更多
1:11.433–1:13.033
zh而且非常的深度
1:13.200–1:15.566
zh都是工业化级别的蒸馏
1:15.833–1:17.333
zh其中最其中最夸张的
1:17.333–1:18.333
zh规模最大的
1:18.333–1:20.266
zh大家猜猜是哪家公司
1:20.466–1:22.166
zh是阿里千问
1:22.166–1:24.066
zh根据Anthropic的报告说啊
1:24.066–1:26.733
zh在26年的5-7月之间
1:26.866–1:30.066
zh他观察到了阿里千问超过
1:30.066–1:34.233
zh1.51亿次的Claude的数据交换和蒸馏
1:34.600–1:35.433
zh也就是说
1:35.433–1:38.833
zh它的峰值每天达到了300万次
1:38.866–1:40.766
zh其余的几家公司包括了
1:40.766–1:44.333
zh月之暗面、Deepseek、智谱、小米、商汤和Minimax
1:44.366–1:45.000
enMinimax
1:45.033–1:46.566
zh而且这一次Anthropic的
1:46.566–1:48.233
zh蒸馏报告特别指出啊
1:48.366–1:51.400
zh这些中国的AI实验室不是简单的说
1:51.433–1:54.433
zh拿Claude的回答做训练数据那么简单
1:54.633–1:57.666
zh他们是建立了工业化的流水线
1:57.966–2:00.166
zh去大规模的获取claude
2:00.233–2:01.833
zh模型的推理轨迹
2:02.100–2:02.966
zhagent能力
2:03.033–2:03.866
zh编程能力
2:03.900–2:07.366
zh数据分析能力和长程任务的能力
2:07.366–2:09.566
zh再把这些能力蒸馏
2:09.566–2:11.266
zh进自己的模型里面
2:11.266–2:13.033
zh因为这些AI实验室啊
2:13.033–2:14.600
zh他们要的不仅是答案
2:14.800–2:16.966
zh更想要整个的推理过程
2:17.033–2:17.966
zh而Claude方面
2:17.966–2:19.800
zh它在模型的构建过程中
2:19.900–2:23.300
zh它会刻意的去隐藏这些COT的推理链
2:23.333–2:25.133
zh所以这个攻防的过程啊
2:25.133–2:26.633
zh也变得特别有意思
2:26.633–2:29.733
zh根据Anthropic描述他们的攻击方式啊
2:29.733–2:30.800
zh我觉得也很有意思
2:30.800–2:33.400
zh其实也非常具有参考价值
2:33.400–2:34.700
zh这些模型公司啊
2:34.733–2:37.166
zh他们想尽办法把Claude
2:37.300–2:39.366
zh隐藏的这个reasoning trace
2:39.500–2:41.733
zh这个推理的过程给挖出来
2:41.766–2:43.366
zh比如说有人就会把这个
2:43.366–2:46.500
zh会话伪装成一个debug的过程
2:46.633–2:48.100
zh让它交出推理链
2:48.100–2:51.200
zh或者说有人尝试说让Claude把
2:51.200–2:53.433
zh之前他做的这个working memory
2:53.500–2:54.666
zh提一个任务说
2:54.666–2:56.633
zh你把这个内容翻译成
2:56.633–2:59.066
zh只包含片假名的日语
2:59.400–3:02.566
zh诱骗它把这个推理过程交出来
3:02.633–3:04.066
zh而且更夸张的是啊
3:04.066–3:05.700
zh有的AI实验室
3:06.033–3:09.433
zh它直接用了1.2万种不同
3:09.466–3:11.633
zh的请求方式去实验
3:11.900–3:13.900
zh怎么把它的隐藏的
3:13.900–3:16.066
zh推理过程给套路出来
3:16.066–3:17.833
zh它的目的就是测试
3:17.966–3:19.966
zh看看哪一种提示词
3:20.166–3:21.333
zh哪一种路径
3:21.333–3:22.766
zh能够把能够把Claude的
3:22.800–3:24.366
zh推理路径给套出来
3:24.533–3:26.066
zh有可能大部分的
3:26.100–3:28.433
zh提示词方式都可能失败
3:28.466–3:30.733
zh但是只要有几种成功了
3:30.766–3:34.033
zh就可以用工业化的方式把它放大
3:34.100–3:36.400
zh作为蒸馏的一种有效的路径
3:36.433–3:37.433
zh所以这实际上是
3:37.433–3:39.333
zh一个很有意思的攻防
3:39.633–3:40.600
zh模型厂商呢
3:40.633–3:42.800
zh他说我不给你原始的COT
3:42.866–3:44.766
zh我只给你总结的thinking
3:44.800–3:47.166
zh但蒸馏方就一直在研究
3:47.433–3:49.933
zh怎么通过上下文翻译
3:50.100–3:51.833
zhReplay的方式等等
3:51.900–3:54.733
zh把这个推理的过程给恢复过来
3:54.766–3:57.133
zh然后再把这个reasoning推理
3:57.166–3:59.366
zh的过程变成训练数据
3:59.466–4:02.033
zh你看看这有不有一点像AI
4:02.066–4:04.733
zh时代的能力逆向工程
4:04.766–4:05.200
zh实际上啊
4:05.200–4:07.633
zh这个报告本身披露出了
4:07.633–4:11.633
zh非常多类似这些AI模型公司
4:11.666–4:13.133
zh他们蒸馏的方式啊
4:13.200–4:15.000
zh而这些蒸馏的类型啊
4:15.033–4:17.733
zh我会给大家在后面去给做总结
4:18.100–4:20.033
zh并且啊总结出的方式我们
4:20.033–4:21.400
zh可以进一步的拓展
4:21.533–4:24.433
zh把它用于我们日常的生产力环节
4:24.466–4:25.600
zh好准备好了吗
4:25.766–4:27.166
zh接下来我就带着大家
4:27.233–4:29.233
zh全面的去理解蒸馏
4:29.600–4:31.766
zh蒸馏啊不要把它仅仅的理解为
4:31.800–4:33.700
zh一种模型训练的技术
4:33.833–4:35.966
zh我认为蒸馏的本质是
4:36.000–4:38.700
zh一次昂贵的智能过程
4:38.733–4:41.266
zh它实际上是在压缩成下一次更便宜、更快、更稳定
4:41.266–4:44.533
zh一次更便宜更快更稳定
4:44.700–4:47.600
zh甚至不需要还原老师的
4:47.600–4:49.333
zh能力的这么一个过程
4:49.366–4:50.900
zhAnthropic它给我们看的
4:50.900–4:53.000
zh实际上是蒸馏中的一种
4:53.100–4:55.700
zh就是模型蒸馏模型
4:55.833–4:57.900
zh所以我会先跟大家去讲这个
4:57.933–5:00.733
zh模型蒸馏模型有哪些过程
5:00.733–5:01.733
zh有哪些类型
5:02.100–5:04.800
zh而沿着这个定义往外推
5:04.833–5:06.900
zh我们可以看到更多的东西
5:07.133–5:09.133
zh除了模型蒸馏模型之外
5:09.266–5:11.400
zh模型还可以蒸馏用户
5:11.600–5:13.933
zh产品也能够蒸馏模型
5:14.100–5:15.900
zhagent能蒸馏工作流
5:16.033–5:18.166
zh企业能蒸馏员工
5:18.300–5:21.766
zh甚至是人用AI来蒸馏自己
5:21.833–5:24.833
zh而这些就是我们广阔的应用场景
5:24.866–5:27.600
zh回到Anthropic这个报告来看啊
5:27.800–5:29.833
zh它里面讲了非常多的细节
5:29.866–5:31.166
zh是有助于我们去
5:31.166–5:33.600
zh理解模型是怎么蒸馏
5:33.666–5:35.466
zh传统的我们对蒸馏的理解
5:35.500–5:37.500
zh实际上是特别简单直接的
5:37.533–5:41.800
zh就是教师模型根据输入给出输出
5:42.000–5:44.766
zh然后学生模型学习
5:44.833–5:46.966
zh整个的信息交换的过程
5:47.033–5:49.000
zh学习这些exchange的过程
5:49.033–5:50.566
zh但是大家注意到这里面的
5:50.600–5:53.233
zh环节会涉及到inputs和OUTPUTS
5:53.233–5:54.333
zh在这个报告里面
5:54.366–5:58.300
zh它实际上把这个inputs和outputs怎么来
5:58.400–6:02.133
zh做了非常详细的解析和案例的披露
6:02.133–6:05.233
zh也就是这些中国的AI实验室
6:05.266–6:06.366
zh他们是怎么干的
6:06.533–6:07.200
zh这些东西啊
6:07.233–6:08.233
zh非常的有启发
6:08.366–6:10.000
zh可以分为7个类型
6:10.000–6:10.866
zh我总结下来
6:10.866–6:12.400
zh一个个跟大家去讲
6:12.466–6:14.133
zh第一种类型啊最传统
6:14.166–6:16.566
zh我总结为叫出题蒸馏
6:16.766–6:18.900
zh也可以叫做答案蒸馏吧
6:18.966–6:20.933
zh就是学生给老师出题
6:20.933–6:22.266
zh让老师回答
6:22.266–6:24.466
zh形成一个高质量的答案
6:24.800–6:26.633
zh你可以准备一个任务集
6:26.800–6:27.833
zh这个任务集呢
6:27.833–6:30.966
zh可以是coding数学agent数据分析
6:31.000–6:32.933
zh或者长程任务等等都可以
6:33.000–6:35.033
zh然后把这个问题给到Claude
6:35.133–6:36.500
zh让Claude来回答
6:36.533–6:39.400
zh形成高质量的答案或者推理
6:39.700–6:41.433
zh然后把这个答案抄下来
6:41.433–6:43.533
zh放进你的data set里面
6:43.566–6:46.400
zh接着通过SFT监督微调
6:46.400–6:49.400
zh或者是通过RL强化学习
6:49.433–6:51.200
zh来训练自己的模型
6:51.300–6:52.566
zh在这个报告里面啊
6:52.700–6:55.800
zhAnthropic声称阿里千问的蒸馏
6:55.800–6:58.066
zh模式就是最典型的例子
6:58.533–7:02.600
zh它主要是针对Opus 4.6和4.7的推理轨迹
7:02.833–7:05.733
zh它的整个的蒸馏任务是集中在agent
7:05.933–7:06.966
zh软件工程
7:07.033–7:09.266
zh还有一些长程任务上面
7:09.466–7:11.166
zh并且它把整个的
7:11.166–7:14.500
zhTranscript转成了SFT的数据
7:14.533–7:17.766
zh这种呢就是考试考卷式的蒸馏
7:17.866–7:19.533
zh这是最传统的蒸馏
7:19.533–7:21.033
zh也是最容易理解的
7:21.033–7:22.566
zh老师做1万道题
7:22.600–7:26.033
zh学生直接拿老师给的答案进行训练
7:26.066–7:28.700
zh第二种类型我总结为推理蒸馏
7:28.766–7:30.800
zh就是学生不仅是要答案
7:30.933–7:33.000
zh还要老师的解题过程
7:33.033–7:34.866
zh这个答案确实有价值
7:34.866–7:37.033
zh但是更值钱的是教师
7:37.033–7:38.733
zh模型它是怎么拆解问题
7:38.766–7:39.600
zh怎么判断
7:39.733–7:40.600
zh怎么试错
7:40.600–7:42.133
zh调用工具验证
7:42.233–7:44.233
zh得出最终答案的过程
7:44.266–7:45.200
zh要知其然
7:45.266–7:47.100
zh更要知其所以然
7:47.400–7:50.066
zh实际上它不仅是要老师授之以鱼
7:50.233–7:51.900
zh更要授之以渔
7:52.166–7:54.033
zh这个方式也是anthropic
7:54.066–7:56.133
zh这次最在意的一种方式
7:56.300–7:57.433
zh刚刚我提到了
7:57.633–7:59.300
zh这些攻击者测试啊
7:59.366–8:01.966
zh里面花了1.2万种方式
8:01.966–8:02.866
zh通过翻译
8:03.066–8:05.300
zhdebug replay等等方式
8:05.366–8:09.333
zh试图去恢复Claude模型的推理
8:09.333–8:11.466
zh的过程和找到其中的线索
8:11.500–8:13.866
zh以后啊这个COT推理的过程会
8:13.866–8:15.900
zh被藏的越来越深
8:15.933–8:17.266
zh那么蒸馏怎么办呢
8:17.266–8:20.033
zh其实就是不断的攻防攻防
8:20.066–8:21.033
zh互相套路
8:21.066–8:22.900
zh越狱嘛反正是一直去试
8:23.066–8:25.500
zh而这些前沿模型也会越来越不
8:25.533–8:28.466
zh愿意把原始的这个COT的链路啊
8:28.600–8:29.266
zh公布出来
8:29.300–8:30.000
zh展示出来
8:30.066–8:32.500
zh以后可能会有一个很火的角色
8:32.500–8:34.800
zh比如说像AI狱警这样
8:34.866–8:37.466
zh第三个类型我总结为Judge蒸馏
8:37.666–8:39.800
zh也就是让前沿模型
8:39.800–8:41.500
zh让老师来当评委
8:41.666–8:43.600
zh比如说你让一个普通模型
8:43.600–8:44.866
zh比如说国产模型
8:45.066–8:49.000
zh让它对一个问题生成a b c d四个答案
8:49.033–8:49.666
zh这个时候啊
8:49.666–8:51.333
zh你可以不用前沿模型来
8:51.333–8:54.033
zh生成一个优质或者标准答案
8:54.166–8:57.333
zh而是让这个前沿模型Claude
8:57.766–9:01.633
zh来对这四个模型的答案进行打分
9:01.833–9:03.366
zh他来评分 1-10分
9:03.400–9:04.200
zh他打几分
9:04.366–9:05.700
zh哪个答案好
9:05.766–9:06.866
zh哪个答案不好
9:07.000–9:07.766
zh为什么好
9:07.766–9:08.766
zh为什么答错
9:08.800–9:10.400
zh让他给出评价
9:10.433–9:12.366
zh这时候链路就变成了什么
9:12.566–9:14.333
zh普通模型生成答案
9:14.466–9:17.366
zh然后Claude作为评委进行评分
9:17.533–9:20.133
zh然后对所有的答案进行排序
9:20.533–9:23.100
zh接着可以进行强化学习
9:23.300–9:25.200
zh然后进行模型训练
9:25.200–9:27.333
zh让普通的模型变强
9:27.433–9:30.100
zh这个在Anthropic的这个报告里面
9:30.133–9:31.800
zh关于智谱的这个描述
9:31.833–9:33.600
zh和归因部分也有体现
9:33.866–9:36.000
zh智谱呢就用这个Claude的模型
9:36.066–9:38.933
zh让它生成一些评委评分
9:38.933–9:41.333
zh的一些结果的一个标准
9:41.600–9:42.733
zh然后还用它来做
9:42.766–9:44.666
zh一些数据清洗的角色
9:44.666–9:46.833
zh并且让它提供一些解决方案
9:46.933–9:48.533
zh这个时候就不是纯粹的
9:48.566–9:50.566
zh给答案对比这件事情了
9:50.700–9:53.800
zh它让这个前沿模型在它的整个
9:53.833–9:56.833
zh模型训练中扮演了更多的角色
9:56.866–9:58.466
zh这个前沿的模型不仅
9:58.466–10:00.800
zh是当老师给解题过程
10:00.833–10:03.166
zh而是它也可以是出题的老师
10:03.333–10:06.066
zh也可以是阅卷评分的老师
10:06.300–10:08.900
zh它还可以是数据的清洗员
10:09.000–10:11.300
zh还可以是安全的检查员
10:11.333–10:13.333
zh还可以是最后的强化
10:13.333–10:14.900
zh学习的这个评估员
10:14.933–10:16.566
zh如果是经常看我节目
10:16.566–10:18.266
zh的老的粉丝和观众
10:18.266–10:20.266
zh一定感受到我平时在
10:20.300–10:22.100
zh节目中经常用这个方法
10:22.266–10:23.933
zh比如说我经常用多个
10:23.966–10:26.633
zh模型来处理同一个任务
10:26.933–10:28.900
zh然后我再用一个前沿模型
10:28.933–10:31.633
zh比如说用GPT的Codex来对
10:31.633–10:33.533
zh这些结果进行评分
10:33.600–10:35.966
zh然后评价这几个模型
10:35.966–10:37.666
zh的能力和最后的答案
10:37.833–10:39.900
zh然后给出我的评测结论
10:40.133–10:43.266
zh这本质上不就是使用judge的方式
10:43.366–10:45.366
zh让这个前沿模型扮演
10:45.366–10:47.266
zh一个评委的角色吗
10:47.300–10:49.566
zh你看看从蒸馏的角度来
10:49.566–10:52.433
zh理解我节目中的评测的方法
10:52.500–10:54.266
zh是不是又升维了
10:54.300–10:55.633
zh第四种蒸馏方式啊
10:55.633–10:58.166
zh第四种蒸馏方式啊我总结叫做Replay蒸馏
10:58.466–10:59.100
zh什么意思
10:59.100–11:01.166
zh就是不用自己出题
11:01.333–11:04.000
zh直接拿真实用户的问题
11:04.200–11:07.100
zh重新让老师再做一遍
11:07.133–11:08.466
zh你知道玩这个路子的
11:08.466–11:10.033
zh是哪家模型公司吗
11:10.233–11:13.766
zh是小米的模型MIMO他们家玩的
11:14.033–11:15.166
zh就是假设啊
11:15.400–11:17.833
zh他们家公司已经有100万的
11:17.866–11:20.466
zh真实开发者的这个conversation
11:20.666–11:21.366
zh这个对话
11:21.666–11:24.633
zh这个实际上是非常宝贵的数据啊
11:24.666–11:27.266
zh大家不要觉得自己很多
11:27.266–11:29.133
zh地方可以免费用一些模型啊
11:29.133–11:32.566
zh实际上都是这些模型公司的养料
11:32.866–11:35.300
zh这里面会包含一些真的bug
11:35.566–11:37.466
zh真的项目真的IDE
11:37.466–11:38.333
zh真的文件
11:38.466–11:39.900
zh真的用户意图
11:40.066–11:41.766
zh真的失败案例
11:41.800–11:43.800
zh原来在小米的模型里面
11:43.900–11:45.666
zh它就会有原始的用户
11:45.666–11:48.100
zh任务和小米给出的答案
11:48.200–11:50.000
zh那么重新Replay一遍呢
11:50.000–11:52.733
zh就是把同一个任务给到Claude
11:52.966–11:55.166
zh然后再获得Claude的答案
11:55.200–11:56.966
zh然后就立刻得到了什么呢
11:57.066–11:58.266
zh首先是一个task
11:58.700–12:00.066
zh用户的真实任务
12:00.066–12:01.433
zh然后是student
12:01.800–12:02.766
zhMIMO的答案
12:02.933–12:04.033
zh然后是teacher
12:04.200–12:05.066
zhClaude的答案
12:05.166–12:06.533
zh接下来就可以干什么
12:06.600–12:07.666
zh就可以比较
12:07.733–12:08.400
zh可以judge
12:08.600–12:09.500
zh可以回写
12:09.900–12:12.633
zh可以SFT可以RL了
12:12.666–12:14.233
zh小米把自己代码相关
12:14.233–12:16.633
zh的coding session给到claude
12:16.733–12:19.066
zh然后呢Claude还可以被用于
12:19.066–12:21.333
zh重构它的开发环境
12:21.333–12:22.533
zh再清洗对话
12:22.566–12:24.666
zh然后再生成回答
12:24.733–12:27.200
zh再生成响应评价的答案
12:27.200–12:30.866
zh这可比人工去造Benchmark厉害多了
12:30.966–12:32.400
zh经常我给大家演示的
12:32.400–12:33.533
zh考虑到隐私啊
12:33.566–12:35.566
zh我都是造的这些数据
12:35.666–12:39.066
zh而这些数据都是用户的真实意图
12:39.400–12:42.966
zh而用户本身就会成为源源不断
12:42.966–12:46.033
zh的Benchmark的生产者和生成者
12:46.066–12:47.900
zh第五种蒸馏方式啊我不说
12:47.900–12:50.200
zh可能很多人还蒙在鼓里
12:50.433–12:52.200
zh我叫做shadow teacher
12:52.400–12:53.633
zh影子老师
12:53.633–12:56.233
zh这是一个水加茅台的故事
12:56.333–12:57.000
zh怎么说呢
12:57.066–12:59.100
zh就是本来你只是要了一杯水
12:59.133–13:00.666
zh你花了一杯水的钱
13:00.766–13:03.466
zh结果这个水里面掺了茅台
13:03.633–13:04.533
zh怎么理解啊
13:04.700–13:08.900
zh就是用户以为自己用的是学生模型
13:08.933–13:09.600
zh结果
13:10.000–13:13.266
zh后台偷偷的让老师回答
13:13.266–13:15.133
zh然后用户被告知的
13:15.133–13:17.100
zh是学生模型的回答
13:17.333–13:19.500
zh有不有毁你之前的认知
13:19.533–13:20.900
zh就是你给他一个问题
13:21.066–13:22.900
zh然后后台呢判断
13:23.033–13:25.600
zh诶这个问题非常有价值啊
13:25.633–13:27.166
zh这条数据很值钱啊
13:27.433–13:28.100
zh然后呢
13:28.200–13:32.566
zh他就把这个问题的请求转给了Claude
13:32.733–13:34.166
zh让Claude来回答
13:34.333–13:37.533
zh然后把Claude的答案推送给用户
13:37.566–13:38.333
zh与此同时
13:38.333–13:40.600
zh他在后台把这个提示词
13:40.833–13:42.600
zh加上Claude的回答
13:42.733–13:44.566
zh加上他的推理过程
13:44.600–13:48.433
zh全部都被写入了他的训练的数据集
13:48.466–13:50.366
zh根据Anthropic的报告啊
13:50.633–13:53.800
zh月之暗面和Deepseek都在这样干
13:53.800–13:55.033
zh那怎么发现的呢
13:55.066–13:58.500
zh因为Claude它在清洗的时候发现
13:58.566–14:01.633
zh这里面出现了非常多涉及
14:01.666–14:04.766
zh企业和涉及一些特殊行业
14:04.800–14:07.566
zh领域的一些机密的数据
14:07.700–14:10.300
zh出现在了模型的对话里面
14:10.466–14:12.733
zh而这些模型的对话本不
14:12.766–14:16.300
zh应该出现在海外模型里面的
14:16.333–14:17.933
zh这里面就有两个问题
14:17.966–14:20.400
zh本来你花了一个更便宜的钱
14:20.533–14:22.766
zh却买到了一个更贵的服务
14:22.966–14:24.100
zh另外一方面呢
14:24.100–14:27.133
zh就是本来你觉得你用的是国产模型
14:27.166–14:29.366
zh不涉及到一些安全性的问题
14:29.700–14:33.366
zh结果模型悄悄地转包到了海外模型
14:33.533–14:36.466
zh把你的一些企业内部的信息
14:36.833–14:39.400
zh泄露到了不应该泄露的地方
14:39.633–14:42.100
zh涉及到信息安全的问题了
14:42.133–14:43.066
zh但是要知道啊
14:43.100–14:45.866
zh这样的方式本身对国产
14:45.900–14:48.666
zh模型的训练是非常有帮助的
14:48.900–14:51.333
zh因为很多这样的问题
14:51.533–14:53.200
zh它是在特定的
14:53.233–14:56.533
zh比如说一个国产的IDE里面去产生的
14:56.633–14:59.466
zh它本来是它原始的Harness的架构
14:59.533–15:01.066
zh那在这个Harness里面
15:01.100–15:03.400
zh它本身是自带任务
15:03.433–15:04.500
zh还带上下文
15:04.500–15:05.366
zh又带文件
15:05.400–15:06.233
zh带工具调用
15:06.233–15:07.800
zh还带模型的尝试
15:08.066–15:09.866
zh带错误带用户反馈
15:09.966–15:13.266
zh然后现在再返回一个最终的结果
15:13.600–15:16.266
zh它的信息密度是非常高的
15:16.300–15:18.666
zh比单纯的那种聊天记录
15:18.666–15:20.533
zh的信息密度高非常多
15:20.633–15:22.833
zh所以通过这样的方式转包
15:22.833–15:25.066
zh获得了前沿模型的回答
15:25.100–15:26.633
zh然后作为训练集
15:26.733–15:30.266
zh对于模型的成长是非常有帮助的
15:30.300–15:33.033
zh所以你也会感知到为什么几家
15:33.033–15:36.133
zh大的公司都在拼命推他们的IDE
15:36.300–15:37.566
zh推他们的agent
15:37.566–15:38.700
zh第六种蒸馏方式啊
15:38.733–15:40.900
zh第六种蒸馏方式啊我叫做中转站蒸馏
15:41.266–15:42.866
zh哎很多人没听错啊
15:42.933–15:45.466
zh你是不是经常发现很多中转站
15:45.700–15:48.566
zh它使用一些前沿模型的价格
15:48.633–15:51.933
zh比你直接到官方那里使用要便宜
15:52.200–15:52.866
zh为什么
15:53.066–15:55.400
zh这个商业逻辑想清楚了没有啊
15:55.433–15:57.333
zh他赚的可能根本不是
15:57.333–15:59.500
zh什么TOKEN间的差价
15:59.766–16:02.566
zh而是这个数据的产业链
16:02.933–16:05.366
zh他最后啊会把这个对话的
16:05.366–16:09.133
zh过程直接卖给其他的AI实验室
16:09.466–16:12.100
zh就是自己不用产生数据
16:12.333–16:14.166
zh直接去中转站把
16:14.166–16:16.266
zh上下文把数据买过来
16:16.366–16:18.366
zh买别人的Claude对话
16:18.533–16:22.066
zh把这些对话拿来训练自己的模型
16:22.066–16:23.833
zh因为在这些中转站上面啊
16:23.833–16:25.633
zh天然就有提示词
16:25.666–16:27.766
zh上下文和Claude的回答
16:27.933–16:29.733
zh如果说你去保存
16:29.900–16:32.800
zh成千上百的整个的会话过程
16:32.866–16:34.866
zh那么就会形成非常
16:34.866–16:37.000
zh有价值的数据资产
16:37.400–16:40.500
zh甚至你知道的一些中转站
16:40.700–16:44.466
zh它就是大厂下水自己干的
16:44.466–16:47.333
zh只不过外面包了一个壳而已
16:47.366–16:48.433
zh第七种方式啊
16:48.433–16:50.633
zh第七种方式啊我定义为Pipeline蒸馏
16:50.800–16:53.133
zh就是数据工厂蒸馏
16:53.200–16:54.033
zh怎么理解啊
16:54.233–16:56.433
zh原来呢我们蒸馏的方式是让这个
16:56.466–16:59.066
zh教师模型教会学生模型
16:59.366–17:00.233
zh这种方式啊
17:00.233–17:01.033
zh非常的隐秘
17:01.066–17:02.100
zh但是很高级
17:02.233–17:06.166
zh现在他直接让这个教师构建出学校
17:06.433–17:08.200
zh然后这个学校就可以
17:08.200–17:10.633
zh源源不断的产生教师
17:10.800–17:13.133
zh培养更多的学生了
17:13.333–17:16.166
zh就是让这个老师自己出题
17:16.166–17:17.266
zh自己回答
17:17.300–17:18.400
zh自己批改
17:18.466–17:21.633
zh你已经不需要给一个具体的题库了
17:21.633–17:24.466
zh你直接给Claude一个具体的领域
17:24.700–17:28.733
zh让它基于这个领域来进行自我出题
17:29.000–17:30.666
zh让它出10万道题
17:30.766–17:32.533
zh然后自己来回答
17:32.633–17:35.233
zh让学生模型来完成整个任务
17:35.433–17:38.000
zh然后Claude继续对这个任务的
17:38.033–17:40.833
zh结果进行批改审阅评分
17:40.833–17:42.200
zh然后可以纠错
17:42.233–17:44.933
zh筛选出优质的回答和过程
17:45.200–17:48.466
zh通过SFT和RL进行训练
17:48.500–17:49.266
zh这个时候
17:49.366–17:52.133
zh前沿的模型的角色不仅是老师
17:52.366–17:53.866
zh他是整个学校
17:54.033–17:55.366
zh出题老师是他
17:55.433–17:56.633
zh任课老师是他
17:56.866–17:58.233
zh批卷老师是他
17:58.433–18:00.133
zh教研组组长是他
18:00.300–18:02.400
zh教材的编写也是他
18:02.433–18:05.233
zh他帮你设计的是整个流程
18:05.400–18:07.766
zh他来构建整个框架
18:07.800–18:10.066
zh上面我讲的7种蒸馏方式啊
18:10.100–18:11.900
zh就是我从Anthropic的这个
18:11.933–18:14.566
zh报告里面抽象总结出来的
18:14.600–18:16.800
zh模型蒸馏模型的方式啊
18:17.133–18:19.300
zh从某种意义上面来讲啊
18:19.466–18:23.800
zh我觉得蒸馏也是AI时代技术
18:23.900–18:27.033
zh扩散的一种非常重要的方式
18:27.066–18:28.433
zh以前啊我们训练模型啊
18:28.433–18:30.333
zh是人类写数据AI学
18:30.366–18:32.666
zh或者AI生成数据AI学
18:32.833–18:34.833
zh现在呢通过蒸馏的方式
18:35.033–18:36.366
zhAI模型之间啊
18:36.366–18:38.866
zh它们互相学习的程度已经到
18:38.866–18:41.300
zh了一个非常深的一个程度
18:41.366–18:42.800
zh在Anthropic的角度啊
18:42.800–18:45.366
zh他确实觉得应该反对这种蒸馏
18:45.366–18:47.533
zh而且他会找出各种
18:47.566–18:49.833
zh方式来对抗这种蒸馏
18:49.833–18:52.133
zh但是站在模型研究的角度
18:52.400–18:55.666
zh蒸馏本身又是一种非常正常
18:55.866–18:57.333
zh非常重要的技术
18:57.366–19:00.900
zh连Anthropic自己都不得不承认这一点
19:00.900–19:01.900
zh所以啊这一次
19:01.900–19:05.900
zhClaude发现自己的智商正在被轻易
19:05.933–19:08.666
zh的工业化的批量复制的时候
19:08.700–19:10.300
zh又不禁引起我们反思
19:10.533–19:14.133
zhAI行业它真正的护城河在哪里
19:14.166–19:16.800
zh而原来我们在聊天沟通中所
19:16.800–19:19.866
zh喜欢看到的这个COT的推理链
19:20.166–19:23.166
zh是不是就从用户的一个体验功能
19:23.333–19:26.000
zh变成了模型护城河的
19:26.000–19:28.666
zh核心资产和安全边界了呢
19:28.700–19:29.300
zh这个问题啊
19:29.300–19:30.300
zh我觉得很复杂
19:30.300–19:32.166
zh但是关于蒸馏这个事情啊
19:32.200–19:34.766
zh我还想再深入拓展一下
19:34.766–19:38.500
zh我们不要只停留在模型蒸馏模型
19:38.500–19:40.300
zh实际上它有更大的
19:40.333–19:42.433
zh应用价值和技术机制
19:42.466–19:43.900
zh我这里讲一个暴论啊
19:43.933–19:46.433
zh叫做一切皆可蒸馏
19:46.533–19:49.000
zh等会我讲完蒸馏的整个拓展
19:49.000–19:51.000
zh你再回过头来看这句话
19:51.133–19:53.166
zh你会觉得特别的正确
19:53.200–19:54.966
zh而且特别的有用
19:55.000–19:56.133
zh有实用价值
19:56.533–19:58.600
zh我们先看第一层拓展
19:58.766–20:00.833
zh叫做用户的蒸馏
20:01.133–20:02.100
zh你想过没有
20:02.100–20:05.833
zh我们和AI对话交互的整个过程
20:06.066–20:09.566
zh实际上就是模型蒸馏人的过程
20:09.933–20:11.600
zh大家现在用Codex啊额度完全不够
20:11.633–20:12.966
zh额度完全不够
20:13.033–20:14.433
zh但是你想过没有
20:14.466–20:18.166
zh你和GPT的聊天的额度和Codex
20:18.266–20:20.533
zh执行任务的额度是分开的
20:20.833–20:23.733
zh而且你使用GPT聊天的这个额度啊
20:23.766–20:26.200
zh是很少达到上限的
20:26.200–20:28.400
zh就是他给你的额度非常多
20:28.600–20:32.533
zh为什么大部分的模型公司都会给你
20:32.533–20:36.300
zh开放免费的和AI交互的这个额度啊
20:36.433–20:40.733
zh实际上是这些模型公司在蒸馏你
20:40.766–20:41.600
zh举个例子啊
20:41.600–20:43.600
zh你想得到某个答案
20:43.866–20:44.966
zh解决某个问题
20:44.966–20:47.366
zh你会跟AI可能对话20轮
20:47.433–20:49.633
zh最后拿到你想要的结果
20:49.966–20:51.500
zh在这20轮对话里面
20:51.500–20:52.566
zh你会做什么呢
20:52.600–20:53.500
zh你会示范
20:53.633–20:54.866
zh告诉他什么是对的
20:54.866–20:55.900
zh给他举例子
20:55.933–20:56.800
zh你会取舍
20:56.900–20:58.966
zh告诉他a要b不要
20:58.966–21:00.066
zh你会纠偏
21:00.100–21:02.100
zh告诉他这个方向不对
21:02.233–21:03.866
zh而这个过程
21:04.100–21:06.966
zh其实你就是给了他非常多的输入
21:07.066–21:09.266
zh最后得到满意的答案
21:09.433–21:13.633
zh这些东西都是给到AI模型的语料
21:13.700–21:16.233
zh而下一次优化训练之后
21:16.366–21:19.566
zh模型就可以很快的识别你的意图
21:19.700–21:21.233
zh它不需要你再过20轮
21:21.433–21:23.900
zh它通过一到两轮的对话
21:23.900–21:26.466
zh就可以实现满意的答案
21:26.500–21:28.766
zh这也是为什么顶尖的大模型
21:28.933–21:30.300
zh用户多的大模型
21:30.333–21:32.800
zh它会有更好更多的数据集
21:33.133–21:35.566
zh来提升它本身的模型能力
21:35.800–21:37.833
zh大家现在用GPT的模型
21:37.933–21:39.466
zh大家现在用GPT的模型从GPT4到GPT4o
21:39.500–21:41.566
zh大家是不是有明显的感知
21:41.833–21:43.666
zh模型越来越聪明
21:43.800–21:47.766
zh需要的聊天的次数和轮次越来越少
21:47.800–21:50.633
zh它能越来越知道你的心中所想
21:50.633–21:51.533
zh怎么出来的
21:51.766–21:54.133
zh就是通过模型蒸馏人
21:54.133–21:56.700
zh的过程来逐步实现的
21:56.933–21:59.566
zh我们以为我们在使用AI实际上
21:59.600–22:02.366
zh从训练系统的视角来看
22:02.500–22:04.666
zh人的每一次纠错
22:04.733–22:07.533
zh实际上都可能成为什么是
22:07.533–22:10.633
zh最好答案的一个监督信号
22:10.666–22:12.600
zh既然模型能够蒸馏人
22:12.633–22:14.600
zh那么我们是不是能进一步拓展
22:14.833–22:18.566
zh模型公司也能够蒸馏它的员工呢
22:18.566–22:19.566
zh比如说大厂
22:19.566–22:21.600
zh像前段时间爆出来Meta
22:21.633–22:23.766
zh它会记录它所有员工
22:23.766–22:25.833
zh的键盘的各种操作
22:26.166–22:29.533
zh来更大范围的炼化员工的能力
22:29.600–22:32.566
zh去实现对人的能力的蒸馏
22:32.600–22:34.566
zh这个实际上也是模型
22:34.566–22:36.566
zh对人蒸馏的一种方式
22:36.666–22:38.200
zh那我们更进一步
22:38.200–22:40.566
zh我们可以主动的去实现这个过程
22:40.600–22:43.300
zh比如说我有大量的节目制作
22:43.333–22:46.033
zh的过程语料纠偏等等内容
22:46.300–22:47.733
zh都在我的本机
22:47.800–22:50.533
zh在我的新版的GPT的对话里面
22:50.600–22:52.000
zh还有很多本地的材料
22:52.033–22:54.466
zh还存在我本地的Obsidian里面
22:54.466–22:58.466
zh那在这个里面我就可以实现让模型
22:58.500–23:02.033
zh对我的所有的语料过程进行蒸馏
23:02.033–23:04.233
zh不仅是我这样的自媒体博主
23:04.233–23:06.700
zh你日常的工作如果都实现了
23:06.700–23:09.900
zh在线化和颗粒度的对齐和AI
23:09.933–23:11.866
zh模型的对齐和纠偏的话
23:11.966–23:14.633
zh你都可以尝试用前沿模型
23:14.633–23:17.100
zh对你本身进行自我蒸馏
23:17.333–23:20.233
zh让你的整体的能力再上一个台阶
23:20.266–23:20.833
zh举个例子啊
23:20.833–23:23.566
zh大家现在看到的是我Codex的对话框
23:23.833–23:27.233
zh我正在对我自己的生活和工作场景
23:27.433–23:31.000
zh特别是我视频制作的过程进行蒸馏
23:31.366–23:33.933
zh这里面就会涉及到我的选题和脚本
23:34.000–23:35.833
zh我的封面和标题
23:35.833–23:37.266
zh客户的方案等等等等
23:37.433–23:39.500
zh每一个环节都是可以
23:39.533–23:41.166
zh蒸馏和抽象出来的
23:41.400–23:43.533
zh就以选题和脚本为例
23:43.600–23:46.033
zh那么AI会给我输出一个脚本
23:46.033–23:47.766
zh我会返回给他告诉他
23:47.866–23:49.166
zh跟他对齐颗粒度
23:49.166–23:50.300
zh在这个脚本里面
23:50.333–23:51.933
zh哪些内容我觉得不顺滑
23:52.133–23:53.666
zh哪些部分你讲得太少
23:53.700–23:56.433
zh哪些地方你可以加一些金句等等
23:56.700–23:57.966
zh这个实际上就是我
23:58.000–24:00.066
zh给他的投喂和纠偏
24:00.100–24:02.833
zh那他就可以去对比他输出的答案
24:02.900–24:06.300
zh和我给的一个调整示范的内容
24:06.566–24:07.933
zh通过这样的方式
24:08.033–24:10.866
zh原来我可能要聊三四轮四五轮
24:10.966–24:13.933
zh到后面我可能只需要聊一两轮
24:14.066–24:17.900
zh就可以完成我的选题和脚本的确认
24:17.933–24:18.900
zh通过这样的方式
24:18.900–24:21.566
zh我可以沉淀出来我自己的skill
24:21.800–24:24.600
zh或者是通过某种工具的调用
24:24.633–24:27.433
zh去让整个的过程更加的丝滑
24:27.433–24:30.600
zh这某种程度上也是一种蒸馏
24:30.966–24:32.066
zh因为这里的蒸馏它
24:32.100–24:33.866
zh不只限于一期节目
24:34.033–24:35.133
zh我的100多期
24:35.166–24:36.433
zh200多期节目
24:36.433–24:38.700
zh整个的制作过程如果都是
24:38.966–24:42.066
zh在本地在Codex完成了整个过程
24:42.266–24:44.900
zh再加上我本地的知识库obsidian
24:44.966–24:48.066
zh那我的蒸馏过程就能够把
24:48.066–24:50.766
zh我的整体能力去加强放大
24:50.833–24:53.200
zh而这里只是其中的一个环节
24:53.300–24:56.000
zh我还可以拓展到我的封面和标题
24:56.100–24:57.466
zh之前我可能要不停的跟
24:57.500–24:58.933
zh他讲我需要什么风格
24:59.000–25:02.100
zh那形成一定的能力沉淀之后
25:02.200–25:04.533
zh他可以很快的通过一轮
25:04.566–25:07.266
zh对话就完成我想要的封面
25:07.300–25:09.033
zh在这里的蒸馏示范里面呢
25:09.033–25:10.700
zh我就选择了3期节目
25:10.700–25:13.300
zh我告诉他具体的节目内容和索引
25:13.433–25:15.966
zh因为这三期节目我是在整个的
25:15.966–25:18.833
zh对话框中给了他明确的调整链
25:18.833–25:20.900
zh它是有明确的我的调整
25:20.900–25:23.466
zh和AI输出的前后对比的
25:23.466–25:24.500
zh基于这个样本
25:24.500–25:26.733
zh它给我做了第一轮的蒸馏
25:26.766–25:28.566
zh你看已经完成了
25:28.700–25:30.333
zh它这里是蒸馏的结果
25:30.400–25:30.900
zh这里呢
25:30.933–25:34.233
zh它会有明确的修改链和蒸馏发现
25:34.266–25:36.700
zh它会识别我改了哪些
25:36.733–25:37.566
zh然后在这里啊
25:37.566–25:40.666
zh它是帮我直接沉淀了一个方法包
25:40.733–25:43.366
zh那这个方法包是可以复用的
25:43.633–25:46.733
zh相当于他把我的工作能力习惯
25:46.800–25:50.233
zh判断这些有价值的东西抽象出来了
25:50.233–25:51.333
zh你想想是不是
25:51.366–25:54.466
zh这个事情在公司里面的员工的操作
25:54.466–25:55.800
zh其实也是这个逻辑
25:55.933–25:58.000
zh这个员工他要审核pass
25:58.433–25:59.400
zh或者不通过
25:59.433–26:01.933
zh那他判断的依据标准是什么
26:02.033–26:05.766
zh就可以通过这样的方式蒸馏出来
26:05.866–26:08.200
zh他为什么这么判断
26:08.233–26:10.400
zh而蒸馏出来的其实
26:10.400–26:13.233
zh就是人的能力和智慧
26:13.266–26:14.966
zh我们再往前思考一步啊
26:15.066–26:19.133
zh我们还可以做垂直专业领域的蒸馏
26:19.166–26:20.733
zh而且越是垂直
26:20.966–26:22.733
zh越是专业的领域啊
26:22.833–26:25.233
zh小模型对大模型的蒸馏
26:25.233–26:27.600
zh的替代的表现就会越好
26:27.866–26:28.366
zh举个例子啊
26:28.400–26:30.100
zh假如你有一家咨询公司
26:30.300–26:31.333
zh你这个公司呢
26:31.366–26:34.033
zh本身就有很多的典型任务
26:34.133–26:36.300
zh再加上比如说10年的文档
26:36.500–26:38.333
zh再加上专家的经验
26:38.433–26:39.766
zh这个时候你可以做什么呢
26:39.833–26:41.533
zh你就可以把你的企业
26:41.533–26:43.066
zh的历史数据拿出来
26:43.300–26:46.066
zh再加上Claude它的前沿的能力
26:46.266–26:48.200
zh让Claude加上企业数据
26:48.200–26:50.433
zh去完成200个任务
26:50.433–26:53.166
zh这200个任务最好是有代表性的
26:53.200–26:55.200
zh能够覆盖这个垂直
26:55.233–26:56.666
zh领域的大部分内容
26:56.666–26:57.833
zhClaude完成之后呢
26:57.833–27:00.066
zh它就会形成一个答案和回复
27:00.066–27:02.566
zh然后呢在这个咨询公司里会有专家
27:02.666–27:04.733
zh就让这些专家基于克劳德答案进行纠偏
27:04.766–27:06.933
zh克劳德答案进行纠偏
27:06.933–27:08.866
zh而这些专家的纠偏
27:09.000–27:11.433
zh就是非常有价值的输入
27:11.800–27:14.833
zhClaude就可以根据这些内容去总结
27:14.933–27:16.500
zh什么情况下应该这样做
27:16.533–27:18.300
zh什么情况下不能这么做
27:18.433–27:19.233
zh什么是对的
27:19.266–27:20.066
zh什么是错的
27:20.066–27:21.766
zh什么是优秀答案
27:21.766–27:23.300
zh什么是理想答案
27:23.366–27:24.800
zh然后在这个领域
27:24.866–27:26.400
zh你就形成了你的
27:26.400–27:28.766
zh一个比较黄金的data set
27:28.900–27:30.433
zh形成了一个数据集
27:30.700–27:31.733
zh形成了知识库
27:31.766–27:33.966
zh然后你就可以用国产模型小
27:34.000–27:36.566
zh模型或者一些agent来跑了
27:36.633–27:38.633
zh这个也是一种非常
27:38.633–27:40.333
zh深度的新型的蒸馏
27:40.366–27:42.200
zh就是你蒸馏的不纯粹
27:42.200–27:44.533
zh的是Claude本身的能力
27:44.600–27:45.966
zh你蒸馏的是
27:46.266–27:48.566
zh企业数据加上Claude能力
27:48.600–27:51.400
zh再加上人类的专家判断
27:51.400–27:54.000
zh三者融合之后的能力
27:54.100–27:56.333
zh而这个价值本身
27:56.433–28:00.100
zh它比Claude直接蒸馏的意义是更大的
28:00.233–28:03.233
zh它是在垂直领域非常专业的
28:03.266–28:04.200
zh像这些应用啊
28:04.200–28:06.233
zh就可以用到很多具体的领域
28:06.433–28:09.600
zh包括写作设计法律咨询
28:09.600–28:12.400
zh企业等等内部的专业领域
28:12.400–28:13.433
zh其实在这个领域啊
28:13.433–28:15.266
zh会有非常多的现实案例
28:15.266–28:17.400
zh可以实现这样的智能蒸馏
28:17.433–28:19.800
zh我给大家讲两个具体的场景
28:19.800–28:21.066
zh相信对大家有启发
28:21.066–28:22.966
zh你会知道怎么去做蒸馏
28:23.000–28:24.700
zh怎么去提升自己的生产力
28:24.866–28:25.766
zh第一个场景
28:25.800–28:27.600
zh是一个设计师的场景
28:27.733–28:30.600
zh怎么让AI蒸馏出这个
28:30.600–28:32.566
zh设计师的审美和洞察
28:32.733–28:33.900
zh那首先呢
28:33.933–28:38.100
zh我给这个AI100张这个设计师经手的
28:38.100–28:40.866
zh确认的认可的100张设计图
28:41.033–28:44.366
zh然后让AI来蒸馏这些图
28:44.366–28:47.166
zh的生成的逻辑和方式
28:47.300–28:48.700
zh他们做的好的地方
28:48.733–28:50.300
zh为什么要这样做等等
28:50.333–28:51.433
zh蒸馏完成之后
28:51.600–28:53.600
zh然后按照这个逻辑
28:53.800–28:55.933
zh来生成一系列的图
28:56.133–28:57.766
zh然后把生成好的图
28:57.900–28:59.866
zh再丢给这个设计师
29:00.000–29:02.300
zh让设计师来挑选确认
29:02.400–29:03.933
zh并且最好是标注一下
29:04.066–29:05.366
zh为什么这张图ok
29:05.366–29:06.733
zh为什么这张图不行
29:06.766–29:09.766
zh那人确认的这个挑选结果
29:09.800–29:14.566
zh的反馈本身就是一种蒸馏对不对
29:14.600–29:17.433
zh然后AI继续优化逻辑
29:17.533–29:19.500
zh继续生成新的图
29:19.633–29:22.566
zh然后这个逻辑又不断的上升了
29:22.633–29:25.766
zh它生图的整个的逻辑又升级了
29:25.800–29:27.666
zh又不断的有人反馈
29:27.666–29:29.166
zh那这个人的反馈
29:29.166–29:30.200
zh人的纠偏
29:30.400–29:33.200
zh越到后面会变得越来越少
29:33.200–29:35.600
zh你会发现在这个过程
29:35.833–29:39.966
zh人AI它实际上是在双向蒸馏的
29:39.966–29:41.866
zh有了这样的蒸馏思路之后啊
29:41.966–29:43.433
zh甚至我们都能够基于
29:43.466–29:45.333
zh结果来反向的蒸馏
29:45.500–29:48.266
zh就以大家现在看到的这个文创
29:48.300–29:50.433
zh产品协同的设计方案为例啊
29:50.800–29:54.866
zh这是我给到AI的一个完整的方案
29:54.866–29:56.233
zh我把这个PPT给到它
29:56.466–29:59.533
zh我让它给我反向的抽象
29:59.766–30:03.333
zh蒸馏出这个文创产品方案
30:03.366–30:06.433
zh它形成的生产路径是什么
30:06.800–30:10.733
zh我可以以果为因来反向蒸馏过程
30:10.733–30:13.666
zh是不是就和蒸馏的逆向
30:13.700–30:15.966
zh工程的过程是一样的
30:16.066–30:18.433
zh这里是我蒸馏的初步的结果
30:18.600–30:21.066
zh我实际上是可以继续的迭代去做的
30:21.133–30:23.566
zh然后再加一下一些人的反馈
30:23.600–30:25.100
zh那么以后我就可以
30:25.133–30:26.933
zh通过这样的逆向工程
30:27.000–30:29.100
zh把它蒸馏出来整个的生产过程
30:29.200–30:31.666
zh然后再反向的推回去
30:31.733–30:33.366
zh我可以基于它的推导
30:33.500–30:35.666
zh帮我实际的生成验证
30:35.800–30:38.266
zh然后我再不断的反馈和迭代
30:38.333–30:41.666
zh最后这个整个的方案的生产过程
30:41.733–30:43.966
zh是不是就可以被我推导
30:44.200–30:45.833
zh然后蒸馏出来了
30:45.900–30:48.633
zh再说一个比较实用的现实的场景
30:48.666–30:50.866
zh比如电商公司要做投放
30:51.033–30:53.466
zh你就可以让AI来生成
30:53.466–30:55.133
zh一系列的投放计划
30:55.466–30:57.133
zh然后这个投放计划你可以
30:57.166–30:59.633
zh交给专门的投手去审核
30:59.866–31:01.333
zh这个投手就会判断
31:01.333–31:03.066
zh哪些计划是可行的
31:03.133–31:04.966
zh哪些计划是不可行的
31:05.500–31:06.500
zh对于公司来说
31:06.533–31:08.500
zh你可以要求这些投手
31:08.500–31:11.266
zh标注它可行不可行的原因
31:11.433–31:13.100
zh合理不合理的原因
31:13.133–31:14.200
zh人做出反馈
31:14.233–31:17.000
zh标注好之后再给到AI去
31:17.033–31:19.733
zh调整这些投放计划而且
31:20.066–31:22.933
zh这些AI整合出来的投放计划
31:22.966–31:24.066
zh最后投出去
31:24.200–31:26.633
zh它会有数据反馈的
31:26.633–31:28.933
zh最后投出来的效果好不好
31:29.000–31:31.366
zh人还可以去做评价
31:31.433–31:34.133
zh去说明对应的原因和反馈
31:34.200–31:37.033
zh然后AI就可以根据人的意见
31:37.200–31:40.066
zh以及投放的数据反馈再
31:40.066–31:43.033
zh进一步生成新的投放组合
31:43.266–31:44.400
zh在这个过程中
31:44.700–31:48.100
zh投手的意见相当于是专家的意见
31:48.300–31:50.400
zh是不是就被蒸馏了
31:50.566–31:54.100
zhAI对投放这个事情的理解
31:54.366–31:56.400
zh是不是也被蒸馏了
31:56.433–31:57.533
zh而在这个过程中
31:57.533–32:01.033
zh可以不断的用一些高等级的模型
32:01.133–32:04.600
zh对标准答案的回答进行沉淀
32:04.866–32:07.100
zh告诉哪些是好的答案
32:07.233–32:08.633
zh哪些是坏的答案
32:08.800–32:12.400
zh它的整个的data set就这样沉淀下来了
32:12.433–32:14.200
zh这样就可以不断的
32:14.200–32:16.566
zh无限循环和loop下去
32:16.833–32:19.600
zh实际上这个过程再
32:19.600–32:21.266
zh拓散一下是什么呢
32:21.300–32:23.266
zh很多高级的模型
32:23.466–32:25.666
zh也是这么训练出来的
32:25.666–32:27.200
zh我们再发散一步
32:27.233–32:30.166
zh是不是可以继续做AI来
32:30.200–32:33.533
zh蒸馏AI组织的协作方式
32:33.566–32:36.900
zh在未来agent可能越来越成熟了
32:36.900–32:39.333
zh那么一个很重要的问题可能
32:39.333–32:42.666
zh是怎么把一个优秀的agent的
32:42.666–32:45.033
zh协作方式把它蒸馏出来
32:45.033–32:47.566
zh比如说在一个协作体系里面
32:47.633–32:48.900
zh它有计划的agent
32:49.266–32:50.666
zh有研究的agent
32:50.933–32:52.400
zh有写代码的agent
32:52.666–32:54.433
zh有复盘的agent
32:54.633–32:55.933
zh有做测试的agent
32:56.000–32:57.400
zh还有审阅的agent
32:57.833–33:01.466
zh把整个的团队方式运行10万次
33:01.600–33:04.466
zh然后去发现什么任务它是
33:04.500–33:07.300
zh需要planner计划这个角色的
33:07.333–33:10.566
zh什么时候需要reviewer复盘者介入
33:11.100–33:13.766
zh什么时候应该让贵的模型介入
33:13.900–33:15.300
zh什么时候可以选择
33:15.366–33:17.366
zh性价比的模型就可以了
33:17.400–33:21.066
zh最后蒸馏出来的是一种agent组织
33:21.100–33:24.500
zh协同的一种方式规则和框架
33:24.533–33:26.900
zh再回过头来看我们开始的那句话
33:27.033–33:27.966
zh蒸馏一切
33:28.100–33:29.466
zh是不是挺对的
33:29.566–33:31.200
zh我们可以把蒸馏一切啊
33:31.200–33:32.600
zh分为5个层级
33:32.933–33:36.033
zh整理成一张非常漂亮的图谱
33:36.033–33:38.800
zh这是一条非常优美的演化
33:38.966–33:42.066
zh从蒸馏答案获得大模型的结果
33:42.200–33:45.200
zh再到蒸馏思考获得推理链
33:45.200–33:47.500
zh再接着可以蒸馏行动
33:47.566–33:48.433
zh再深入一点
33:48.433–33:51.766
zh我们可以蒸馏垂直的工作方法
33:51.766–33:52.633
zh形成skill
33:52.933–33:54.366
zh形成skill、SOP、prompt、memory
33:54.466–33:55.166
zh进一步的
33:55.200–33:56.400
zh我们对对象
33:56.433–33:59.333
zh对人和组织进行蒸馏
33:59.533–34:01.500
zh形成我们的agent system
34:01.566–34:02.633
zh蒸馏的本质
34:02.633–34:06.100
zh实际上是把一次昂贵的智能过程
34:06.200–34:09.600
zh变成下一次相对廉价可以复用的
34:09.633–34:10.766
zh能力所以啊
34:10.800–34:13.800
zh我们万事万物皆可蒸馏
34:13.833–34:15.533
zhClaude的智能可以蒸馏
34:15.766–34:19.133
zhCodex的computer use的执行过程可以蒸馏
34:19.166–34:21.966
zh一个顶级的专家的认知可以蒸馏
34:22.033–34:24.633
zh一套组织能力可以蒸馏
34:24.633–34:27.733
zh我觉得这才是蒸馏让普通人
34:27.733–34:30.600
zh能够产生无限想象力的地方
34:30.700–34:32.100
zh蒸馏你搞懂了吗
34:32.266–34:34.066
zh还有哪些概念或者训练
34:34.066–34:36.133
zh方法你希望去深入的了解
34:36.233–34:37.466
zh希望跟我探讨的
34:37.466–34:39.433
zh欢迎在评论区跟我留言
34:39.466–34:42.100
zh如果觉得我的这个视频有趣有料
34:42.166–34:43.033
zh喜欢我的视频
34:43.066–34:44.733
zh也欢迎订阅我的频道
34:44.833–34:45.933
zh灵姐说AI
34:45.933–34:47.100
zh打开你的小铃铛
34:47.133–34:49.400
zh我们下期节目再见啦拜拜
0:00.100–0:02.233
大家好欢迎来到灵姐说AI
0:02.533–0:03.400
这期视频啊
0:03.400–0:04.600
给大家介绍一个
0:04.633–0:06.200
大家可能比较熟悉
0:06.200–0:07.200
听得很多
0:07.300–0:09.733
但是未必深刻理解
0:09.733–0:11.866
知道怎么去应用的一个
0:11.866–0:14.733
模型的训练方法以及概念：蒸馏
0:14.766–0:16.466
我希望通过这期视频
0:16.533–0:20.166
你能够真正的理解蒸馏的本质
0:20.433–0:21.600
它有哪些类型
0:21.633–0:23.666
并且如何应用在我们
0:23.700–0:26.200
实际的生产力的场景中
0:26.233–0:29.700
我们先从最近闹得沸沸扬扬的
0:29.766–0:32.933
Anthropic发布的蒸馏报告说起啊
0:33.000–0:35.633
这个报告他们发布在9月10号
0:35.633–0:40.266
他声称7家中国的AI大模型的实验室
0:40.666–0:41.533
这些公司啊
0:41.566–0:44.100
对他们进行了深度的蒸馏
0:44.333–0:46.500
实际上Anthropic这家公司啊
0:46.566–0:48.800
对于蒸馏这个事情非常的重视
0:48.833–0:49.933
也非常的紧张
0:50.066–0:51.733
他们在2月份的时候就
0:51.766–0:53.200
披露了相关的数据
0:53.233–0:55.500
当时他们专门点名了
0:55.533–0:57.733
三家中国的AI模型公司
0:57.900–1:00.266
Deepseek、月之暗面、Minimax
1:00.500–1:04.533
进行了1,600多万次的交互蒸馏
1:04.666–1:07.266
这一次涉及的公司更多
1:07.400–1:09.200
覆盖的账户更多
1:09.233–1:11.433
涉及的交互次数更多
1:11.433–1:13.033
而且非常的深度
1:13.200–1:15.566
都是工业化级别的蒸馏
1:15.833–1:17.333
其中最其中最夸张的
1:17.333–1:18.333
规模最大的
1:18.333–1:20.266
大家猜猜是哪家公司
1:20.466–1:22.166
是阿里千问
1:22.166–1:24.066
根据Anthropic的报告说啊
1:24.066–1:26.733
在26年的5-7月之间
1:26.866–1:30.066
他观察到了阿里千问超过
1:30.066–1:34.233
1.51亿次的Claude的数据交换和蒸馏
1:34.600–1:35.433
也就是说
1:35.433–1:38.833
它的峰值每天达到了300万次
1:38.866–1:40.766
其余的几家公司包括了
1:40.766–1:44.333
月之暗面、Deepseek、智谱、小米、商汤和Minimax
1:44.366–1:45.000
Minimax
1:45.033–1:46.566
而且这一次Anthropic的
1:46.566–1:48.233
蒸馏报告特别指出啊
1:48.366–1:51.400
这些中国的AI实验室不是简单的说
1:51.433–1:54.433
拿Claude的回答做训练数据那么简单
1:54.633–1:57.666
他们是建立了工业化的流水线
1:57.966–2:00.166
去大规模的获取claude
2:00.233–2:01.833
模型的推理轨迹
2:02.100–2:02.966
agent能力
2:03.033–2:03.866
编程能力
2:03.900–2:07.366
数据分析能力和长程任务的能力
2:07.366–2:09.566
再把这些能力蒸馏
2:09.566–2:11.266
进自己的模型里面
2:11.266–2:13.033
因为这些AI实验室啊
2:13.033–2:14.600
他们要的不仅是答案
2:14.800–2:16.966
更想要整个的推理过程
2:17.033–2:17.966
而Claude方面
2:17.966–2:19.800
它在模型的构建过程中
2:19.900–2:23.300
它会刻意的去隐藏这些COT的推理链
2:23.333–2:25.133
所以这个攻防的过程啊
2:25.133–2:26.633
也变得特别有意思
2:26.633–2:29.733
根据Anthropic描述他们的攻击方式啊
2:29.733–2:30.800
我觉得也很有意思
2:30.800–2:33.400
其实也非常具有参考价值
2:33.400–2:34.700
这些模型公司啊
2:34.733–2:37.166
他们想尽办法把Claude
2:37.300–2:39.366
隐藏的这个reasoning trace
2:39.500–2:41.733
这个推理的过程给挖出来
2:41.766–2:43.366
比如说有人就会把这个
2:43.366–2:46.500
会话伪装成一个debug的过程
2:46.633–2:48.100
让它交出推理链
2:48.100–2:51.200
或者说有人尝试说让Claude把
2:51.200–2:53.433
之前他做的这个working memory
2:53.500–2:54.666
提一个任务说
2:54.666–2:56.633
你把这个内容翻译成
2:56.633–2:59.066
只包含片假名的日语
2:59.400–3:02.566
诱骗它把这个推理过程交出来
3:02.633–3:04.066
而且更夸张的是啊
3:04.066–3:05.700
有的AI实验室
3:06.033–3:09.433
它直接用了1.2万种不同
3:09.466–3:11.633
的请求方式去实验
3:11.900–3:13.900
怎么把它的隐藏的
3:13.900–3:16.066
推理过程给套路出来
3:16.066–3:17.833
它的目的就是测试
3:17.966–3:19.966
看看哪一种提示词
3:20.166–3:21.333
哪一种路径
3:21.333–3:22.766
能够把能够把Claude的
3:22.800–3:24.366
推理路径给套出来
3:24.533–3:26.066
有可能大部分的
3:26.100–3:28.433
提示词方式都可能失败
3:28.466–3:30.733
但是只要有几种成功了
3:30.766–3:34.033
就可以用工业化的方式把它放大
3:34.100–3:36.400
作为蒸馏的一种有效的路径
3:36.433–3:37.433
所以这实际上是
3:37.433–3:39.333
一个很有意思的攻防
3:39.633–3:40.600
模型厂商呢
3:40.633–3:42.800
他说我不给你原始的COT
3:42.866–3:44.766
我只给你总结的thinking
3:44.800–3:47.166
但蒸馏方就一直在研究
3:47.433–3:49.933
怎么通过上下文翻译
3:50.100–3:51.833
Replay的方式等等
3:51.900–3:54.733
把这个推理的过程给恢复过来
3:54.766–3:57.133
然后再把这个reasoning推理
3:57.166–3:59.366
的过程变成训练数据
3:59.466–4:02.033
你看看这有不有一点像AI
4:02.066–4:04.733
时代的能力逆向工程
4:04.766–4:05.200
实际上啊
4:05.200–4:07.633
这个报告本身披露出了
4:07.633–4:11.633
非常多类似这些AI模型公司
4:11.666–4:13.133
他们蒸馏的方式啊
4:13.200–4:15.000
而这些蒸馏的类型啊
4:15.033–4:17.733
我会给大家在后面去给做总结
4:18.100–4:20.033
并且啊总结出的方式我们
4:20.033–4:21.400
可以进一步的拓展
4:21.533–4:24.433
把它用于我们日常的生产力环节
4:24.466–4:25.600
好准备好了吗
4:25.766–4:27.166
接下来我就带着大家
4:27.233–4:29.233
全面的去理解蒸馏
4:29.600–4:31.766
蒸馏啊不要把它仅仅的理解为
4:31.800–4:33.700
一种模型训练的技术
4:33.833–4:35.966
我认为蒸馏的本质是
4:36.000–4:38.700
一次昂贵的智能过程
4:38.733–4:41.266
它实际上是在压缩成下一次更便宜、更快、更稳定
4:41.266–4:44.533
一次更便宜更快更稳定
4:44.700–4:47.600
甚至不需要还原老师的
4:47.600–4:49.333
能力的这么一个过程
4:49.366–4:50.900
Anthropic它给我们看的
4:50.900–4:53.000
实际上是蒸馏中的一种
4:53.100–4:55.700
就是模型蒸馏模型
4:55.833–4:57.900
所以我会先跟大家去讲这个
4:57.933–5:00.733
模型蒸馏模型有哪些过程
5:00.733–5:01.733
有哪些类型
5:02.100–5:04.800
而沿着这个定义往外推
5:04.833–5:06.900
我们可以看到更多的东西
5:07.133–5:09.133
除了模型蒸馏模型之外
5:09.266–5:11.400
模型还可以蒸馏用户
5:11.600–5:13.933
产品也能够蒸馏模型
5:14.100–5:15.900
agent能蒸馏工作流
5:16.033–5:18.166
企业能蒸馏员工
5:18.300–5:21.766
甚至是人用AI来蒸馏自己
5:21.833–5:24.833
而这些就是我们广阔的应用场景
5:24.866–5:27.600
回到Anthropic这个报告来看啊
5:27.800–5:29.833
它里面讲了非常多的细节
5:29.866–5:31.166
是有助于我们去
5:31.166–5:33.600
理解模型是怎么蒸馏
5:33.666–5:35.466
传统的我们对蒸馏的理解
5:35.500–5:37.500
实际上是特别简单直接的
5:37.533–5:41.800
就是教师模型根据输入给出输出
5:42.000–5:44.766
然后学生模型学习
5:44.833–5:46.966
整个的信息交换的过程
5:47.033–5:49.000
学习这些exchange的过程
5:49.033–5:50.566
但是大家注意到这里面的
5:50.600–5:53.233
环节会涉及到inputs和OUTPUTS
5:53.233–5:54.333
在这个报告里面
5:54.366–5:58.300
它实际上把这个inputs和outputs怎么来
5:58.400–6:02.133
做了非常详细的解析和案例的披露
6:02.133–6:05.233
也就是这些中国的AI实验室
6:05.266–6:06.366
他们是怎么干的
6:06.533–6:07.200
这些东西啊
6:07.233–6:08.233
非常的有启发
6:08.366–6:10.000
可以分为7个类型
6:10.000–6:10.866
我总结下来
6:10.866–6:12.400
一个个跟大家去讲
6:12.466–6:14.133
第一种类型啊最传统
6:14.166–6:16.566
我总结为叫出题蒸馏
6:16.766–6:18.900
也可以叫做答案蒸馏吧
6:18.966–6:20.933
就是学生给老师出题
6:20.933–6:22.266
让老师回答
6:22.266–6:24.466
形成一个高质量的答案
6:24.800–6:26.633
你可以准备一个任务集
6:26.800–6:27.833
这个任务集呢
6:27.833–6:30.966
可以是coding数学agent数据分析
6:31.000–6:32.933
或者长程任务等等都可以
6:33.000–6:35.033
然后把这个问题给到Claude
6:35.133–6:36.500
让Claude来回答
6:36.533–6:39.400
形成高质量的答案或者推理
6:39.700–6:41.433
然后把这个答案抄下来
6:41.433–6:43.533
放进你的data set里面
6:43.566–6:46.400
接着通过SFT监督微调
6:46.400–6:49.400
或者是通过RL强化学习
6:49.433–6:51.200
来训练自己的模型
6:51.300–6:52.566
在这个报告里面啊
6:52.700–6:55.800
Anthropic声称阿里千问的蒸馏
6:55.800–6:58.066
模式就是最典型的例子
6:58.533–7:02.600
它主要是针对Opus 4.6和4.7的推理轨迹
7:02.833–7:05.733
它的整个的蒸馏任务是集中在agent
7:05.933–7:06.966
软件工程
7:07.033–7:09.266
还有一些长程任务上面
7:09.466–7:11.166
并且它把整个的
7:11.166–7:14.500
Transcript转成了SFT的数据
7:14.533–7:17.766
这种呢就是考试考卷式的蒸馏
7:17.866–7:19.533
这是最传统的蒸馏
7:19.533–7:21.033
也是最容易理解的
7:21.033–7:22.566
老师做1万道题
7:22.600–7:26.033
学生直接拿老师给的答案进行训练
7:26.066–7:28.700
第二种类型我总结为推理蒸馏
7:28.766–7:30.800
就是学生不仅是要答案
7:30.933–7:33.000
还要老师的解题过程
7:33.033–7:34.866
这个答案确实有价值
7:34.866–7:37.033
但是更值钱的是教师
7:37.033–7:38.733
模型它是怎么拆解问题
7:38.766–7:39.600
怎么判断
7:39.733–7:40.600
怎么试错
7:40.600–7:42.133
调用工具验证
7:42.233–7:44.233
得出最终答案的过程
7:44.266–7:45.200
要知其然
7:45.266–7:47.100
更要知其所以然
7:47.400–7:50.066
实际上它不仅是要老师授之以鱼
7:50.233–7:51.900
更要授之以渔
7:52.166–7:54.033
这个方式也是anthropic
7:54.066–7:56.133
这次最在意的一种方式
7:56.300–7:57.433
刚刚我提到了
7:57.633–7:59.300
这些攻击者测试啊
7:59.366–8:01.966
里面花了1.2万种方式
8:01.966–8:02.866
通过翻译
8:03.066–8:05.300
debug replay等等方式
8:05.366–8:09.333
试图去恢复Claude模型的推理
8:09.333–8:11.466
的过程和找到其中的线索
8:11.500–8:13.866
以后啊这个COT推理的过程会
8:13.866–8:15.900
被藏的越来越深
8:15.933–8:17.266
那么蒸馏怎么办呢
8:17.266–8:20.033
其实就是不断的攻防攻防
8:20.066–8:21.033
互相套路
8:21.066–8:22.900
越狱嘛反正是一直去试
8:23.066–8:25.500
而这些前沿模型也会越来越不
8:25.533–8:28.466
愿意把原始的这个COT的链路啊
8:28.600–8:29.266
公布出来
8:29.300–8:30.000
展示出来
8:30.066–8:32.500
以后可能会有一个很火的角色
8:32.500–8:34.800
比如说像AI狱警这样
8:34.866–8:37.466
第三个类型我总结为Judge蒸馏
8:37.666–8:39.800
也就是让前沿模型
8:39.800–8:41.500
让老师来当评委
8:41.666–8:43.600
比如说你让一个普通模型
8:43.600–8:44.866
比如说国产模型
8:45.066–8:49.000
让它对一个问题生成a b c d四个答案
8:49.033–8:49.666
这个时候啊
8:49.666–8:51.333
你可以不用前沿模型来
8:51.333–8:54.033
生成一个优质或者标准答案
8:54.166–8:57.333
而是让这个前沿模型Claude
8:57.766–9:01.633
来对这四个模型的答案进行打分
9:01.833–9:03.366
他来评分 1-10分
9:03.400–9:04.200
他打几分
9:04.366–9:05.700
哪个答案好
9:05.766–9:06.866
哪个答案不好
9:07.000–9:07.766
为什么好
9:07.766–9:08.766
为什么答错
9:08.800–9:10.400
让他给出评价
9:10.433–9:12.366
这时候链路就变成了什么
9:12.566–9:14.333
普通模型生成答案
9:14.466–9:17.366
然后Claude作为评委进行评分
9:17.533–9:20.133
然后对所有的答案进行排序
9:20.533–9:23.100
接着可以进行强化学习
9:23.300–9:25.200
然后进行模型训练
9:25.200–9:27.333
让普通的模型变强
9:27.433–9:30.100
这个在Anthropic的这个报告里面
9:30.133–9:31.800
关于智谱的这个描述
9:31.833–9:33.600
和归因部分也有体现
9:33.866–9:36.000
智谱呢就用这个Claude的模型
9:36.066–9:38.933
让它生成一些评委评分
9:38.933–9:41.333
的一些结果的一个标准
9:41.600–9:42.733
然后还用它来做
9:42.766–9:44.666
一些数据清洗的角色
9:44.666–9:46.833
并且让它提供一些解决方案
9:46.933–9:48.533
这个时候就不是纯粹的
9:48.566–9:50.566
给答案对比这件事情了
9:50.700–9:53.800
它让这个前沿模型在它的整个
9:53.833–9:56.833
模型训练中扮演了更多的角色
9:56.866–9:58.466
这个前沿的模型不仅
9:58.466–10:00.800
是当老师给解题过程
10:00.833–10:03.166
而是它也可以是出题的老师
10:03.333–10:06.066
也可以是阅卷评分的老师
10:06.300–10:08.900
它还可以是数据的清洗员
10:09.000–10:11.300
还可以是安全的检查员
10:11.333–10:13.333
还可以是最后的强化
10:13.333–10:14.900
学习的这个评估员
10:14.933–10:16.566
如果是经常看我节目
10:16.566–10:18.266
的老的粉丝和观众
10:18.266–10:20.266
一定感受到我平时在
10:20.300–10:22.100
节目中经常用这个方法
10:22.266–10:23.933
比如说我经常用多个
10:23.966–10:26.633
模型来处理同一个任务
10:26.933–10:28.900
然后我再用一个前沿模型
10:28.933–10:31.633
比如说用GPT的Codex来对
10:31.633–10:33.533
这些结果进行评分
10:33.600–10:35.966
然后评价这几个模型
10:35.966–10:37.666
的能力和最后的答案
10:37.833–10:39.900
然后给出我的评测结论
10:40.133–10:43.266
这本质上不就是使用judge的方式
10:43.366–10:45.366
让这个前沿模型扮演
10:45.366–10:47.266
一个评委的角色吗
10:47.300–10:49.566
你看看从蒸馏的角度来
10:49.566–10:52.433
理解我节目中的评测的方法
10:52.500–10:54.266
是不是又升维了
10:54.300–10:55.633
第四种蒸馏方式啊
10:55.633–10:58.166
第四种蒸馏方式啊我总结叫做Replay蒸馏
10:58.466–10:59.100
什么意思
10:59.100–11:01.166
就是不用自己出题
11:01.333–11:04.000
直接拿真实用户的问题
11:04.200–11:07.100
重新让老师再做一遍
11:07.133–11:08.466
你知道玩这个路子的
11:08.466–11:10.033
是哪家模型公司吗
11:10.233–11:13.766
是小米的模型MIMO他们家玩的
11:14.033–11:15.166
就是假设啊
11:15.400–11:17.833
他们家公司已经有100万的
11:17.866–11:20.466
真实开发者的这个conversation
11:20.666–11:21.366
这个对话
11:21.666–11:24.633
这个实际上是非常宝贵的数据啊
11:24.666–11:27.266
大家不要觉得自己很多
11:27.266–11:29.133
地方可以免费用一些模型啊
11:29.133–11:32.566
实际上都是这些模型公司的养料
11:32.866–11:35.300
这里面会包含一些真的bug
11:35.566–11:37.466
真的项目真的IDE
11:37.466–11:38.333
真的文件
11:38.466–11:39.900
真的用户意图
11:40.066–11:41.766
真的失败案例
11:41.800–11:43.800
原来在小米的模型里面
11:43.900–11:45.666
它就会有原始的用户
11:45.666–11:48.100
任务和小米给出的答案
11:48.200–11:50.000
那么重新Replay一遍呢
11:50.000–11:52.733
就是把同一个任务给到Claude
11:52.966–11:55.166
然后再获得Claude的答案
11:55.200–11:56.966
然后就立刻得到了什么呢
11:57.066–11:58.266
首先是一个task
11:58.700–12:00.066
用户的真实任务
12:00.066–12:01.433
然后是student
12:01.800–12:02.766
MIMO的答案
12:02.933–12:04.033
然后是teacher
12:04.200–12:05.066
Claude的答案
12:05.166–12:06.533
接下来就可以干什么
12:06.600–12:07.666
就可以比较
12:07.733–12:08.400
可以judge
12:08.600–12:09.500
可以回写
12:09.900–12:12.633
可以SFT可以RL了
12:12.666–12:14.233
小米把自己代码相关
12:14.233–12:16.633
的coding session给到claude
12:16.733–12:19.066
然后呢Claude还可以被用于
12:19.066–12:21.333
重构它的开发环境
12:21.333–12:22.533
再清洗对话
12:22.566–12:24.666
然后再生成回答
12:24.733–12:27.200
再生成响应评价的答案
12:27.200–12:30.866
这可比人工去造Benchmark厉害多了
12:30.966–12:32.400
经常我给大家演示的
12:32.400–12:33.533
考虑到隐私啊
12:33.566–12:35.566
我都是造的这些数据
12:35.666–12:39.066
而这些数据都是用户的真实意图
12:39.400–12:42.966
而用户本身就会成为源源不断
12:42.966–12:46.033
的Benchmark的生产者和生成者
12:46.066–12:47.900
第五种蒸馏方式啊我不说
12:47.900–12:50.200
可能很多人还蒙在鼓里
12:50.433–12:52.200
我叫做shadow teacher
12:52.400–12:53.633
影子老师
12:53.633–12:56.233
这是一个水加茅台的故事
12:56.333–12:57.000
怎么说呢
12:57.066–12:59.100
就是本来你只是要了一杯水
12:59.133–13:00.666
你花了一杯水的钱
13:00.766–13:03.466
结果这个水里面掺了茅台
13:03.633–13:04.533
怎么理解啊
13:04.700–13:08.900
就是用户以为自己用的是学生模型
13:08.933–13:09.600
结果
13:10.000–13:13.266
后台偷偷的让老师回答
13:13.266–13:15.133
然后用户被告知的
13:15.133–13:17.100
是学生模型的回答
13:17.333–13:19.500
有不有毁你之前的认知
13:19.533–13:20.900
就是你给他一个问题
13:21.066–13:22.900
然后后台呢判断
13:23.033–13:25.600
诶这个问题非常有价值啊
13:25.633–13:27.166
这条数据很值钱啊
13:27.433–13:28.100
然后呢
13:28.200–13:32.566
他就把这个问题的请求转给了Claude
13:32.733–13:34.166
让Claude来回答
13:34.333–13:37.533
然后把Claude的答案推送给用户
13:37.566–13:38.333
与此同时
13:38.333–13:40.600
他在后台把这个提示词
13:40.833–13:42.600
加上Claude的回答
13:42.733–13:44.566
加上他的推理过程
13:44.600–13:48.433
全部都被写入了他的训练的数据集
13:48.466–13:50.366
根据Anthropic的报告啊
13:50.633–13:53.800
月之暗面和Deepseek都在这样干
13:53.800–13:55.033
那怎么发现的呢
13:55.066–13:58.500
因为Claude它在清洗的时候发现
13:58.566–14:01.633
这里面出现了非常多涉及
14:01.666–14:04.766
企业和涉及一些特殊行业
14:04.800–14:07.566
领域的一些机密的数据
14:07.700–14:10.300
出现在了模型的对话里面
14:10.466–14:12.733
而这些模型的对话本不
14:12.766–14:16.300
应该出现在海外模型里面的
14:16.333–14:17.933
这里面就有两个问题
14:17.966–14:20.400
本来你花了一个更便宜的钱
14:20.533–14:22.766
却买到了一个更贵的服务
14:22.966–14:24.100
另外一方面呢
14:24.100–14:27.133
就是本来你觉得你用的是国产模型
14:27.166–14:29.366
不涉及到一些安全性的问题
14:29.700–14:33.366
结果模型悄悄地转包到了海外模型
14:33.533–14:36.466
把你的一些企业内部的信息
14:36.833–14:39.400
泄露到了不应该泄露的地方
14:39.633–14:42.100
涉及到信息安全的问题了
14:42.133–14:43.066
但是要知道啊
14:43.100–14:45.866
这样的方式本身对国产
14:45.900–14:48.666
模型的训练是非常有帮助的
14:48.900–14:51.333
因为很多这样的问题
14:51.533–14:53.200
它是在特定的
14:53.233–14:56.533
比如说一个国产的IDE里面去产生的
14:56.633–14:59.466
它本来是它原始的Harness的架构
14:59.533–15:01.066
那在这个Harness里面
15:01.100–15:03.400
它本身是自带任务
15:03.433–15:04.500
还带上下文
15:04.500–15:05.366
又带文件
15:05.400–15:06.233
带工具调用
15:06.233–15:07.800
还带模型的尝试
15:08.066–15:09.866
带错误带用户反馈
15:09.966–15:13.266
然后现在再返回一个最终的结果
15:13.600–15:16.266
它的信息密度是非常高的
15:16.300–15:18.666
比单纯的那种聊天记录
15:18.666–15:20.533
的信息密度高非常多
15:20.633–15:22.833
所以通过这样的方式转包
15:22.833–15:25.066
获得了前沿模型的回答
15:25.100–15:26.633
然后作为训练集
15:26.733–15:30.266
对于模型的成长是非常有帮助的
15:30.300–15:33.033
所以你也会感知到为什么几家
15:33.033–15:36.133
大的公司都在拼命推他们的IDE
15:36.300–15:37.566
推他们的agent
15:37.566–15:38.700
第六种蒸馏方式啊
15:38.733–15:40.900
第六种蒸馏方式啊我叫做中转站蒸馏
15:41.266–15:42.866
哎很多人没听错啊
15:42.933–15:45.466
你是不是经常发现很多中转站
15:45.700–15:48.566
它使用一些前沿模型的价格
15:48.633–15:51.933
比你直接到官方那里使用要便宜
15:52.200–15:52.866
为什么
15:53.066–15:55.400
这个商业逻辑想清楚了没有啊
15:55.433–15:57.333
他赚的可能根本不是
15:57.333–15:59.500
什么TOKEN间的差价
15:59.766–16:02.566
而是这个数据的产业链
16:02.933–16:05.366
他最后啊会把这个对话的
16:05.366–16:09.133
过程直接卖给其他的AI实验室
16:09.466–16:12.100
就是自己不用产生数据
16:12.333–16:14.166
直接去中转站把
16:14.166–16:16.266
上下文把数据买过来
16:16.366–16:18.366
买别人的Claude对话
16:18.533–16:22.066
把这些对话拿来训练自己的模型
16:22.066–16:23.833
因为在这些中转站上面啊
16:23.833–16:25.633
天然就有提示词
16:25.666–16:27.766
上下文和Claude的回答
16:27.933–16:29.733
如果说你去保存
16:29.900–16:32.800
成千上百的整个的会话过程
16:32.866–16:34.866
那么就会形成非常
16:34.866–16:37.000
有价值的数据资产
16:37.400–16:40.500
甚至你知道的一些中转站
16:40.700–16:44.466
它就是大厂下水自己干的
16:44.466–16:47.333
只不过外面包了一个壳而已
16:47.366–16:48.433
第七种方式啊
16:48.433–16:50.633
第七种方式啊我定义为Pipeline蒸馏
16:50.800–16:53.133
就是数据工厂蒸馏
16:53.200–16:54.033
怎么理解啊
16:54.233–16:56.433
原来呢我们蒸馏的方式是让这个
16:56.466–16:59.066
教师模型教会学生模型
16:59.366–17:00.233
这种方式啊
17:00.233–17:01.033
非常的隐秘
17:01.066–17:02.100
但是很高级
17:02.233–17:06.166
现在他直接让这个教师构建出学校
17:06.433–17:08.200
然后这个学校就可以
17:08.200–17:10.633
源源不断的产生教师
17:10.800–17:13.133
培养更多的学生了
17:13.333–17:16.166
就是让这个老师自己出题
17:16.166–17:17.266
自己回答
17:17.300–17:18.400
自己批改
17:18.466–17:21.633
你已经不需要给一个具体的题库了
17:21.633–17:24.466
你直接给Claude一个具体的领域
17:24.700–17:28.733
让它基于这个领域来进行自我出题
17:29.000–17:30.666
让它出10万道题
17:30.766–17:32.533
然后自己来回答
17:32.633–17:35.233
让学生模型来完成整个任务
17:35.433–17:38.000
然后Claude继续对这个任务的
17:38.033–17:40.833
结果进行批改审阅评分
17:40.833–17:42.200
然后可以纠错
17:42.233–17:44.933
筛选出优质的回答和过程
17:45.200–17:48.466
通过SFT和RL进行训练
17:48.500–17:49.266
这个时候
17:49.366–17:52.133
前沿的模型的角色不仅是老师
17:52.366–17:53.866
他是整个学校
17:54.033–17:55.366
出题老师是他
17:55.433–17:56.633
任课老师是他
17:56.866–17:58.233
批卷老师是他
17:58.433–18:00.133
教研组组长是他
18:00.300–18:02.400
教材的编写也是他
18:02.433–18:05.233
他帮你设计的是整个流程
18:05.400–18:07.766
他来构建整个框架
18:07.800–18:10.066
上面我讲的7种蒸馏方式啊
18:10.100–18:11.900
就是我从Anthropic的这个
18:11.933–18:14.566
报告里面抽象总结出来的
18:14.600–18:16.800
模型蒸馏模型的方式啊
18:17.133–18:19.300
从某种意义上面来讲啊
18:19.466–18:23.800
我觉得蒸馏也是AI时代技术
18:23.900–18:27.033
扩散的一种非常重要的方式
18:27.066–18:28.433
以前啊我们训练模型啊
18:28.433–18:30.333
是人类写数据AI学
18:30.366–18:32.666
或者AI生成数据AI学
18:32.833–18:34.833
现在呢通过蒸馏的方式
18:35.033–18:36.366
AI模型之间啊
18:36.366–18:38.866
它们互相学习的程度已经到
18:38.866–18:41.300
了一个非常深的一个程度
18:41.366–18:42.800
在Anthropic的角度啊
18:42.800–18:45.366
他确实觉得应该反对这种蒸馏
18:45.366–18:47.533
而且他会找出各种
18:47.566–18:49.833
方式来对抗这种蒸馏
18:49.833–18:52.133
但是站在模型研究的角度
18:52.400–18:55.666
蒸馏本身又是一种非常正常
18:55.866–18:57.333
非常重要的技术
18:57.366–19:00.900
连Anthropic自己都不得不承认这一点
19:00.900–19:01.900
所以啊这一次
19:01.900–19:05.900
Claude发现自己的智商正在被轻易
19:05.933–19:08.666
的工业化的批量复制的时候
19:08.700–19:10.300
又不禁引起我们反思
19:10.533–19:14.133
AI行业它真正的护城河在哪里
19:14.166–19:16.800
而原来我们在聊天沟通中所
19:16.800–19:19.866
喜欢看到的这个COT的推理链
19:20.166–19:23.166
是不是就从用户的一个体验功能
19:23.333–19:26.000
变成了模型护城河的
19:26.000–19:28.666
核心资产和安全边界了呢
19:28.700–19:29.300
这个问题啊
19:29.300–19:30.300
我觉得很复杂
19:30.300–19:32.166
但是关于蒸馏这个事情啊
19:32.200–19:34.766
我还想再深入拓展一下
19:34.766–19:38.500
我们不要只停留在模型蒸馏模型
19:38.500–19:40.300
实际上它有更大的
19:40.333–19:42.433
应用价值和技术机制
19:42.466–19:43.900
我这里讲一个暴论啊
19:43.933–19:46.433
叫做一切皆可蒸馏
19:46.533–19:49.000
等会我讲完蒸馏的整个拓展
19:49.000–19:51.000
你再回过头来看这句话
19:51.133–19:53.166
你会觉得特别的正确
19:53.200–19:54.966
而且特别的有用
19:55.000–19:56.133
有实用价值
19:56.533–19:58.600
我们先看第一层拓展
19:58.766–20:00.833
叫做用户的蒸馏
20:01.133–20:02.100
你想过没有
20:02.100–20:05.833
我们和AI对话交互的整个过程
20:06.066–20:09.566
实际上就是模型蒸馏人的过程
20:09.933–20:11.600
大家现在用Codex啊额度完全不够
20:11.633–20:12.966
额度完全不够
20:13.033–20:14.433
但是你想过没有
20:14.466–20:18.166
你和GPT的聊天的额度和Codex
20:18.266–20:20.533
执行任务的额度是分开的
20:20.833–20:23.733
而且你使用GPT聊天的这个额度啊
20:23.766–20:26.200
是很少达到上限的
20:26.200–20:28.400
就是他给你的额度非常多
20:28.600–20:32.533
为什么大部分的模型公司都会给你
20:32.533–20:36.300
开放免费的和AI交互的这个额度啊
20:36.433–20:40.733
实际上是这些模型公司在蒸馏你
20:40.766–20:41.600
举个例子啊
20:41.600–20:43.600
你想得到某个答案
20:43.866–20:44.966
解决某个问题
20:44.966–20:47.366
你会跟AI可能对话20轮
20:47.433–20:49.633
最后拿到你想要的结果
20:49.966–20:51.500
在这20轮对话里面
20:51.500–20:52.566
你会做什么呢
20:52.600–20:53.500
你会示范
20:53.633–20:54.866
告诉他什么是对的
20:54.866–20:55.900
给他举例子
20:55.933–20:56.800
你会取舍
20:56.900–20:58.966
告诉他a要b不要
20:58.966–21:00.066
你会纠偏
21:00.100–21:02.100
告诉他这个方向不对
21:02.233–21:03.866
而这个过程
21:04.100–21:06.966
其实你就是给了他非常多的输入
21:07.066–21:09.266
最后得到满意的答案
21:09.433–21:13.633
这些东西都是给到AI模型的语料
21:13.700–21:16.233
而下一次优化训练之后
21:16.366–21:19.566
模型就可以很快的识别你的意图
21:19.700–21:21.233
它不需要你再过20轮
21:21.433–21:23.900
它通过一到两轮的对话
21:23.900–21:26.466
就可以实现满意的答案
21:26.500–21:28.766
这也是为什么顶尖的大模型
21:28.933–21:30.300
用户多的大模型
21:30.333–21:32.800
它会有更好更多的数据集
21:33.133–21:35.566
来提升它本身的模型能力
21:35.800–21:37.833
大家现在用GPT的模型
21:37.933–21:39.466
大家现在用GPT的模型从GPT4到GPT4o
21:39.500–21:41.566
大家是不是有明显的感知
21:41.833–21:43.666
模型越来越聪明
21:43.800–21:47.766
需要的聊天的次数和轮次越来越少
21:47.800–21:50.633
它能越来越知道你的心中所想
21:50.633–21:51.533
怎么出来的
21:51.766–21:54.133
就是通过模型蒸馏人
21:54.133–21:56.700
的过程来逐步实现的
21:56.933–21:59.566
我们以为我们在使用AI实际上
21:59.600–22:02.366
从训练系统的视角来看
22:02.500–22:04.666
人的每一次纠错
22:04.733–22:07.533
实际上都可能成为什么是
22:07.533–22:10.633
最好答案的一个监督信号
22:10.666–22:12.600
既然模型能够蒸馏人
22:12.633–22:14.600
那么我们是不是能进一步拓展
22:14.833–22:18.566
模型公司也能够蒸馏它的员工呢
22:18.566–22:19.566
比如说大厂
22:19.566–22:21.600
像前段时间爆出来Meta
22:21.633–22:23.766
它会记录它所有员工
22:23.766–22:25.833
的键盘的各种操作
22:26.166–22:29.533
来更大范围的炼化员工的能力
22:29.600–22:32.566
去实现对人的能力的蒸馏
22:32.600–22:34.566
这个实际上也是模型
22:34.566–22:36.566
对人蒸馏的一种方式
22:36.666–22:38.200
那我们更进一步
22:38.200–22:40.566
我们可以主动的去实现这个过程
22:40.600–22:43.300
比如说我有大量的节目制作
22:43.333–22:46.033
的过程语料纠偏等等内容
22:46.300–22:47.733
都在我的本机
22:47.800–22:50.533
在我的新版的GPT的对话里面
22:50.600–22:52.000
还有很多本地的材料
22:52.033–22:54.466
还存在我本地的Obsidian里面
22:54.466–22:58.466
那在这个里面我就可以实现让模型
22:58.500–23:02.033
对我的所有的语料过程进行蒸馏
23:02.033–23:04.233
不仅是我这样的自媒体博主
23:04.233–23:06.700
你日常的工作如果都实现了
23:06.700–23:09.900
在线化和颗粒度的对齐和AI
23:09.933–23:11.866
模型的对齐和纠偏的话
23:11.966–23:14.633
你都可以尝试用前沿模型
23:14.633–23:17.100
对你本身进行自我蒸馏
23:17.333–23:20.233
让你的整体的能力再上一个台阶
23:20.266–23:20.833
举个例子啊
23:20.833–23:23.566
大家现在看到的是我Codex的对话框
23:23.833–23:27.233
我正在对我自己的生活和工作场景
23:27.433–23:31.000
特别是我视频制作的过程进行蒸馏
23:31.366–23:33.933
这里面就会涉及到我的选题和脚本
23:34.000–23:35.833
我的封面和标题
23:35.833–23:37.266
客户的方案等等等等
23:37.433–23:39.500
每一个环节都是可以
23:39.533–23:41.166
蒸馏和抽象出来的
23:41.400–23:43.533
就以选题和脚本为例
23:43.600–23:46.033
那么AI会给我输出一个脚本
23:46.033–23:47.766
我会返回给他告诉他
23:47.866–23:49.166
跟他对齐颗粒度
23:49.166–23:50.300
在这个脚本里面
23:50.333–23:51.933
哪些内容我觉得不顺滑
23:52.133–23:53.666
哪些部分你讲得太少
23:53.700–23:56.433
哪些地方你可以加一些金句等等
23:56.700–23:57.966
这个实际上就是我
23:58.000–24:00.066
给他的投喂和纠偏
24:00.100–24:02.833
那他就可以去对比他输出的答案
24:02.900–24:06.300
和我给的一个调整示范的内容
24:06.566–24:07.933
通过这样的方式
24:08.033–24:10.866
原来我可能要聊三四轮四五轮
24:10.966–24:13.933
到后面我可能只需要聊一两轮
24:14.066–24:17.900
就可以完成我的选题和脚本的确认
24:17.933–24:18.900
通过这样的方式
24:18.900–24:21.566
我可以沉淀出来我自己的skill
24:21.800–24:24.600
或者是通过某种工具的调用
24:24.633–24:27.433
去让整个的过程更加的丝滑
24:27.433–24:30.600
这某种程度上也是一种蒸馏
24:30.966–24:32.066
因为这里的蒸馏它
24:32.100–24:33.866
不只限于一期节目
24:34.033–24:35.133
我的100多期
24:35.166–24:36.433
200多期节目
24:36.433–24:38.700
整个的制作过程如果都是
24:38.966–24:42.066
在本地在Codex完成了整个过程
24:42.266–24:44.900
再加上我本地的知识库obsidian
24:44.966–24:48.066
那我的蒸馏过程就能够把
24:48.066–24:50.766
我的整体能力去加强放大
24:50.833–24:53.200
而这里只是其中的一个环节
24:53.300–24:56.000
我还可以拓展到我的封面和标题
24:56.100–24:57.466
之前我可能要不停的跟
24:57.500–24:58.933
他讲我需要什么风格
24:59.000–25:02.100
那形成一定的能力沉淀之后
25:02.200–25:04.533
他可以很快的通过一轮
25:04.566–25:07.266
对话就完成我想要的封面
25:07.300–25:09.033
在这里的蒸馏示范里面呢
25:09.033–25:10.700
我就选择了3期节目
25:10.700–25:13.300
我告诉他具体的节目内容和索引
25:13.433–25:15.966
因为这三期节目我是在整个的
25:15.966–25:18.833
对话框中给了他明确的调整链
25:18.833–25:20.900
它是有明确的我的调整
25:20.900–25:23.466
和AI输出的前后对比的
25:23.466–25:24.500
基于这个样本
25:24.500–25:26.733
它给我做了第一轮的蒸馏
25:26.766–25:28.566
你看已经完成了
25:28.700–25:30.333
它这里是蒸馏的结果
25:30.400–25:30.900
这里呢
25:30.933–25:34.233
它会有明确的修改链和蒸馏发现
25:34.266–25:36.700
它会识别我改了哪些
25:36.733–25:37.566
然后在这里啊
25:37.566–25:40.666
它是帮我直接沉淀了一个方法包
25:40.733–25:43.366
那这个方法包是可以复用的
25:43.633–25:46.733
相当于他把我的工作能力习惯
25:46.800–25:50.233
判断这些有价值的东西抽象出来了
25:50.233–25:51.333
你想想是不是
25:51.366–25:54.466
这个事情在公司里面的员工的操作
25:54.466–25:55.800
其实也是这个逻辑
25:55.933–25:58.000
这个员工他要审核pass
25:58.433–25:59.400
或者不通过
25:59.433–26:01.933
那他判断的依据标准是什么
26:02.033–26:05.766
就可以通过这样的方式蒸馏出来
26:05.866–26:08.200
他为什么这么判断
26:08.233–26:10.400
而蒸馏出来的其实
26:10.400–26:13.233
就是人的能力和智慧
26:13.266–26:14.966
我们再往前思考一步啊
26:15.066–26:19.133
我们还可以做垂直专业领域的蒸馏
26:19.166–26:20.733
而且越是垂直
26:20.966–26:22.733
越是专业的领域啊
26:22.833–26:25.233
小模型对大模型的蒸馏
26:25.233–26:27.600
的替代的表现就会越好
26:27.866–26:28.366
举个例子啊
26:28.400–26:30.100
假如你有一家咨询公司
26:30.300–26:31.333
你这个公司呢
26:31.366–26:34.033
本身就有很多的典型任务
26:34.133–26:36.300
再加上比如说10年的文档
26:36.500–26:38.333
再加上专家的经验
26:38.433–26:39.766
这个时候你可以做什么呢
26:39.833–26:41.533
你就可以把你的企业
26:41.533–26:43.066
的历史数据拿出来
26:43.300–26:46.066
再加上Claude它的前沿的能力
26:46.266–26:48.200
让Claude加上企业数据
26:48.200–26:50.433
去完成200个任务
26:50.433–26:53.166
这200个任务最好是有代表性的
26:53.200–26:55.200
能够覆盖这个垂直
26:55.233–26:56.666
领域的大部分内容
26:56.666–26:57.833
Claude完成之后呢
26:57.833–27:00.066
它就会形成一个答案和回复
27:00.066–27:02.566
然后呢在这个咨询公司里会有专家
27:02.666–27:04.733
就让这些专家基于克劳德答案进行纠偏
27:04.766–27:06.933
克劳德答案进行纠偏
27:06.933–27:08.866
而这些专家的纠偏
27:09.000–27:11.433
就是非常有价值的输入
27:11.800–27:14.833
Claude就可以根据这些内容去总结
27:14.933–27:16.500
什么情况下应该这样做
27:16.533–27:18.300
什么情况下不能这么做
27:18.433–27:19.233
什么是对的
27:19.266–27:20.066
什么是错的
27:20.066–27:21.766
什么是优秀答案
27:21.766–27:23.300
什么是理想答案
27:23.366–27:24.800
然后在这个领域
27:24.866–27:26.400
你就形成了你的
27:26.400–27:28.766
一个比较黄金的data set
27:28.900–27:30.433
形成了一个数据集
27:30.700–27:31.733
形成了知识库
27:31.766–27:33.966
然后你就可以用国产模型小
27:34.000–27:36.566
模型或者一些agent来跑了
27:36.633–27:38.633
这个也是一种非常
27:38.633–27:40.333
深度的新型的蒸馏
27:40.366–27:42.200
就是你蒸馏的不纯粹
27:42.200–27:44.533
的是Claude本身的能力
27:44.600–27:45.966
你蒸馏的是
27:46.266–27:48.566
企业数据加上Claude能力
27:48.600–27:51.400
再加上人类的专家判断
27:51.400–27:54.000
三者融合之后的能力
27:54.100–27:56.333
而这个价值本身
27:56.433–28:00.100
它比Claude直接蒸馏的意义是更大的
28:00.233–28:03.233
它是在垂直领域非常专业的
28:03.266–28:04.200
像这些应用啊
28:04.200–28:06.233
就可以用到很多具体的领域
28:06.433–28:09.600
包括写作设计法律咨询
28:09.600–28:12.400
企业等等内部的专业领域
28:12.400–28:13.433
其实在这个领域啊
28:13.433–28:15.266
会有非常多的现实案例
28:15.266–28:17.400
可以实现这样的智能蒸馏
28:17.433–28:19.800
我给大家讲两个具体的场景
28:19.800–28:21.066
相信对大家有启发
28:21.066–28:22.966
你会知道怎么去做蒸馏
28:23.000–28:24.700
怎么去提升自己的生产力
28:24.866–28:25.766
第一个场景
28:25.800–28:27.600
是一个设计师的场景
28:27.733–28:30.600
怎么让AI蒸馏出这个
28:30.600–28:32.566
设计师的审美和洞察
28:32.733–28:33.900
那首先呢
28:33.933–28:38.100
我给这个AI100张这个设计师经手的
28:38.100–28:40.866
确认的认可的100张设计图
28:41.033–28:44.366
然后让AI来蒸馏这些图
28:44.366–28:47.166
的生成的逻辑和方式
28:47.300–28:48.700
他们做的好的地方
28:48.733–28:50.300
为什么要这样做等等
28:50.333–28:51.433
蒸馏完成之后
28:51.600–28:53.600
然后按照这个逻辑
28:53.800–28:55.933
来生成一系列的图
28:56.133–28:57.766
然后把生成好的图
28:57.900–28:59.866
再丢给这个设计师
29:00.000–29:02.300
让设计师来挑选确认
29:02.400–29:03.933
并且最好是标注一下
29:04.066–29:05.366
为什么这张图ok
29:05.366–29:06.733
为什么这张图不行
29:06.766–29:09.766
那人确认的这个挑选结果
29:09.800–29:14.566
的反馈本身就是一种蒸馏对不对
29:14.600–29:17.433
然后AI继续优化逻辑
29:17.533–29:19.500
继续生成新的图
29:19.633–29:22.566
然后这个逻辑又不断的上升了
29:22.633–29:25.766
它生图的整个的逻辑又升级了
29:25.800–29:27.666
又不断的有人反馈
29:27.666–29:29.166
那这个人的反馈
29:29.166–29:30.200
人的纠偏
29:30.400–29:33.200
越到后面会变得越来越少
29:33.200–29:35.600
你会发现在这个过程
29:35.833–29:39.966
人AI它实际上是在双向蒸馏的
29:39.966–29:41.866
有了这样的蒸馏思路之后啊
29:41.966–29:43.433
甚至我们都能够基于
29:43.466–29:45.333
结果来反向的蒸馏
29:45.500–29:48.266
就以大家现在看到的这个文创
29:48.300–29:50.433
产品协同的设计方案为例啊
29:50.800–29:54.866
这是我给到AI的一个完整的方案
29:54.866–29:56.233
我把这个PPT给到它
29:56.466–29:59.533
我让它给我反向的抽象
29:59.766–30:03.333
蒸馏出这个文创产品方案
30:03.366–30:06.433
它形成的生产路径是什么
30:06.800–30:10.733
我可以以果为因来反向蒸馏过程
30:10.733–30:13.666
是不是就和蒸馏的逆向
30:13.700–30:15.966
工程的过程是一样的
30:16.066–30:18.433
这里是我蒸馏的初步的结果
30:18.600–30:21.066
我实际上是可以继续的迭代去做的
30:21.133–30:23.566
然后再加一下一些人的反馈
30:23.600–30:25.100
那么以后我就可以
30:25.133–30:26.933
通过这样的逆向工程
30:27.000–30:29.100
把它蒸馏出来整个的生产过程
30:29.200–30:31.666
然后再反向的推回去
30:31.733–30:33.366
我可以基于它的推导
30:33.500–30:35.666
帮我实际的生成验证
30:35.800–30:38.266
然后我再不断的反馈和迭代
30:38.333–30:41.666
最后这个整个的方案的生产过程
30:41.733–30:43.966
是不是就可以被我推导
30:44.200–30:45.833
然后蒸馏出来了
30:45.900–30:48.633
再说一个比较实用的现实的场景
30:48.666–30:50.866
比如电商公司要做投放
30:51.033–30:53.466
你就可以让AI来生成
30:53.466–30:55.133
一系列的投放计划
30:55.466–30:57.133
然后这个投放计划你可以
30:57.166–30:59.633
交给专门的投手去审核
30:59.866–31:01.333
这个投手就会判断
31:01.333–31:03.066
哪些计划是可行的
31:03.133–31:04.966
哪些计划是不可行的
31:05.500–31:06.500
对于公司来说
31:06.533–31:08.500
你可以要求这些投手
31:08.500–31:11.266
标注它可行不可行的原因
31:11.433–31:13.100
合理不合理的原因
31:13.133–31:14.200
人做出反馈
31:14.233–31:17.000
标注好之后再给到AI去
31:17.033–31:19.733
调整这些投放计划而且
31:20.066–31:22.933
这些AI整合出来的投放计划
31:22.966–31:24.066
最后投出去
31:24.200–31:26.633
它会有数据反馈的
31:26.633–31:28.933
最后投出来的效果好不好
31:29.000–31:31.366
人还可以去做评价
31:31.433–31:34.133
去说明对应的原因和反馈
31:34.200–31:37.033
然后AI就可以根据人的意见
31:37.200–31:40.066
以及投放的数据反馈再
31:40.066–31:43.033
进一步生成新的投放组合
31:43.266–31:44.400
在这个过程中
31:44.700–31:48.100
投手的意见相当于是专家的意见
31:48.300–31:50.400
是不是就被蒸馏了
31:50.566–31:54.100
AI对投放这个事情的理解
31:54.366–31:56.400
是不是也被蒸馏了
31:56.433–31:57.533
而在这个过程中
31:57.533–32:01.033
可以不断的用一些高等级的模型
32:01.133–32:04.600
对标准答案的回答进行沉淀
32:04.866–32:07.100
告诉哪些是好的答案
32:07.233–32:08.633
哪些是坏的答案
32:08.800–32:12.400
它的整个的data set就这样沉淀下来了
32:12.433–32:14.200
这样就可以不断的
32:14.200–32:16.566
无限循环和loop下去
32:16.833–32:19.600
实际上这个过程再
32:19.600–32:21.266
拓散一下是什么呢
32:21.300–32:23.266
很多高级的模型
32:23.466–32:25.666
也是这么训练出来的
32:25.666–32:27.200
我们再发散一步
32:27.233–32:30.166
是不是可以继续做AI来
32:30.200–32:33.533
蒸馏AI组织的协作方式
32:33.566–32:36.900
在未来agent可能越来越成熟了
32:36.900–32:39.333
那么一个很重要的问题可能
32:39.333–32:42.666
是怎么把一个优秀的agent的
32:42.666–32:45.033
协作方式把它蒸馏出来
32:45.033–32:47.566
比如说在一个协作体系里面
32:47.633–32:48.900
它有计划的agent
32:49.266–32:50.666
有研究的agent
32:50.933–32:52.400
有写代码的agent
32:52.666–32:54.433
有复盘的agent
32:54.633–32:55.933
有做测试的agent
32:56.000–32:57.400
还有审阅的agent
32:57.833–33:01.466
把整个的团队方式运行10万次
33:01.600–33:04.466
然后去发现什么任务它是
33:04.500–33:07.300
需要planner计划这个角色的
33:07.333–33:10.566
什么时候需要reviewer复盘者介入
33:11.100–33:13.766
什么时候应该让贵的模型介入
33:13.900–33:15.300
什么时候可以选择
33:15.366–33:17.366
性价比的模型就可以了
33:17.400–33:21.066
最后蒸馏出来的是一种agent组织
33:21.100–33:24.500
协同的一种方式规则和框架
33:24.533–33:26.900
再回过头来看我们开始的那句话
33:27.033–33:27.966
蒸馏一切
33:28.100–33:29.466
是不是挺对的
33:29.566–33:31.200
我们可以把蒸馏一切啊
33:31.200–33:32.600
分为5个层级
33:32.933–33:36.033
整理成一张非常漂亮的图谱
33:36.033–33:38.800
这是一条非常优美的演化
33:38.966–33:42.066
从蒸馏答案获得大模型的结果
33:42.200–33:45.200
再到蒸馏思考获得推理链
33:45.200–33:47.500
再接着可以蒸馏行动
33:47.566–33:48.433
再深入一点
33:48.433–33:51.766
我们可以蒸馏垂直的工作方法
33:51.766–33:52.633
形成skill
33:52.933–33:54.366
形成skill、SOP、prompt、memory
33:54.466–33:55.166
进一步的
33:55.200–33:56.400
我们对对象
33:56.433–33:59.333
对人和组织进行蒸馏
33:59.533–34:01.500
形成我们的agent system
34:01.566–34:02.633
蒸馏的本质
34:02.633–34:06.100
实际上是把一次昂贵的智能过程
34:06.200–34:09.600
变成下一次相对廉价可以复用的
34:09.633–34:10.766
能力所以啊
34:10.800–34:13.800
我们万事万物皆可蒸馏
34:13.833–34:15.533
Claude的智能可以蒸馏
34:15.766–34:19.133
Codex的computer use的执行过程可以蒸馏
34:19.166–34:21.966
一个顶级的专家的认知可以蒸馏
34:22.033–34:24.633
一套组织能力可以蒸馏
34:24.633–34:27.733
我觉得这才是蒸馏让普通人
34:27.733–34:30.600
能够产生无限想象力的地方
34:30.700–34:32.100
蒸馏你搞懂了吗
34:32.266–34:34.066
还有哪些概念或者训练
34:34.066–34:36.133
方法你希望去深入的了解
34:36.233–34:37.466
希望跟我探讨的
34:37.466–34:39.433
欢迎在评论区跟我留言
34:39.466–34:42.100
如果觉得我的这个视频有趣有料
34:42.166–34:43.033
喜欢我的视频
34:43.066–34:44.733
也欢迎订阅我的频道
34:44.833–34:45.933
灵姐说AI
34:45.933–34:47.100
打开你的小铃铛
34:47.133–34:49.400
我们下期节目再见啦拜拜
0:00.100–0:02.233
zh大家好欢迎来到灵姐说AI
大家好欢迎来到灵姐说AI
0:02.533–0:03.400
zh这期视频啊
这期视频啊
0:03.400–0:04.600
zh给大家介绍一个
给大家介绍一个
0:04.633–0:06.200
zh大家可能比较熟悉
大家可能比较熟悉
0:06.200–0:07.200
zh听得很多
听得很多
0:07.300–0:09.733
zh但是未必深刻理解
但是未必深刻理解
0:09.733–0:11.866
zh知道怎么去应用的一个
知道怎么去应用的一个
0:11.866–0:14.733
zh模型的训练方法以及概念：蒸馏
模型的训练方法以及概念：蒸馏
0:14.766–0:16.466
zh我希望通过这期视频
我希望通过这期视频
0:16.533–0:20.166
zh你能够真正的理解蒸馏的本质
你能够真正的理解蒸馏的本质
0:20.433–0:21.600
zh它有哪些类型
它有哪些类型
0:21.633–0:23.666
zh并且如何应用在我们
并且如何应用在我们
0:23.700–0:26.200
zh实际的生产力的场景中
实际的生产力的场景中
0:26.233–0:29.700
zh我们先从最近闹得沸沸扬扬的
我们先从最近闹得沸沸扬扬的
0:29.766–0:32.933
zhAnthropic发布的蒸馏报告说起啊
Anthropic发布的蒸馏报告说起啊
0:33.000–0:35.633
zh这个报告他们发布在9月10号
这个报告他们发布在9月10号
0:35.633–0:40.266
zh他声称7家中国的AI大模型的实验室
他声称7家中国的AI大模型的实验室
0:40.666–0:41.533
zh这些公司啊
这些公司啊
0:41.566–0:44.100
zh对他们进行了深度的蒸馏
对他们进行了深度的蒸馏
0:44.333–0:46.500
zh实际上Anthropic这家公司啊
实际上Anthropic这家公司啊
0:46.566–0:48.800
zh对于蒸馏这个事情非常的重视
对于蒸馏这个事情非常的重视
0:48.833–0:49.933
zh也非常的紧张
也非常的紧张
0:50.066–0:51.733
zh他们在2月份的时候就
他们在2月份的时候就
0:51.766–0:53.200
zh披露了相关的数据
披露了相关的数据
0:53.233–0:55.500
zh当时他们专门点名了
当时他们专门点名了
0:55.533–0:57.733
zh三家中国的AI模型公司
三家中国的AI模型公司
0:57.900–1:00.266
zhDeepseek、月之暗面、Minimax
Deepseek、月之暗面、Minimax
1:00.500–1:04.533
zh进行了1,600多万次的交互蒸馏
进行了1,600多万次的交互蒸馏
1:04.666–1:07.266
zh这一次涉及的公司更多
这一次涉及的公司更多
1:07.400–1:09.200
zh覆盖的账户更多
覆盖的账户更多
1:09.233–1:11.433
zh涉及的交互次数更多
涉及的交互次数更多
1:11.433–1:13.033
zh而且非常的深度
而且非常的深度
1:13.200–1:15.566
zh都是工业化级别的蒸馏
都是工业化级别的蒸馏
1:15.833–1:17.333
zh其中最其中最夸张的
其中最其中最夸张的
1:17.333–1:18.333
zh规模最大的
规模最大的
1:18.333–1:20.266
zh大家猜猜是哪家公司
大家猜猜是哪家公司
1:20.466–1:22.166
zh是阿里千问
是阿里千问
1:22.166–1:24.066
zh根据Anthropic的报告说啊
根据Anthropic的报告说啊
1:24.066–1:26.733
zh在26年的5-7月之间
在26年的5-7月之间
1:26.866–1:30.066
zh他观察到了阿里千问超过
他观察到了阿里千问超过
1:30.066–1:34.233
zh1.51亿次的Claude的数据交换和蒸馏
1.51亿次的Claude的数据交换和蒸馏
1:34.600–1:35.433
zh也就是说
也就是说
1:35.433–1:38.833
zh它的峰值每天达到了300万次
它的峰值每天达到了300万次
1:38.866–1:40.766
zh其余的几家公司包括了
其余的几家公司包括了
1:40.766–1:44.333
zh月之暗面、Deepseek、智谱、小米、商汤和Minimax
月之暗面、Deepseek、智谱、小米、商汤和Minimax
1:44.366–1:45.000
enMinimax
Minimax
1:45.033–1:46.566
zh而且这一次Anthropic的
而且这一次Anthropic的
1:46.566–1:48.233
zh蒸馏报告特别指出啊
蒸馏报告特别指出啊
1:48.366–1:51.400
zh这些中国的AI实验室不是简单的说
这些中国的AI实验室不是简单的说
1:51.433–1:54.433
zh拿Claude的回答做训练数据那么简单
拿Claude的回答做训练数据那么简单
1:54.633–1:57.666
zh他们是建立了工业化的流水线
他们是建立了工业化的流水线
1:57.966–2:00.166
zh去大规模的获取claude
去大规模的获取claude
2:00.233–2:01.833
zh模型的推理轨迹
模型的推理轨迹
2:02.100–2:02.966
zhagent能力
agent能力
2:03.033–2:03.866
zh编程能力
编程能力
2:03.900–2:07.366
zh数据分析能力和长程任务的能力
数据分析能力和长程任务的能力
2:07.366–2:09.566
zh再把这些能力蒸馏
再把这些能力蒸馏
2:09.566–2:11.266
zh进自己的模型里面
进自己的模型里面
2:11.266–2:13.033
zh因为这些AI实验室啊
因为这些AI实验室啊
2:13.033–2:14.600
zh他们要的不仅是答案
他们要的不仅是答案
2:14.800–2:16.966
zh更想要整个的推理过程
更想要整个的推理过程
2:17.033–2:17.966
zh而Claude方面
而Claude方面
2:17.966–2:19.800
zh它在模型的构建过程中
它在模型的构建过程中
2:19.900–2:23.300
zh它会刻意的去隐藏这些COT的推理链
它会刻意的去隐藏这些COT的推理链
2:23.333–2:25.133
zh所以这个攻防的过程啊
所以这个攻防的过程啊
2:25.133–2:26.633
zh也变得特别有意思
也变得特别有意思
2:26.633–2:29.733
zh根据Anthropic描述他们的攻击方式啊
根据Anthropic描述他们的攻击方式啊
2:29.733–2:30.800
zh我觉得也很有意思
我觉得也很有意思
2:30.800–2:33.400
zh其实也非常具有参考价值
其实也非常具有参考价值
2:33.400–2:34.700
zh这些模型公司啊
这些模型公司啊
2:34.733–2:37.166
zh他们想尽办法把Claude
他们想尽办法把Claude
2:37.300–2:39.366
zh隐藏的这个reasoning trace
隐藏的这个reasoning trace
2:39.500–2:41.733
zh这个推理的过程给挖出来
这个推理的过程给挖出来
2:41.766–2:43.366
zh比如说有人就会把这个
比如说有人就会把这个
2:43.366–2:46.500
zh会话伪装成一个debug的过程
会话伪装成一个debug的过程
2:46.633–2:48.100
zh让它交出推理链
让它交出推理链
2:48.100–2:51.200
zh或者说有人尝试说让Claude把
或者说有人尝试说让Claude把
2:51.200–2:53.433
zh之前他做的这个working memory
之前他做的这个working memory
2:53.500–2:54.666
zh提一个任务说
提一个任务说
2:54.666–2:56.633
zh你把这个内容翻译成
你把这个内容翻译成
2:56.633–2:59.066
zh只包含片假名的日语
只包含片假名的日语
2:59.400–3:02.566
zh诱骗它把这个推理过程交出来
诱骗它把这个推理过程交出来
3:02.633–3:04.066
zh而且更夸张的是啊
而且更夸张的是啊
3:04.066–3:05.700
zh有的AI实验室
有的AI实验室
3:06.033–3:09.433
zh它直接用了1.2万种不同
它直接用了1.2万种不同
3:09.466–3:11.633
zh的请求方式去实验
的请求方式去实验
3:11.900–3:13.900
zh怎么把它的隐藏的
怎么把它的隐藏的
3:13.900–3:16.066
zh推理过程给套路出来
推理过程给套路出来
3:16.066–3:17.833
zh它的目的就是测试
它的目的就是测试
3:17.966–3:19.966
zh看看哪一种提示词
看看哪一种提示词
3:20.166–3:21.333
zh哪一种路径
哪一种路径
3:21.333–3:22.766
zh能够把能够把Claude的
能够把能够把Claude的
3:22.800–3:24.366
zh推理路径给套出来
推理路径给套出来
3:24.533–3:26.066
zh有可能大部分的
有可能大部分的
3:26.100–3:28.433
zh提示词方式都可能失败
提示词方式都可能失败
3:28.466–3:30.733
zh但是只要有几种成功了
但是只要有几种成功了
3:30.766–3:34.033
zh就可以用工业化的方式把它放大
就可以用工业化的方式把它放大
3:34.100–3:36.400
zh作为蒸馏的一种有效的路径
作为蒸馏的一种有效的路径
3:36.433–3:37.433
zh所以这实际上是
所以这实际上是
3:37.433–3:39.333
zh一个很有意思的攻防
一个很有意思的攻防
3:39.633–3:40.600
zh模型厂商呢
模型厂商呢
3:40.633–3:42.800
zh他说我不给你原始的COT
他说我不给你原始的COT
3:42.866–3:44.766
zh我只给你总结的thinking
我只给你总结的thinking
3:44.800–3:47.166
zh但蒸馏方就一直在研究
但蒸馏方就一直在研究
3:47.433–3:49.933
zh怎么通过上下文翻译
怎么通过上下文翻译
3:50.100–3:51.833
zhReplay的方式等等
Replay的方式等等
3:51.900–3:54.733
zh把这个推理的过程给恢复过来
把这个推理的过程给恢复过来
3:54.766–3:57.133
zh然后再把这个reasoning推理
然后再把这个reasoning推理
3:57.166–3:59.366
zh的过程变成训练数据
的过程变成训练数据
3:59.466–4:02.033
zh你看看这有不有一点像AI
你看看这有不有一点像AI
4:02.066–4:04.733
zh时代的能力逆向工程
时代的能力逆向工程
4:04.766–4:05.200
zh实际上啊
实际上啊
4:05.200–4:07.633
zh这个报告本身披露出了
这个报告本身披露出了
4:07.633–4:11.633
zh非常多类似这些AI模型公司
非常多类似这些AI模型公司
4:11.666–4:13.133
zh他们蒸馏的方式啊
他们蒸馏的方式啊
4:13.200–4:15.000
zh而这些蒸馏的类型啊
而这些蒸馏的类型啊
4:15.033–4:17.733
zh我会给大家在后面去给做总结
我会给大家在后面去给做总结
4:18.100–4:20.033
zh并且啊总结出的方式我们
并且啊总结出的方式我们
4:20.033–4:21.400
zh可以进一步的拓展
可以进一步的拓展
4:21.533–4:24.433
zh把它用于我们日常的生产力环节
把它用于我们日常的生产力环节
4:24.466–4:25.600
zh好准备好了吗
好准备好了吗
4:25.766–4:27.166
zh接下来我就带着大家
接下来我就带着大家
4:27.233–4:29.233
zh全面的去理解蒸馏
全面的去理解蒸馏
4:29.600–4:31.766
zh蒸馏啊不要把它仅仅的理解为
蒸馏啊不要把它仅仅的理解为
4:31.800–4:33.700
zh一种模型训练的技术
一种模型训练的技术
4:33.833–4:35.966
zh我认为蒸馏的本质是
我认为蒸馏的本质是
4:36.000–4:38.700
zh一次昂贵的智能过程
一次昂贵的智能过程
4:38.733–4:41.266
zh它实际上是在压缩成下一次更便宜、更快、更稳定
它实际上是在压缩成下一次更便宜、更快、更稳定
4:41.266–4:44.533
zh一次更便宜更快更稳定
一次更便宜更快更稳定
4:44.700–4:47.600
zh甚至不需要还原老师的
甚至不需要还原老师的
4:47.600–4:49.333
zh能力的这么一个过程
能力的这么一个过程
4:49.366–4:50.900
zhAnthropic它给我们看的
Anthropic它给我们看的
4:50.900–4:53.000
zh实际上是蒸馏中的一种
实际上是蒸馏中的一种
4:53.100–4:55.700
zh就是模型蒸馏模型
就是模型蒸馏模型
4:55.833–4:57.900
zh所以我会先跟大家去讲这个
所以我会先跟大家去讲这个
4:57.933–5:00.733
zh模型蒸馏模型有哪些过程
模型蒸馏模型有哪些过程
5:00.733–5:01.733
zh有哪些类型
有哪些类型
5:02.100–5:04.800
zh而沿着这个定义往外推
而沿着这个定义往外推
5:04.833–5:06.900
zh我们可以看到更多的东西
我们可以看到更多的东西
5:07.133–5:09.133
zh除了模型蒸馏模型之外
除了模型蒸馏模型之外
5:09.266–5:11.400
zh模型还可以蒸馏用户
模型还可以蒸馏用户
5:11.600–5:13.933
zh产品也能够蒸馏模型
产品也能够蒸馏模型
5:14.100–5:15.900
zhagent能蒸馏工作流
agent能蒸馏工作流
5:16.033–5:18.166
zh企业能蒸馏员工
企业能蒸馏员工
5:18.300–5:21.766
zh甚至是人用AI来蒸馏自己
甚至是人用AI来蒸馏自己
5:21.833–5:24.833
zh而这些就是我们广阔的应用场景
而这些就是我们广阔的应用场景
5:24.866–5:27.600
zh回到Anthropic这个报告来看啊
回到Anthropic这个报告来看啊
5:27.800–5:29.833
zh它里面讲了非常多的细节
它里面讲了非常多的细节
5:29.866–5:31.166
zh是有助于我们去
是有助于我们去
5:31.166–5:33.600
zh理解模型是怎么蒸馏
理解模型是怎么蒸馏
5:33.666–5:35.466
zh传统的我们对蒸馏的理解
传统的我们对蒸馏的理解
5:35.500–5:37.500
zh实际上是特别简单直接的
实际上是特别简单直接的
5:37.533–5:41.800
zh就是教师模型根据输入给出输出
就是教师模型根据输入给出输出
5:42.000–5:44.766
zh然后学生模型学习
然后学生模型学习
5:44.833–5:46.966
zh整个的信息交换的过程
整个的信息交换的过程
5:47.033–5:49.000
zh学习这些exchange的过程
学习这些exchange的过程
5:49.033–5:50.566
zh但是大家注意到这里面的
但是大家注意到这里面的
5:50.600–5:53.233
zh环节会涉及到inputs和OUTPUTS
环节会涉及到inputs和OUTPUTS
5:53.233–5:54.333
zh在这个报告里面
在这个报告里面
5:54.366–5:58.300
zh它实际上把这个inputs和outputs怎么来
它实际上把这个inputs和outputs怎么来
5:58.400–6:02.133
zh做了非常详细的解析和案例的披露
做了非常详细的解析和案例的披露
6:02.133–6:05.233
zh也就是这些中国的AI实验室
也就是这些中国的AI实验室
6:05.266–6:06.366
zh他们是怎么干的
他们是怎么干的
6:06.533–6:07.200
zh这些东西啊
这些东西啊
6:07.233–6:08.233
zh非常的有启发
非常的有启发
6:08.366–6:10.000
zh可以分为7个类型
可以分为7个类型
6:10.000–6:10.866
zh我总结下来
我总结下来
6:10.866–6:12.400
zh一个个跟大家去讲
一个个跟大家去讲
6:12.466–6:14.133
zh第一种类型啊最传统
第一种类型啊最传统
6:14.166–6:16.566
zh我总结为叫出题蒸馏
我总结为叫出题蒸馏
6:16.766–6:18.900
zh也可以叫做答案蒸馏吧
也可以叫做答案蒸馏吧
6:18.966–6:20.933
zh就是学生给老师出题
就是学生给老师出题
6:20.933–6:22.266
zh让老师回答
让老师回答
6:22.266–6:24.466
zh形成一个高质量的答案
形成一个高质量的答案
6:24.800–6:26.633
zh你可以准备一个任务集
你可以准备一个任务集
6:26.800–6:27.833
zh这个任务集呢
这个任务集呢
6:27.833–6:30.966
zh可以是coding数学agent数据分析
可以是coding数学agent数据分析
6:31.000–6:32.933
zh或者长程任务等等都可以
或者长程任务等等都可以
6:33.000–6:35.033
zh然后把这个问题给到Claude
然后把这个问题给到Claude
6:35.133–6:36.500
zh让Claude来回答
让Claude来回答
6:36.533–6:39.400
zh形成高质量的答案或者推理
形成高质量的答案或者推理
6:39.700–6:41.433
zh然后把这个答案抄下来
然后把这个答案抄下来
6:41.433–6:43.533
zh放进你的data set里面
放进你的data set里面
6:43.566–6:46.400
zh接着通过SFT监督微调
接着通过SFT监督微调
6:46.400–6:49.400
zh或者是通过RL强化学习
或者是通过RL强化学习
6:49.433–6:51.200
zh来训练自己的模型
来训练自己的模型
6:51.300–6:52.566
zh在这个报告里面啊
在这个报告里面啊
6:52.700–6:55.800
zhAnthropic声称阿里千问的蒸馏
Anthropic声称阿里千问的蒸馏
6:55.800–6:58.066
zh模式就是最典型的例子
模式就是最典型的例子
6:58.533–7:02.600
zh它主要是针对Opus 4.6和4.7的推理轨迹
它主要是针对Opus 4.6和4.7的推理轨迹
7:02.833–7:05.733
zh它的整个的蒸馏任务是集中在agent
它的整个的蒸馏任务是集中在agent
7:05.933–7:06.966
zh软件工程
软件工程
7:07.033–7:09.266
zh还有一些长程任务上面
还有一些长程任务上面
7:09.466–7:11.166
zh并且它把整个的
并且它把整个的
7:11.166–7:14.500
zhTranscript转成了SFT的数据
Transcript转成了SFT的数据
7:14.533–7:17.766
zh这种呢就是考试考卷式的蒸馏
这种呢就是考试考卷式的蒸馏
7:17.866–7:19.533
zh这是最传统的蒸馏
这是最传统的蒸馏
7:19.533–7:21.033
zh也是最容易理解的
也是最容易理解的
7:21.033–7:22.566
zh老师做1万道题
老师做1万道题
7:22.600–7:26.033
zh学生直接拿老师给的答案进行训练
学生直接拿老师给的答案进行训练
7:26.066–7:28.700
zh第二种类型我总结为推理蒸馏
第二种类型我总结为推理蒸馏
7:28.766–7:30.800
zh就是学生不仅是要答案
就是学生不仅是要答案
7:30.933–7:33.000
zh还要老师的解题过程
还要老师的解题过程
7:33.033–7:34.866
zh这个答案确实有价值
这个答案确实有价值
7:34.866–7:37.033
zh但是更值钱的是教师
但是更值钱的是教师
7:37.033–7:38.733
zh模型它是怎么拆解问题
模型它是怎么拆解问题
7:38.766–7:39.600
zh怎么判断
怎么判断
7:39.733–7:40.600
zh怎么试错
怎么试错
7:40.600–7:42.133
zh调用工具验证
调用工具验证
7:42.233–7:44.233
zh得出最终答案的过程
得出最终答案的过程
7:44.266–7:45.200
zh要知其然
要知其然
7:45.266–7:47.100
zh更要知其所以然
更要知其所以然
7:47.400–7:50.066
zh实际上它不仅是要老师授之以鱼
实际上它不仅是要老师授之以鱼
7:50.233–7:51.900
zh更要授之以渔
更要授之以渔
7:52.166–7:54.033
zh这个方式也是anthropic
这个方式也是anthropic
7:54.066–7:56.133
zh这次最在意的一种方式
这次最在意的一种方式
7:56.300–7:57.433
zh刚刚我提到了
刚刚我提到了
7:57.633–7:59.300
zh这些攻击者测试啊
这些攻击者测试啊
7:59.366–8:01.966
zh里面花了1.2万种方式
里面花了1.2万种方式
8:01.966–8:02.866
zh通过翻译
通过翻译
8:03.066–8:05.300
zhdebug replay等等方式
debug replay等等方式
8:05.366–8:09.333
zh试图去恢复Claude模型的推理
试图去恢复Claude模型的推理
8:09.333–8:11.466
zh的过程和找到其中的线索
的过程和找到其中的线索
8:11.500–8:13.866
zh以后啊这个COT推理的过程会
以后啊这个COT推理的过程会
8:13.866–8:15.900
zh被藏的越来越深
被藏的越来越深
8:15.933–8:17.266
zh那么蒸馏怎么办呢
那么蒸馏怎么办呢
8:17.266–8:20.033
zh其实就是不断的攻防攻防
其实就是不断的攻防攻防
8:20.066–8:21.033
zh互相套路
互相套路
8:21.066–8:22.900
zh越狱嘛反正是一直去试
越狱嘛反正是一直去试
8:23.066–8:25.500
zh而这些前沿模型也会越来越不
而这些前沿模型也会越来越不
8:25.533–8:28.466
zh愿意把原始的这个COT的链路啊
愿意把原始的这个COT的链路啊
8:28.600–8:29.266
zh公布出来
公布出来
8:29.300–8:30.000
zh展示出来
展示出来
8:30.066–8:32.500
zh以后可能会有一个很火的角色
以后可能会有一个很火的角色
8:32.500–8:34.800
zh比如说像AI狱警这样
比如说像AI狱警这样
8:34.866–8:37.466
zh第三个类型我总结为Judge蒸馏
第三个类型我总结为Judge蒸馏
8:37.666–8:39.800
zh也就是让前沿模型
也就是让前沿模型
8:39.800–8:41.500
zh让老师来当评委
让老师来当评委
8:41.666–8:43.600
zh比如说你让一个普通模型
比如说你让一个普通模型
8:43.600–8:44.866
zh比如说国产模型
比如说国产模型
8:45.066–8:49.000
zh让它对一个问题生成a b c d四个答案
让它对一个问题生成a b c d四个答案
8:49.033–8:49.666
zh这个时候啊
这个时候啊
8:49.666–8:51.333
zh你可以不用前沿模型来
你可以不用前沿模型来
8:51.333–8:54.033
zh生成一个优质或者标准答案
生成一个优质或者标准答案
8:54.166–8:57.333
zh而是让这个前沿模型Claude
而是让这个前沿模型Claude
8:57.766–9:01.633
zh来对这四个模型的答案进行打分
来对这四个模型的答案进行打分
9:01.833–9:03.366
zh他来评分 1-10分
他来评分 1-10分
9:03.400–9:04.200
zh他打几分
他打几分
9:04.366–9:05.700
zh哪个答案好
哪个答案好
9:05.766–9:06.866
zh哪个答案不好
哪个答案不好
9:07.000–9:07.766
zh为什么好
为什么好
9:07.766–9:08.766
zh为什么答错
为什么答错
9:08.800–9:10.400
zh让他给出评价
让他给出评价
9:10.433–9:12.366
zh这时候链路就变成了什么
这时候链路就变成了什么
9:12.566–9:14.333
zh普通模型生成答案
普通模型生成答案
9:14.466–9:17.366
zh然后Claude作为评委进行评分
然后Claude作为评委进行评分
9:17.533–9:20.133
zh然后对所有的答案进行排序
然后对所有的答案进行排序
9:20.533–9:23.100
zh接着可以进行强化学习
接着可以进行强化学习
9:23.300–9:25.200
zh然后进行模型训练
然后进行模型训练
9:25.200–9:27.333
zh让普通的模型变强
让普通的模型变强
9:27.433–9:30.100
zh这个在Anthropic的这个报告里面
这个在Anthropic的这个报告里面
9:30.133–9:31.800
zh关于智谱的这个描述
关于智谱的这个描述
9:31.833–9:33.600
zh和归因部分也有体现
和归因部分也有体现
9:33.866–9:36.000
zh智谱呢就用这个Claude的模型
智谱呢就用这个Claude的模型
9:36.066–9:38.933
zh让它生成一些评委评分
让它生成一些评委评分
9:38.933–9:41.333
zh的一些结果的一个标准
的一些结果的一个标准
9:41.600–9:42.733
zh然后还用它来做
然后还用它来做
9:42.766–9:44.666
zh一些数据清洗的角色
一些数据清洗的角色
9:44.666–9:46.833
zh并且让它提供一些解决方案
并且让它提供一些解决方案
9:46.933–9:48.533
zh这个时候就不是纯粹的
这个时候就不是纯粹的
9:48.566–9:50.566
zh给答案对比这件事情了
给答案对比这件事情了
9:50.700–9:53.800
zh它让这个前沿模型在它的整个
它让这个前沿模型在它的整个
9:53.833–9:56.833
zh模型训练中扮演了更多的角色
模型训练中扮演了更多的角色
9:56.866–9:58.466
zh这个前沿的模型不仅
这个前沿的模型不仅
9:58.466–10:00.800
zh是当老师给解题过程
是当老师给解题过程
10:00.833–10:03.166
zh而是它也可以是出题的老师
而是它也可以是出题的老师
10:03.333–10:06.066
zh也可以是阅卷评分的老师
也可以是阅卷评分的老师
10:06.300–10:08.900
zh它还可以是数据的清洗员
它还可以是数据的清洗员
10:09.000–10:11.300
zh还可以是安全的检查员
还可以是安全的检查员
10:11.333–10:13.333
zh还可以是最后的强化
还可以是最后的强化
10:13.333–10:14.900
zh学习的这个评估员
学习的这个评估员
10:14.933–10:16.566
zh如果是经常看我节目
如果是经常看我节目
10:16.566–10:18.266
zh的老的粉丝和观众
的老的粉丝和观众
10:18.266–10:20.266
zh一定感受到我平时在
一定感受到我平时在
10:20.300–10:22.100
zh节目中经常用这个方法
节目中经常用这个方法
10:22.266–10:23.933
zh比如说我经常用多个
比如说我经常用多个
10:23.966–10:26.633
zh模型来处理同一个任务
模型来处理同一个任务
10:26.933–10:28.900
zh然后我再用一个前沿模型
然后我再用一个前沿模型
10:28.933–10:31.633
zh比如说用GPT的Codex来对
比如说用GPT的Codex来对
10:31.633–10:33.533
zh这些结果进行评分
这些结果进行评分
10:33.600–10:35.966
zh然后评价这几个模型
然后评价这几个模型
10:35.966–10:37.666
zh的能力和最后的答案
的能力和最后的答案
10:37.833–10:39.900
zh然后给出我的评测结论
然后给出我的评测结论
10:40.133–10:43.266
zh这本质上不就是使用judge的方式
这本质上不就是使用judge的方式
10:43.366–10:45.366
zh让这个前沿模型扮演
让这个前沿模型扮演
10:45.366–10:47.266
zh一个评委的角色吗
一个评委的角色吗
10:47.300–10:49.566
zh你看看从蒸馏的角度来
你看看从蒸馏的角度来
10:49.566–10:52.433
zh理解我节目中的评测的方法
理解我节目中的评测的方法
10:52.500–10:54.266
zh是不是又升维了
是不是又升维了
10:54.300–10:55.633
zh第四种蒸馏方式啊
第四种蒸馏方式啊
10:55.633–10:58.166
zh第四种蒸馏方式啊我总结叫做Replay蒸馏
第四种蒸馏方式啊我总结叫做Replay蒸馏
10:58.466–10:59.100
zh什么意思
什么意思
10:59.100–11:01.166
zh就是不用自己出题
就是不用自己出题
11:01.333–11:04.000
zh直接拿真实用户的问题
直接拿真实用户的问题
11:04.200–11:07.100
zh重新让老师再做一遍
重新让老师再做一遍
11:07.133–11:08.466
zh你知道玩这个路子的
你知道玩这个路子的
11:08.466–11:10.033
zh是哪家模型公司吗
是哪家模型公司吗
11:10.233–11:13.766
zh是小米的模型MIMO他们家玩的
是小米的模型MIMO他们家玩的
11:14.033–11:15.166
zh就是假设啊
就是假设啊
11:15.400–11:17.833
zh他们家公司已经有100万的
他们家公司已经有100万的
11:17.866–11:20.466
zh真实开发者的这个conversation
真实开发者的这个conversation
11:20.666–11:21.366
zh这个对话
这个对话
11:21.666–11:24.633
zh这个实际上是非常宝贵的数据啊
这个实际上是非常宝贵的数据啊
11:24.666–11:27.266
zh大家不要觉得自己很多
大家不要觉得自己很多
11:27.266–11:29.133
zh地方可以免费用一些模型啊
地方可以免费用一些模型啊
11:29.133–11:32.566
zh实际上都是这些模型公司的养料
实际上都是这些模型公司的养料
11:32.866–11:35.300
zh这里面会包含一些真的bug
这里面会包含一些真的bug
11:35.566–11:37.466
zh真的项目真的IDE
真的项目真的IDE
11:37.466–11:38.333
zh真的文件
真的文件
11:38.466–11:39.900
zh真的用户意图
真的用户意图
11:40.066–11:41.766
zh真的失败案例
真的失败案例
11:41.800–11:43.800
zh原来在小米的模型里面
原来在小米的模型里面
11:43.900–11:45.666
zh它就会有原始的用户
它就会有原始的用户
11:45.666–11:48.100
zh任务和小米给出的答案
任务和小米给出的答案
11:48.200–11:50.000
zh那么重新Replay一遍呢
那么重新Replay一遍呢
11:50.000–11:52.733
zh就是把同一个任务给到Claude
就是把同一个任务给到Claude
11:52.966–11:55.166
zh然后再获得Claude的答案
然后再获得Claude的答案
11:55.200–11:56.966
zh然后就立刻得到了什么呢
然后就立刻得到了什么呢
11:57.066–11:58.266
zh首先是一个task
首先是一个task
11:58.700–12:00.066
zh用户的真实任务
用户的真实任务
12:00.066–12:01.433
zh然后是student
然后是student
12:01.800–12:02.766
zhMIMO的答案
MIMO的答案
12:02.933–12:04.033
zh然后是teacher
然后是teacher
12:04.200–12:05.066
zhClaude的答案
Claude的答案
12:05.166–12:06.533
zh接下来就可以干什么
接下来就可以干什么
12:06.600–12:07.666
zh就可以比较
就可以比较
12:07.733–12:08.400
zh可以judge
可以judge
12:08.600–12:09.500
zh可以回写
可以回写
12:09.900–12:12.633
zh可以SFT可以RL了
可以SFT可以RL了
12:12.666–12:14.233
zh小米把自己代码相关
小米把自己代码相关
12:14.233–12:16.633
zh的coding session给到claude
的coding session给到claude
12:16.733–12:19.066
zh然后呢Claude还可以被用于
然后呢Claude还可以被用于
12:19.066–12:21.333
zh重构它的开发环境
重构它的开发环境
12:21.333–12:22.533
zh再清洗对话
再清洗对话
12:22.566–12:24.666
zh然后再生成回答
然后再生成回答
12:24.733–12:27.200
zh再生成响应评价的答案
再生成响应评价的答案
12:27.200–12:30.866
zh这可比人工去造Benchmark厉害多了
这可比人工去造Benchmark厉害多了
12:30.966–12:32.400
zh经常我给大家演示的
经常我给大家演示的
12:32.400–12:33.533
zh考虑到隐私啊
考虑到隐私啊
12:33.566–12:35.566
zh我都是造的这些数据
我都是造的这些数据
12:35.666–12:39.066
zh而这些数据都是用户的真实意图
而这些数据都是用户的真实意图
12:39.400–12:42.966
zh而用户本身就会成为源源不断
而用户本身就会成为源源不断
12:42.966–12:46.033
zh的Benchmark的生产者和生成者
的Benchmark的生产者和生成者
12:46.066–12:47.900
zh第五种蒸馏方式啊我不说
第五种蒸馏方式啊我不说
12:47.900–12:50.200
zh可能很多人还蒙在鼓里
可能很多人还蒙在鼓里
12:50.433–12:52.200
zh我叫做shadow teacher
我叫做shadow teacher
12:52.400–12:53.633
zh影子老师
影子老师
12:53.633–12:56.233
zh这是一个水加茅台的故事
这是一个水加茅台的故事
12:56.333–12:57.000
zh怎么说呢
怎么说呢
12:57.066–12:59.100
zh就是本来你只是要了一杯水
就是本来你只是要了一杯水
12:59.133–13:00.666
zh你花了一杯水的钱
你花了一杯水的钱
13:00.766–13:03.466
zh结果这个水里面掺了茅台
结果这个水里面掺了茅台
13:03.633–13:04.533
zh怎么理解啊
怎么理解啊
13:04.700–13:08.900
zh就是用户以为自己用的是学生模型
就是用户以为自己用的是学生模型
13:08.933–13:09.600
zh结果
结果
13:10.000–13:13.266
zh后台偷偷的让老师回答
后台偷偷的让老师回答
13:13.266–13:15.133
zh然后用户被告知的
然后用户被告知的
13:15.133–13:17.100
zh是学生模型的回答
是学生模型的回答
13:17.333–13:19.500
zh有不有毁你之前的认知
有不有毁你之前的认知
13:19.533–13:20.900
zh就是你给他一个问题
就是你给他一个问题
13:21.066–13:22.900
zh然后后台呢判断
然后后台呢判断
13:23.033–13:25.600
zh诶这个问题非常有价值啊
诶这个问题非常有价值啊
13:25.633–13:27.166
zh这条数据很值钱啊
这条数据很值钱啊
13:27.433–13:28.100
zh然后呢
然后呢
13:28.200–13:32.566
zh他就把这个问题的请求转给了Claude
他就把这个问题的请求转给了Claude
13:32.733–13:34.166
zh让Claude来回答
让Claude来回答
13:34.333–13:37.533
zh然后把Claude的答案推送给用户
然后把Claude的答案推送给用户
13:37.566–13:38.333
zh与此同时
与此同时
13:38.333–13:40.600
zh他在后台把这个提示词
他在后台把这个提示词
13:40.833–13:42.600
zh加上Claude的回答
加上Claude的回答
13:42.733–13:44.566
zh加上他的推理过程
加上他的推理过程
13:44.600–13:48.433
zh全部都被写入了他的训练的数据集
全部都被写入了他的训练的数据集
13:48.466–13:50.366
zh根据Anthropic的报告啊
根据Anthropic的报告啊
13:50.633–13:53.800
zh月之暗面和Deepseek都在这样干
月之暗面和Deepseek都在这样干
13:53.800–13:55.033
zh那怎么发现的呢
那怎么发现的呢
13:55.066–13:58.500
zh因为Claude它在清洗的时候发现
因为Claude它在清洗的时候发现
13:58.566–14:01.633
zh这里面出现了非常多涉及
这里面出现了非常多涉及
14:01.666–14:04.766
zh企业和涉及一些特殊行业
企业和涉及一些特殊行业
14:04.800–14:07.566
zh领域的一些机密的数据
领域的一些机密的数据
14:07.700–14:10.300
zh出现在了模型的对话里面
出现在了模型的对话里面
14:10.466–14:12.733
zh而这些模型的对话本不
而这些模型的对话本不
14:12.766–14:16.300
zh应该出现在海外模型里面的
应该出现在海外模型里面的
14:16.333–14:17.933
zh这里面就有两个问题
这里面就有两个问题
14:17.966–14:20.400
zh本来你花了一个更便宜的钱
本来你花了一个更便宜的钱
14:20.533–14:22.766
zh却买到了一个更贵的服务
却买到了一个更贵的服务
14:22.966–14:24.100
zh另外一方面呢
另外一方面呢
14:24.100–14:27.133
zh就是本来你觉得你用的是国产模型
就是本来你觉得你用的是国产模型
14:27.166–14:29.366
zh不涉及到一些安全性的问题
不涉及到一些安全性的问题
14:29.700–14:33.366
zh结果模型悄悄地转包到了海外模型
结果模型悄悄地转包到了海外模型
14:33.533–14:36.466
zh把你的一些企业内部的信息
把你的一些企业内部的信息
14:36.833–14:39.400
zh泄露到了不应该泄露的地方
泄露到了不应该泄露的地方
14:39.633–14:42.100
zh涉及到信息安全的问题了
涉及到信息安全的问题了
14:42.133–14:43.066
zh但是要知道啊
但是要知道啊
14:43.100–14:45.866
zh这样的方式本身对国产
这样的方式本身对国产
14:45.900–14:48.666
zh模型的训练是非常有帮助的
模型的训练是非常有帮助的
14:48.900–14:51.333
zh因为很多这样的问题
因为很多这样的问题
14:51.533–14:53.200
zh它是在特定的
它是在特定的
14:53.233–14:56.533
zh比如说一个国产的IDE里面去产生的
比如说一个国产的IDE里面去产生的
14:56.633–14:59.466
zh它本来是它原始的Harness的架构
它本来是它原始的Harness的架构
14:59.533–15:01.066
zh那在这个Harness里面
那在这个Harness里面
15:01.100–15:03.400
zh它本身是自带任务
它本身是自带任务
15:03.433–15:04.500
zh还带上下文
还带上下文
15:04.500–15:05.366
zh又带文件
又带文件
15:05.400–15:06.233
zh带工具调用
带工具调用
15:06.233–15:07.800
zh还带模型的尝试
还带模型的尝试
15:08.066–15:09.866
zh带错误带用户反馈
带错误带用户反馈
15:09.966–15:13.266
zh然后现在再返回一个最终的结果
然后现在再返回一个最终的结果
15:13.600–15:16.266
zh它的信息密度是非常高的
它的信息密度是非常高的
15:16.300–15:18.666
zh比单纯的那种聊天记录
比单纯的那种聊天记录
15:18.666–15:20.533
zh的信息密度高非常多
的信息密度高非常多
15:20.633–15:22.833
zh所以通过这样的方式转包
所以通过这样的方式转包
15:22.833–15:25.066
zh获得了前沿模型的回答
获得了前沿模型的回答
15:25.100–15:26.633
zh然后作为训练集
然后作为训练集
15:26.733–15:30.266
zh对于模型的成长是非常有帮助的
对于模型的成长是非常有帮助的
15:30.300–15:33.033
zh所以你也会感知到为什么几家
所以你也会感知到为什么几家
15:33.033–15:36.133
zh大的公司都在拼命推他们的IDE
大的公司都在拼命推他们的IDE
15:36.300–15:37.566
zh推他们的agent
推他们的agent
15:37.566–15:38.700
zh第六种蒸馏方式啊
第六种蒸馏方式啊
15:38.733–15:40.900
zh第六种蒸馏方式啊我叫做中转站蒸馏
第六种蒸馏方式啊我叫做中转站蒸馏
15:41.266–15:42.866
zh哎很多人没听错啊
哎很多人没听错啊
15:42.933–15:45.466
zh你是不是经常发现很多中转站
你是不是经常发现很多中转站
15:45.700–15:48.566
zh它使用一些前沿模型的价格
它使用一些前沿模型的价格
15:48.633–15:51.933
zh比你直接到官方那里使用要便宜
比你直接到官方那里使用要便宜
15:52.200–15:52.866
zh为什么
为什么
15:53.066–15:55.400
zh这个商业逻辑想清楚了没有啊
这个商业逻辑想清楚了没有啊
15:55.433–15:57.333
zh他赚的可能根本不是
他赚的可能根本不是
15:57.333–15:59.500
zh什么TOKEN间的差价
什么TOKEN间的差价
15:59.766–16:02.566
zh而是这个数据的产业链
而是这个数据的产业链
16:02.933–16:05.366
zh他最后啊会把这个对话的
他最后啊会把这个对话的
16:05.366–16:09.133
zh过程直接卖给其他的AI实验室
过程直接卖给其他的AI实验室
16:09.466–16:12.100
zh就是自己不用产生数据
就是自己不用产生数据
16:12.333–16:14.166
zh直接去中转站把
直接去中转站把
16:14.166–16:16.266
zh上下文把数据买过来
上下文把数据买过来
16:16.366–16:18.366
zh买别人的Claude对话
买别人的Claude对话
16:18.533–16:22.066
zh把这些对话拿来训练自己的模型
把这些对话拿来训练自己的模型
16:22.066–16:23.833
zh因为在这些中转站上面啊
因为在这些中转站上面啊
16:23.833–16:25.633
zh天然就有提示词
天然就有提示词
16:25.666–16:27.766
zh上下文和Claude的回答
上下文和Claude的回答
16:27.933–16:29.733
zh如果说你去保存
如果说你去保存
16:29.900–16:32.800
zh成千上百的整个的会话过程
成千上百的整个的会话过程
16:32.866–16:34.866
zh那么就会形成非常
那么就会形成非常
16:34.866–16:37.000
zh有价值的数据资产
有价值的数据资产
16:37.400–16:40.500
zh甚至你知道的一些中转站
甚至你知道的一些中转站
16:40.700–16:44.466
zh它就是大厂下水自己干的
它就是大厂下水自己干的
16:44.466–16:47.333
zh只不过外面包了一个壳而已
只不过外面包了一个壳而已
16:47.366–16:48.433
zh第七种方式啊
第七种方式啊
16:48.433–16:50.633
zh第七种方式啊我定义为Pipeline蒸馏
第七种方式啊我定义为Pipeline蒸馏
16:50.800–16:53.133
zh就是数据工厂蒸馏
就是数据工厂蒸馏
16:53.200–16:54.033
zh怎么理解啊
怎么理解啊
16:54.233–16:56.433
zh原来呢我们蒸馏的方式是让这个
原来呢我们蒸馏的方式是让这个
16:56.466–16:59.066
zh教师模型教会学生模型
教师模型教会学生模型
16:59.366–17:00.233
zh这种方式啊
这种方式啊
17:00.233–17:01.033
zh非常的隐秘
非常的隐秘
17:01.066–17:02.100
zh但是很高级
但是很高级
17:02.233–17:06.166
zh现在他直接让这个教师构建出学校
现在他直接让这个教师构建出学校
17:06.433–17:08.200
zh然后这个学校就可以
然后这个学校就可以
17:08.200–17:10.633
zh源源不断的产生教师
源源不断的产生教师
17:10.800–17:13.133
zh培养更多的学生了
培养更多的学生了
17:13.333–17:16.166
zh就是让这个老师自己出题
就是让这个老师自己出题
17:16.166–17:17.266
zh自己回答
自己回答
17:17.300–17:18.400
zh自己批改
自己批改
17:18.466–17:21.633
zh你已经不需要给一个具体的题库了
你已经不需要给一个具体的题库了
17:21.633–17:24.466
zh你直接给Claude一个具体的领域
你直接给Claude一个具体的领域
17:24.700–17:28.733
zh让它基于这个领域来进行自我出题
让它基于这个领域来进行自我出题
17:29.000–17:30.666
zh让它出10万道题
让它出10万道题
17:30.766–17:32.533
zh然后自己来回答
然后自己来回答
17:32.633–17:35.233
zh让学生模型来完成整个任务
让学生模型来完成整个任务
17:35.433–17:38.000
zh然后Claude继续对这个任务的
然后Claude继续对这个任务的
17:38.033–17:40.833
zh结果进行批改审阅评分
结果进行批改审阅评分
17:40.833–17:42.200
zh然后可以纠错
然后可以纠错
17:42.233–17:44.933
zh筛选出优质的回答和过程
筛选出优质的回答和过程
17:45.200–17:48.466
zh通过SFT和RL进行训练
通过SFT和RL进行训练
17:48.500–17:49.266
zh这个时候
这个时候
17:49.366–17:52.133
zh前沿的模型的角色不仅是老师
前沿的模型的角色不仅是老师
17:52.366–17:53.866
zh他是整个学校
他是整个学校
17:54.033–17:55.366
zh出题老师是他
出题老师是他
17:55.433–17:56.633
zh任课老师是他
任课老师是他
17:56.866–17:58.233
zh批卷老师是他
批卷老师是他
17:58.433–18:00.133
zh教研组组长是他
教研组组长是他
18:00.300–18:02.400
zh教材的编写也是他
教材的编写也是他
18:02.433–18:05.233
zh他帮你设计的是整个流程
他帮你设计的是整个流程
18:05.400–18:07.766
zh他来构建整个框架
他来构建整个框架
18:07.800–18:10.066
zh上面我讲的7种蒸馏方式啊
上面我讲的7种蒸馏方式啊
18:10.100–18:11.900
zh就是我从Anthropic的这个
就是我从Anthropic的这个
18:11.933–18:14.566
zh报告里面抽象总结出来的
报告里面抽象总结出来的
18:14.600–18:16.800
zh模型蒸馏模型的方式啊
模型蒸馏模型的方式啊
18:17.133–18:19.300
zh从某种意义上面来讲啊
从某种意义上面来讲啊
18:19.466–18:23.800
zh我觉得蒸馏也是AI时代技术
我觉得蒸馏也是AI时代技术
18:23.900–18:27.033
zh扩散的一种非常重要的方式
扩散的一种非常重要的方式
18:27.066–18:28.433
zh以前啊我们训练模型啊
以前啊我们训练模型啊
18:28.433–18:30.333
zh是人类写数据AI学
是人类写数据AI学
18:30.366–18:32.666
zh或者AI生成数据AI学
或者AI生成数据AI学
18:32.833–18:34.833
zh现在呢通过蒸馏的方式
现在呢通过蒸馏的方式
18:35.033–18:36.366
zhAI模型之间啊
AI模型之间啊
18:36.366–18:38.866
zh它们互相学习的程度已经到
它们互相学习的程度已经到
18:38.866–18:41.300
zh了一个非常深的一个程度
了一个非常深的一个程度
18:41.366–18:42.800
zh在Anthropic的角度啊
在Anthropic的角度啊
18:42.800–18:45.366
zh他确实觉得应该反对这种蒸馏
他确实觉得应该反对这种蒸馏
18:45.366–18:47.533
zh而且他会找出各种
而且他会找出各种
18:47.566–18:49.833
zh方式来对抗这种蒸馏
方式来对抗这种蒸馏
18:49.833–18:52.133
zh但是站在模型研究的角度
但是站在模型研究的角度
18:52.400–18:55.666
zh蒸馏本身又是一种非常正常
蒸馏本身又是一种非常正常
18:55.866–18:57.333
zh非常重要的技术
非常重要的技术
18:57.366–19:00.900
zh连Anthropic自己都不得不承认这一点
连Anthropic自己都不得不承认这一点
19:00.900–19:01.900
zh所以啊这一次
所以啊这一次
19:01.900–19:05.900
zhClaude发现自己的智商正在被轻易
Claude发现自己的智商正在被轻易
19:05.933–19:08.666
zh的工业化的批量复制的时候
的工业化的批量复制的时候
19:08.700–19:10.300
zh又不禁引起我们反思
又不禁引起我们反思
19:10.533–19:14.133
zhAI行业它真正的护城河在哪里
AI行业它真正的护城河在哪里
19:14.166–19:16.800
zh而原来我们在聊天沟通中所
而原来我们在聊天沟通中所
19:16.800–19:19.866
zh喜欢看到的这个COT的推理链
喜欢看到的这个COT的推理链
19:20.166–19:23.166
zh是不是就从用户的一个体验功能
是不是就从用户的一个体验功能
19:23.333–19:26.000
zh变成了模型护城河的
变成了模型护城河的
19:26.000–19:28.666
zh核心资产和安全边界了呢
核心资产和安全边界了呢
19:28.700–19:29.300
zh这个问题啊
这个问题啊
19:29.300–19:30.300
zh我觉得很复杂
我觉得很复杂
19:30.300–19:32.166
zh但是关于蒸馏这个事情啊
但是关于蒸馏这个事情啊
19:32.200–19:34.766
zh我还想再深入拓展一下
我还想再深入拓展一下
19:34.766–19:38.500
zh我们不要只停留在模型蒸馏模型
我们不要只停留在模型蒸馏模型
19:38.500–19:40.300
zh实际上它有更大的
实际上它有更大的
19:40.333–19:42.433
zh应用价值和技术机制
应用价值和技术机制
19:42.466–19:43.900
zh我这里讲一个暴论啊
我这里讲一个暴论啊
19:43.933–19:46.433
zh叫做一切皆可蒸馏
叫做一切皆可蒸馏
19:46.533–19:49.000
zh等会我讲完蒸馏的整个拓展
等会我讲完蒸馏的整个拓展
19:49.000–19:51.000
zh你再回过头来看这句话
你再回过头来看这句话
19:51.133–19:53.166
zh你会觉得特别的正确
你会觉得特别的正确
19:53.200–19:54.966
zh而且特别的有用
而且特别的有用
19:55.000–19:56.133
zh有实用价值
有实用价值
19:56.533–19:58.600
zh我们先看第一层拓展
我们先看第一层拓展
19:58.766–20:00.833
zh叫做用户的蒸馏
叫做用户的蒸馏
20:01.133–20:02.100
zh你想过没有
你想过没有
20:02.100–20:05.833
zh我们和AI对话交互的整个过程
我们和AI对话交互的整个过程
20:06.066–20:09.566
zh实际上就是模型蒸馏人的过程
实际上就是模型蒸馏人的过程
20:09.933–20:11.600
zh大家现在用Codex啊额度完全不够
大家现在用Codex啊额度完全不够
20:11.633–20:12.966
zh额度完全不够
额度完全不够
20:13.033–20:14.433
zh但是你想过没有
但是你想过没有
20:14.466–20:18.166
zh你和GPT的聊天的额度和Codex
你和GPT的聊天的额度和Codex
20:18.266–20:20.533
zh执行任务的额度是分开的
执行任务的额度是分开的
20:20.833–20:23.733
zh而且你使用GPT聊天的这个额度啊
而且你使用GPT聊天的这个额度啊
20:23.766–20:26.200
zh是很少达到上限的
是很少达到上限的
20:26.200–20:28.400
zh就是他给你的额度非常多
就是他给你的额度非常多
20:28.600–20:32.533
zh为什么大部分的模型公司都会给你
为什么大部分的模型公司都会给你
20:32.533–20:36.300
zh开放免费的和AI交互的这个额度啊
开放免费的和AI交互的这个额度啊
20:36.433–20:40.733
zh实际上是这些模型公司在蒸馏你
实际上是这些模型公司在蒸馏你
20:40.766–20:41.600
zh举个例子啊
举个例子啊
20:41.600–20:43.600
zh你想得到某个答案
你想得到某个答案
20:43.866–20:44.966
zh解决某个问题
解决某个问题
20:44.966–20:47.366
zh你会跟AI可能对话20轮
你会跟AI可能对话20轮
20:47.433–20:49.633
zh最后拿到你想要的结果
最后拿到你想要的结果
20:49.966–20:51.500
zh在这20轮对话里面
在这20轮对话里面
20:51.500–20:52.566
zh你会做什么呢
你会做什么呢
20:52.600–20:53.500
zh你会示范
你会示范
20:53.633–20:54.866
zh告诉他什么是对的
告诉他什么是对的
20:54.866–20:55.900
zh给他举例子
给他举例子
20:55.933–20:56.800
zh你会取舍
你会取舍
20:56.900–20:58.966
zh告诉他a要b不要
告诉他a要b不要
20:58.966–21:00.066
zh你会纠偏
你会纠偏
21:00.100–21:02.100
zh告诉他这个方向不对
告诉他这个方向不对
21:02.233–21:03.866
zh而这个过程
而这个过程
21:04.100–21:06.966
zh其实你就是给了他非常多的输入
其实你就是给了他非常多的输入
21:07.066–21:09.266
zh最后得到满意的答案
最后得到满意的答案
21:09.433–21:13.633
zh这些东西都是给到AI模型的语料
这些东西都是给到AI模型的语料
21:13.700–21:16.233
zh而下一次优化训练之后
而下一次优化训练之后
21:16.366–21:19.566
zh模型就可以很快的识别你的意图
模型就可以很快的识别你的意图
21:19.700–21:21.233
zh它不需要你再过20轮
它不需要你再过20轮
21:21.433–21:23.900
zh它通过一到两轮的对话
它通过一到两轮的对话
21:23.900–21:26.466
zh就可以实现满意的答案
就可以实现满意的答案
21:26.500–21:28.766
zh这也是为什么顶尖的大模型
这也是为什么顶尖的大模型
21:28.933–21:30.300
zh用户多的大模型
用户多的大模型
21:30.333–21:32.800
zh它会有更好更多的数据集
它会有更好更多的数据集
21:33.133–21:35.566
zh来提升它本身的模型能力
来提升它本身的模型能力
21:35.800–21:37.833
zh大家现在用GPT的模型
大家现在用GPT的模型
21:37.933–21:39.466
zh大家现在用GPT的模型从GPT4到GPT4o
大家现在用GPT的模型从GPT4到GPT4o
21:39.500–21:41.566
zh大家是不是有明显的感知
大家是不是有明显的感知
21:41.833–21:43.666
zh模型越来越聪明
模型越来越聪明
21:43.800–21:47.766
zh需要的聊天的次数和轮次越来越少
需要的聊天的次数和轮次越来越少
21:47.800–21:50.633
zh它能越来越知道你的心中所想
它能越来越知道你的心中所想
21:50.633–21:51.533
zh怎么出来的
怎么出来的
21:51.766–21:54.133
zh就是通过模型蒸馏人
就是通过模型蒸馏人
21:54.133–21:56.700
zh的过程来逐步实现的
的过程来逐步实现的
21:56.933–21:59.566
zh我们以为我们在使用AI实际上
我们以为我们在使用AI实际上
21:59.600–22:02.366
zh从训练系统的视角来看
从训练系统的视角来看
22:02.500–22:04.666
zh人的每一次纠错
人的每一次纠错
22:04.733–22:07.533
zh实际上都可能成为什么是
实际上都可能成为什么是
22:07.533–22:10.633
zh最好答案的一个监督信号
最好答案的一个监督信号
22:10.666–22:12.600
zh既然模型能够蒸馏人
既然模型能够蒸馏人
22:12.633–22:14.600
zh那么我们是不是能进一步拓展
那么我们是不是能进一步拓展
22:14.833–22:18.566
zh模型公司也能够蒸馏它的员工呢
模型公司也能够蒸馏它的员工呢
22:18.566–22:19.566
zh比如说大厂
比如说大厂
22:19.566–22:21.600
zh像前段时间爆出来Meta
像前段时间爆出来Meta
22:21.633–22:23.766
zh它会记录它所有员工
它会记录它所有员工
22:23.766–22:25.833
zh的键盘的各种操作
的键盘的各种操作
22:26.166–22:29.533
zh来更大范围的炼化员工的能力
来更大范围的炼化员工的能力
22:29.600–22:32.566
zh去实现对人的能力的蒸馏
去实现对人的能力的蒸馏
22:32.600–22:34.566
zh这个实际上也是模型
这个实际上也是模型
22:34.566–22:36.566
zh对人蒸馏的一种方式
对人蒸馏的一种方式
22:36.666–22:38.200
zh那我们更进一步
那我们更进一步
22:38.200–22:40.566
zh我们可以主动的去实现这个过程
我们可以主动的去实现这个过程
22:40.600–22:43.300
zh比如说我有大量的节目制作
比如说我有大量的节目制作
22:43.333–22:46.033
zh的过程语料纠偏等等内容
的过程语料纠偏等等内容
22:46.300–22:47.733
zh都在我的本机
都在我的本机
22:47.800–22:50.533
zh在我的新版的GPT的对话里面
在我的新版的GPT的对话里面
22:50.600–22:52.000
zh还有很多本地的材料
还有很多本地的材料
22:52.033–22:54.466
zh还存在我本地的Obsidian里面
还存在我本地的Obsidian里面
22:54.466–22:58.466
zh那在这个里面我就可以实现让模型
那在这个里面我就可以实现让模型
22:58.500–23:02.033
zh对我的所有的语料过程进行蒸馏
对我的所有的语料过程进行蒸馏
23:02.033–23:04.233
zh不仅是我这样的自媒体博主
不仅是我这样的自媒体博主
23:04.233–23:06.700
zh你日常的工作如果都实现了
你日常的工作如果都实现了
23:06.700–23:09.900
zh在线化和颗粒度的对齐和AI
在线化和颗粒度的对齐和AI
23:09.933–23:11.866
zh模型的对齐和纠偏的话
模型的对齐和纠偏的话
23:11.966–23:14.633
zh你都可以尝试用前沿模型
你都可以尝试用前沿模型
23:14.633–23:17.100
zh对你本身进行自我蒸馏
对你本身进行自我蒸馏
23:17.333–23:20.233
zh让你的整体的能力再上一个台阶
让你的整体的能力再上一个台阶
23:20.266–23:20.833
zh举个例子啊
举个例子啊
23:20.833–23:23.566
zh大家现在看到的是我Codex的对话框
大家现在看到的是我Codex的对话框
23:23.833–23:27.233
zh我正在对我自己的生活和工作场景
我正在对我自己的生活和工作场景
23:27.433–23:31.000
zh特别是我视频制作的过程进行蒸馏
特别是我视频制作的过程进行蒸馏
23:31.366–23:33.933
zh这里面就会涉及到我的选题和脚本
这里面就会涉及到我的选题和脚本
23:34.000–23:35.833
zh我的封面和标题
我的封面和标题
23:35.833–23:37.266
zh客户的方案等等等等
客户的方案等等等等
23:37.433–23:39.500
zh每一个环节都是可以
每一个环节都是可以
23:39.533–23:41.166
zh蒸馏和抽象出来的
蒸馏和抽象出来的
23:41.400–23:43.533
zh就以选题和脚本为例
就以选题和脚本为例
23:43.600–23:46.033
zh那么AI会给我输出一个脚本
那么AI会给我输出一个脚本
23:46.033–23:47.766
zh我会返回给他告诉他
我会返回给他告诉他
23:47.866–23:49.166
zh跟他对齐颗粒度
跟他对齐颗粒度
23:49.166–23:50.300
zh在这个脚本里面
在这个脚本里面
23:50.333–23:51.933
zh哪些内容我觉得不顺滑
哪些内容我觉得不顺滑
23:52.133–23:53.666
zh哪些部分你讲得太少
哪些部分你讲得太少
23:53.700–23:56.433
zh哪些地方你可以加一些金句等等
哪些地方你可以加一些金句等等
23:56.700–23:57.966
zh这个实际上就是我
这个实际上就是我
23:58.000–24:00.066
zh给他的投喂和纠偏
给他的投喂和纠偏
24:00.100–24:02.833
zh那他就可以去对比他输出的答案
那他就可以去对比他输出的答案
24:02.900–24:06.300
zh和我给的一个调整示范的内容
和我给的一个调整示范的内容
24:06.566–24:07.933
zh通过这样的方式
通过这样的方式
24:08.033–24:10.866
zh原来我可能要聊三四轮四五轮
原来我可能要聊三四轮四五轮
24:10.966–24:13.933
zh到后面我可能只需要聊一两轮
到后面我可能只需要聊一两轮
24:14.066–24:17.900
zh就可以完成我的选题和脚本的确认
就可以完成我的选题和脚本的确认
24:17.933–24:18.900
zh通过这样的方式
通过这样的方式
24:18.900–24:21.566
zh我可以沉淀出来我自己的skill
我可以沉淀出来我自己的skill
24:21.800–24:24.600
zh或者是通过某种工具的调用
或者是通过某种工具的调用
24:24.633–24:27.433
zh去让整个的过程更加的丝滑
去让整个的过程更加的丝滑
24:27.433–24:30.600
zh这某种程度上也是一种蒸馏
这某种程度上也是一种蒸馏
24:30.966–24:32.066
zh因为这里的蒸馏它
因为这里的蒸馏它
24:32.100–24:33.866
zh不只限于一期节目
不只限于一期节目
24:34.033–24:35.133
zh我的100多期
我的100多期
24:35.166–24:36.433
zh200多期节目
200多期节目
24:36.433–24:38.700
zh整个的制作过程如果都是
整个的制作过程如果都是
24:38.966–24:42.066
zh在本地在Codex完成了整个过程
在本地在Codex完成了整个过程
24:42.266–24:44.900
zh再加上我本地的知识库obsidian
再加上我本地的知识库obsidian
24:44.966–24:48.066
zh那我的蒸馏过程就能够把
那我的蒸馏过程就能够把
24:48.066–24:50.766
zh我的整体能力去加强放大
我的整体能力去加强放大
24:50.833–24:53.200
zh而这里只是其中的一个环节
而这里只是其中的一个环节
24:53.300–24:56.000
zh我还可以拓展到我的封面和标题
我还可以拓展到我的封面和标题
24:56.100–24:57.466
zh之前我可能要不停的跟
之前我可能要不停的跟
24:57.500–24:58.933
zh他讲我需要什么风格
他讲我需要什么风格
24:59.000–25:02.100
zh那形成一定的能力沉淀之后
那形成一定的能力沉淀之后
25:02.200–25:04.533
zh他可以很快的通过一轮
他可以很快的通过一轮
25:04.566–25:07.266
zh对话就完成我想要的封面
对话就完成我想要的封面
25:07.300–25:09.033
zh在这里的蒸馏示范里面呢
在这里的蒸馏示范里面呢
25:09.033–25:10.700
zh我就选择了3期节目
我就选择了3期节目
25:10.700–25:13.300
zh我告诉他具体的节目内容和索引
我告诉他具体的节目内容和索引
25:13.433–25:15.966
zh因为这三期节目我是在整个的
因为这三期节目我是在整个的
25:15.966–25:18.833
zh对话框中给了他明确的调整链
对话框中给了他明确的调整链
25:18.833–25:20.900
zh它是有明确的我的调整
它是有明确的我的调整
25:20.900–25:23.466
zh和AI输出的前后对比的
和AI输出的前后对比的
25:23.466–25:24.500
zh基于这个样本
基于这个样本
25:24.500–25:26.733
zh它给我做了第一轮的蒸馏
它给我做了第一轮的蒸馏
25:26.766–25:28.566
zh你看已经完成了
你看已经完成了
25:28.700–25:30.333
zh它这里是蒸馏的结果
它这里是蒸馏的结果
25:30.400–25:30.900
zh这里呢
这里呢
25:30.933–25:34.233
zh它会有明确的修改链和蒸馏发现
它会有明确的修改链和蒸馏发现
25:34.266–25:36.700
zh它会识别我改了哪些
它会识别我改了哪些
25:36.733–25:37.566
zh然后在这里啊
然后在这里啊
25:37.566–25:40.666
zh它是帮我直接沉淀了一个方法包
它是帮我直接沉淀了一个方法包
25:40.733–25:43.366
zh那这个方法包是可以复用的
那这个方法包是可以复用的
25:43.633–25:46.733
zh相当于他把我的工作能力习惯
相当于他把我的工作能力习惯
25:46.800–25:50.233
zh判断这些有价值的东西抽象出来了
判断这些有价值的东西抽象出来了
25:50.233–25:51.333
zh你想想是不是
你想想是不是
25:51.366–25:54.466
zh这个事情在公司里面的员工的操作
这个事情在公司里面的员工的操作
25:54.466–25:55.800
zh其实也是这个逻辑
其实也是这个逻辑
25:55.933–25:58.000
zh这个员工他要审核pass
这个员工他要审核pass
25:58.433–25:59.400
zh或者不通过
或者不通过
25:59.433–26:01.933
zh那他判断的依据标准是什么
那他判断的依据标准是什么
26:02.033–26:05.766
zh就可以通过这样的方式蒸馏出来
就可以通过这样的方式蒸馏出来
26:05.866–26:08.200
zh他为什么这么判断
他为什么这么判断
26:08.233–26:10.400
zh而蒸馏出来的其实
而蒸馏出来的其实
26:10.400–26:13.233
zh就是人的能力和智慧
就是人的能力和智慧
26:13.266–26:14.966
zh我们再往前思考一步啊
我们再往前思考一步啊
26:15.066–26:19.133
zh我们还可以做垂直专业领域的蒸馏
我们还可以做垂直专业领域的蒸馏
26:19.166–26:20.733
zh而且越是垂直
而且越是垂直
26:20.966–26:22.733
zh越是专业的领域啊
越是专业的领域啊
26:22.833–26:25.233
zh小模型对大模型的蒸馏
小模型对大模型的蒸馏
26:25.233–26:27.600
zh的替代的表现就会越好
的替代的表现就会越好
26:27.866–26:28.366
zh举个例子啊
举个例子啊
26:28.400–26:30.100
zh假如你有一家咨询公司
假如你有一家咨询公司
26:30.300–26:31.333
zh你这个公司呢
你这个公司呢
26:31.366–26:34.033
zh本身就有很多的典型任务
本身就有很多的典型任务
26:34.133–26:36.300
zh再加上比如说10年的文档
再加上比如说10年的文档
26:36.500–26:38.333
zh再加上专家的经验
再加上专家的经验
26:38.433–26:39.766
zh这个时候你可以做什么呢
这个时候你可以做什么呢
26:39.833–26:41.533
zh你就可以把你的企业
你就可以把你的企业
26:41.533–26:43.066
zh的历史数据拿出来
的历史数据拿出来
26:43.300–26:46.066
zh再加上Claude它的前沿的能力
再加上Claude它的前沿的能力
26:46.266–26:48.200
zh让Claude加上企业数据
让Claude加上企业数据
26:48.200–26:50.433
zh去完成200个任务
去完成200个任务
26:50.433–26:53.166
zh这200个任务最好是有代表性的
这200个任务最好是有代表性的
26:53.200–26:55.200
zh能够覆盖这个垂直
能够覆盖这个垂直
26:55.233–26:56.666
zh领域的大部分内容
领域的大部分内容
26:56.666–26:57.833
zhClaude完成之后呢
Claude完成之后呢
26:57.833–27:00.066
zh它就会形成一个答案和回复
它就会形成一个答案和回复
27:00.066–27:02.566
zh然后呢在这个咨询公司里会有专家
然后呢在这个咨询公司里会有专家
27:02.666–27:04.733
zh就让这些专家基于克劳德答案进行纠偏
就让这些专家基于克劳德答案进行纠偏
27:04.766–27:06.933
zh克劳德答案进行纠偏
克劳德答案进行纠偏
27:06.933–27:08.866
zh而这些专家的纠偏
而这些专家的纠偏
27:09.000–27:11.433
zh就是非常有价值的输入
就是非常有价值的输入
27:11.800–27:14.833
zhClaude就可以根据这些内容去总结
Claude就可以根据这些内容去总结
27:14.933–27:16.500
zh什么情况下应该这样做
什么情况下应该这样做
27:16.533–27:18.300
zh什么情况下不能这么做
什么情况下不能这么做
27:18.433–27:19.233
zh什么是对的
什么是对的
27:19.266–27:20.066
zh什么是错的
什么是错的
27:20.066–27:21.766
zh什么是优秀答案
什么是优秀答案
27:21.766–27:23.300
zh什么是理想答案
什么是理想答案
27:23.366–27:24.800
zh然后在这个领域
然后在这个领域
27:24.866–27:26.400
zh你就形成了你的
你就形成了你的
27:26.400–27:28.766
zh一个比较黄金的data set
一个比较黄金的data set
27:28.900–27:30.433
zh形成了一个数据集
形成了一个数据集
27:30.700–27:31.733
zh形成了知识库
形成了知识库
27:31.766–27:33.966
zh然后你就可以用国产模型小
然后你就可以用国产模型小
27:34.000–27:36.566
zh模型或者一些agent来跑了
模型或者一些agent来跑了
27:36.633–27:38.633
zh这个也是一种非常
这个也是一种非常
27:38.633–27:40.333
zh深度的新型的蒸馏
深度的新型的蒸馏
27:40.366–27:42.200
zh就是你蒸馏的不纯粹
就是你蒸馏的不纯粹
27:42.200–27:44.533
zh的是Claude本身的能力
的是Claude本身的能力
27:44.600–27:45.966
zh你蒸馏的是
你蒸馏的是
27:46.266–27:48.566
zh企业数据加上Claude能力
企业数据加上Claude能力
27:48.600–27:51.400
zh再加上人类的专家判断
再加上人类的专家判断
27:51.400–27:54.000
zh三者融合之后的能力
三者融合之后的能力
27:54.100–27:56.333
zh而这个价值本身
而这个价值本身
27:56.433–28:00.100
zh它比Claude直接蒸馏的意义是更大的
它比Claude直接蒸馏的意义是更大的
28:00.233–28:03.233
zh它是在垂直领域非常专业的
它是在垂直领域非常专业的
28:03.266–28:04.200
zh像这些应用啊
像这些应用啊
28:04.200–28:06.233
zh就可以用到很多具体的领域
就可以用到很多具体的领域
28:06.433–28:09.600
zh包括写作设计法律咨询
包括写作设计法律咨询
28:09.600–28:12.400
zh企业等等内部的专业领域
企业等等内部的专业领域
28:12.400–28:13.433
zh其实在这个领域啊
其实在这个领域啊
28:13.433–28:15.266
zh会有非常多的现实案例
会有非常多的现实案例
28:15.266–28:17.400
zh可以实现这样的智能蒸馏
可以实现这样的智能蒸馏
28:17.433–28:19.800
zh我给大家讲两个具体的场景
我给大家讲两个具体的场景
28:19.800–28:21.066
zh相信对大家有启发
相信对大家有启发
28:21.066–28:22.966
zh你会知道怎么去做蒸馏
你会知道怎么去做蒸馏
28:23.000–28:24.700
zh怎么去提升自己的生产力
怎么去提升自己的生产力
28:24.866–28:25.766
zh第一个场景
第一个场景
28:25.800–28:27.600
zh是一个设计师的场景
是一个设计师的场景
28:27.733–28:30.600
zh怎么让AI蒸馏出这个
怎么让AI蒸馏出这个
28:30.600–28:32.566
zh设计师的审美和洞察
设计师的审美和洞察
28:32.733–28:33.900
zh那首先呢
那首先呢
28:33.933–28:38.100
zh我给这个AI100张这个设计师经手的
我给这个AI100张这个设计师经手的
28:38.100–28:40.866
zh确认的认可的100张设计图
确认的认可的100张设计图
28:41.033–28:44.366
zh然后让AI来蒸馏这些图
然后让AI来蒸馏这些图
28:44.366–28:47.166
zh的生成的逻辑和方式
的生成的逻辑和方式
28:47.300–28:48.700
zh他们做的好的地方
他们做的好的地方
28:48.733–28:50.300
zh为什么要这样做等等
为什么要这样做等等
28:50.333–28:51.433
zh蒸馏完成之后
蒸馏完成之后
28:51.600–28:53.600
zh然后按照这个逻辑
然后按照这个逻辑
28:53.800–28:55.933
zh来生成一系列的图
来生成一系列的图
28:56.133–28:57.766
zh然后把生成好的图
然后把生成好的图
28:57.900–28:59.866
zh再丢给这个设计师
再丢给这个设计师
29:00.000–29:02.300
zh让设计师来挑选确认
让设计师来挑选确认
29:02.400–29:03.933
zh并且最好是标注一下
并且最好是标注一下
29:04.066–29:05.366
zh为什么这张图ok
为什么这张图ok
29:05.366–29:06.733
zh为什么这张图不行
为什么这张图不行
29:06.766–29:09.766
zh那人确认的这个挑选结果
那人确认的这个挑选结果
29:09.800–29:14.566
zh的反馈本身就是一种蒸馏对不对
的反馈本身就是一种蒸馏对不对
29:14.600–29:17.433
zh然后AI继续优化逻辑
然后AI继续优化逻辑
29:17.533–29:19.500
zh继续生成新的图
继续生成新的图
29:19.633–29:22.566
zh然后这个逻辑又不断的上升了
然后这个逻辑又不断的上升了
29:22.633–29:25.766
zh它生图的整个的逻辑又升级了
它生图的整个的逻辑又升级了
29:25.800–29:27.666
zh又不断的有人反馈
又不断的有人反馈
29:27.666–29:29.166
zh那这个人的反馈
那这个人的反馈
29:29.166–29:30.200
zh人的纠偏
人的纠偏
29:30.400–29:33.200
zh越到后面会变得越来越少
越到后面会变得越来越少
29:33.200–29:35.600
zh你会发现在这个过程
你会发现在这个过程
29:35.833–29:39.966
zh人AI它实际上是在双向蒸馏的
人AI它实际上是在双向蒸馏的
29:39.966–29:41.866
zh有了这样的蒸馏思路之后啊
有了这样的蒸馏思路之后啊
29:41.966–29:43.433
zh甚至我们都能够基于
甚至我们都能够基于
29:43.466–29:45.333
zh结果来反向的蒸馏
结果来反向的蒸馏
29:45.500–29:48.266
zh就以大家现在看到的这个文创
就以大家现在看到的这个文创
29:48.300–29:50.433
zh产品协同的设计方案为例啊
产品协同的设计方案为例啊
29:50.800–29:54.866
zh这是我给到AI的一个完整的方案
这是我给到AI的一个完整的方案
29:54.866–29:56.233
zh我把这个PPT给到它
我把这个PPT给到它
29:56.466–29:59.533
zh我让它给我反向的抽象
我让它给我反向的抽象
29:59.766–30:03.333
zh蒸馏出这个文创产品方案
蒸馏出这个文创产品方案
30:03.366–30:06.433
zh它形成的生产路径是什么
它形成的生产路径是什么
30:06.800–30:10.733
zh我可以以果为因来反向蒸馏过程
我可以以果为因来反向蒸馏过程
30:10.733–30:13.666
zh是不是就和蒸馏的逆向
是不是就和蒸馏的逆向
30:13.700–30:15.966
zh工程的过程是一样的
工程的过程是一样的
30:16.066–30:18.433
zh这里是我蒸馏的初步的结果
这里是我蒸馏的初步的结果
30:18.600–30:21.066
zh我实际上是可以继续的迭代去做的
我实际上是可以继续的迭代去做的
30:21.133–30:23.566
zh然后再加一下一些人的反馈
然后再加一下一些人的反馈
30:23.600–30:25.100
zh那么以后我就可以
那么以后我就可以
30:25.133–30:26.933
zh通过这样的逆向工程
通过这样的逆向工程
30:27.000–30:29.100
zh把它蒸馏出来整个的生产过程
把它蒸馏出来整个的生产过程
30:29.200–30:31.666
zh然后再反向的推回去
然后再反向的推回去
30:31.733–30:33.366
zh我可以基于它的推导
我可以基于它的推导
30:33.500–30:35.666
zh帮我实际的生成验证
帮我实际的生成验证
30:35.800–30:38.266
zh然后我再不断的反馈和迭代
然后我再不断的反馈和迭代
30:38.333–30:41.666
zh最后这个整个的方案的生产过程
最后这个整个的方案的生产过程
30:41.733–30:43.966
zh是不是就可以被我推导
是不是就可以被我推导
30:44.200–30:45.833
zh然后蒸馏出来了
然后蒸馏出来了
30:45.900–30:48.633
zh再说一个比较实用的现实的场景
再说一个比较实用的现实的场景
30:48.666–30:50.866
zh比如电商公司要做投放
比如电商公司要做投放
30:51.033–30:53.466
zh你就可以让AI来生成
你就可以让AI来生成
30:53.466–30:55.133
zh一系列的投放计划
一系列的投放计划
30:55.466–30:57.133
zh然后这个投放计划你可以
然后这个投放计划你可以
30:57.166–30:59.633
zh交给专门的投手去审核
交给专门的投手去审核
30:59.866–31:01.333
zh这个投手就会判断
这个投手就会判断
31:01.333–31:03.066
zh哪些计划是可行的
哪些计划是可行的
31:03.133–31:04.966
zh哪些计划是不可行的
哪些计划是不可行的
31:05.500–31:06.500
zh对于公司来说
对于公司来说
31:06.533–31:08.500
zh你可以要求这些投手
你可以要求这些投手
31:08.500–31:11.266
zh标注它可行不可行的原因
标注它可行不可行的原因
31:11.433–31:13.100
zh合理不合理的原因
合理不合理的原因
31:13.133–31:14.200
zh人做出反馈
人做出反馈
31:14.233–31:17.000
zh标注好之后再给到AI去
标注好之后再给到AI去
31:17.033–31:19.733
zh调整这些投放计划而且
调整这些投放计划而且
31:20.066–31:22.933
zh这些AI整合出来的投放计划
这些AI整合出来的投放计划
31:22.966–31:24.066
zh最后投出去
最后投出去
31:24.200–31:26.633
zh它会有数据反馈的
它会有数据反馈的
31:26.633–31:28.933
zh最后投出来的效果好不好
最后投出来的效果好不好
31:29.000–31:31.366
zh人还可以去做评价
人还可以去做评价
31:31.433–31:34.133
zh去说明对应的原因和反馈
去说明对应的原因和反馈
31:34.200–31:37.033
zh然后AI就可以根据人的意见
然后AI就可以根据人的意见
31:37.200–31:40.066
zh以及投放的数据反馈再
以及投放的数据反馈再
31:40.066–31:43.033
zh进一步生成新的投放组合
进一步生成新的投放组合
31:43.266–31:44.400
zh在这个过程中
在这个过程中
31:44.700–31:48.100
zh投手的意见相当于是专家的意见
投手的意见相当于是专家的意见
31:48.300–31:50.400
zh是不是就被蒸馏了
是不是就被蒸馏了
31:50.566–31:54.100
zhAI对投放这个事情的理解
AI对投放这个事情的理解
31:54.366–31:56.400
zh是不是也被蒸馏了
是不是也被蒸馏了
31:56.433–31:57.533
zh而在这个过程中
而在这个过程中
31:57.533–32:01.033
zh可以不断的用一些高等级的模型
可以不断的用一些高等级的模型
32:01.133–32:04.600
zh对标准答案的回答进行沉淀
对标准答案的回答进行沉淀
32:04.866–32:07.100
zh告诉哪些是好的答案
告诉哪些是好的答案
32:07.233–32:08.633
zh哪些是坏的答案
哪些是坏的答案
32:08.800–32:12.400
zh它的整个的data set就这样沉淀下来了
它的整个的data set就这样沉淀下来了
32:12.433–32:14.200
zh这样就可以不断的
这样就可以不断的
32:14.200–32:16.566
zh无限循环和loop下去
无限循环和loop下去
32:16.833–32:19.600
zh实际上这个过程再
实际上这个过程再
32:19.600–32:21.266
zh拓散一下是什么呢
拓散一下是什么呢
32:21.300–32:23.266
zh很多高级的模型
很多高级的模型
32:23.466–32:25.666
zh也是这么训练出来的
也是这么训练出来的
32:25.666–32:27.200
zh我们再发散一步
我们再发散一步
32:27.233–32:30.166
zh是不是可以继续做AI来
是不是可以继续做AI来
32:30.200–32:33.533
zh蒸馏AI组织的协作方式
蒸馏AI组织的协作方式
32:33.566–32:36.900
zh在未来agent可能越来越成熟了
在未来agent可能越来越成熟了
32:36.900–32:39.333
zh那么一个很重要的问题可能
那么一个很重要的问题可能
32:39.333–32:42.666
zh是怎么把一个优秀的agent的
是怎么把一个优秀的agent的
32:42.666–32:45.033
zh协作方式把它蒸馏出来
协作方式把它蒸馏出来
32:45.033–32:47.566
zh比如说在一个协作体系里面
比如说在一个协作体系里面
32:47.633–32:48.900
zh它有计划的agent
它有计划的agent
32:49.266–32:50.666
zh有研究的agent
有研究的agent
32:50.933–32:52.400
zh有写代码的agent
有写代码的agent
32:52.666–32:54.433
zh有复盘的agent
有复盘的agent
32:54.633–32:55.933
zh有做测试的agent
有做测试的agent
32:56.000–32:57.400
zh还有审阅的agent
还有审阅的agent
32:57.833–33:01.466
zh把整个的团队方式运行10万次
把整个的团队方式运行10万次
33:01.600–33:04.466
zh然后去发现什么任务它是
然后去发现什么任务它是
33:04.500–33:07.300
zh需要planner计划这个角色的
需要planner计划这个角色的
33:07.333–33:10.566
zh什么时候需要reviewer复盘者介入
什么时候需要reviewer复盘者介入
33:11.100–33:13.766
zh什么时候应该让贵的模型介入
什么时候应该让贵的模型介入
33:13.900–33:15.300
zh什么时候可以选择
什么时候可以选择
33:15.366–33:17.366
zh性价比的模型就可以了
性价比的模型就可以了
33:17.400–33:21.066
zh最后蒸馏出来的是一种agent组织
最后蒸馏出来的是一种agent组织
33:21.100–33:24.500
zh协同的一种方式规则和框架
协同的一种方式规则和框架
33:24.533–33:26.900
zh再回过头来看我们开始的那句话
再回过头来看我们开始的那句话
33:27.033–33:27.966
zh蒸馏一切
蒸馏一切
33:28.100–33:29.466
zh是不是挺对的
是不是挺对的
33:29.566–33:31.200
zh我们可以把蒸馏一切啊
我们可以把蒸馏一切啊
33:31.200–33:32.600
zh分为5个层级
分为5个层级
33:32.933–33:36.033
zh整理成一张非常漂亮的图谱
整理成一张非常漂亮的图谱
33:36.033–33:38.800
zh这是一条非常优美的演化
这是一条非常优美的演化
33:38.966–33:42.066
zh从蒸馏答案获得大模型的结果
从蒸馏答案获得大模型的结果
33:42.200–33:45.200
zh再到蒸馏思考获得推理链
再到蒸馏思考获得推理链
33:45.200–33:47.500
zh再接着可以蒸馏行动
再接着可以蒸馏行动
33:47.566–33:48.433
zh再深入一点
再深入一点
33:48.433–33:51.766
zh我们可以蒸馏垂直的工作方法
我们可以蒸馏垂直的工作方法
33:51.766–33:52.633
zh形成skill
形成skill
33:52.933–33:54.366
zh形成skill、SOP、prompt、memory
形成skill、SOP、prompt、memory
33:54.466–33:55.166
zh进一步的
进一步的
33:55.200–33:56.400
zh我们对对象
我们对对象
33:56.433–33:59.333
zh对人和组织进行蒸馏
对人和组织进行蒸馏
33:59.533–34:01.500
zh形成我们的agent system
形成我们的agent system
34:01.566–34:02.633
zh蒸馏的本质
蒸馏的本质
34:02.633–34:06.100
zh实际上是把一次昂贵的智能过程
实际上是把一次昂贵的智能过程
34:06.200–34:09.600
zh变成下一次相对廉价可以复用的
变成下一次相对廉价可以复用的
34:09.633–34:10.766
zh能力所以啊
能力所以啊
34:10.800–34:13.800
zh我们万事万物皆可蒸馏
我们万事万物皆可蒸馏
34:13.833–34:15.533
zhClaude的智能可以蒸馏
Claude的智能可以蒸馏
34:15.766–34:19.133
zhCodex的computer use的执行过程可以蒸馏
Codex的computer use的执行过程可以蒸馏
34:19.166–34:21.966
zh一个顶级的专家的认知可以蒸馏
一个顶级的专家的认知可以蒸馏
34:22.033–34:24.633
zh一套组织能力可以蒸馏
一套组织能力可以蒸馏
34:24.633–34:27.733
zh我觉得这才是蒸馏让普通人
我觉得这才是蒸馏让普通人
34:27.733–34:30.600
zh能够产生无限想象力的地方
能够产生无限想象力的地方
34:30.700–34:32.100
zh蒸馏你搞懂了吗
蒸馏你搞懂了吗
34:32.266–34:34.066
zh还有哪些概念或者训练
还有哪些概念或者训练
34:34.066–34:36.133
zh方法你希望去深入的了解
方法你希望去深入的了解
34:36.233–34:37.466
zh希望跟我探讨的
希望跟我探讨的
34:37.466–34:39.433
zh欢迎在评论区跟我留言
欢迎在评论区跟我留言
34:39.466–34:42.100
zh如果觉得我的这个视频有趣有料
如果觉得我的这个视频有趣有料
34:42.166–34:43.033
zh喜欢我的视频
喜欢我的视频
34:43.066–34:44.733
zh也欢迎订阅我的频道
也欢迎订阅我的频道
34:44.833–34:45.933
zh灵姐说AI
灵姐说AI
34:45.933–34:47.100
zh打开你的小铃铛
打开你的小铃铛
34:47.133–34:49.400
zh我们下期节目再见啦拜拜
我们下期节目再见啦拜拜
影片筆記：一条视频讲透“蒸馏”：Claude为什么怕蒸馏？普通人如何自我“智能蒸馏”？
<!-- VIDEONOTE_PUBLICATION_WARNINGS_BEGIN -->
⚠️ 全文快速校讀發現待確認修正
本筆記已完成可閱讀的逐字稿與時間跳轉；下列為待處理問題，建議播放原片確認。
- 待修正：⚠️ 全文快速校讀：已套用暫定修正，請確認（segment=7 已先套用暫定修正：模型的训练方法以及概念蒸馏 → 模型的训练方法以及概念：蒸馏；segment=26 已先套用暫定修正：Deepseek月之暗面Minimax → Deepseek、月之暗面、Minimax）
- 待修正：逐字稿可先使用，但有待校正清單（segment=543 rapid_semantic_review: 全文速讀上下文判斷；尚未回聽或交叉比對；segment=582 rapid_semantic_review: 全文速讀上下文判斷；尚未回聽或交叉比對）
<!-- VIDEONOTE_PUBLICATION_WARNINGS_END -->
⚠️ 警告：逐字稿辨識疑點與校正待辦
根據可讀性檢核結果，以下片段存在高風險辨識錯誤或上下文未交叉比對的情況，不得視為確定事實。請在閱讀詳細內容時保持懷疑，並參考「逐字稿辨識疑點」章節進行確認：
* segment 543: rapid_semantic_review — 全文速讀上下文判斷；尚未回聽或交叉比對。
* segment 582: rapid_semantic_review — 全文速讀上下文判斷；尚未回聽或交叉比對。
* segment 15: rapid_semantic_review — 參考資料為「2026年9月報告」，未明確指出10日。
* segment 26: rapid_semantic_review — 應為「Deepseek、月之暗面、Minimax」。
* segment 44: rapid_semantic_review — 應為「月之暗面、Deepseek、智谱、小米、商汤、Minimax」。
* segment 127: rapid_semantic_review — 應為「压缩成下一次」。
* segment 169: rapid_semantic_review — 章節標題為「答案蒸馏」，講者口語先說「出题蒸馏」後修正為「答案蒸馏」。
一句話總結
影片解析 Anthropic 發布的蒸餾報告，指出「蒸餾」的本質是將一次昂貴的智能過程，壓縮為下一次更便宜、更快、更穩定的能力；並詳細拆解了模型間、用戶與模型間、以及組織層面的七種蒸餾方式與應用場景。
核心重點
- 蒸餾的本質定義：
- 蒸餾不僅是技術，更是一種「將一次昂貴的智能過程，壓縮為下一次更便宜、更快、更穩定的能力」的過程。
- 目標是讓學生模型在不需要還原老師全部能力的情况下，獲得類似的高質量輸出。
- 範疇從「模型蒸餾模型」擴展到「模型蒸餾用戶」、「產品蒸餾模型」、「Agent 蒸餾工作流」、「企業蒸餾員工」以及「人用 AI 蒸餾自己」。
- Anthropic 報告背景與爭議：
- 報告發布時間提及為 9 月 10 日（需查證年份）。
- 涉及 7 家中國 AI 大模型實驗室（阿里千問、月之暗面、Deepseek、智譜、小米、商湯、Minimax）。
- 核心爭議在於中國模型試圖通過偽裝 debug、翻譯誘騙等手段，獲取 Claude 隱藏的推理鏈（Reasoning Trace/COT）。
- 七種「模型蒸餾模型」的具體方式：
- 出题蒸餾（答案蒸餾）：學生給老師出題，獲取答案或推理軌跡轉為 SFT/RL 數據。
- 推理蒸餾：獲取教師模型的思維鏈（COT）與解題過程，包括試錯和調用工具。
- Judge 蒸餾：教師模型擔任評委，對學生生成的多個答案進行評分、排序和歸因，用於強化學習。
- Replay 蒸餾：重放真實用戶對話，讓教師模型重新回答，獲取高密度真實數據。
- Shadow Teacher（影子老師）：後台偷偷調用教師模型回答，將數據轉化為訓練集，存在信息安全隱患。
- 中轉站蒸餾：通過中轉站購買或獲取對話數據資產，賺取數據產業鏈價值。
- Pipeline 蒸餾：教師模型構建整個教學流程（自我出题、批改、篩選），形成數據工廠。
- 蒸餾概念的拓展：一切皆可蒸餾：
- 用戶蒸餾：模型公司通過免費交互額度，利用用戶的示範、糾偏來學習用戶意圖。
- 員工蒸餾：記錄員工操作（如鍵盤記錄）以煉化員工能力。
- 垂直領域蒸餾：結合企業數據、專家判斷與前沿模型能力，形成專業知識庫。
- 組織協作蒸餾：將優秀 Agent 的協作規則與框架進行蒸餾。
詳細大綱
I. 背景與核心定義
- Anthropic 蒸餾報告背景：
- 發布時間：9月10日（疑點：需確認年份及具體日期）。
- 涉及對象：7家中國 AI 大模型實驗室（阿里千問、月之暗面、Deepseek、智譜、小米、商湯、Minimax）。
- 規模：工業級別的蒸餾，涉及數億次數據交換。
- 核心爭議：中國模型試圖通過各種手段（如偽裝 debug、翻譯誘騙等）獲取 Claude 隱藏的推理鏈（Reasoning Trace/COT）。
- 蒸餾的本質定義：
- 不是單純的技術，而是一次「昂貴的智能過程」。
- 目標：壓縮成下一次「更便宜、更快、更穩定」甚至不需要還原老師能力的過程。
- 範疇擴展：從模型蒸餾模型，擴展到模型蒸餾用戶、產品蒸餾模型、Agent 蒸餾工作流、企業蒸餾員工、人用 AI 蒸餾自己。
II. 七種「模型蒸餾模型」的具體類型
- 出题蒸餾（答案蒸餾）：
- 學生給老師出題，老師回答。
- 將答案或推理軌跡轉為 SFT 數據或 RL 訓練數據。
- 案例：阿里千問針對 Opus 4.6/4.7 的 Agent、軟體工程、長程任務蒸餾。
- 推理蒸餾：
- 不僅要答案，更要教師模型的拆解問題、試錯、調用工具的過程。
- 核心：獲取 COT（Chain of Thought）推理鏈。
- 攻防：通過 1.2 萬種提示詞路徑試圖套出 Claude 隱藏的推理過程。
- Judge 蒸餾：
- 教師模型擔任評委，對學生模型生成的多個答案進行評分、排序和歸因。
- 用於強化學習（RL）和數據清洗。
- 案例：智譜使用 Claude 生成評分標準和數據清洗。
- Replay 蒸餾：
- 直接拿真實用戶的問題，讓教師模型重新回答。
- 獲取包含真實 Bug、IDE 環境、文件、用戶意圖的高密度數據。
- 案例：小米模型 MIMO 利用 100 萬真實開發者對話進行蒸餾。
- Shadow Teacher（影子老師）：
- 用戶以為使用的是學生模型，後台實際調用教師模型回答。
- 將教師模型的提示詞、回答、推理過程寫入訓練集。
- 案例：月之暗面、Deepseek 被指通過此方式獲取高價值數據，涉及信息安全隱患。
- 中轉站蒸餾：
- 通過中轉站購買或獲取對話數據資產。
- 商業邏輯：賺取數據產業鏈價值，而非 Token 差價。
- 將保存的成千上萬會話過程轉化為有價值數據資產。
- Pipeline 蒸餾（數據工廠蒸餾）：
- 教師模型構建整個「學校」流程：自我出题、自我回答、自我批改、篩選優質數據。
- 教師模型扮演：出题老師、任課老師、批卷老師、教研組長、教材編寫者。
- 通過 SFT 和 RL 進行訓練，無需具體題庫，僅需領域指引。
III. 蒸餾概念的拓展：一切皆可蒸餾
- 用戶的蒸餾（模型蒸餾人）：
- 模型公司通過免費交互額度「蒸餾」用戶。
- 用戶在對話中的示範、舉例、取舍、糾偏，成為模型的監督信號。
- 結果：模型越來越聰明，需要的對話輪次減少。
- 員工的蒸餾：
- 記錄員工操作（如 Meta 記錄鍵盤操作）以煉化員工能力。
- 個人應用：通過本地對話、Obsidian 筆記等，讓模型對個人工作流（如視頻製作、選題腳本）進行自我蒸餾，沉淀 Skill 和方法包。
- 垂直專業領域的蒸餾：
- 結合企業歷史數據、專家經驗與前沿模型能力。
- 流程：Claude 完成任務 -> 專家糾偏 -> 形成黃金數據集/知識庫 -> 訓練小模型或 Agent。
- 案例：
- 設計師場景：AI 生成圖 -> 設計師挑選並標註原因 -> AI 優化邏輯（雙向蒸餾）。
- 逆向工程：基於最終方案（如 PPT），反向抽象蒸餾出生產路徑。
- 電商投放場景：AI 生成投放計劃 -> 投手審核標註原因 -> 結合投放數據反饋 -> 不斷循環優化。
- AI 組織協作的蒸餾：
- 將優秀 Agent 團隊（計劃、研究、代碼、測試、審閱）的協作方式進行蒸餾。
- 目標：蒸餾出 Agent 協作的規則、框架和介入時機。
IV. 總結與昇華
- 蒸餾的五個層級：
- 蒸餾答案 -> 獲得大模型結果。
- 蒸餾思考 -> 獲得推理鏈。
- 蒸餾行動。
- 蒸餾垂直工作方法 -> 形成 Skill、SOP、Prompt、Memory。
- 蒸餾人與組織 -> 形成 Agent System。
- 核心結論：蒸餾的本質是把一次昂貴的智能過程，變成下一次相對廉價、可復用的能力。Claude 的智能、Codex 的執行過程、頂級專家的認知、組織能力，皆可被蒸餾。
工具 / 模型 / 名詞整理
- 模型/產品名稱：
- Claude（Anthropic 發布）
- Opus 4.6 / 4.7
- GPT / GPT4 / GPT4o
- Codex
- Deepseek
- 月之暗面
- Minimax
- 阿里千問
- 智譜
- 小米（模型 MIMO）
- 商湯
- Meta
- Obsidian
- 技術/概念專有名詞：
- 蒸餾（Distillation）
- COT / Reasoning Trace / Thinking / 推理鏈 / 思維鏈
- SFT（監督微調）
- RL（強化學習）
- Agent
- Benchmark
- Harness
- Skill / SOP / Prompt / Memory
- Agent System
操作流程整理
模型對模型的蒸餾流程（以 Pipeline 為例）
- 定義領域：教師模型接收領域指引。
- 自我出题：教師模型生成題目。
- 自我回答：教師模型生成答案。
- 自我批改/篩選：教師模型對答案進行評分和篩選，保留優質數據。
- 訓練學生模型：使用篩選後的數據進行 SFT 和 RL 訓練。
垂直領域蒸餾流程（以設計師場景為例）
- AI 生成：AI 根據需求生成初步方案（如圖片）。
- 專家介入：設計師挑選並標註選擇或拒絕的原因。
- 數據反饋：將標註原因作為監督信號。
- 模型優化：AI 根據反饋優化邏輯，形成雙向蒸餾。
個人智能蒸餾流程
- 記錄交互：通過本地對話或筆記工具（如 Obsidian）記錄工作過程。
- 沉淀 Skill：讓模型學習個人的工作流（如視頻製作、選題腳本）。
- 形成方法包：將個人經驗轉化為可復用的 Prompt 或 Memory。
值得注意的限制或風險
- 信息安全隱患：Shadow Teacher 模式存在用戶誤以為使用學生模型，實際後台調用教師模型的風險，可能導致高價值數據洩露。
- 數據資產化爭議：中轉站蒸餾涉及將用戶對話轉化為數據資產並進行商業變現，可能引發隱私和所有權爭議。
- 模型版本與時間點準確性：影片中提到的模型版本（如 Opus 4.6/4.7）和報告發布時間（2026年9月10日）需進一步查證，可能存在辨識錯誤。
- 蒸餾依賴教師模型質量：若教師模型本身存在偏差或錯誤，蒸餾後的學生模型可能會放大這些問題。
逐字稿辨識疑點
- Anthropic 發布報告時間：逐字稿提及「9月10号」，需查證具體年份及報告準確發布日期。檢核提示參考資料為「2026年9月報告」，未明確指出10日。
- 模型版本號：逐字稿提及「Opus 4.6 和 4.7」，需查證 Anthropic 模型版本編號是否為該格式。
- 公司名稱拼寫：逐字稿提及「阿里千問」，通常稱呼為「阿里通義千問」或「Qwen」，此處保留原樣。
- 模型名稱：逐字稿提及「小米的模型 MIMO」，需查證小米大模型是否正式命名為 MIMO 或為口誤。
- 時間點：逐字稿提及「26年的5-7月之間」，指代 2026 年，需確認是否為口誤（如指 2024 或 2025）。
- 技術術語：逐字稿提及「Transcript 轉成了 SFT 的數據」，需確認是否指將對話記錄轉化為 SFT 數據格式。
- 其他：逐字稿中多次出現「Replay 蒸餾」，指代重放真實對話，此為講者自定義分類，保留原樣。
- 章節標題修正：segment 169 指出章節標題為「答案蒸馏」，但講者口語先說「出题蒸馏」後修正為「答案蒸馏」，此處以「答案蒸馏」為準，但需留意講者口語與標題的不一致。
- 公司名單順序：segment 26 和 44 提示應為「Deepseek、月之暗面、Minimax」及「月之暗面、Deepseek、智谱、小米、商汤、Minimax」，需核對講者口語順序與筆記整理順序是否一致。
- 關鍵句辨識：segment 127 提示應為「压缩成下一次」，需確認該句是否為核心定義的關鍵表述。
- 未比對片段：segment 543 和 582 為全文速讀上下文判斷，尚未回聽或交叉比對，內容可能存在誤讀。
可延伸追問
- Anthropic 蒸餾報告中提到的 7 家中國模型實驗室，具體是通過哪些技術手段來獲取 Claude 的推理鏈？
- Shadow Teacher 模式在實際應用中如何平衡用戶體驗與數據隱私？
- 對於普通用戶而言，如何利用 Obsidian 等工具進行有效的「個人智能蒸餾」？
- 垂直領域蒸餾中，專家糾偏的成本與模型訓練收益之間的平衡點在哪裡？
- 隨著模型能力增強，「出题蒸餾」與「推理蒸餾」的邊界是否會逐漸模糊？
尚未產生學習筆記
請在 Telegram 指令最後加上「學習」，例如：videonote 網址 英文 雙語 學習