1
00:00:00,000 --> 00:00:04,240
最近這幾天,AI先出現了一個很反常的畫面。

2
00:00:04,240 --> 00:00:08,760
Athropic的CEO達里奧阿莫迪發了一篇長文。

3
00:00:08,760 --> 00:00:13,000
公開的呼應,全言AI應該放慢一點。

4
00:00:13,000 --> 00:00:17,760
奧特曼說同意,馬斯克也說他是對的。

5
00:00:17,760 --> 00:00:23,000
最愛搶速度的這三個人,突然都在談減速。

6
00:00:23,000 --> 00:00:27,500
這聽起來像是三家公司握手停戰了。

7
00:00:27,500 --> 00:00:30,120
可事实并不是这样的

8
00:00:30,120 --> 00:00:33,160
他们只在安全评估上出现了交集

9
00:00:33,160 --> 00:00:35,780
没有人承诺一起停讯

10
00:00:35,780 --> 00:00:38,360
也没有约好下一代的模型

11
00:00:38,360 --> 00:00:39,520
共同的延期

12
00:00:39,520 --> 00:00:43,140
可这件事依然很重要

13
00:00:43,140 --> 00:00:46,200
它会影响以后进入办公软件

14
00:00:46,200 --> 00:00:47,140
学校

15
00:00:47,140 --> 00:00:48,660
日常产品的AI

16
00:00:48,660 --> 00:00:51,900
是更多的公司更快推出攻击

17
00:00:51,900 --> 00:00:53,620
还是少数巨头

18
00:00:53,620 --> 00:00:55,540
经过更长的审核之后

19
00:00:55,540 --> 00:00:57,040
决定什么能上线

20
00:00:57,040 --> 00:01:01,940
背后暴露的是今天Air竞赛最难解的一道题

21
00:01:01,940 --> 00:01:05,340
谁都不敢递一个松开油门

22
00:01:05,340 --> 00:01:10,380
但谁都害怕有人把整条赛道给撞毁了

23
00:01:10,380 --> 00:01:13,560
想象三只登三队正在站第一

24
00:01:13,560 --> 00:01:15,940
任何一队单独停下

25
00:01:15,940 --> 00:01:18,600
另外两队都可能先登顶

26
00:01:21,480 --> 00:01:23,800
可画面已经进入了风险期

27
00:01:23,800 --> 00:01:25,940
任何一队走错了一步

28
00:01:25,940 --> 00:01:28,800
都可能把风险扩散给所有人

29
00:01:28,800 --> 00:01:31,180
这个时候呢

30
00:01:31,180 --> 00:01:34,900
三个队伍都会支持一条共同的安全线

31
00:01:34,900 --> 00:01:36,620
问题是

32
00:01:36,620 --> 00:01:39,360
这条线究竟在降低风险

33
00:01:39,360 --> 00:01:42,780
还是在顺便把已经走在前面的队伍

34
00:01:42,780 --> 00:01:45,000
留在最有力的位置呢

35
00:01:45,000 --> 00:01:48,040
这才是阿莫迪这篇文章

36
00:01:48,040 --> 00:01:49,700
真正值得看的地方

37
00:01:50,980 --> 00:01:52,860
不是气口几个英文单词

38
00:01:52,860 --> 00:01:56,220
也不急着把他判成好人或坏人

39
00:01:56,220 --> 00:02:01,020
真正要看清的是他们想让什么慢下来

40
00:02:01,020 --> 00:02:02,640
谁为减速付钱

41
00:02:02,640 --> 00:02:07,760
这道归族会不会让后来的人更难追上呢

42
00:02:07,760 --> 00:02:10,800
先看阿木迪到底提了什么

43
00:02:10,800 --> 00:02:13,120
他的方案大致分三步

44
00:02:13,120 --> 00:02:14,520
第一步

45
00:02:14,520 --> 00:02:17,080
让外部的评估人员在法力

46
00:02:17,080 --> 00:02:19,220
合同和隐私边界内

47
00:02:19,220 --> 00:02:22,080
长期获得接近员工的访问能力

48
00:02:22,080 --> 00:02:25,640
查看前沿AI公司的内部系统和记录

49
00:02:25,640 --> 00:02:27,380
第二步

50
00:02:27,380 --> 00:02:30,680
先在美国和其他愿意合作的地区

51
00:02:30,680 --> 00:02:32,760
协调前沿AI安全标准

52
00:02:32,760 --> 00:02:34,540
第三步

53
00:02:34,540 --> 00:02:38,300
再尝试把这种协调扩展到全球

54
00:02:38,300 --> 00:02:40,340
他也专门强调

55
00:02:40,340 --> 00:02:44,240
所谓的放慢并不等于停止模型的信念

56
00:02:44,240 --> 00:02:47,020
更不等于停止技术的进步

57
00:02:48,120 --> 00:02:50,920
这句话很容易让人产生一个印象

58
00:02:50,920 --> 00:02:52,600
训练照常

59
00:02:52,600 --> 00:02:55,100
只有模型发布会被管住

60
00:02:55,100 --> 00:02:56,980
可继续往下看

61
00:02:56,980 --> 00:02:58,620
事情没有这么简单

62
00:02:58,620 --> 00:03:02,120
阿莫迪同时把训练流程

63
00:03:02,120 --> 00:03:05,700
训练算力和一次一次大规模的训练任务

64
00:03:05,700 --> 00:03:08,780
都列成了未来可能采用的政策攻击

65
00:03:08,780 --> 00:03:14,100
所以他提的不是一张已经写好的限速令

66
00:03:14,100 --> 00:03:18,000
而是一套还在等待填空的制度框架

67
00:03:18,000 --> 00:03:20,280
它可以很轻

68
00:03:20,280 --> 00:03:22,680
只要求公司保存记录

69
00:03:22,680 --> 00:03:24,380
接受外部的测试

70
00:03:24,380 --> 00:03:26,440
也可以很重

71
00:03:26,440 --> 00:03:28,980
模型能力和训练规模

72
00:03:28,980 --> 00:03:30,660
一旦达到某个门槛

73
00:03:30,660 --> 00:03:33,260
公司就得停下来接受检查

74
00:03:33,260 --> 00:03:37,480
这两种版本对行业的影响完全不同

75
00:03:37,480 --> 00:03:42,300
前一种更像是给飞机增加黑匣子和年检

76
00:03:42,300 --> 00:03:44,740
飞机仍然可以飞

77
00:03:44,740 --> 00:03:47,560
只是起飞前要多做检查

78
00:03:47,560 --> 00:03:52,980
而另一种则可能直接限制飞机能装多大的发动机

79
00:03:52,980 --> 00:03:54,740
一次能飞多延

80
00:03:54,740 --> 00:03:57,320
把这两种情况混在一起

81
00:03:57,320 --> 00:04:01,420
就会误判整个Air产业接下来会发生什么

82
00:04:01,420 --> 00:04:07,320
为什么偏偏是Azropik先站出来呢

83
00:04:07,320 --> 00:04:10,160
第一层原因并不神秘

84
00:04:10,160 --> 00:04:13,700
安全一直是Azropik最重要的品牌

85
00:04:13,700 --> 00:04:19,820
也是他和OpenAir XAir争夺企业客户时最鲜明的标签

86
00:04:19,820 --> 00:04:22,740
全员模型被接近攻击

87
00:04:22,740 --> 00:04:25,740
代码执行环境和企业数据之后

88
00:04:25,740 --> 00:04:30,840
越来越常被做成能够执行多部任务的智能体

89
00:04:30,840 --> 00:04:32,580
能力也强

90
00:04:32,580 --> 00:04:35,000
只有公司自己宣布安全

91
00:04:35,000 --> 00:04:37,360
就越难让外界幸福

92
00:04:37,360 --> 00:04:40,720
让独立的人员进入内部系统

93
00:04:40,720 --> 00:04:43,300
查看测试记录和真实的运行情况

94
00:04:43,300 --> 00:04:45,260
确实有现实价值

95
00:04:45,260 --> 00:04:50,380
因为很多问题不是做一次公开测评就能发现的

96
00:04:50,380 --> 00:04:53,600
模型在实验室测评中表现正常

97
00:04:53,600 --> 00:04:58,720
不代表由它工具权限和业务数据组成的系统

98
00:04:58,720 --> 00:05:03,700
接入代码库、浏览器或者企业数据库之后仍然正常

99
00:05:03,700 --> 00:05:07,780
评估着如果只能看公司挑好的演示

100
00:05:08,120 --> 00:05:12,420
也很难知道展示范围之外遗漏了什么失败的记录

101
00:05:12,420 --> 00:05:14,740
但看得到记录

102
00:05:14,740 --> 00:05:17,420
不等于已经测得出所有的危险

103
00:05:17,420 --> 00:05:19,200
更难的是

104
00:05:19,200 --> 00:05:22,380
测试能不能覆盖模型换了工具

105
00:05:22,380 --> 00:05:25,820
前线和任务之后出现了新的行为

106
00:05:25,820 --> 00:05:27,920
以及谁有前线

107
00:05:27,920 --> 00:05:30,840
判定风险已经高到了必须停下来

108
00:05:30,840 --> 00:05:33,580
但还有第二层的原因

109
00:05:33,580 --> 00:05:35,820
谁先提出标准

110
00:05:35,820 --> 00:05:38,700
谁就有机会影响标准怎么写

111
00:05:38,700 --> 00:05:42,860
Athropics已经有成熟的安全团队

112
00:05:42,860 --> 00:05:45,220
测试流程和对外的稀释

113
00:05:45,220 --> 00:05:47,920
他今天主动承诺的事情

114
00:05:47,920 --> 00:05:51,740
可能本来就是他比很多小公司更擅长

115
00:05:51,740 --> 00:05:53,580
更有自然完成的事情

116
00:05:53,580 --> 00:05:58,140
一旦这些能力变成全行业的法定要求

117
00:05:58,140 --> 00:06:01,340
那Athropics既获得了可信度

118
00:06:01,340 --> 00:06:03,620
也获得了规则的话语钱

119
00:06:03,620 --> 00:06:08,300
这里先不急着把安全判断成纯粹的包装

120
00:06:08,300 --> 00:06:11,180
真实世界最麻烦的地方

121
00:06:11,180 --> 00:06:13,760
恰恰是两件可以同时成立

122
00:06:13,760 --> 00:06:17,740
阿莫迪可以真的担心前沿AI失控

123
00:06:17,740 --> 00:06:20,360
也可以希望未来的行业规则

124
00:06:20,360 --> 00:06:23,900
更接近埃斯托匹克已经建好的那套能力

125
00:06:23,900 --> 00:06:26,260
安全收益是真的

126
00:06:26,260 --> 00:06:29,300
商业优势也可以是真的

127
00:06:29,300 --> 00:06:34,420
那么长期针锋相对的奥特曼

128
00:06:34,420 --> 00:06:36,460
为什么也愿意跟进呢

129
00:06:36,460 --> 00:06:39,100
因为他公开接受的

130
00:06:39,100 --> 00:06:41,680
首先是最容易形成共识的部分

131
00:06:41,680 --> 00:06:43,600
奥特曼说

132
00:06:43,600 --> 00:06:47,020
他同意需要为前沿的能力控制节奏

133
00:06:47,020 --> 00:06:49,880
也同意让独立的测评者

134
00:06:49,880 --> 00:06:52,360
获得接近员工级的访问前线

135
00:06:52,360 --> 00:06:54,240
OpenAI会照做

136
00:06:54,240 --> 00:06:56,120
到这里为止

137
00:06:56,120 --> 00:06:58,980
他支持的是透明度和评估的方向

138
00:06:58,980 --> 00:07:00,880
并没有公开的接受

139
00:07:00,880 --> 00:07:03,640
阿姆迪文章里的每一项制度的设计

140
00:07:03,640 --> 00:07:05,740
这对OpenAI来说

141
00:07:05,740 --> 00:07:08,300
也是一种低成本但有价值的表态

142
00:07:08,300 --> 00:07:12,040
他不需要当场的承诺停掉哪次的训练

143
00:07:12,040 --> 00:07:16,160
且能证明自己没有站在安全讨论的对立面

144
00:07:16,160 --> 00:07:18,100
更重要的是

145
00:07:18,100 --> 00:07:20,740
未来的规则还没有写完呢

146
00:07:20,740 --> 00:07:23,400
OpenA现在加入讨论

147
00:07:23,400 --> 00:07:26,300
就有机会参与决定评估什么

148
00:07:26,300 --> 00:07:27,780
何时触发

149
00:07:27,780 --> 00:07:29,580
出了问题怎么处理

150
00:07:29,580 --> 00:07:33,340
而不是等竞争对手先写出了标准

151
00:07:33,340 --> 00:07:34,780
再被动的接受

152
00:07:34,780 --> 00:07:37,240
马斯克的表态更短

153
00:07:37,240 --> 00:07:39,720
只有达里奥是对的

154
00:07:39,720 --> 00:07:42,800
这能证明他认同阿莫迪提出的问题

155
00:07:42,800 --> 00:07:46,320
不能证明他已经同意永久凭无言

156
00:07:46,320 --> 00:07:48,120
政府强制标准

157
00:07:48,120 --> 00:07:50,520
或者某个共同的训练上限

158
00:07:50,520 --> 00:07:53,780
把这三个人包装成正式的联盟

159
00:07:53,780 --> 00:07:55,580
袭击性很强

160
00:07:55,580 --> 00:07:57,160
准切先切不够

161
00:07:57,160 --> 00:08:01,440
马斯克的位置还比一级竞争对手更复杂

162
00:08:01,989 --> 00:08:11,309
馬爾斯克的位置還比一級競爭對手更複雜。Xair已經併入了SpaceX,而Aceropic又公開使用了SpaceX提供的Glosses算力。

163
00:08:11,309 --> 00:08:12,469
也就是说

164
00:08:12,469 --> 00:08:15,449
双方一边在前沿模型上竞争

165
00:08:15,449 --> 00:08:18,749
一边又存在基础设施的交易

166
00:08:18,749 --> 00:08:23,549
这个关系能解释为什么他们并非简单的敌我两边

167
00:08:23,549 --> 00:08:26,449
且仍然不能证明马斯克的表态

168
00:08:26,449 --> 00:08:29,849
来自某项共同的商业安排

169
00:08:29,849 --> 00:08:34,469
可他们为什么连这种有限支持都愿意给呢

170
00:08:34,469 --> 00:08:37,169
因为一次严重事故造成的损失

171
00:08:37,169 --> 00:08:40,909
很可能不会只落在出事的公司身上

172
00:08:40,909 --> 00:08:44,949
如果一个前沿智能体造成大范围的安全问题

173
00:08:44,949 --> 00:08:49,949
和公众、客户和政府把它视为行业的风险

174
00:08:49,949 --> 00:08:54,309
受损的就不只是一家公司的生意了

175
00:08:54,309 --> 00:08:58,069
事故未必让所有公司承担相同的损失

176
00:08:58,069 --> 00:09:04,969
但它可能抬高整个行业的审查、采购和许可的成本

177
00:09:04,969 --> 00:09:06,109
换句话说

178
00:09:06,109 --> 00:09:09,069
模型能力是各家的私有收益

179
00:09:09,069 --> 00:09:13,229
重大事故却可能变成前行业共同承担的成本

180
00:09:14,629 --> 00:09:18,069
三个竞争者可以继续的相互抢客户

181
00:09:18,069 --> 00:09:24,429
但他们都有理由防止某一家快速消耗整个行业的公共信任

182
00:09:24,429 --> 00:09:27,009
还有一个更现实的原因

183
00:09:27,009 --> 00:09:28,709
单独减速很贵

184
00:09:28,709 --> 00:09:30,769
共同接受最低检查线

185
00:09:30,769 --> 00:09:33,009
且便宜得多

186
00:09:33,009 --> 00:09:36,069
假如OpenAI独自推迟训练

187
00:09:36,069 --> 00:09:39,829
而Astropic和XAI继续前进

188
00:09:39,829 --> 00:09:43,869
OpEN也可能很快就丢掉能力领先了

189
00:09:43,869 --> 00:09:45,789
反过来也一样

190
00:09:45,789 --> 00:09:49,149
没有人愿意成为唯一停下来的人

191
00:09:49,149 --> 00:09:51,709
所以对头部竞争者而言

192
00:09:51,709 --> 00:09:53,069
最理想的安排

193
00:09:53,069 --> 00:09:55,589
往往是一套大家都要遵守

194
00:09:55,589 --> 00:09:59,389
而且成本足够对称的规则

195
00:09:59,389 --> 00:10:03,669
这就是这场罕见铜像背后的第一层答案

196
00:10:03,669 --> 00:10:05,909
它们不是突然不竞争了

197
00:10:05,909 --> 00:10:10,509
而是想把要不要减速从一家公司的道德选择

198
00:10:10,509 --> 00:10:14,909
变成主要竞争者共同面对的制度问题

199
00:10:14,909 --> 00:10:18,289
只有在成本足够对称的条件下

200
00:10:18,289 --> 00:10:19,689
先讲安全的一方

201
00:10:19,689 --> 00:10:24,269
才不容易因为单边承担代价而先输掉比赛

202
00:10:24,269 --> 00:10:28,869
不过真正的较量也从这里才开始

203
00:10:28,869 --> 00:10:32,569
因为大家都接受检查听起来是很公平的

204
00:10:32,569 --> 00:10:35,569
同一张检查表落在不同公司身上

205
00:10:35,569 --> 00:10:37,469
成本可能完全不同

206
00:10:37,469 --> 00:10:40,409
一套持续的外部评估

207
00:10:40,409 --> 00:10:43,049
不只是请几个人来办公室看模型

208
00:10:43,049 --> 00:10:46,109
它要保存训练和事故的日志

209
00:10:46,109 --> 00:10:47,969
控制访问前线

210
00:10:47,969 --> 00:10:50,209
安排独立的测试

211
00:10:50,209 --> 00:10:51,809
还要处理客户数据

212
00:10:51,809 --> 00:10:52,989
商业机密

213
00:10:52,989 --> 00:10:55,589
以及由谁来承担法律责任

214
00:10:55,589 --> 00:10:57,909
发现危险结果之后

215
00:10:57,909 --> 00:10:59,369
要推迟发布

216
00:10:59,369 --> 00:11:00,569
限制功能

217
00:11:00,569 --> 00:11:04,029
还是允许公司解释之后继续上线

218
00:11:04,029 --> 00:11:05,669
也都要有流程

219
00:11:05,669 --> 00:11:10,089
对资源更充足的前沿公司来说

220
00:11:10,089 --> 00:11:13,289
这类要求更可能建立在既有安全

221
00:11:13,289 --> 00:11:15,529
法务和基础设施之上

222
00:11:15,529 --> 00:11:17,969
对资源较少的团队

223
00:11:17,969 --> 00:11:19,789
同样的固定流程

224
00:11:19,789 --> 00:11:22,669
更可能占起了更高比例的研发议算

225
00:11:22,669 --> 00:11:26,209
到底差多少

226
00:11:26,209 --> 00:11:28,349
还要看评估的频率

227
00:11:28,349 --> 00:11:30,849
保密要求和责任的规则

228
00:11:30,849 --> 00:11:34,749
设想两家公司同时做出一个

229
00:11:34,749 --> 00:11:37,029
能够自动修改代码的智能体

230
00:11:37,029 --> 00:11:40,329
头部公司可以在现有的团队上

231
00:11:40,329 --> 00:11:42,429
增加测试和法力审查

232
00:11:42,429 --> 00:11:45,589
资源有限的团队面对的

233
00:11:45,589 --> 00:11:47,729
却可能不只是多花一笔钱

234
00:11:47,729 --> 00:11:51,849
而是合规的周期测试能力和法力责任

235
00:11:51,849 --> 00:11:54,329
会不会错过它的产品窗口

236
00:11:54,329 --> 00:11:57,949
规则如果不按能力和风险分级

237
00:11:57,949 --> 00:12:01,029
原本有竞争能力的团队

238
00:12:01,029 --> 00:12:02,849
也可能把大量的资源

239
00:12:02,849 --> 00:12:04,769
从研发转器补文档

240
00:12:04,769 --> 00:12:06,749
测试和责任的准备

241
00:12:06,749 --> 00:12:08,589
这种差别

242
00:12:08,589 --> 00:12:11,489
最后也会落到普通人使用的AI上

243
00:12:11,489 --> 00:12:13,529
大公司的产品

244
00:12:13,529 --> 00:12:16,069
会更容易获得经过检查的标签

245
00:12:16,069 --> 00:12:17,589
进入办公软件

246
00:12:17,589 --> 00:12:19,489
学校和企业系统

247
00:12:19,489 --> 00:12:22,089
小团队更大胆

248
00:12:22,089 --> 00:12:23,669
更便宜的工具

249
00:12:23,669 --> 00:12:26,309
则可能长期停在测试阶段

250
00:12:26,309 --> 00:12:29,909
用户得到的产品或许更安全

251
00:12:29,909 --> 00:12:32,269
但选择也可能更集中

252
00:12:32,269 --> 00:12:35,469
价格和功能有更少的公司结定

253
00:12:35,469 --> 00:12:39,989
这就是安全规则最容易变成竞争门槛的地方

254
00:12:39,989 --> 00:12:43,749
不是因为门槛这两个字天然的邪恶

255
00:12:43,749 --> 00:12:47,389
而是固定成本往往会对小公司更重

256
00:12:47,389 --> 00:12:50,569
它是否最终会变成护城河

257
00:12:50,569 --> 00:12:53,849
还要看规则能不能减少重复审计

258
00:12:53,849 --> 00:12:57,809
能不能让合格的小团体也拿到客户认可的证明

259
00:12:57,809 --> 00:12:59,849
反过来讲

260
00:12:59,849 --> 00:13:02,829
按能力和实际前线分级的规则

261
00:13:02,829 --> 00:13:04,889
也可能帮助创新

262
00:13:04,889 --> 00:13:09,169
小团队如果能使用共享的测试设施

263
00:13:09,169 --> 00:13:12,189
有清楚的研究和开源责任边界

264
00:13:12,189 --> 00:13:15,989
并提前知道哪些能力需要什么证明

265
00:13:15,989 --> 00:13:18,109
就不用在每次发布前

266
00:13:18,109 --> 00:13:20,389
才规则会不会临时的改现

267
00:13:20,389 --> 00:13:22,909
真正商创新的

268
00:13:22,909 --> 00:13:25,469
往往不只是标准的严格

269
00:13:25,469 --> 00:13:27,109
而是标准模糊

270
00:13:27,109 --> 00:13:28,289
不可复减

271
00:13:28,289 --> 00:13:30,769
又只对后来者严格

272
00:13:30,769 --> 00:13:34,349
所以判断这套倡议

273
00:13:34,349 --> 00:13:36,889
是安全护栏还是头部的护城河

274
00:13:36,889 --> 00:13:40,329
不应该靠猜阿莫迪心里想什么

275
00:13:40,329 --> 00:13:42,509
不用记住所有的细节

276
00:13:42,509 --> 00:13:44,269
只盯住一件事

277
00:13:44,269 --> 00:13:46,529
规则的成本和约束

278
00:13:46,529 --> 00:13:50,729
有没有对称的落到提出规则的头部公司身上

279
00:13:50,729 --> 00:13:52,569
下面四个问题

280
00:13:52,569 --> 00:13:54,789
都是检查这一件事的

281
00:13:54,789 --> 00:13:55,389
第一

282
00:13:55,389 --> 00:13:58,129
规则是否同样耶稣提出者

283
00:13:58,129 --> 00:14:00,629
如果小公司发布模型

284
00:14:00,629 --> 00:14:02,209
要先等好几个页

285
00:14:02,209 --> 00:14:04,969
头部公司训练更大的模型

286
00:14:04,969 --> 00:14:08,329
是不是也要接受同样严格的检查呢

287
00:14:08,329 --> 00:14:09,669
第二

288
00:14:09,669 --> 00:14:11,769
评估人员有谁选择

289
00:14:11,769 --> 00:14:12,749
有谁付钱

290
00:14:12,749 --> 00:14:16,789
如果公司可以随时的更换不满意的评估者

291
00:14:16,789 --> 00:14:18,609
那所谓独立

292
00:14:18,609 --> 00:14:21,029
就很容易只剩下一个名字了

293
00:14:21,029 --> 00:14:22,649
第三

294
00:14:22,649 --> 00:14:25,929
负面结果能不能独立的保存和披露

295
00:14:25,929 --> 00:14:27,949
如果发现了问题

296
00:14:27,949 --> 00:14:31,789
最后仍然只能由评估公司来决定是否公开

297
00:14:31,789 --> 00:14:34,869
那外部人员更像是高级顾问

298
00:14:34,869 --> 00:14:36,989
不像是真正的监督者

299
00:14:36,989 --> 00:14:38,649
第四

300
00:14:38,649 --> 00:14:42,109
小团队有没有负担得起的合规路径

301
00:14:42,109 --> 00:14:46,329
如果标准知写所有人一视同仁

302
00:14:46,329 --> 00:14:48,649
且不管同一笔高额的成本

303
00:14:48,649 --> 00:14:50,649
对不同公司的陷阱流

304
00:14:50,649 --> 00:14:52,049
意义完全不同

305
00:14:52,049 --> 00:14:54,589
那形式上的平等

306
00:14:54,589 --> 00:14:57,229
就可能变成了结果上的封锁

307
00:14:57,229 --> 00:14:59,629
到这里呢

308
00:14:59,629 --> 00:15:01,549
主线已经很清楚了

309
00:15:01,549 --> 00:15:04,369
安全风险给了共同规则正当性

310
00:15:04,369 --> 00:15:06,249
单边减速的代价

311
00:15:06,249 --> 00:15:08,869
让竞争者愿意谈统一规则

312
00:15:08,869 --> 00:15:10,969
头部公司的自言

313
00:15:10,969 --> 00:15:14,029
又让他们更能够承受规则的成本

314
00:15:14,029 --> 00:15:16,689
先把产业结论交出来

315
00:15:16,689 --> 00:15:21,249
这份倡议不会自动砍掉AI的芯片和资本开支

316
00:15:21,249 --> 00:15:25,769
只有规则把训练规模也纳住了强制的门槛

317
00:15:25,769 --> 00:15:28,749
那影响才会传到基础设施

318
00:15:28,749 --> 00:15:31,249
如果只是独立的评估

319
00:15:31,249 --> 00:15:34,649
首先增加的是合规成本和上限的时间

320
00:15:34,649 --> 00:15:37,649
那接下来才是最关键的问题

321
00:15:37,649 --> 00:15:40,209
如果美国政府真的采纳

322
00:15:40,209 --> 00:15:42,569
AI行业会发生什么呢

323
00:15:43,369 --> 00:15:45,929
这里至少有三种完全不同的结果

324
00:15:45,929 --> 00:15:48,429
在战事规则出现之前

325
00:15:48,429 --> 00:15:52,249
企业表态最多只能形成自研的业数

326
00:15:52,249 --> 00:15:54,929
覆盖哪些公司

327
00:15:54,929 --> 00:15:56,729
能力门槛画在哪

328
00:16:12,088 --> 00:16:14,508
事故记录和发布前检查

329
00:16:14,508 --> 00:16:16,068
这样的规则

330
00:16:16,068 --> 00:16:19,628
首先托慢模型上线和高风险功能的开放

331
00:16:19,628 --> 00:16:22,368
不一定会托慢底层的训练

332
00:16:22,368 --> 00:16:25,008
公司仍然可以购买芯片

333
00:16:25,008 --> 00:16:26,428
建设数据中心

334
00:16:26,428 --> 00:16:28,088
训练下一代的模型

335
00:16:28,088 --> 00:16:30,828
只是产品走出实验室前

336
00:16:30,828 --> 00:16:32,748
要多过几道检查

337
00:16:32,748 --> 00:16:34,988
这会增加成本

338
00:16:34,988 --> 00:16:38,148
但未必会让AI能力停止增长

339
00:16:39,148 --> 00:16:40,388
有些案件测试

340
00:16:40,388 --> 00:16:44,228
对抗测试和监控还是会消耗算力的

341
00:16:44,228 --> 00:16:47,508
但能否抵消掉训练和部署的变化

342
00:16:47,508 --> 00:16:49,088
要看最终的规则

343
00:16:49,088 --> 00:16:51,488
第二种规则更重

344
00:16:51,488 --> 00:16:54,628
政府按照模型能力设置检查点

345
00:16:54,628 --> 00:16:57,768
达到某个水平就必须取得许可

346
00:16:57,768 --> 00:17:00,208
或者接受更长时间的审查

347
00:17:00,208 --> 00:17:01,988
这样一来

348
00:17:01,988 --> 00:17:06,588
竞争可能不再是只看谁先把模型做出来

349
00:17:06,588 --> 00:17:09,588
还要看谁既能做出来

350
00:17:09,588 --> 00:17:10,488
又有钱

351
00:17:10,488 --> 00:17:11,368
有记录

352
00:17:11,368 --> 00:17:13,328
有团队通过检查

353
00:17:13,328 --> 00:17:17,348
头部公司的领先可能因此更加稳定了

354
00:17:17,348 --> 00:17:20,368
因为他们不仅拥有更多的芯片

355
00:17:20,368 --> 00:17:23,348
也更早建设了安全和法律体系

356
00:17:23,348 --> 00:17:27,068
第二梯队即使在算法上追得很近

357
00:17:27,068 --> 00:17:28,728
也可能在记录

358
00:17:28,728 --> 00:17:31,848
人员和责任保险上被拉开

359
00:17:33,148 --> 00:17:34,748
开研项目尤其麻烦

360
00:17:34,748 --> 00:17:38,288
因为它没有传统公司那样清晰的控制中心

361
00:17:38,288 --> 00:17:40,408
谁负责提交评估

362
00:17:40,408 --> 00:17:42,608
谁对下游修改负责

363
00:17:42,608 --> 00:17:44,608
都可能成为争议

364
00:17:44,608 --> 00:17:48,048
第三种才是真正意义上的产业结束

365
00:17:48,048 --> 00:17:51,168
如果规则直接限制了训练算力

366
00:17:51,168 --> 00:17:52,328
训练任务

367
00:17:52,328 --> 00:17:55,388
或者把用AI改进AI的流程纳入门槛

368
00:17:55,388 --> 00:17:59,448
那么大模型极型的排气会受到影响

369
00:18:00,088 --> 00:18:03,108
下一代模型的训练计划也可能被推迟

370
00:18:03,108 --> 00:18:08,448
这时候政策才会从发布端一路传达到芯片

371
00:18:08,448 --> 00:18:11,368
引服务 电力和数据中心

372
00:18:11,368 --> 00:18:13,848
把它翻译成人话

373
00:18:13,848 --> 00:18:18,008
全两种主要改变新功能什么时候上线

374
00:18:18,008 --> 00:18:20,308
谁来承担合规的成本

375
00:18:20,308 --> 00:18:26,008
只有第三种才会直接碰到芯片订单和数据中心的建设

376
00:18:28,228 --> 00:18:29,088
问题在意

377
00:18:29,088 --> 00:18:32,348
阿莫迪现在提出的是一组可选的工具

378
00:18:32,348 --> 00:18:35,608
并不是已经写进法律的第三种方案

379
00:18:35,608 --> 00:18:39,768
今天就宣布AI资本开支会大幅的收缩

380
00:18:39,768 --> 00:18:41,568
芯片需求会消失

381
00:18:41,568 --> 00:18:44,488
和宣布什么时候不会改变一样

382
00:18:44,488 --> 00:18:48,888
都是把尚未决定的细节当成了确定的结果

383
00:18:48,888 --> 00:18:51,408
如果只有美国公司执行

384
00:18:51,408 --> 00:18:54,328
其他地区不跟又会怎么样呢

385
00:18:54,328 --> 00:18:56,168
最直接的担心是

386
00:18:56,168 --> 00:18:57,788
美国公司慢下来

387
00:18:57,788 --> 00:18:59,368
其他地方继续追赶

388
00:18:59,368 --> 00:19:01,668
这个风险确实存在

389
00:19:01,668 --> 00:19:03,188
阿穆迪也承认

390
00:19:03,188 --> 00:19:05,328
完整的全球协调

391
00:19:05,328 --> 00:19:06,928
短期内很难实现

392
00:19:06,928 --> 00:19:09,508
但结果也不会简单到

393
00:19:09,508 --> 00:19:11,068
谁不监管谁就赢

394
00:19:11,068 --> 00:19:13,928
因为前沿AI模型需要芯片

395
00:19:13,928 --> 00:19:15,028
数据中心

396
00:19:15,028 --> 00:19:15,788
电力

397
00:19:15,788 --> 00:19:16,548
资金

398
00:19:16,548 --> 00:19:18,888
客户和稳定的供应链

399
00:19:18,888 --> 00:19:21,208
规则更宽松

400
00:19:21,208 --> 00:19:23,888
不代表这些资源立刻的补齐

401
00:19:23,888 --> 00:19:25,648
反过来

402
00:19:25,648 --> 00:19:28,168
如果美国的规则昂贵又模糊

403
00:19:28,168 --> 00:19:32,368
人才和项目寻找其他弱点的动力就会增加

404
00:19:32,368 --> 00:19:37,068
美国公司也可能推动大型客户和银平台

405
00:19:37,068 --> 00:19:39,048
采用同一套的评估标准

406
00:19:39,048 --> 00:19:43,168
让本国的规则逐渐变成国际的门槛

407
00:19:43,168 --> 00:19:45,068
能否做到

408
00:19:45,068 --> 00:19:47,248
要看标准是否透明

409
00:19:47,248 --> 00:19:48,528
能否复验

410
00:19:48,528 --> 00:19:52,428
也要看其他市场有没有可信的替代方案

411
00:19:52,428 --> 00:19:56,068
所以真正难谈的不是安全重不重要

412
00:19:56,068 --> 00:19:59,728
而是谁愿意把训练计划交给外部检查

413
00:19:59,728 --> 00:20:02,548
谁接受负面的结果公开

414
00:20:02,548 --> 00:20:07,108
谁愿意在竞争者不配合时仍然推迟模型

415
00:20:07,108 --> 00:20:10,968
芯片和资本开支到底会不会减速

416
00:20:10,968 --> 00:20:12,728
不能靠口话判断

417
00:20:12,728 --> 00:20:18,908
Azorvik,OpenAI以及SpaceX和XA所在的体系

418
00:20:18,908 --> 00:20:20,748
都在扩大基础设施

419
00:20:21,468 --> 00:20:24,848
但扩建不能证明他们绝不会调整训练

420
00:20:24,848 --> 00:20:29,608
倡议也不能证明已经签下的安排一定会奇效

421
00:20:29,608 --> 00:20:31,328
阿莫迪认为

422
00:20:31,328 --> 00:20:35,528
部分风险可能在未来6到12个月内迅速的升级

423
00:20:35,528 --> 00:20:40,588
可数据中心云容量和电力工程按的是多年的规划

424
00:20:40,588 --> 00:20:43,908
软件发布几周内就能改期

425
00:20:43,908 --> 00:20:48,568
编电站机房和芯片交付却没有那么灵活

426
00:20:50,988 --> 00:20:52,788
外界又看不到完整的合同

427
00:20:52,788 --> 00:20:54,788
所以更准确的问题是

428
00:20:54,788 --> 00:20:56,828
如果真的放缓了

429
00:20:56,828 --> 00:21:00,308
会先在哪类公开的记录里留下痕迹呢

430
00:21:00,308 --> 00:21:03,568
第一章是模型训练和发布表

431
00:21:03,568 --> 00:21:06,088
下一代模型是否延期

432
00:21:06,088 --> 00:21:08,788
危险功能是否推迟的开放

433
00:21:08,788 --> 00:21:11,068
已经完成的训练的模型

434
00:21:11,068 --> 00:21:13,528
是否增加更长的验证器

435
00:21:13,528 --> 00:21:18,088
第二章是云厂商和数据中心的资本开支表

436
00:21:18,088 --> 00:21:21,348
企业是否调整新增的机型

437
00:21:21,348 --> 00:21:24,008
电力容量和机房建设的指引

438
00:21:24,008 --> 00:21:27,188
只有这一层出现了持续变化

439
00:21:27,188 --> 00:21:30,388
减速那才开始传达到基础设施

440
00:21:30,388 --> 00:21:34,368
第三章是容量合同和芯片交付表

441
00:21:34,368 --> 00:21:38,448
公开可核印的延期缩减或取消

442
00:21:38,448 --> 00:21:42,568
会是安全主张开始触及真金白印的强信号

443
00:21:42,568 --> 00:21:45,128
其他合同能否调整

444
00:21:45,128 --> 00:21:46,968
是否已经安排重排

445
00:21:46,968 --> 00:21:49,488
外界未必看得到

446
00:21:49,488 --> 00:21:52,428
现阶段不能因为一计放慢

447
00:21:52,428 --> 00:21:54,808
就依判半导体产业急转慢

448
00:21:54,808 --> 00:21:58,548
假如政策只要求更多的评估

449
00:21:58,548 --> 00:22:00,828
测试、监控和验证

450
00:22:00,828 --> 00:22:03,428
可能带来一部分算力的需求

451
00:22:03,428 --> 00:22:06,408
但能否抵消训练段的变化

452
00:22:06,408 --> 00:22:08,988
要看规则强度和企业的部署

453
00:22:08,988 --> 00:22:11,928
只有直接限制训练算力

454
00:22:11,928 --> 00:22:15,248
才更可能改变芯片订单和数据中心的建设

455
00:22:15,248 --> 00:22:17,108
回到开头

456
00:22:17,108 --> 00:22:20,148
三位竞争者不是突然变成盟友

457
00:22:20,148 --> 00:22:23,068
也不能简单说成是联手社级

458
00:22:23,068 --> 00:22:25,808
他们看见了共同的风险

459
00:22:25,808 --> 00:22:28,828
又不愿意独自的承担减速的代价

460
00:22:28,828 --> 00:22:31,208
阿穆迪先提出规则

461
00:22:31,208 --> 00:22:33,548
奥特曼接受独立评估

462
00:22:33,548 --> 00:22:35,988
马斯克只认同了方向

463
00:22:35,988 --> 00:22:39,208
三个人究竟愿意付出什么代价

464
00:22:39,208 --> 00:22:40,988
还没有完整的答案

465
00:22:42,268 --> 00:22:45,048
这套倡议可能减少真实的风险

466
00:22:45,048 --> 00:22:48,848
也可能把合规的成本变成新的竞争壁垒

467
00:22:48,848 --> 00:22:51,468
真正决定他性质的

468
00:22:51,468 --> 00:22:54,168
不是CEO说的多诚恳

469
00:22:54,168 --> 00:22:58,308
而是规则有没有对称的落到他们自己身上

470
00:22:58,308 --> 00:23:02,048
以后再看到哪家AI公司呼一方慢

471
00:23:02,048 --> 00:23:03,668
不必急着相信

472
00:23:03,668 --> 00:23:05,368
也不必急着嘲笑

473
00:23:05,368 --> 00:23:07,628
先看三类动作

474
00:23:07,628 --> 00:23:10,988
事故记录是否真的交给独立者

475
00:23:10,988 --> 00:23:14,108
模型训练和发布是否真的调整

476
00:23:14,108 --> 00:23:19,148
算力与资本计划是否出现了可验证的变化

477
00:23:19,148 --> 00:23:23,368
如果只看到入口越来越严

478
00:23:23,368 --> 00:23:26,068
且看不到头部公司的训练和发布

479
00:23:26,068 --> 00:23:27,448
承担对称的代价

480
00:23:27,448 --> 00:23:31,608
那它更像是再重新安排谁能做上前排

481
00:23:31,608 --> 00:23:34,608
如果三类动作相互印证

482
00:23:34,608 --> 00:23:36,848
而且能和规则要求对应

483
00:23:36,848 --> 00:23:38,648
那会是更强的证据

484
00:23:38,648 --> 00:23:43,268
说明减速成本开始落到头部公司自己身上

485
00:23:43,268 --> 00:23:46,248
至于资本计划是否改变

486
00:23:46,248 --> 00:23:49,848
还要看规则最终有没有触及到训练的规模

487
00:23:49,848 --> 00:23:55,128
普通使用者也可以把这套方法说成三个问题

488
00:23:55,128 --> 00:23:57,008
谁做了评估

489
00:23:57,008 --> 00:23:59,328
出了问题能不能查到记录

490
00:23:59,328 --> 00:24:02,648
限制是不是对所有公司都一样

491
00:24:02,648 --> 00:24:07,368
你最希望这些公司先公开哪一类的记录呢

492
00:24:08,048 --> 00:24:09,168
是训练计划

493
00:24:09,168 --> 00:24:10,348
事故记录

494
00:24:10,348 --> 00:24:12,508
还是算力合同的调整呢

495
00:24:12,508 --> 00:24:15,628
你觉得这三巨头是真的在为

496
00:24:15,628 --> 00:24:17,108
全人类的安全担忧

497
00:24:17,108 --> 00:24:19,628
还是在联手给后来者

498
00:24:19,628 --> 00:24:21,428
挖坑修城墙呢

499
00:24:21,428 --> 00:24:23,068
评论区聊一聊

500
00:24:23,068 --> 00:24:24,848
记得点赞订阅

501
00:24:24,848 --> 00:24:25,868
打开小铃铛

502
00:24:25,868 --> 00:24:27,848
咱们下期再见