WEBVTT

00:00:00.000 --> 00:00:04.240
最近這幾天,AI先出現了一個很反常的畫面。

00:00:04.240 --> 00:00:08.760
Athropic的CEO達里奧阿莫迪發了一篇長文。

00:00:08.760 --> 00:00:13.000
公開的呼應,全言AI應該放慢一點。

00:00:13.000 --> 00:00:17.760
奧特曼說同意,馬斯克也說他是對的。

00:00:17.760 --> 00:00:23.000
最愛搶速度的這三個人,突然都在談減速。

00:00:23.000 --> 00:00:27.500
這聽起來像是三家公司握手停戰了。

00:00:27.500 --> 00:00:30.120
可事实并不是这样的

00:00:30.120 --> 00:00:33.160
他们只在安全评估上出现了交集

00:00:33.160 --> 00:00:35.780
没有人承诺一起停讯

00:00:35.780 --> 00:00:38.360
也没有约好下一代的模型

00:00:38.360 --> 00:00:39.520
共同的延期

00:00:39.520 --> 00:00:43.140
可这件事依然很重要

00:00:43.140 --> 00:00:46.200
它会影响以后进入办公软件

00:00:46.200 --> 00:00:47.140
学校

00:00:47.140 --> 00:00:48.660
日常产品的AI

00:00:48.660 --> 00:00:51.900
是更多的公司更快推出攻击

00:00:51.900 --> 00:00:53.620
还是少数巨头

00:00:53.620 --> 00:00:55.540
经过更长的审核之后

00:00:55.540 --> 00:00:57.040
决定什么能上线

00:00:57.040 --> 00:01:01.940
背后暴露的是今天Air竞赛最难解的一道题

00:01:01.940 --> 00:01:05.340
谁都不敢递一个松开油门

00:01:05.340 --> 00:01:10.380
但谁都害怕有人把整条赛道给撞毁了

00:01:10.380 --> 00:01:13.560
想象三只登三队正在站第一

00:01:13.560 --> 00:01:15.940
任何一队单独停下

00:01:15.940 --> 00:01:18.600
另外两队都可能先登顶

00:01:21.480 --> 00:01:23.800
可画面已经进入了风险期

00:01:23.800 --> 00:01:25.940
任何一队走错了一步

00:01:25.940 --> 00:01:28.800
都可能把风险扩散给所有人

00:01:28.800 --> 00:01:31.180
这个时候呢

00:01:31.180 --> 00:01:34.900
三个队伍都会支持一条共同的安全线

00:01:34.900 --> 00:01:36.620
问题是

00:01:36.620 --> 00:01:39.360
这条线究竟在降低风险

00:01:39.360 --> 00:01:42.780
还是在顺便把已经走在前面的队伍

00:01:42.780 --> 00:01:45.000
留在最有力的位置呢

00:01:45.000 --> 00:01:48.040
这才是阿莫迪这篇文章

00:01:48.040 --> 00:01:49.700
真正值得看的地方

00:01:50.980 --> 00:01:52.860
不是气口几个英文单词

00:01:52.860 --> 00:01:56.220
也不急着把他判成好人或坏人

00:01:56.220 --> 00:02:01.020
真正要看清的是他们想让什么慢下来

00:02:01.020 --> 00:02:02.640
谁为减速付钱

00:02:02.640 --> 00:02:07.760
这道归族会不会让后来的人更难追上呢

00:02:07.760 --> 00:02:10.800
先看阿木迪到底提了什么

00:02:10.800 --> 00:02:13.120
他的方案大致分三步

00:02:13.120 --> 00:02:14.520
第一步

00:02:14.520 --> 00:02:17.080
让外部的评估人员在法力

00:02:17.080 --> 00:02:19.220
合同和隐私边界内

00:02:19.220 --> 00:02:22.080
长期获得接近员工的访问能力

00:02:22.080 --> 00:02:25.640
查看前沿AI公司的内部系统和记录

00:02:25.640 --> 00:02:27.380
第二步

00:02:27.380 --> 00:02:30.680
先在美国和其他愿意合作的地区

00:02:30.680 --> 00:02:32.760
协调前沿AI安全标准

00:02:32.760 --> 00:02:34.540
第三步

00:02:34.540 --> 00:02:38.300
再尝试把这种协调扩展到全球

00:02:38.300 --> 00:02:40.340
他也专门强调

00:02:40.340 --> 00:02:44.240
所谓的放慢并不等于停止模型的信念

00:02:44.240 --> 00:02:47.020
更不等于停止技术的进步

00:02:48.120 --> 00:02:50.920
这句话很容易让人产生一个印象

00:02:50.920 --> 00:02:52.600
训练照常

00:02:52.600 --> 00:02:55.100
只有模型发布会被管住

00:02:55.100 --> 00:02:56.980
可继续往下看

00:02:56.980 --> 00:02:58.620
事情没有这么简单

00:02:58.620 --> 00:03:02.120
阿莫迪同时把训练流程

00:03:02.120 --> 00:03:05.700
训练算力和一次一次大规模的训练任务

00:03:05.700 --> 00:03:08.780
都列成了未来可能采用的政策攻击

00:03:08.780 --> 00:03:14.100
所以他提的不是一张已经写好的限速令

00:03:14.100 --> 00:03:18.000
而是一套还在等待填空的制度框架

00:03:18.000 --> 00:03:20.280
它可以很轻

00:03:20.280 --> 00:03:22.680
只要求公司保存记录

00:03:22.680 --> 00:03:24.380
接受外部的测试

00:03:24.380 --> 00:03:26.440
也可以很重

00:03:26.440 --> 00:03:28.980
模型能力和训练规模

00:03:28.980 --> 00:03:30.660
一旦达到某个门槛

00:03:30.660 --> 00:03:33.260
公司就得停下来接受检查

00:03:33.260 --> 00:03:37.480
这两种版本对行业的影响完全不同

00:03:37.480 --> 00:03:42.300
前一种更像是给飞机增加黑匣子和年检

00:03:42.300 --> 00:03:44.740
飞机仍然可以飞

00:03:44.740 --> 00:03:47.560
只是起飞前要多做检查

00:03:47.560 --> 00:03:52.980
而另一种则可能直接限制飞机能装多大的发动机

00:03:52.980 --> 00:03:54.740
一次能飞多延

00:03:54.740 --> 00:03:57.320
把这两种情况混在一起

00:03:57.320 --> 00:04:01.420
就会误判整个Air产业接下来会发生什么

00:04:01.420 --> 00:04:07.320
为什么偏偏是Azropik先站出来呢

00:04:07.320 --> 00:04:10.160
第一层原因并不神秘

00:04:10.160 --> 00:04:13.700
安全一直是Azropik最重要的品牌

00:04:13.700 --> 00:04:19.820
也是他和OpenAir XAir争夺企业客户时最鲜明的标签

00:04:19.820 --> 00:04:22.740
全员模型被接近攻击

00:04:22.740 --> 00:04:25.740
代码执行环境和企业数据之后

00:04:25.740 --> 00:04:30.840
越来越常被做成能够执行多部任务的智能体

00:04:30.840 --> 00:04:32.580
能力也强

00:04:32.580 --> 00:04:35.000
只有公司自己宣布安全

00:04:35.000 --> 00:04:37.360
就越难让外界幸福

00:04:37.360 --> 00:04:40.720
让独立的人员进入内部系统

00:04:40.720 --> 00:04:43.300
查看测试记录和真实的运行情况

00:04:43.300 --> 00:04:45.260
确实有现实价值

00:04:45.260 --> 00:04:50.380
因为很多问题不是做一次公开测评就能发现的

00:04:50.380 --> 00:04:53.600
模型在实验室测评中表现正常

00:04:53.600 --> 00:04:58.720
不代表由它工具权限和业务数据组成的系统

00:04:58.720 --> 00:05:03.700
接入代码库、浏览器或者企业数据库之后仍然正常

00:05:03.700 --> 00:05:07.780
评估着如果只能看公司挑好的演示

00:05:08.120 --> 00:05:12.420
也很难知道展示范围之外遗漏了什么失败的记录

00:05:12.420 --> 00:05:14.740
但看得到记录

00:05:14.740 --> 00:05:17.420
不等于已经测得出所有的危险

00:05:17.420 --> 00:05:19.200
更难的是

00:05:19.200 --> 00:05:22.380
测试能不能覆盖模型换了工具

00:05:22.380 --> 00:05:25.820
前线和任务之后出现了新的行为

00:05:25.820 --> 00:05:27.920
以及谁有前线

00:05:27.920 --> 00:05:30.840
判定风险已经高到了必须停下来

00:05:30.840 --> 00:05:33.580
但还有第二层的原因

00:05:33.580 --> 00:05:35.820
谁先提出标准

00:05:35.820 --> 00:05:38.700
谁就有机会影响标准怎么写

00:05:38.700 --> 00:05:42.860
Athropics已经有成熟的安全团队

00:05:42.860 --> 00:05:45.220
测试流程和对外的稀释

00:05:45.220 --> 00:05:47.920
他今天主动承诺的事情

00:05:47.920 --> 00:05:51.740
可能本来就是他比很多小公司更擅长

00:05:51.740 --> 00:05:53.580
更有自然完成的事情

00:05:53.580 --> 00:05:58.140
一旦这些能力变成全行业的法定要求

00:05:58.140 --> 00:06:01.340
那Athropics既获得了可信度

00:06:01.340 --> 00:06:03.620
也获得了规则的话语钱

00:06:03.620 --> 00:06:08.300
这里先不急着把安全判断成纯粹的包装

00:06:08.300 --> 00:06:11.180
真实世界最麻烦的地方

00:06:11.180 --> 00:06:13.760
恰恰是两件可以同时成立

00:06:13.760 --> 00:06:17.740
阿莫迪可以真的担心前沿AI失控

00:06:17.740 --> 00:06:20.360
也可以希望未来的行业规则

00:06:20.360 --> 00:06:23.900
更接近埃斯托匹克已经建好的那套能力

00:06:23.900 --> 00:06:26.260
安全收益是真的

00:06:26.260 --> 00:06:29.300
商业优势也可以是真的

00:06:29.300 --> 00:06:34.420
那么长期针锋相对的奥特曼

00:06:34.420 --> 00:06:36.460
为什么也愿意跟进呢

00:06:36.460 --> 00:06:39.100
因为他公开接受的

00:06:39.100 --> 00:06:41.680
首先是最容易形成共识的部分

00:06:41.680 --> 00:06:43.600
奥特曼说

00:06:43.600 --> 00:06:47.020
他同意需要为前沿的能力控制节奏

00:06:47.020 --> 00:06:49.880
也同意让独立的测评者

00:06:49.880 --> 00:06:52.360
获得接近员工级的访问前线

00:06:52.360 --> 00:06:54.240
OpenAI会照做

00:06:54.240 --> 00:06:56.120
到这里为止

00:06:56.120 --> 00:06:58.980
他支持的是透明度和评估的方向

00:06:58.980 --> 00:07:00.880
并没有公开的接受

00:07:00.880 --> 00:07:03.640
阿姆迪文章里的每一项制度的设计

00:07:03.640 --> 00:07:05.740
这对OpenAI来说

00:07:05.740 --> 00:07:08.300
也是一种低成本但有价值的表态

00:07:08.300 --> 00:07:12.040
他不需要当场的承诺停掉哪次的训练

00:07:12.040 --> 00:07:16.160
且能证明自己没有站在安全讨论的对立面

00:07:16.160 --> 00:07:18.100
更重要的是

00:07:18.100 --> 00:07:20.740
未来的规则还没有写完呢

00:07:20.740 --> 00:07:23.400
OpenA现在加入讨论

00:07:23.400 --> 00:07:26.300
就有机会参与决定评估什么

00:07:26.300 --> 00:07:27.780
何时触发

00:07:27.780 --> 00:07:29.580
出了问题怎么处理

00:07:29.580 --> 00:07:33.340
而不是等竞争对手先写出了标准

00:07:33.340 --> 00:07:34.780
再被动的接受

00:07:34.780 --> 00:07:37.240
马斯克的表态更短

00:07:37.240 --> 00:07:39.720
只有达里奥是对的

00:07:39.720 --> 00:07:42.800
这能证明他认同阿莫迪提出的问题

00:07:42.800 --> 00:07:46.320
不能证明他已经同意永久凭无言

00:07:46.320 --> 00:07:48.120
政府强制标准

00:07:48.120 --> 00:07:50.520
或者某个共同的训练上限

00:07:50.520 --> 00:07:53.780
把这三个人包装成正式的联盟

00:07:53.780 --> 00:07:55.580
袭击性很强

00:07:55.580 --> 00:07:57.160
准切先切不够

00:07:57.160 --> 00:08:01.440
马斯克的位置还比一级竞争对手更复杂

00:08:01.989 --> 00:08:11.309
馬爾斯克的位置還比一級競爭對手更複雜。Xair已經併入了SpaceX,而Aceropic又公開使用了SpaceX提供的Glosses算力。

00:08:11.309 --> 00:08:12.469
也就是说

00:08:12.469 --> 00:08:15.449
双方一边在前沿模型上竞争

00:08:15.449 --> 00:08:18.749
一边又存在基础设施的交易

00:08:18.749 --> 00:08:23.549
这个关系能解释为什么他们并非简单的敌我两边

00:08:23.549 --> 00:08:26.449
且仍然不能证明马斯克的表态

00:08:26.449 --> 00:08:29.849
来自某项共同的商业安排

00:08:29.849 --> 00:08:34.469
可他们为什么连这种有限支持都愿意给呢

00:08:34.469 --> 00:08:37.169
因为一次严重事故造成的损失

00:08:37.169 --> 00:08:40.909
很可能不会只落在出事的公司身上

00:08:40.909 --> 00:08:44.949
如果一个前沿智能体造成大范围的安全问题

00:08:44.949 --> 00:08:49.949
和公众、客户和政府把它视为行业的风险

00:08:49.949 --> 00:08:54.309
受损的就不只是一家公司的生意了

00:08:54.309 --> 00:08:58.069
事故未必让所有公司承担相同的损失

00:08:58.069 --> 00:09:04.969
但它可能抬高整个行业的审查、采购和许可的成本

00:09:04.969 --> 00:09:06.109
换句话说

00:09:06.109 --> 00:09:09.069
模型能力是各家的私有收益

00:09:09.069 --> 00:09:13.229
重大事故却可能变成前行业共同承担的成本

00:09:14.629 --> 00:09:18.069
三个竞争者可以继续的相互抢客户

00:09:18.069 --> 00:09:24.429
但他们都有理由防止某一家快速消耗整个行业的公共信任

00:09:24.429 --> 00:09:27.009
还有一个更现实的原因

00:09:27.009 --> 00:09:28.709
单独减速很贵

00:09:28.709 --> 00:09:30.769
共同接受最低检查线

00:09:30.769 --> 00:09:33.009
且便宜得多

00:09:33.009 --> 00:09:36.069
假如OpenAI独自推迟训练

00:09:36.069 --> 00:09:39.829
而Astropic和XAI继续前进

00:09:39.829 --> 00:09:43.869
OpEN也可能很快就丢掉能力领先了

00:09:43.869 --> 00:09:45.789
反过来也一样

00:09:45.789 --> 00:09:49.149
没有人愿意成为唯一停下来的人

00:09:49.149 --> 00:09:51.709
所以对头部竞争者而言

00:09:51.709 --> 00:09:53.069
最理想的安排

00:09:53.069 --> 00:09:55.589
往往是一套大家都要遵守

00:09:55.589 --> 00:09:59.389
而且成本足够对称的规则

00:09:59.389 --> 00:10:03.669
这就是这场罕见铜像背后的第一层答案

00:10:03.669 --> 00:10:05.909
它们不是突然不竞争了

00:10:05.909 --> 00:10:10.509
而是想把要不要减速从一家公司的道德选择

00:10:10.509 --> 00:10:14.909
变成主要竞争者共同面对的制度问题

00:10:14.909 --> 00:10:18.289
只有在成本足够对称的条件下

00:10:18.289 --> 00:10:19.689
先讲安全的一方

00:10:19.689 --> 00:10:24.269
才不容易因为单边承担代价而先输掉比赛

00:10:24.269 --> 00:10:28.869
不过真正的较量也从这里才开始

00:10:28.869 --> 00:10:32.569
因为大家都接受检查听起来是很公平的

00:10:32.569 --> 00:10:35.569
同一张检查表落在不同公司身上

00:10:35.569 --> 00:10:37.469
成本可能完全不同

00:10:37.469 --> 00:10:40.409
一套持续的外部评估

00:10:40.409 --> 00:10:43.049
不只是请几个人来办公室看模型

00:10:43.049 --> 00:10:46.109
它要保存训练和事故的日志

00:10:46.109 --> 00:10:47.969
控制访问前线

00:10:47.969 --> 00:10:50.209
安排独立的测试

00:10:50.209 --> 00:10:51.809
还要处理客户数据

00:10:51.809 --> 00:10:52.989
商业机密

00:10:52.989 --> 00:10:55.589
以及由谁来承担法律责任

00:10:55.589 --> 00:10:57.909
发现危险结果之后

00:10:57.909 --> 00:10:59.369
要推迟发布

00:10:59.369 --> 00:11:00.569
限制功能

00:11:00.569 --> 00:11:04.029
还是允许公司解释之后继续上线

00:11:04.029 --> 00:11:05.669
也都要有流程

00:11:05.669 --> 00:11:10.089
对资源更充足的前沿公司来说

00:11:10.089 --> 00:11:13.289
这类要求更可能建立在既有安全

00:11:13.289 --> 00:11:15.529
法务和基础设施之上

00:11:15.529 --> 00:11:17.969
对资源较少的团队

00:11:17.969 --> 00:11:19.789
同样的固定流程

00:11:19.789 --> 00:11:22.669
更可能占起了更高比例的研发议算

00:11:22.669 --> 00:11:26.209
到底差多少

00:11:26.209 --> 00:11:28.349
还要看评估的频率

00:11:28.349 --> 00:11:30.849
保密要求和责任的规则

00:11:30.849 --> 00:11:34.749
设想两家公司同时做出一个

00:11:34.749 --> 00:11:37.029
能够自动修改代码的智能体

00:11:37.029 --> 00:11:40.329
头部公司可以在现有的团队上

00:11:40.329 --> 00:11:42.429
增加测试和法力审查

00:11:42.429 --> 00:11:45.589
资源有限的团队面对的

00:11:45.589 --> 00:11:47.729
却可能不只是多花一笔钱

00:11:47.729 --> 00:11:51.849
而是合规的周期测试能力和法力责任

00:11:51.849 --> 00:11:54.329
会不会错过它的产品窗口

00:11:54.329 --> 00:11:57.949
规则如果不按能力和风险分级

00:11:57.949 --> 00:12:01.029
原本有竞争能力的团队

00:12:01.029 --> 00:12:02.849
也可能把大量的资源

00:12:02.849 --> 00:12:04.769
从研发转器补文档

00:12:04.769 --> 00:12:06.749
测试和责任的准备

00:12:06.749 --> 00:12:08.589
这种差别

00:12:08.589 --> 00:12:11.489
最后也会落到普通人使用的AI上

00:12:11.489 --> 00:12:13.529
大公司的产品

00:12:13.529 --> 00:12:16.069
会更容易获得经过检查的标签

00:12:16.069 --> 00:12:17.589
进入办公软件

00:12:17.589 --> 00:12:19.489
学校和企业系统

00:12:19.489 --> 00:12:22.089
小团队更大胆

00:12:22.089 --> 00:12:23.669
更便宜的工具

00:12:23.669 --> 00:12:26.309
则可能长期停在测试阶段

00:12:26.309 --> 00:12:29.909
用户得到的产品或许更安全

00:12:29.909 --> 00:12:32.269
但选择也可能更集中

00:12:32.269 --> 00:12:35.469
价格和功能有更少的公司结定

00:12:35.469 --> 00:12:39.989
这就是安全规则最容易变成竞争门槛的地方

00:12:39.989 --> 00:12:43.749
不是因为门槛这两个字天然的邪恶

00:12:43.749 --> 00:12:47.389
而是固定成本往往会对小公司更重

00:12:47.389 --> 00:12:50.569
它是否最终会变成护城河

00:12:50.569 --> 00:12:53.849
还要看规则能不能减少重复审计

00:12:53.849 --> 00:12:57.809
能不能让合格的小团体也拿到客户认可的证明

00:12:57.809 --> 00:12:59.849
反过来讲

00:12:59.849 --> 00:13:02.829
按能力和实际前线分级的规则

00:13:02.829 --> 00:13:04.889
也可能帮助创新

00:13:04.889 --> 00:13:09.169
小团队如果能使用共享的测试设施

00:13:09.169 --> 00:13:12.189
有清楚的研究和开源责任边界

00:13:12.189 --> 00:13:15.989
并提前知道哪些能力需要什么证明

00:13:15.989 --> 00:13:18.109
就不用在每次发布前

00:13:18.109 --> 00:13:20.389
才规则会不会临时的改现

00:13:20.389 --> 00:13:22.909
真正商创新的

00:13:22.909 --> 00:13:25.469
往往不只是标准的严格

00:13:25.469 --> 00:13:27.109
而是标准模糊

00:13:27.109 --> 00:13:28.289
不可复减

00:13:28.289 --> 00:13:30.769
又只对后来者严格

00:13:30.769 --> 00:13:34.349
所以判断这套倡议

00:13:34.349 --> 00:13:36.889
是安全护栏还是头部的护城河

00:13:36.889 --> 00:13:40.329
不应该靠猜阿莫迪心里想什么

00:13:40.329 --> 00:13:42.509
不用记住所有的细节

00:13:42.509 --> 00:13:44.269
只盯住一件事

00:13:44.269 --> 00:13:46.529
规则的成本和约束

00:13:46.529 --> 00:13:50.729
有没有对称的落到提出规则的头部公司身上

00:13:50.729 --> 00:13:52.569
下面四个问题

00:13:52.569 --> 00:13:54.789
都是检查这一件事的

00:13:54.789 --> 00:13:55.389
第一

00:13:55.389 --> 00:13:58.129
规则是否同样耶稣提出者

00:13:58.129 --> 00:14:00.629
如果小公司发布模型

00:14:00.629 --> 00:14:02.209
要先等好几个页

00:14:02.209 --> 00:14:04.969
头部公司训练更大的模型

00:14:04.969 --> 00:14:08.329
是不是也要接受同样严格的检查呢

00:14:08.329 --> 00:14:09.669
第二

00:14:09.669 --> 00:14:11.769
评估人员有谁选择

00:14:11.769 --> 00:14:12.749
有谁付钱

00:14:12.749 --> 00:14:16.789
如果公司可以随时的更换不满意的评估者

00:14:16.789 --> 00:14:18.609
那所谓独立

00:14:18.609 --> 00:14:21.029
就很容易只剩下一个名字了

00:14:21.029 --> 00:14:22.649
第三

00:14:22.649 --> 00:14:25.929
负面结果能不能独立的保存和披露

00:14:25.929 --> 00:14:27.949
如果发现了问题

00:14:27.949 --> 00:14:31.789
最后仍然只能由评估公司来决定是否公开

00:14:31.789 --> 00:14:34.869
那外部人员更像是高级顾问

00:14:34.869 --> 00:14:36.989
不像是真正的监督者

00:14:36.989 --> 00:14:38.649
第四

00:14:38.649 --> 00:14:42.109
小团队有没有负担得起的合规路径

00:14:42.109 --> 00:14:46.329
如果标准知写所有人一视同仁

00:14:46.329 --> 00:14:48.649
且不管同一笔高额的成本

00:14:48.649 --> 00:14:50.649
对不同公司的陷阱流

00:14:50.649 --> 00:14:52.049
意义完全不同

00:14:52.049 --> 00:14:54.589
那形式上的平等

00:14:54.589 --> 00:14:57.229
就可能变成了结果上的封锁

00:14:57.229 --> 00:14:59.629
到这里呢

00:14:59.629 --> 00:15:01.549
主线已经很清楚了

00:15:01.549 --> 00:15:04.369
安全风险给了共同规则正当性

00:15:04.369 --> 00:15:06.249
单边减速的代价

00:15:06.249 --> 00:15:08.869
让竞争者愿意谈统一规则

00:15:08.869 --> 00:15:10.969
头部公司的自言

00:15:10.969 --> 00:15:14.029
又让他们更能够承受规则的成本

00:15:14.029 --> 00:15:16.689
先把产业结论交出来

00:15:16.689 --> 00:15:21.249
这份倡议不会自动砍掉AI的芯片和资本开支

00:15:21.249 --> 00:15:25.769
只有规则把训练规模也纳住了强制的门槛

00:15:25.769 --> 00:15:28.749
那影响才会传到基础设施

00:15:28.749 --> 00:15:31.249
如果只是独立的评估

00:15:31.249 --> 00:15:34.649
首先增加的是合规成本和上限的时间

00:15:34.649 --> 00:15:37.649
那接下来才是最关键的问题

00:15:37.649 --> 00:15:40.209
如果美国政府真的采纳

00:15:40.209 --> 00:15:42.569
AI行业会发生什么呢

00:15:43.369 --> 00:15:45.929
这里至少有三种完全不同的结果

00:15:45.929 --> 00:15:48.429
在战事规则出现之前

00:15:48.429 --> 00:15:52.249
企业表态最多只能形成自研的业数

00:15:52.249 --> 00:15:54.929
覆盖哪些公司

00:15:54.929 --> 00:15:56.729
能力门槛画在哪

00:16:12.088 --> 00:16:14.508
事故记录和发布前检查

00:16:14.508 --> 00:16:16.068
这样的规则

00:16:16.068 --> 00:16:19.628
首先托慢模型上线和高风险功能的开放

00:16:19.628 --> 00:16:22.368
不一定会托慢底层的训练

00:16:22.368 --> 00:16:25.008
公司仍然可以购买芯片

00:16:25.008 --> 00:16:26.428
建设数据中心

00:16:26.428 --> 00:16:28.088
训练下一代的模型

00:16:28.088 --> 00:16:30.828
只是产品走出实验室前

00:16:30.828 --> 00:16:32.748
要多过几道检查

00:16:32.748 --> 00:16:34.988
这会增加成本

00:16:34.988 --> 00:16:38.148
但未必会让AI能力停止增长

00:16:39.148 --> 00:16:40.388
有些案件测试

00:16:40.388 --> 00:16:44.228
对抗测试和监控还是会消耗算力的

00:16:44.228 --> 00:16:47.508
但能否抵消掉训练和部署的变化

00:16:47.508 --> 00:16:49.088
要看最终的规则

00:16:49.088 --> 00:16:51.488
第二种规则更重

00:16:51.488 --> 00:16:54.628
政府按照模型能力设置检查点

00:16:54.628 --> 00:16:57.768
达到某个水平就必须取得许可

00:16:57.768 --> 00:17:00.208
或者接受更长时间的审查

00:17:00.208 --> 00:17:01.988
这样一来

00:17:01.988 --> 00:17:06.588
竞争可能不再是只看谁先把模型做出来

00:17:06.588 --> 00:17:09.588
还要看谁既能做出来

00:17:09.588 --> 00:17:10.488
又有钱

00:17:10.488 --> 00:17:11.368
有记录

00:17:11.368 --> 00:17:13.328
有团队通过检查

00:17:13.328 --> 00:17:17.348
头部公司的领先可能因此更加稳定了

00:17:17.348 --> 00:17:20.368
因为他们不仅拥有更多的芯片

00:17:20.368 --> 00:17:23.348
也更早建设了安全和法律体系

00:17:23.348 --> 00:17:27.068
第二梯队即使在算法上追得很近

00:17:27.068 --> 00:17:28.728
也可能在记录

00:17:28.728 --> 00:17:31.848
人员和责任保险上被拉开

00:17:33.148 --> 00:17:34.748
开研项目尤其麻烦

00:17:34.748 --> 00:17:38.288
因为它没有传统公司那样清晰的控制中心

00:17:38.288 --> 00:17:40.408
谁负责提交评估

00:17:40.408 --> 00:17:42.608
谁对下游修改负责

00:17:42.608 --> 00:17:44.608
都可能成为争议

00:17:44.608 --> 00:17:48.048
第三种才是真正意义上的产业结束

00:17:48.048 --> 00:17:51.168
如果规则直接限制了训练算力

00:17:51.168 --> 00:17:52.328
训练任务

00:17:52.328 --> 00:17:55.388
或者把用AI改进AI的流程纳入门槛

00:17:55.388 --> 00:17:59.448
那么大模型极型的排气会受到影响

00:18:00.088 --> 00:18:03.108
下一代模型的训练计划也可能被推迟

00:18:03.108 --> 00:18:08.448
这时候政策才会从发布端一路传达到芯片

00:18:08.448 --> 00:18:11.368
引服务 电力和数据中心

00:18:11.368 --> 00:18:13.848
把它翻译成人话

00:18:13.848 --> 00:18:18.008
全两种主要改变新功能什么时候上线

00:18:18.008 --> 00:18:20.308
谁来承担合规的成本

00:18:20.308 --> 00:18:26.008
只有第三种才会直接碰到芯片订单和数据中心的建设

00:18:28.228 --> 00:18:29.088
问题在意

00:18:29.088 --> 00:18:32.348
阿莫迪现在提出的是一组可选的工具

00:18:32.348 --> 00:18:35.608
并不是已经写进法律的第三种方案

00:18:35.608 --> 00:18:39.768
今天就宣布AI资本开支会大幅的收缩

00:18:39.768 --> 00:18:41.568
芯片需求会消失

00:18:41.568 --> 00:18:44.488
和宣布什么时候不会改变一样

00:18:44.488 --> 00:18:48.888
都是把尚未决定的细节当成了确定的结果

00:18:48.888 --> 00:18:51.408
如果只有美国公司执行

00:18:51.408 --> 00:18:54.328
其他地区不跟又会怎么样呢

00:18:54.328 --> 00:18:56.168
最直接的担心是

00:18:56.168 --> 00:18:57.788
美国公司慢下来

00:18:57.788 --> 00:18:59.368
其他地方继续追赶

00:18:59.368 --> 00:19:01.668
这个风险确实存在

00:19:01.668 --> 00:19:03.188
阿穆迪也承认

00:19:03.188 --> 00:19:05.328
完整的全球协调

00:19:05.328 --> 00:19:06.928
短期内很难实现

00:19:06.928 --> 00:19:09.508
但结果也不会简单到

00:19:09.508 --> 00:19:11.068
谁不监管谁就赢

00:19:11.068 --> 00:19:13.928
因为前沿AI模型需要芯片

00:19:13.928 --> 00:19:15.028
数据中心

00:19:15.028 --> 00:19:15.788
电力

00:19:15.788 --> 00:19:16.548
资金

00:19:16.548 --> 00:19:18.888
客户和稳定的供应链

00:19:18.888 --> 00:19:21.208
规则更宽松

00:19:21.208 --> 00:19:23.888
不代表这些资源立刻的补齐

00:19:23.888 --> 00:19:25.648
反过来

00:19:25.648 --> 00:19:28.168
如果美国的规则昂贵又模糊

00:19:28.168 --> 00:19:32.368
人才和项目寻找其他弱点的动力就会增加

00:19:32.368 --> 00:19:37.068
美国公司也可能推动大型客户和银平台

00:19:37.068 --> 00:19:39.048
采用同一套的评估标准

00:19:39.048 --> 00:19:43.168
让本国的规则逐渐变成国际的门槛

00:19:43.168 --> 00:19:45.068
能否做到

00:19:45.068 --> 00:19:47.248
要看标准是否透明

00:19:47.248 --> 00:19:48.528
能否复验

00:19:48.528 --> 00:19:52.428
也要看其他市场有没有可信的替代方案

00:19:52.428 --> 00:19:56.068
所以真正难谈的不是安全重不重要

00:19:56.068 --> 00:19:59.728
而是谁愿意把训练计划交给外部检查

00:19:59.728 --> 00:20:02.548
谁接受负面的结果公开

00:20:02.548 --> 00:20:07.108
谁愿意在竞争者不配合时仍然推迟模型

00:20:07.108 --> 00:20:10.968
芯片和资本开支到底会不会减速

00:20:10.968 --> 00:20:12.728
不能靠口话判断

00:20:12.728 --> 00:20:18.908
Azorvik,OpenAI以及SpaceX和XA所在的体系

00:20:18.908 --> 00:20:20.748
都在扩大基础设施

00:20:21.468 --> 00:20:24.848
但扩建不能证明他们绝不会调整训练

00:20:24.848 --> 00:20:29.608
倡议也不能证明已经签下的安排一定会奇效

00:20:29.608 --> 00:20:31.328
阿莫迪认为

00:20:31.328 --> 00:20:35.528
部分风险可能在未来6到12个月内迅速的升级

00:20:35.528 --> 00:20:40.588
可数据中心云容量和电力工程按的是多年的规划

00:20:40.588 --> 00:20:43.908
软件发布几周内就能改期

00:20:43.908 --> 00:20:48.568
编电站机房和芯片交付却没有那么灵活

00:20:50.988 --> 00:20:52.788
外界又看不到完整的合同

00:20:52.788 --> 00:20:54.788
所以更准确的问题是

00:20:54.788 --> 00:20:56.828
如果真的放缓了

00:20:56.828 --> 00:21:00.308
会先在哪类公开的记录里留下痕迹呢

00:21:00.308 --> 00:21:03.568
第一章是模型训练和发布表

00:21:03.568 --> 00:21:06.088
下一代模型是否延期

00:21:06.088 --> 00:21:08.788
危险功能是否推迟的开放

00:21:08.788 --> 00:21:11.068
已经完成的训练的模型

00:21:11.068 --> 00:21:13.528
是否增加更长的验证器

00:21:13.528 --> 00:21:18.088
第二章是云厂商和数据中心的资本开支表

00:21:18.088 --> 00:21:21.348
企业是否调整新增的机型

00:21:21.348 --> 00:21:24.008
电力容量和机房建设的指引

00:21:24.008 --> 00:21:27.188
只有这一层出现了持续变化

00:21:27.188 --> 00:21:30.388
减速那才开始传达到基础设施

00:21:30.388 --> 00:21:34.368
第三章是容量合同和芯片交付表

00:21:34.368 --> 00:21:38.448
公开可核印的延期缩减或取消

00:21:38.448 --> 00:21:42.568
会是安全主张开始触及真金白印的强信号

00:21:42.568 --> 00:21:45.128
其他合同能否调整

00:21:45.128 --> 00:21:46.968
是否已经安排重排

00:21:46.968 --> 00:21:49.488
外界未必看得到

00:21:49.488 --> 00:21:52.428
现阶段不能因为一计放慢

00:21:52.428 --> 00:21:54.808
就依判半导体产业急转慢

00:21:54.808 --> 00:21:58.548
假如政策只要求更多的评估

00:21:58.548 --> 00:22:00.828
测试、监控和验证

00:22:00.828 --> 00:22:03.428
可能带来一部分算力的需求

00:22:03.428 --> 00:22:06.408
但能否抵消训练段的变化

00:22:06.408 --> 00:22:08.988
要看规则强度和企业的部署

00:22:08.988 --> 00:22:11.928
只有直接限制训练算力

00:22:11.928 --> 00:22:15.248
才更可能改变芯片订单和数据中心的建设

00:22:15.248 --> 00:22:17.108
回到开头

00:22:17.108 --> 00:22:20.148
三位竞争者不是突然变成盟友

00:22:20.148 --> 00:22:23.068
也不能简单说成是联手社级

00:22:23.068 --> 00:22:25.808
他们看见了共同的风险

00:22:25.808 --> 00:22:28.828
又不愿意独自的承担减速的代价

00:22:28.828 --> 00:22:31.208
阿穆迪先提出规则

00:22:31.208 --> 00:22:33.548
奥特曼接受独立评估

00:22:33.548 --> 00:22:35.988
马斯克只认同了方向

00:22:35.988 --> 00:22:39.208
三个人究竟愿意付出什么代价

00:22:39.208 --> 00:22:40.988
还没有完整的答案

00:22:42.268 --> 00:22:45.048
这套倡议可能减少真实的风险

00:22:45.048 --> 00:22:48.848
也可能把合规的成本变成新的竞争壁垒

00:22:48.848 --> 00:22:51.468
真正决定他性质的

00:22:51.468 --> 00:22:54.168
不是CEO说的多诚恳

00:22:54.168 --> 00:22:58.308
而是规则有没有对称的落到他们自己身上

00:22:58.308 --> 00:23:02.048
以后再看到哪家AI公司呼一方慢

00:23:02.048 --> 00:23:03.668
不必急着相信

00:23:03.668 --> 00:23:05.368
也不必急着嘲笑

00:23:05.368 --> 00:23:07.628
先看三类动作

00:23:07.628 --> 00:23:10.988
事故记录是否真的交给独立者

00:23:10.988 --> 00:23:14.108
模型训练和发布是否真的调整

00:23:14.108 --> 00:23:19.148
算力与资本计划是否出现了可验证的变化

00:23:19.148 --> 00:23:23.368
如果只看到入口越来越严

00:23:23.368 --> 00:23:26.068
且看不到头部公司的训练和发布

00:23:26.068 --> 00:23:27.448
承担对称的代价

00:23:27.448 --> 00:23:31.608
那它更像是再重新安排谁能做上前排

00:23:31.608 --> 00:23:34.608
如果三类动作相互印证

00:23:34.608 --> 00:23:36.848
而且能和规则要求对应

00:23:36.848 --> 00:23:38.648
那会是更强的证据

00:23:38.648 --> 00:23:43.268
说明减速成本开始落到头部公司自己身上

00:23:43.268 --> 00:23:46.248
至于资本计划是否改变

00:23:46.248 --> 00:23:49.848
还要看规则最终有没有触及到训练的规模

00:23:49.848 --> 00:23:55.128
普通使用者也可以把这套方法说成三个问题

00:23:55.128 --> 00:23:57.008
谁做了评估

00:23:57.008 --> 00:23:59.328
出了问题能不能查到记录

00:23:59.328 --> 00:24:02.648
限制是不是对所有公司都一样

00:24:02.648 --> 00:24:07.368
你最希望这些公司先公开哪一类的记录呢

00:24:08.048 --> 00:24:09.168
是训练计划

00:24:09.168 --> 00:24:10.348
事故记录

00:24:10.348 --> 00:24:12.508
还是算力合同的调整呢

00:24:12.508 --> 00:24:15.628
你觉得这三巨头是真的在为

00:24:15.628 --> 00:24:17.108
全人类的安全担忧

00:24:17.108 --> 00:24:19.628
还是在联手给后来者

00:24:19.628 --> 00:24:21.428
挖坑修城墙呢

00:24:21.428 --> 00:24:23.068
评论区聊一聊

00:24:23.068 --> 00:24:24.848
记得点赞订阅

00:24:24.848 --> 00:24:25.868
打开小铃铛

00:24:25.868 --> 00:24:27.848
咱们下期再见