WEBVTT
Kind: captions
Language: zh-Hans

00:00:00.533 --> 00:00:01.633
最近这几天

00:00:01.833 --> 00:00:02.933
AI圈出现了一个

00:00:02.933 --> 00:00:04.166
很反常的画面

00:00:04.900 --> 00:00:07.433
Anthropic的CEO达里奥·阿莫迪

00:00:07.433 --> 00:00:08.633
发了一篇长文

00:00:09.433 --> 00:00:11.666
公开呼吁前沿AI

00:00:11.666 --> 00:00:12.866
应该放慢一点

00:00:13.733 --> 00:00:15.066
奥特曼说同意

00:00:15.333 --> 00:00:17.500
马斯克也说他是对的

00:00:18.333 --> 00:00:20.433
最爱抢速度的3个人

00:00:20.733 --> 00:00:22.466
突然都在谈减速

00:00:23.733 --> 00:00:27.033
这听起来像3家公司握手停战

00:00:28.100 --> 00:00:29.833
可事实并不是这样

00:00:30.866 --> 00:00:32.366
他们只在安全评估上

00:00:32.366 --> 00:00:33.500
出现交集

00:00:34.066 --> 00:00:36.100
没有人承诺一起停训

00:00:36.433 --> 00:00:37.466
也没有约好

00:00:37.466 --> 00:00:39.833
下一代模型共同延期

00:00:41.233 --> 00:00:43.466
可这件事依然很重要

00:00:43.900 --> 00:00:45.100
它会影响以后

00:00:45.100 --> 00:00:46.500
进入办公软件

00:00:46.666 --> 00:00:48.966
学校和日常产品的AI

00:00:49.300 --> 00:00:52.233
是更多公司更快推出工具

00:00:52.500 --> 00:00:53.900
还是少数巨头

00:00:53.900 --> 00:00:55.700
经过更长审核后

00:00:55.700 --> 00:00:57.333
决定什么能上线

00:00:58.200 --> 00:00:59.933
背后暴露的是

00:00:59.933 --> 00:01:00.733
今天AI竞赛

00:01:00.733 --> 00:01:02.233
最难解的一道题

00:01:03.233 --> 00:01:05.633
谁都不敢第一个松开油门

00:01:06.266 --> 00:01:07.800
但谁都害怕有人

00:01:07.800 --> 00:01:09.866
把整条赛道撞毁

00:01:11.266 --> 00:01:13.933
想象3支登山队正在争第一

00:01:14.433 --> 00:01:16.233
任何一队单独停下

00:01:16.666 --> 00:01:18.900
另外两队都可能先登顶

00:01:21.733 --> 00:01:24.100
可前面已经进入风险区

00:01:24.500 --> 00:01:26.233
任何一队走错一步

00:01:26.466 --> 00:01:29.066
都可能把风险扩散给所有人

00:01:30.033 --> 00:01:30.833
这个时候

00:01:31.833 --> 00:01:33.900
3队都会支持一条

00:01:33.900 --> 00:01:35.166
共同的安全线

00:01:36.066 --> 00:01:36.866
问题是

00:01:37.000 --> 00:01:39.666
这条线究竟在降低风险

00:01:39.800 --> 00:01:41.033
还是顺便把

00:01:41.033 --> 00:01:43.100
已经走在前面的队伍

00:01:43.100 --> 00:01:45.066
留在最有利的位置

00:01:46.333 --> 00:01:48.333
这才是阿莫迪这篇文章

00:01:48.400 --> 00:01:50.066
真正值得看的地方

00:01:51.133 --> 00:01:53.166
不是去抠几个英文词

00:01:53.266 --> 00:01:54.766
也不是急着把他

00:01:54.766 --> 00:01:56.466
判成好人或坏人

00:01:57.266 --> 00:01:58.700
真正要看清的

00:01:58.866 --> 00:02:00.900
是他们想让什么慢下来

00:02:01.400 --> 00:02:02.933
谁为减速付钱

00:02:03.800 --> 00:02:05.100
这套规则会不会

00:02:05.100 --> 00:02:07.700
让后来的人更难追上

00:02:09.100 --> 00:02:11.133
先看阿莫迪到底提了什么

00:02:11.533 --> 00:02:13.366
他的方案大致分三步

00:02:14.033 --> 00:02:14.833
第一步

00:02:15.000 --> 00:02:16.433
让外部评估人员

00:02:16.433 --> 00:02:18.033
在法律合同

00:02:18.033 --> 00:02:19.500
和隐私边界内

00:02:19.800 --> 00:02:22.366
长期获得接近员工的访问能力

00:02:22.866 --> 00:02:24.466
查看前沿AI公司的

00:02:24.466 --> 00:02:25.933
内部系统和记录

00:02:26.833 --> 00:02:27.633
第二步

00:02:28.166 --> 00:02:28.933
先在美国

00:02:28.933 --> 00:02:30.966
和其他愿意合作的地区

00:02:31.000 --> 00:02:33.066
协调前沿AI安全标准

00:02:33.900 --> 00:02:34.766
第三步

00:02:35.300 --> 00:02:37.266
再尝试把这种协调

00:02:37.300 --> 00:02:38.566
扩展到全球

00:02:39.466 --> 00:02:40.633
他也专门强调

00:02:41.133 --> 00:02:42.266
所谓放慢

00:02:42.433 --> 00:02:44.533
并不等于停止模型训练

00:02:44.900 --> 00:02:47.300
更不等于停止技术进步

00:02:48.333 --> 00:02:49.566
这句话很容易

00:02:49.566 --> 00:02:51.233
让人产生一个印象

00:02:51.933 --> 00:02:52.900
训练照常

00:02:53.066 --> 00:02:55.366
只有模型发布会被管住

00:02:56.033 --> 00:02:57.266
可继续往下看

00:02:57.333 --> 00:02:58.933
事情没有这么简单

00:03:00.300 --> 00:03:02.433
阿莫迪同时把训练流程

00:03:02.600 --> 00:03:03.466
训练算力

00:03:03.466 --> 00:03:06.033
和一次次大规模训练任务

00:03:06.133 --> 00:03:07.266
都列成了未来

00:03:07.266 --> 00:03:09.100
可能采用的政策工具

00:03:09.866 --> 00:03:10.666
所以

00:03:10.733 --> 00:03:12.300
他提的不是一张

00:03:12.300 --> 00:03:14.433
已经写好的限速令

00:03:14.800 --> 00:03:15.800
而是一套

00:03:15.800 --> 00:03:18.300
还在等待填空的制度框架

00:03:19.400 --> 00:03:20.566
它可以很轻

00:03:20.900 --> 00:03:22.966
只要求公司保存记录

00:03:23.066 --> 00:03:24.700
接受外部测试

00:03:25.433 --> 00:03:26.700
也可以很重

00:03:27.333 --> 00:03:29.266
模型能力或训练规模

00:03:29.266 --> 00:03:30.966
一旦达到某个门槛

00:03:31.266 --> 00:03:33.566
公司就得停下来接受检查

00:03:34.666 --> 00:03:35.766
这两种版本

00:03:35.833 --> 00:03:37.766
对行业的影响完全不同

00:03:38.533 --> 00:03:40.066
前一种更像

00:03:40.066 --> 00:03:42.633
给飞机增加黑匣子和年检

00:03:43.300 --> 00:03:45.033
飞机仍然可以飞

00:03:45.633 --> 00:03:47.866
只是起飞前要多做检查

00:03:48.666 --> 00:03:50.966
后一种则可能直接限制

00:03:50.966 --> 00:03:53.266
飞机能装多大的发动机

00:03:53.666 --> 00:03:55.066
一次能飞多远

00:03:55.533 --> 00:03:57.633
把这两种情况混在一起

00:03:58.033 --> 00:04:00.100
就会误判整个AI产业

00:04:00.100 --> 00:04:01.733
接下来会发生什么

00:04:04.300 --> 00:04:06.300
那为什么偏偏是Anthropic

00:04:06.300 --> 00:04:07.366
先站出来

00:04:08.633 --> 00:04:10.466
第一层原因并不神秘

00:04:11.033 --> 00:04:12.733
安全一直是Anthropic

00:04:12.733 --> 00:04:14.033
最重要的品牌

00:04:14.433 --> 00:04:16.100
也是它和OpenAI

00:04:16.133 --> 00:04:18.700
xAI争夺企业客户时

00:04:18.733 --> 00:04:20.133
最鲜明的标签

00:04:21.000 --> 00:04:23.066
前沿模型被接进工具

00:04:23.233 --> 00:04:26.033
代码执行环境和企业数据后

00:04:26.500 --> 00:04:28.233
越来越常被做成

00:04:28.400 --> 00:04:31.100
能够执行多步任务的智能体

00:04:31.866 --> 00:04:32.866
能力越强

00:04:33.200 --> 00:04:35.300
只由公司自己宣布安全

00:04:35.733 --> 00:04:37.700
就越难让外界信服

00:04:38.666 --> 00:04:40.766
让独立人员进入内部系统

00:04:40.833 --> 00:04:43.633
查看测试记录和真实运行情况

00:04:44.000 --> 00:04:45.533
确实有现实价值

00:04:46.533 --> 00:04:47.700
因为很多问题

00:04:48.000 --> 00:04:49.533
不是做一次公开测评

00:04:49.533 --> 00:04:50.666
就能发现的

00:04:51.300 --> 00:04:53.866
模型在实验室测评中表现正常

00:04:54.266 --> 00:04:55.900
不代表由它

00:04:56.033 --> 00:04:57.033
工具权限

00:04:57.033 --> 00:04:59.033
和业务数据组成的系统

00:04:59.300 --> 00:05:00.333
接入代码库

00:05:00.333 --> 00:05:03.000
浏览器或企业数据库后

00:05:03.000 --> 00:05:03.966
仍然正常

00:05:05.100 --> 00:05:06.533
评估者如果只能看

00:05:06.533 --> 00:05:08.100
公司挑好的演示

00:05:08.400 --> 00:05:09.400
也很难知道

00:05:09.400 --> 00:05:10.933
展示范围之外

00:05:10.933 --> 00:05:12.733
遗漏了什么失败记录

00:05:13.666 --> 00:05:15.066
但看得到记录

00:05:15.100 --> 00:05:17.733
不等于已经测得出所有危险

00:05:18.600 --> 00:05:19.533
更难的是

00:05:19.733 --> 00:05:21.633
测试能不能覆盖模型

00:05:21.633 --> 00:05:22.700
换了工具

00:05:22.833 --> 00:05:24.633
权限和任务之后

00:05:24.633 --> 00:05:26.133
出现的新行为

00:05:26.666 --> 00:05:28.700
以及谁有权判定

00:05:28.700 --> 00:05:30.933
风险已经高到必须停下

00:05:32.266 --> 00:05:33.933
但还有第二层原因

00:05:34.633 --> 00:05:36.133
谁先提出标准

00:05:36.300 --> 00:05:38.966
谁就有机会影响标准怎样写

00:05:40.100 --> 00:05:43.133
Anthropic已经有成熟的安全团队

00:05:43.400 --> 00:05:45.533
测试流程和对外叙事

00:05:46.200 --> 00:05:48.266
它今天主动承诺的事情

00:05:48.600 --> 00:05:49.900
可能本来就是它

00:05:49.900 --> 00:05:52.033
比很多小公司更擅长

00:05:52.100 --> 00:05:53.900
更有资源完成的事情

00:05:54.700 --> 00:05:55.933
一旦这些能力

00:05:55.933 --> 00:05:58.433
变成全行业的法定要求

00:05:59.000 --> 00:06:01.666
Anthropic既获得了可信度

00:06:01.800 --> 00:06:03.900
也获得了规则话语权

00:06:05.000 --> 00:06:06.200
这里先不要急着

00:06:06.200 --> 00:06:08.666
把安全判断成纯粹的包装

00:06:09.700 --> 00:06:11.500
真实世界最麻烦的地方

00:06:11.866 --> 00:06:14.066
恰恰是两件事可以同时成立

00:06:15.033 --> 00:06:16.733
阿莫迪可以真的担心

00:06:16.733 --> 00:06:18.066
前沿AI失控

00:06:18.300 --> 00:06:20.533
也可以希望未来的行业规则

00:06:20.533 --> 00:06:22.133
更接近Anthropic

00:06:22.266 --> 00:06:24.166
已经建设好的那套能力

00:06:25.000 --> 00:06:26.633
安全收益是真的

00:06:26.900 --> 00:06:29.666
商业优势也可以是真的

00:06:31.933 --> 00:06:32.700
那么

00:06:32.700 --> 00:06:34.733
长期针锋相对的奥特曼

00:06:34.733 --> 00:06:36.466
为什么愿意跟进

00:06:37.633 --> 00:06:39.266
因为他公开接受的

00:06:39.400 --> 00:06:41.933
首先是最容易形成共识的部分

00:06:43.033 --> 00:06:43.900
奥特曼说

00:06:44.000 --> 00:06:47.333
他同意需要为前沿能力控制节奏

00:06:47.666 --> 00:06:50.100
也同意让独立评估者

00:06:50.100 --> 00:06:52.666
获得接近员工的访问权限

00:06:53.133 --> 00:06:54.533
OpenAI会照做

00:06:55.300 --> 00:06:56.433
到这里为止

00:06:56.700 --> 00:06:59.266
他支持的是透明度和评估方向

00:06:59.533 --> 00:07:00.866
并没有公开接受

00:07:00.866 --> 00:07:02.266
阿莫迪文章里的

00:07:02.266 --> 00:07:03.933
每一项制度设计

00:07:04.600 --> 00:07:05.800
这对OpenAI来说

00:07:05.800 --> 00:07:07.133
也是一种低成本

00:07:07.133 --> 00:07:08.633
但有价值的表态

00:07:09.266 --> 00:07:10.800
它不需要当场承诺

00:07:10.800 --> 00:07:12.333
停掉哪次训练

00:07:12.866 --> 00:07:14.033
却能证明自己

00:07:14.100 --> 00:07:16.433
没有站在安全讨论的对立面

00:07:17.400 --> 00:07:18.433
更重要的是

00:07:18.866 --> 00:07:20.666
未来规则还没写完

00:07:21.633 --> 00:07:23.733
OpenAI现在加入讨论

00:07:23.900 --> 00:07:25.600
就有机会参与决定

00:07:25.600 --> 00:07:26.633
评估看什么

00:07:27.033 --> 00:07:28.066
何时触发

00:07:28.300 --> 00:07:29.866
出了问题怎样处理

00:07:30.333 --> 00:07:32.133
而不是等竞争对手

00:07:32.133 --> 00:07:33.666
先写出标准

00:07:33.733 --> 00:07:35.066
再被动接受

00:07:35.900 --> 00:07:37.500
马斯克的表态更短

00:07:37.900 --> 00:07:39.466
只有达里奥是对的

00:07:40.033 --> 00:07:41.600
这能证明他认同

00:07:41.600 --> 00:07:43.033
阿莫迪提出的问题

00:07:43.433 --> 00:07:45.400
不能证明他已经同意

00:07:45.400 --> 00:07:46.633
永久评估员

00:07:46.900 --> 00:07:48.466
政府强制标准

00:07:48.666 --> 00:07:50.833
或者某个共同的训练上限

00:07:51.600 --> 00:07:54.100
把3个人包装成正式同盟

00:07:54.633 --> 00:07:55.833
戏剧性很强

00:07:56.066 --> 00:07:57.466
准确性却不够

00:07:58.533 --> 00:07:59.766
马斯克的位置

00:07:59.933 --> 00:08:01.733
还比一句竞争对手更复杂

00:08:02.500 --> 00:08:04.833
xAI已经并入SpaceX

00:08:05.466 --> 00:08:07.733
而Anthropic又公开使用

00:08:07.733 --> 00:08:10.633
SpaceX提供的Colossus算力

00:08:11.266 --> 00:08:12.233
也就是说

00:08:12.500 --> 00:08:15.133
双方一边在前沿模型上竞争

00:08:15.400 --> 00:08:17.833
一边又存在基础设施交易

00:08:18.700 --> 00:08:20.233
这个关系能解释

00:08:20.233 --> 00:08:22.900
为什么他们并非简单的敌我两边

00:08:23.500 --> 00:08:24.933
却仍然不能证明

00:08:24.933 --> 00:08:26.300
马斯克的表态

00:08:26.433 --> 00:08:28.700
来自某项共同商业安排

00:08:29.933 --> 00:08:31.400
可他们为什么连这种

00:08:31.400 --> 00:08:33.300
有限支持都愿意给

00:08:34.400 --> 00:08:35.766
因为一次严重事故

00:08:35.766 --> 00:08:36.900
造成的损失

00:08:37.200 --> 00:08:38.033
很可能不会

00:08:38.033 --> 00:08:40.033
只落在出事的公司身上

00:08:40.866 --> 00:08:42.433
如果一个前沿智能体

00:08:42.433 --> 00:08:44.333
造成大范围安全问题

00:08:44.866 --> 00:08:45.766
而公众

00:08:45.833 --> 00:08:47.100
客户和政府

00:08:47.100 --> 00:08:49.366
把它视为行业级风险

00:08:50.100 --> 00:08:51.766
受损的就不只是

00:08:51.766 --> 00:08:53.166
一家公司的声誉

00:08:54.333 --> 00:08:56.100
事故未必让所有公司

00:08:56.100 --> 00:08:57.633
承受相同损失

00:08:58.000 --> 00:08:59.066
但它可能抬高

00:08:59.066 --> 00:09:00.366
整个行业的审查

00:09:00.666 --> 00:09:02.666
采购和许可成本

00:09:04.933 --> 00:09:05.866
换句话说

00:09:06.066 --> 00:09:08.733
模型能力是各家的私有收益

00:09:09.066 --> 00:09:11.300
重大事故却可能变成

00:09:11.300 --> 00:09:13.466
全行业共同承担的成本

00:09:14.666 --> 00:09:17.866
三个竞争者可以继续互相抢客户

00:09:18.033 --> 00:09:20.100
但他们都有理由防止

00:09:20.100 --> 00:09:21.566
某一家快速消耗

00:09:21.566 --> 00:09:23.733
整个行业的公共信任

00:09:24.433 --> 00:09:26.333
还有一个更现实的原因

00:09:27.000 --> 00:09:28.466
单独减速很贵

00:09:28.700 --> 00:09:30.733
共同接受最低检查线

00:09:30.733 --> 00:09:31.933
却便宜得多

00:09:33.033 --> 00:09:35.766
假如OpenAI独自推迟训练

00:09:36.233 --> 00:09:39.133
而Anthropic和xAI继续前进

00:09:40.000 --> 00:09:41.533
OpenAI可能很快

00:09:41.533 --> 00:09:42.900
丢掉能力领先

00:09:43.900 --> 00:09:45.133
反过来也一样

00:09:45.833 --> 00:09:47.066
没有人愿意成为

00:09:47.066 --> 00:09:48.466
唯一停下来的人

00:09:49.233 --> 00:09:51.133
所以对头部竞争者而言

00:09:51.933 --> 00:09:54.066
理想安排往往是一套

00:09:54.066 --> 00:09:55.433
大家都要遵守

00:09:55.600 --> 00:09:57.966
而且成本足够对称的规则

00:09:59.433 --> 00:10:01.533
这就是这场罕见同向背后

00:10:01.533 --> 00:10:02.766
的第一层答案

00:10:03.666 --> 00:10:05.633
他们不是突然不竞争了

00:10:05.900 --> 00:10:08.100
而是想把要不要减速

00:10:08.100 --> 00:10:10.166
从一家公司的道德选择

00:10:10.500 --> 00:10:12.000
变成主要竞争者

00:10:12.000 --> 00:10:13.733
共同面对的制度问题

00:10:14.900 --> 00:10:17.366
只有在成本足够对称的条件下

00:10:18.300 --> 00:10:19.700
先讲安全的一方

00:10:19.700 --> 00:10:21.933
才不容易因为单边承担代价

00:10:21.933 --> 00:10:23.300
而先输掉比赛

00:10:24.133 --> 00:10:24.933
不过

00:10:25.300 --> 00:10:27.966
真正的较量也从这里才开始

00:10:28.866 --> 00:10:30.600
因为大家都接受检查

00:10:30.600 --> 00:10:32.066
听起来很公平

00:10:32.600 --> 00:10:33.966
同一张检查表

00:10:34.100 --> 00:10:35.833
落到不同公司身上

00:10:36.066 --> 00:10:37.766
成本可能完全不同

00:10:39.000 --> 00:10:40.733
一套持续的外部评估

00:10:40.800 --> 00:10:41.966
不只是请几个人

00:10:41.966 --> 00:10:43.333
来办公室看模型

00:10:44.033 --> 00:10:46.466
它要保存训练和事故日志

00:10:46.800 --> 00:10:48.266
控制访问权限

00:10:48.600 --> 00:10:50.066
安排独立测试

00:10:50.466 --> 00:10:52.133
还要处理客户数据

00:10:52.266 --> 00:10:53.300
商业机密

00:10:53.333 --> 00:10:55.866
以及由谁承担法律责任

00:10:56.400 --> 00:10:58.233
发现危险结果后

00:10:58.433 --> 00:10:59.666
是推迟发布

00:10:59.933 --> 00:11:00.866
限制功能

00:11:01.200 --> 00:11:04.333
还是允许公司解释后继续上线

00:11:04.533 --> 00:11:05.966
也都要有流程

00:11:07.500 --> 00:11:09.900
对资源更充足的前沿公司来说

00:11:10.133 --> 00:11:12.600
这类要求更可能建立在

00:11:12.600 --> 00:11:13.633
既有安全

00:11:13.733 --> 00:11:15.766
法务和基础设施之上

00:11:16.533 --> 00:11:18.300
对资源较少的团队

00:11:18.600 --> 00:11:20.033
同样的固定流程

00:11:20.033 --> 00:11:22.966
更可能占去更高比例的研发预算

00:11:25.333 --> 00:11:26.533
到底差多少

00:11:26.900 --> 00:11:28.666
还要看评估频率

00:11:28.800 --> 00:11:31.166
保密要求和责任规则

00:11:32.333 --> 00:11:35.000
设想两家公司同时做出一个

00:11:35.000 --> 00:11:37.300
能够自动修改代码的智能体

00:11:37.900 --> 00:11:40.633
头部公司可以在现有团队上

00:11:40.633 --> 00:11:42.700
增加测试和法律审查

00:11:43.433 --> 00:11:45.700
资源有限的团队面对的

00:11:45.700 --> 00:11:47.966
却可能不只是多花一笔钱

00:11:48.266 --> 00:11:49.733
而是合规周期

00:11:49.800 --> 00:11:52.100
测试能力和法律责任

00:11:52.100 --> 00:11:54.633
会不会错过它的产品窗口

00:11:55.700 --> 00:11:58.300
规则如果不按能力和风险分级

00:11:58.933 --> 00:12:01.300
原本能竞争的团队

00:12:01.300 --> 00:12:03.866
也可能把大量资源从研发

00:12:03.866 --> 00:12:05.100
转去补文档

00:12:05.300 --> 00:12:07.066
测试和责任准备

00:12:07.933 --> 00:12:08.900
这种差别

00:12:08.933 --> 00:12:11.766
最后也会落到普通人使用的AI上

00:12:12.600 --> 00:12:13.733
大公司的产品

00:12:13.733 --> 00:12:16.366
会更容易获得经过检查的标签

00:12:16.500 --> 00:12:17.900
进入办公软件

00:12:17.933 --> 00:12:19.766
学校和企业系统

00:12:20.733 --> 00:12:22.366
小团队更大胆

00:12:22.666 --> 00:12:23.966
更便宜的工具

00:12:24.200 --> 00:12:26.566
则可能长期停在试验阶段

00:12:27.433 --> 00:12:30.233
用户得到的产品或许更安全

00:12:30.400 --> 00:12:32.533
但选择也可能更集中

00:12:32.900 --> 00:12:34.066
价格和功能

00:12:34.066 --> 00:12:35.766
由更少的公司决定

00:12:36.633 --> 00:12:38.000
这就是安全规则

00:12:38.000 --> 00:12:40.333
最容易变成竞争门槛的地方

00:12:41.200 --> 00:12:44.066
不是因为监管两个字天然邪恶

00:12:44.433 --> 00:12:45.666
而是固定成本

00:12:45.666 --> 00:12:47.700
往往会对小公司更重

00:12:48.666 --> 00:12:50.900
它是否最终变成护城河

00:12:51.033 --> 00:12:54.166
还要看规则能不能减少重复审计

00:12:54.600 --> 00:12:56.133
能不能让合格的小团队

00:12:56.133 --> 00:12:58.066
也拿到客户认可的证明

00:12:59.133 --> 00:13:00.100
反过来讲

00:13:00.400 --> 00:13:03.166
按能力和实际权限分级的规则

00:13:03.533 --> 00:13:05.166
也可能帮助创新

00:13:06.100 --> 00:13:07.900
小团队如果能使用

00:13:07.900 --> 00:13:09.500
共享测试设施

00:13:09.966 --> 00:13:10.966
有清楚的研究

00:13:10.966 --> 00:13:12.533
和开源责任边界

00:13:13.033 --> 00:13:14.133
并提前知道

00:13:14.133 --> 00:13:16.266
哪些能力需要做什么证明

00:13:16.600 --> 00:13:18.400
就不用在每次发布前

00:13:18.500 --> 00:13:20.666
猜规则会不会临时改线

00:13:21.733 --> 00:13:23.166
真正伤创新的

00:13:23.300 --> 00:13:25.766
往往不只是标准严格

00:13:26.100 --> 00:13:27.400
而是标准模糊

00:13:27.600 --> 00:13:28.600
不可复验

00:13:29.200 --> 00:13:31.033
又只对后来者严格

00:13:33.033 --> 00:13:34.633
所以判断这套倡议

00:13:34.633 --> 00:13:37.233
是安全护栏还是头部护城河

00:13:37.566 --> 00:13:40.733
不应该靠猜阿莫迪心里怎么想

00:13:40.966 --> 00:13:42.833
不用记住所有细节

00:13:43.200 --> 00:13:44.466
只盯住一件事

00:13:44.900 --> 00:13:46.866
规则的成本和约束

00:13:47.033 --> 00:13:48.766
有没有对称地落到

00:13:48.766 --> 00:13:50.966
提出规则的头部公司身上

00:13:51.700 --> 00:13:52.800
下面4个问题

00:13:52.833 --> 00:13:54.433
都是检查这一件事

00:13:55.033 --> 00:13:55.833
第一

00:13:56.000 --> 00:13:58.433
规则是否同样约束提出者

00:13:59.100 --> 00:14:00.966
如果小公司发布模型

00:14:01.000 --> 00:14:02.533
要先等几个月

00:14:02.933 --> 00:14:05.266
头部公司训练更大的模型

00:14:05.333 --> 00:14:06.566
是不是也要接受

00:14:06.566 --> 00:14:08.266
同样严格的检查

00:14:09.333 --> 00:14:10.133
第二

00:14:10.200 --> 00:14:12.000
评估人员由谁选择

00:14:12.000 --> 00:14:13.033
由谁付钱

00:14:13.633 --> 00:14:15.733
如果公司可以随时更换

00:14:15.733 --> 00:14:17.133
不满意的评估者

00:14:17.766 --> 00:14:18.900
所谓独立

00:14:18.900 --> 00:14:21.166
就很容易只剩一个名字

00:14:22.233 --> 00:14:23.033
第三

00:14:23.433 --> 00:14:24.600
负面结果能不能

00:14:24.600 --> 00:14:26.233
独立保存和披露

00:14:26.966 --> 00:14:28.166
如果发现的问题

00:14:28.233 --> 00:14:29.833
最后仍然只能由

00:14:29.833 --> 00:14:32.066
被评估公司决定是否公开

00:14:32.800 --> 00:14:35.200
外部人员更像高级顾问

00:14:35.433 --> 00:14:37.233
不像真正的监督者

00:14:38.200 --> 00:14:39.000
第四

00:14:39.200 --> 00:14:42.433
小团队有没有负担得起的合规路径

00:14:43.233 --> 00:14:46.133
如果标准只写所有人一视同仁

00:14:46.566 --> 00:14:48.966
却不管同一笔高额成本

00:14:49.100 --> 00:14:52.400
对不同公司的现金流意义完全不同

00:14:53.300 --> 00:14:54.933
那形式上的平等

00:14:55.033 --> 00:14:57.533
就可能变成结果上的封锁

00:14:58.733 --> 00:14:59.533
到这里

00:14:59.833 --> 00:15:01.166
主线已经很清楚

00:15:01.833 --> 00:15:04.566
安全风险给了共同规则正当性

00:15:05.033 --> 00:15:06.566
单边减速的代价

00:15:06.566 --> 00:15:09.166
让竞争者愿意谈统一规则

00:15:09.766 --> 00:15:11.233
头部公司的资源

00:15:11.233 --> 00:15:14.366
又让它们更能承受规则成本

00:15:15.400 --> 00:15:17.000
先把产业结论交出来

00:15:17.566 --> 00:15:19.766
这份倡议不会自动砍掉

00:15:19.766 --> 00:15:21.566
AI的芯片和资本开支

00:15:22.033 --> 00:15:24.166
只有规则把训练规模

00:15:24.166 --> 00:15:26.066
也纳入强制门槛

00:15:26.733 --> 00:15:29.066
影响才会传到基础设施

00:15:29.966 --> 00:15:31.566
如果只是独立评估

00:15:31.733 --> 00:15:33.800
首先增加的是合规成本

00:15:33.800 --> 00:15:35.000
和上线时间

00:15:36.133 --> 00:15:37.866
接下来才是最关键的问题

00:15:38.600 --> 00:15:40.566
如果美国政府真的采纳

00:15:40.733 --> 00:15:42.666
AI行业会发生什么

00:15:43.600 --> 00:15:46.233
这里至少有三种完全不同的结果

00:15:47.100 --> 00:15:48.766
在正式规则出现以前

00:15:49.233 --> 00:15:52.566
企业表态最多只能形成自愿约束

00:15:54.000 --> 00:15:55.233
覆盖哪些公司

00:15:55.433 --> 00:15:57.166
能力门槛画在哪里

00:15:57.366 --> 00:15:59.766
违规后要不要延期发布

00:16:00.033 --> 00:16:02.100
这些细则才会决定

00:16:02.100 --> 00:16:04.266
倡议是一次透明度升级

00:16:04.400 --> 00:16:06.766
还是一次真正的行业限速

00:16:07.866 --> 00:16:08.666
第一种

00:16:08.700 --> 00:16:10.200
也是最温和的一种

00:16:10.766 --> 00:16:12.400
只要求独立评估

00:16:12.633 --> 00:16:13.400
事故记录

00:16:13.400 --> 00:16:14.800
和发布前检查

00:16:15.333 --> 00:16:18.066
这样的规则首先拖慢模型上线

00:16:18.066 --> 00:16:19.966
和高风险功能开放

00:16:20.333 --> 00:16:22.666
不一定拖慢底层训练

00:16:23.333 --> 00:16:25.333
公司仍然可以购买芯片

00:16:25.400 --> 00:16:26.733
建设数据中心

00:16:26.900 --> 00:16:28.366
训练下一代模型

00:16:29.100 --> 00:16:31.133
只是产品走出实验室前

00:16:31.233 --> 00:16:33.033
要多过几道检查

00:16:33.933 --> 00:16:35.266
这会增加成本

00:16:35.633 --> 00:16:38.466
但未必让AI能力停止增长

00:16:39.366 --> 00:16:40.700
有些安全测试

00:16:40.700 --> 00:16:41.633
对抗测试

00:16:41.633 --> 00:16:44.266
和监控还会消耗算力

00:16:45.033 --> 00:16:47.800
但能否抵消训练或部署的变化

00:16:47.900 --> 00:16:49.400
要看最终规则

00:16:50.433 --> 00:16:51.766
第二种规则更重

00:16:52.400 --> 00:16:54.933
政府按照模型能力设置检查点

00:16:55.400 --> 00:16:58.066
达到某个水平就必须取得许可

00:16:58.433 --> 00:17:00.533
或者接受更长时间的审查

00:17:01.400 --> 00:17:02.233
这样一来

00:17:02.433 --> 00:17:04.933
竞争可能不再只看

00:17:05.033 --> 00:17:06.933
谁先把模型做出来

00:17:07.533 --> 00:17:09.866
还要看谁既能做出来

00:17:09.900 --> 00:17:10.766
又有钱

00:17:10.766 --> 00:17:11.566
有记录

00:17:11.566 --> 00:17:13.600
有团队通过检查

00:17:14.433 --> 00:17:17.433
头部公司的领先可能因此更稳定

00:17:18.400 --> 00:17:20.666
因为它们不仅拥有更多芯片

00:17:21.000 --> 00:17:23.600
也更早建设了安全和法律体系

00:17:24.366 --> 00:17:27.400
第二梯队即使在算法上追得很近

00:17:27.600 --> 00:17:29.033
也可能在记录

00:17:29.100 --> 00:17:32.066
人员和责任保险上被拉开

00:17:33.366 --> 00:17:35.066
开源项目尤其麻烦

00:17:35.600 --> 00:17:36.866
因为它没有传统公司

00:17:36.866 --> 00:17:38.566
那样清晰的控制中心

00:17:39.200 --> 00:17:40.733
谁负责提交评估

00:17:41.166 --> 00:17:42.933
谁对下游修改负责

00:17:43.333 --> 00:17:44.866
都可能成为争议

00:17:45.733 --> 00:17:47.466
第三种才是真正意义上的

00:17:47.466 --> 00:17:48.400
产业减速

00:17:49.000 --> 00:17:51.466
如果规则直接限制训练算力

00:17:51.633 --> 00:17:52.633
训练任务

00:17:52.700 --> 00:17:54.766
或者把用AI改进AI的流程

00:17:54.766 --> 00:17:55.733
纳入门槛

00:17:56.566 --> 00:17:59.766
那么大型集群的排期会受影响

00:18:00.233 --> 00:18:02.033
下一代模型的训练计划

00:18:02.033 --> 00:18:03.400
也可能被推迟

00:18:04.133 --> 00:18:04.933
这时

00:18:05.233 --> 00:18:07.166
政策才会从发布端

00:18:07.166 --> 00:18:08.766
一路传到芯片

00:18:08.966 --> 00:18:09.833
云服务

00:18:09.933 --> 00:18:11.633
电力和数据中心

00:18:12.833 --> 00:18:14.133
把它翻成人话

00:18:14.533 --> 00:18:17.133
前两种主要改变新功能

00:18:17.133 --> 00:18:18.333
什么时候上线

00:18:18.633 --> 00:18:20.600
谁来承担合规成本

00:18:21.300 --> 00:18:22.533
只有第三种

00:18:22.633 --> 00:18:24.800
才会直接碰到芯片订单

00:18:24.800 --> 00:18:26.333
和数据中心建设

00:18:28.400 --> 00:18:29.333
问题在于

00:18:29.433 --> 00:18:32.666
阿莫迪现在提出的是一组可选工具

00:18:33.133 --> 00:18:35.866
并不是已经写进法律的第三种方案

00:18:36.733 --> 00:18:38.766
今天就宣布AI资本开支

00:18:38.766 --> 00:18:40.066
会大幅收缩

00:18:40.233 --> 00:18:41.833
芯片需求会消失

00:18:42.100 --> 00:18:44.800
和宣布什么都不会改变一样

00:18:45.366 --> 00:18:47.333
都是把尚未决定的细则

00:18:47.333 --> 00:18:49.166
当成了确定结果

00:18:50.033 --> 00:18:51.733
如果只有美国公司执行

00:18:51.900 --> 00:18:53.166
其他地区不跟

00:18:53.233 --> 00:18:54.333
又会怎样

00:18:55.000 --> 00:18:56.433
最直觉的担心是

00:18:56.633 --> 00:18:58.033
美国公司慢下来

00:18:58.100 --> 00:18:59.733
其他地方继续追赶

00:19:00.433 --> 00:19:01.966
这个风险确实存在

00:19:02.233 --> 00:19:03.466
阿莫迪也承认

00:19:04.100 --> 00:19:05.500
完整的全球协调

00:19:05.500 --> 00:19:07.200
短期内很难实现

00:19:07.833 --> 00:19:09.766
但结果也不会简单到

00:19:09.766 --> 00:19:11.366
谁不监管谁就赢

00:19:12.233 --> 00:19:14.233
前沿AI还需要芯片

00:19:14.366 --> 00:19:15.333
数据中心

00:19:15.333 --> 00:19:16.133
电力

00:19:16.133 --> 00:19:16.900
资金

00:19:17.033 --> 00:19:19.200
客户和稳定供应链

00:19:20.133 --> 00:19:21.533
规则更宽松

00:19:21.533 --> 00:19:24.200
不代表这些资源立刻补齐

00:19:25.133 --> 00:19:25.933
反过来

00:19:26.033 --> 00:19:28.433
如果美国的规则昂贵又模糊

00:19:29.000 --> 00:19:31.700
人才和项目寻找其他落点的动力

00:19:31.700 --> 00:19:32.633
就会增加

00:19:33.533 --> 00:19:35.333
美国公司也可能推动

00:19:35.333 --> 00:19:37.300
大型客户和云平台

00:19:37.300 --> 00:19:39.366
采用同一套评估标准

00:19:39.900 --> 00:19:43.433
让本国规则逐渐变成国际门槛

00:19:44.233 --> 00:19:45.366
能否做到

00:19:45.400 --> 00:19:47.533
要看标准是否透明

00:19:47.700 --> 00:19:48.833
能否复验

00:19:49.366 --> 00:19:50.800
也要看其他市场

00:19:50.800 --> 00:19:52.733
有没有可信的替代方案

00:19:53.233 --> 00:19:55.100
所以真正难谈的不是

00:19:55.100 --> 00:19:56.400
安全重要不重要

00:19:56.833 --> 00:19:58.700
而是谁愿意把训练计划

00:19:58.700 --> 00:20:00.000
交给外部检查

00:20:00.600 --> 00:20:02.833
谁接受负面结果公开

00:20:03.200 --> 00:20:05.966
谁愿意在竞争者不配合时

00:20:05.966 --> 00:20:07.400
仍然推迟模型

00:20:08.333 --> 00:20:11.266
芯片和资本开支到底会不会减速

00:20:11.533 --> 00:20:13.000
不能靠口号判断

00:20:13.733 --> 00:20:14.600
Anthropic

00:20:14.600 --> 00:20:15.533
OpenAI

00:20:15.533 --> 00:20:19.166
以及SpaceX和xAI所在的体系

00:20:19.166 --> 00:20:21.066
都在扩大基础设施

00:20:21.700 --> 00:20:23.100
但扩建不能证明

00:20:23.100 --> 00:20:25.200
它们绝不会调整训练

00:20:25.833 --> 00:20:27.433
倡议也不能证明

00:20:27.433 --> 00:20:29.866
已经签下的安排一定取消

00:20:30.600 --> 00:20:31.600
阿莫迪认为

00:20:31.700 --> 00:20:34.566
部分风险可能在未来6到12个月

00:20:34.633 --> 00:20:35.800
迅速升级

00:20:36.433 --> 00:20:37.566
可数据中心

00:20:37.566 --> 00:20:39.366
云容量和电力工程

00:20:39.366 --> 00:20:40.866
按的是多年规划

00:20:41.600 --> 00:20:44.166
软件发布几周内就能改期

00:20:44.733 --> 00:20:45.600
变电站

00:20:45.633 --> 00:20:47.433
机房和芯片交付

00:20:47.433 --> 00:20:48.833
却没有这么灵活

00:20:51.200 --> 00:20:53.133
外界又看不到完整合同

00:20:53.366 --> 00:20:55.033
所以更准确的问题是

00:20:55.200 --> 00:20:56.600
如果真的放慢

00:20:57.000 --> 00:20:59.200
会先在哪类公开记录里

00:20:59.200 --> 00:21:00.400
留下痕迹

00:21:01.533 --> 00:21:03.800
第一张是模型训练和发布表

00:21:04.566 --> 00:21:06.400
下一代模型是否延期

00:21:06.566 --> 00:21:09.066
危险功能是否推迟开放

00:21:09.433 --> 00:21:11.400
已经完成训练的模型

00:21:11.433 --> 00:21:13.833
是否增加更长的验证期

00:21:14.700 --> 00:21:16.333
第二张是云厂商

00:21:16.333 --> 00:21:18.366
和数据中心的资本开支表

00:21:19.300 --> 00:21:21.633
企业是否调整新增集群

00:21:21.733 --> 00:21:24.333
电力容量和机房建设的指引

00:21:25.200 --> 00:21:27.433
只有这一层出现持续变化

00:21:27.633 --> 00:21:30.666
减速才开始传到基础设施

00:21:32.000 --> 00:21:33.400
第三张是容量合同

00:21:33.400 --> 00:21:34.666
和芯片交付表

00:21:35.233 --> 00:21:37.133
公开可核验的延期

00:21:37.233 --> 00:21:38.766
缩减或取消

00:21:38.966 --> 00:21:41.900
会是安全主张开始触及真金白银

00:21:41.900 --> 00:21:42.833
的强信号

00:21:43.566 --> 00:21:45.433
其他合同能否调整

00:21:45.600 --> 00:21:47.266
是否已经重排

00:21:47.733 --> 00:21:49.233
外界未必看得到

00:21:49.900 --> 00:21:52.666
现阶段不能因为一句放慢

00:21:52.700 --> 00:21:55.133
就预判半导体产业急转弯

00:21:56.133 --> 00:21:58.833
假如政策只要求更多评估

00:21:58.866 --> 00:21:59.666
测试

00:21:59.833 --> 00:22:01.166
监控和验证

00:22:01.400 --> 00:22:03.733
可能带来一部分算力需求

00:22:04.366 --> 00:22:06.733
它能否抵消训练端变化

00:22:06.766 --> 00:22:09.266
要看规则强度和企业部署

00:22:10.233 --> 00:22:12.166
只有直接限制训练算力

00:22:12.166 --> 00:22:14.000
才更可能改变芯片订单

00:22:14.000 --> 00:22:15.600
和数据中心建设

00:22:16.533 --> 00:22:17.400
回到开头

00:22:17.700 --> 00:22:20.466
三位竞争者不是突然变成盟友

00:22:20.733 --> 00:22:23.400
也不能简单说成联手设局

00:22:24.233 --> 00:22:26.133
他们看见了共同风险

00:22:26.433 --> 00:22:29.133
又不愿意独自承担减速代价

00:22:29.933 --> 00:22:31.533
阿莫迪先提出规则

00:22:31.933 --> 00:22:33.800
奥特曼接受独立评估

00:22:33.966 --> 00:22:36.233
马斯克只认同了方向

00:22:36.800 --> 00:22:39.533
三个人究竟愿意付出什么代价

00:22:39.800 --> 00:22:41.266
还没有完整答案

00:22:42.500 --> 00:22:45.400
这套倡议可能减少真实风险

00:22:45.566 --> 00:22:47.366
也可能把合规成本

00:22:47.366 --> 00:22:49.200
变成新的竞争壁垒

00:22:50.033 --> 00:22:51.766
真正决定它性质的

00:22:51.900 --> 00:22:54.466
不是CEO说得多诚恳

00:22:54.833 --> 00:22:56.900
而是规则有没有对称地

00:22:56.900 --> 00:22:58.566
落到他们自己身上

00:22:59.400 --> 00:23:02.366
以后再看到哪家AI公司呼吁放慢

00:23:02.566 --> 00:23:04.000
不必急着相信

00:23:04.033 --> 00:23:05.633
也不必急着嘲笑

00:23:06.166 --> 00:23:07.600
先看三类动作

00:23:08.766 --> 00:23:11.266
事故记录是否真的交给独立者

00:23:11.600 --> 00:23:14.400
模型训练和发布是否真的调整

00:23:15.233 --> 00:23:16.933
算力与资本计划

00:23:16.966 --> 00:23:19.433
是否出现可验证的变化

00:23:21.600 --> 00:23:23.666
如果只看到入口越来越严

00:23:23.733 --> 00:23:26.300
却看不到头部公司的训练和发布

00:23:26.300 --> 00:23:27.766
承担对称代价

00:23:28.366 --> 00:23:30.500
那它更像是在重新安排

00:23:30.500 --> 00:23:31.933
谁能坐上前排

00:23:32.633 --> 00:23:34.933
如果三类动作相互印证

00:23:35.166 --> 00:23:37.166
并且能和规则要求对应

00:23:37.433 --> 00:23:39.000
那会是更强的证据

00:23:39.500 --> 00:23:41.066
说明减速成本

00:23:41.100 --> 00:23:43.533
开始落到头部公司自己身上

00:23:44.333 --> 00:23:46.566
至于资本计划是否改变

00:23:46.733 --> 00:23:48.100
还要看规则最终

00:23:48.100 --> 00:23:50.166
有没有触及训练规模

00:23:51.133 --> 00:23:52.300
普通使用者

00:23:52.300 --> 00:23:54.100
也可以把这套方法

00:23:54.100 --> 00:23:55.333
缩成3个问题

00:23:56.166 --> 00:23:57.333
谁做的评估

00:23:57.500 --> 00:23:59.633
出了问题能不能查到记录

00:24:00.033 --> 00:24:02.966
限制是不是对所有公司都一样

00:24:03.733 --> 00:24:05.466
你最希望这些公司

00:24:05.500 --> 00:24:07.366
先公开哪一类记录

00:24:08.433 --> 00:24:09.466
训练计划

00:24:09.633 --> 00:24:10.633
事故记录

00:24:10.633 --> 00:24:12.566
还是算力合同的调整

00:24:13.366 --> 00:24:14.800
你觉得这三巨头

00:24:14.800 --> 00:24:17.433
是真的在为全人类的安全担忧

00:24:17.800 --> 00:24:18.800
还是在联手

00:24:18.800 --> 00:24:21.466
给后来者挖坑修城墙

00:24:22.166 --> 00:24:23.166
评论区聊聊

00:24:23.500 --> 00:24:24.433
记得点赞

00:24:24.433 --> 00:24:25.133
订阅

00:24:25.133 --> 00:24:26.133
打开小铃铛

00:24:26.133 --> 00:24:28.200
咱们下期再见