WEBVTT
Kind: captions
Language: zh-Hans

00:00:00.133 --> 00:00:02.700
大家好，这里是最佳拍档，我是大飞

00:00:02.933 --> 00:00:03.600
有一个人

00:00:03.600 --> 00:00:06.333
他用了五十年时间向全世界布道

00:00:06.333 --> 00:00:08.900
告诉大家技术会让世界变得更好

00:00:09.000 --> 00:00:10.000
他创办了微软

00:00:10.000 --> 00:00:13.333
亲历了微处理器、个人电脑、互联网的几波浪潮

00:00:13.400 --> 00:00:16.366
每一次都坚定地站在技术向善这一边

00:00:16.600 --> 00:00:17.733
哪怕就在两年前

00:00:17.733 --> 00:00:19.566
面对刚刚火起来的大模型

00:00:19.566 --> 00:00:21.766
他还在公开文章里安抚公众

00:00:21.766 --> 00:00:24.200
说AI带来的风险完全可控

00:00:24.366 --> 00:00:25.933
这个人就是比尔·盖茨

00:00:25.933 --> 00:00:26.833
但是就在最近

00:00:26.833 --> 00:00:31.100
他发表了一份长达万字、语气异常沉重的公开备忘录

00:00:31.233 --> 00:00:33.800
标题叫《动荡的AI时代已经到来

00:00:33.800 --> 00:00:35.933
我们现在的选择至关重要》。

00:00:36.033 --> 00:00:37.233
在这份备忘录里

00:00:37.233 --> 00:00:40.566
盖茨几乎是推翻了自己过去几十年的温和乐观

00:00:40.633 --> 00:00:42.733
用非常直接的话告诉所有人

00:00:42.800 --> 00:00:44.233
向AI时代的过渡

00:00:44.233 --> 00:00:46.900
将是人类历史上最动荡的时期之一

00:00:47.033 --> 00:00:50.166
而全球社会目前根本没有做好任何准备

00:00:50.333 --> 00:00:52.100
一个布道了五十年科技的人

00:00:52.100 --> 00:00:53.433
突然调转枪口

00:00:53.566 --> 00:00:54.700
他到底看到了什么

00:00:54.700 --> 00:00:58.500
让一个一辈子相信更多技术=更好世界的人

00:00:58.633 --> 00:00:59.800
说出了如果能选

00:00:59.800 --> 00:01:02.366
我宁愿AI革命晚点发生这样的话

00:01:02.733 --> 00:01:03.800
备忘录发出之后

00:01:03.800 --> 00:01:07.966
《大西洋月刊》旗下的播客Radio Atlantic的主持人哈娜·罗森

00:01:07.966 --> 00:01:09.800
第一时间专访了比尔·盖茨

00:01:10.000 --> 00:01:11.533
这场对话的交锋很激烈

00:01:11.533 --> 00:01:13.366
主持人追问了很多尖锐的问题

00:01:13.500 --> 00:01:15.533
盖茨也给出了非常具体的回答

00:01:15.700 --> 00:01:17.366
今天我们就顺着这场访谈

00:01:17.366 --> 00:01:20.166
把盖茨的核心判断从头到尾捋一遍

00:01:20.700 --> 00:01:22.100
先问一个最直接的问题

00:01:22.133 --> 00:01:24.633
为什么盖茨的态度转变得这么彻底？

00:01:24.900 --> 00:01:27.000
是技术迭代的速度超出了预期

00:01:27.000 --> 00:01:29.366
还是社会应对的速度太慢了呢？

00:01:29.533 --> 00:01:31.500
盖茨的回答是，两者皆有

00:01:31.500 --> 00:01:33.366
而且这种感觉极其强烈

00:01:33.566 --> 00:01:35.800
他说自己从十三岁到二十三岁

00:01:35.800 --> 00:01:38.033
一度痴迷于把代码写到极致

00:01:38.200 --> 00:01:39.500
而在去年年底

00:01:39.500 --> 00:01:44.766
AI模型在编程水平上已经开始比肩、甚至在某些场景下超越了人类

00:01:45.000 --> 00:01:47.500
对他来说，那是一个标志性的分水岭

00:01:47.700 --> 00:01:48.433
更近一点

00:01:48.433 --> 00:01:52.433
当盖茨基金会开始用这些工具研发新型疫苗和药物时

00:01:52.633 --> 00:01:55.366
他们亲眼见证了AI的威力有多惊人

00:01:55.533 --> 00:01:57.133
甚至在网络攻防测试中

00:01:57.133 --> 00:02:00.733
他们看到模型会以一种始料未及的方式走向失控

00:02:00.900 --> 00:02:04.766
因为强化学习机制会驱使它们不择手段地追求成功

00:02:04.800 --> 00:02:07.033
哪怕这意味着要突破安全护栏

00:02:07.100 --> 00:02:09.000
甚至模型之间互相串通

00:02:09.200 --> 00:02:11.366
任何看清这一幕的人都该警醒

00:02:11.366 --> 00:02:12.900
我们遇到大麻烦了

00:02:13.033 --> 00:02:14.766
但更让盖茨忧虑的是

00:02:14.900 --> 00:02:19.500
本该由行业之外的力量来主导设定标准、展开公共辩论的行动

00:02:19.500 --> 00:02:20.566
几乎看不到

00:02:20.600 --> 00:02:22.500
大家都在谈论自愿审查

00:02:22.566 --> 00:02:25.566
但是既没有界定审查的具体标准是什么

00:02:25.566 --> 00:02:28.966
也没有明确一旦越界需要采取哪些整改措施

00:02:29.200 --> 00:02:31.300
这种所谓的自律，相当空洞

00:02:31.433 --> 00:02:33.766
甚至连一些最基本的常识性举措

00:02:33.766 --> 00:02:37.700
比如对能够合成高危生物分子的模型调用进行监控

00:02:37.700 --> 00:02:39.333
至今都没有落实到位

00:02:39.333 --> 00:02:40.000
要知道

00:02:40.000 --> 00:02:42.200
早在多年前我们就达成过共识

00:02:42.200 --> 00:02:43.900
一旦技术触及这些红线

00:02:43.900 --> 00:02:45.566
政府就必须果断介入

00:02:45.833 --> 00:02:47.333
说到这儿可能有人会想

00:02:47.333 --> 00:02:49.400
技术革命我们经历过很多次了啊

00:02:49.433 --> 00:02:51.566
互联网、社交媒体，不都过来了吗？

00:02:51.633 --> 00:02:53.433
AI真的有什么不一样吗？

00:02:53.566 --> 00:02:55.133
盖茨的回答非常坚决

00:02:55.166 --> 00:02:57.000
他说他不会用灾难性这个词

00:02:57.000 --> 00:02:59.133
因为AI的前景同样绝妙

00:02:59.233 --> 00:03:03.233
未来它能提供普及的医疗建议、因材施教的个性化学习

00:03:03.233 --> 00:03:06.033
以及人类前所未见的发明创造能力

00:03:06.200 --> 00:03:09.400
但是如果有人把AI简单类比为过去的其他技术

00:03:09.400 --> 00:03:11.800
那就是没看清这次的本质区别

00:03:12.233 --> 00:03:13.500
要断言这次不一样

00:03:13.500 --> 00:03:15.100
门槛其实是非常高的

00:03:15.333 --> 00:03:16.233
但盖茨说

00:03:16.233 --> 00:03:18.766
他愿意押上自己一生的声誉直言

00:03:18.766 --> 00:03:20.500
这次确实非同以往

00:03:20.600 --> 00:03:23.400
这是一项正在全面超越人类认知的技术

00:03:23.400 --> 00:03:26.800
它不仅局限在农业或数学等单一学科

00:03:26.800 --> 00:03:28.200
而是全盘超越

00:03:28.200 --> 00:03:28.933
再过几年

00:03:28.933 --> 00:03:33.733
它还将与成本相对低廉、能力相当完备的具身人形机器人深度融合

00:03:33.800 --> 00:03:37.100
这对我们的经济结构和就业体系带来的深刻颠覆

00:03:37.100 --> 00:03:40.333
将远远超越他这辈子见过的任何一次技术革命

00:03:40.566 --> 00:03:43.366
如果你以为它和以前的科技突破差不多

00:03:43.400 --> 00:03:46.033
过去的经验反而会彻底蒙蔽你的双眼

00:03:46.233 --> 00:03:47.133
为什么这么说？

00:03:47.133 --> 00:03:48.233
我们来拆解一下

00:03:48.366 --> 00:03:51.566
以往从农业转向工业、再转向办公室白领

00:03:51.566 --> 00:03:53.933
经历了整整三代人的缓慢演变

00:03:54.000 --> 00:03:57.300
而且每一次都创造了需要人类大脑参与的新岗位

00:03:57.433 --> 00:03:58.633
但这一次不一样

00:03:58.633 --> 00:04:00.933
AI是在五到十年的时间尺度内

00:04:00.933 --> 00:04:04.400
直接在代码、法律、医疗、客服等全行业

00:04:04.400 --> 00:04:06.566
替代人类的思考与推理能力

00:04:06.733 --> 00:04:08.900
过去的技术革命是替代人的体力

00:04:08.900 --> 00:04:10.500
或者辅助人的脑力

00:04:10.566 --> 00:04:12.800
这一次，是替代人的认知本身

00:04:12.900 --> 00:04:14.333
这个性质完全变了

00:04:14.600 --> 00:04:16.766
那具体来说，风险到底有哪些？

00:04:16.966 --> 00:04:18.933
盖茨在备忘录里列了三大类

00:04:19.033 --> 00:04:21.400
第一类，是不可逆的岗位消失

00:04:21.600 --> 00:04:22.333
初级白领

00:04:22.333 --> 00:04:24.733
像程序员、律师助理、销售这些

00:04:24.733 --> 00:04:25.900
最先被吞噬

00:04:26.100 --> 00:04:28.766
随着人形机器人的成本在数年内暴跌

00:04:28.900 --> 00:04:31.700
蓝领岗位，比如建筑、酒店、制造

00:04:31.700 --> 00:04:33.333
也将遭受正面冲击

00:04:33.500 --> 00:04:35.200
而现有的社会救济机制

00:04:35.200 --> 00:04:38.333
完全无法承受这种集中性失业带来的撕裂

00:04:38.633 --> 00:04:41.200
第二类，是生物与网络安全的失控

00:04:41.333 --> 00:04:43.033
强化学习在追求目标时

00:04:43.033 --> 00:04:47.000
已经展现出了为达目的突破壁垒的不可控倾向

00:04:47.233 --> 00:04:49.166
同一个能设计新药的算法

00:04:49.166 --> 00:04:52.166
也能被极低门槛地用于制造危险分子

00:04:52.166 --> 00:04:54.733
或者发起自动化的网络瘫痪攻击

00:04:54.966 --> 00:04:58.133
攻击能力正在以远超防御修补的速度扩散

00:04:58.333 --> 00:04:59.033
第三类

00:04:59.033 --> 00:05:01.500
是人类心理与下一代认知的退化

00:05:01.600 --> 00:05:03.733
永远顺从、不发脾气的AI伴侣

00:05:03.733 --> 00:05:05.800
就像一个过度保护的温室

00:05:05.800 --> 00:05:09.333
正在剥夺青少年在现实中建立人际关系的能力

00:05:09.366 --> 00:05:11.333
而习惯让算法代劳思考

00:05:11.333 --> 00:05:14.433
正导致年轻一代在最需要辨别真伪的时代

00:05:14.433 --> 00:05:15.900
丧失批判性思维

00:05:16.133 --> 00:05:18.133
这三个风险，一个比一个深层

00:05:18.400 --> 00:05:19.966
就业冲击是最直观的

00:05:19.966 --> 00:05:21.633
安全风险是最紧迫的

00:05:21.633 --> 00:05:23.566
而认知和心理层面的影响

00:05:23.566 --> 00:05:26.200
可能是最深远、也最难逆转的

00:05:26.633 --> 00:05:28.366
我们先来说说安全这个事儿

00:05:28.366 --> 00:05:30.300
盖茨举了一个非常具体的例子

00:05:30.333 --> 00:05:31.566
生物恐怖主义

00:05:31.733 --> 00:05:34.933
他写过一本书叫《如何避免下一场大流行》。

00:05:35.133 --> 00:05:37.033
大流行有两种发生方式

00:05:37.033 --> 00:05:38.933
一种是从动物传给人类

00:05:38.966 --> 00:05:41.633
像强效流感，过去发生过很多次

00:05:41.766 --> 00:05:43.433
另一种是人类故意引起的

00:05:43.433 --> 00:05:45.733
不管是由政府还是非政府人员

00:05:45.733 --> 00:05:47.433
这就是生物恐怖主义

00:05:47.533 --> 00:05:48.833
现在AI工具的能力

00:05:48.833 --> 00:05:51.433
已经让非国家人员、非政府人员

00:05:51.433 --> 00:05:54.333
特别是如果他们结合使用不同工具的话

00:05:54.333 --> 00:05:56.300
能够做出极其危险的事情

00:05:56.533 --> 00:05:57.766
而盖茨非常清楚

00:05:57.766 --> 00:05:59.433
今年年底这些模型的质量

00:05:59.433 --> 00:06:01.000
将大大好于今天

00:06:01.233 --> 00:06:02.900
他说自己处于震惊状态

00:06:02.900 --> 00:06:06.333
因为我们竟然没有讨论如何监控制造分子的能力

00:06:06.366 --> 00:06:07.833
你依然可以有免费模型

00:06:07.833 --> 00:06:10.366
但你必须把它们放在被监控的地方

00:06:10.533 --> 00:06:12.766
每个国家都应该同意这是有益的

00:06:12.800 --> 00:06:15.966
而且这不至于对行业的创新造成实质性的拖慢

00:06:15.966 --> 00:06:18.200
也不会阻碍他们去做那些好的应用

00:06:18.533 --> 00:06:22.366
盖茨基金会在相关的教育、卫生和农业应用上涉入很深

00:06:22.366 --> 00:06:24.600
他很清楚正面应用的价值有多大

00:06:24.833 --> 00:06:27.133
但为什么这么基本的事情都没做呢？

00:06:27.133 --> 00:06:29.733
为什么大家对明显的危险想得不够多？

00:06:30.033 --> 00:06:31.600
盖茨说，如果你像他

00:06:31.600 --> 00:06:33.500
或是像部分业内人士那样

00:06:33.500 --> 00:06:37.566
一辈子都在把AI视作某种不可思议的颠覆性存在来思考

00:06:37.600 --> 00:06:39.966
那么这些危险确实是显而易见的

00:06:40.033 --> 00:06:41.100
目前最大的失误

00:06:41.100 --> 00:06:45.233
在于未能真正让行业之外的各界力量参与到这场讨论中来

00:06:45.333 --> 00:06:46.966
这里有一个很关键的背景

00:06:47.100 --> 00:06:48.966
回顾一下，OpenAI创立的初衷

00:06:48.966 --> 00:06:52.200
它在底层设计上本就包含特定的安全护栏

00:06:52.200 --> 00:06:54.733
但是那套保障机制发挥作用的前提是

00:06:54.733 --> 00:06:56.733
全球只有这一家AI公司

00:06:56.766 --> 00:06:59.633
DeepMind当年也曾与Google管理层探讨过

00:06:59.633 --> 00:07:02.233
要为这项技术设定一系列安全护栏

00:07:02.400 --> 00:07:03.800
然而现实是什么呢？

00:07:03.900 --> 00:07:06.333
美国有多家公司正处于技术最前沿

00:07:06.333 --> 00:07:08.566
中国同样有多家公司并驾齐驱

00:07:08.633 --> 00:07:09.366
这意味着

00:07:09.366 --> 00:07:12.566
任何一家企业单方面采取的安全约束行动

00:07:12.566 --> 00:07:14.533
也就是我们刚才提到的那些护栏

00:07:14.533 --> 00:07:16.400
都会在竞争中彻底失效

00:07:16.633 --> 00:07:19.366
当竞争变成了军备竞赛，所谓的保障

00:07:19.366 --> 00:07:20.833
早就名存实亡了

00:07:20.933 --> 00:07:23.233
你想想，如果你是一家公司的CEO

00:07:23.233 --> 00:07:25.200
竞争对手都在全速前进

00:07:25.200 --> 00:07:27.233
你单方面给自己加安全约束

00:07:27.233 --> 00:07:29.700
那你就等于在竞争中自废武功

00:07:29.966 --> 00:07:31.233
所以，指望企业自律

00:07:31.233 --> 00:07:33.533
从商业规律上就行不通

00:07:33.700 --> 00:07:36.366
盖茨用了一个很重的词来形容这种状况

00:07:36.433 --> 00:07:37.966
震耳欲聋的沉默

00:07:38.366 --> 00:07:40.366
整个社会各界的集体失语

00:07:40.500 --> 00:07:42.366
如果不提前防范这些问题

00:07:42.366 --> 00:07:44.966
未来可能会引发极其强烈的民意反弹

00:07:45.000 --> 00:07:47.500
以至于强行关停这类极端手段

00:07:47.500 --> 00:07:49.366
可能会在政治上大行其道

00:07:49.600 --> 00:07:50.900
但盖茨依然相信

00:07:50.900 --> 00:07:53.366
我们完全有能力妥善化解这一挑战

00:07:53.366 --> 00:07:53.966
这样一来

00:07:53.966 --> 00:07:56.700
我们就不必强行放慢技术发展的脚步

00:07:56.700 --> 00:07:58.700
既能将负面危害降至最低

00:07:58.700 --> 00:08:01.166
又能最大化地释放它的正面红利

00:08:01.633 --> 00:08:03.966
好，聊完了安全，我们再来说说就业

00:08:03.966 --> 00:08:07.800
这可能是大多数人最关心、也最感同身受的一个话题

00:08:08.133 --> 00:08:09.433
主持人直接问盖茨

00:08:09.433 --> 00:08:11.000
记得他以前曾经写道

00:08:11.000 --> 00:08:13.166
认为这次劳动力市场受到的冲击

00:08:13.166 --> 00:08:15.600
不会像历史上其他转型期那样深刻

00:08:15.800 --> 00:08:18.133
如今，随着这种颠覆日益临近

00:08:18.133 --> 00:08:20.033
他是否变得更加担忧了呢？

00:08:20.233 --> 00:08:22.100
盖茨的回答很干脆：是的

00:08:22.100 --> 00:08:24.000
而且他用了极度担忧这个词

00:08:24.300 --> 00:08:27.566
他极度担忧未来两年内白领岗位将受到的冲击

00:08:27.566 --> 00:08:31.300
以及未来四年内蓝领和白领岗位同时面临的震荡

00:08:31.566 --> 00:08:32.633
两年、四年

00:08:32.633 --> 00:08:34.433
这个时间尺度其实非常短

00:08:34.533 --> 00:08:36.700
也就是说，现在正在看视频的各位

00:08:36.700 --> 00:08:38.800
如果你是白领，尤其是初级白领

00:08:38.800 --> 00:08:40.900
可能需要认真想一想这个问题了

00:08:41.133 --> 00:08:41.800
说到这儿

00:08:41.800 --> 00:08:44.366
盖茨还顺带着聊了聊数据中心的争议

00:08:44.366 --> 00:08:47.333
现在很多地方的社区在抗议数据中心的建设

00:08:47.333 --> 00:08:48.800
觉得耗电耗水

00:08:48.933 --> 00:08:51.633
盖茨说他担心人们会产生一种错觉

00:08:51.633 --> 00:08:52.333
太好了

00:08:52.333 --> 00:08:54.966
我们成功阻止了本地数据中心的建设

00:08:54.966 --> 00:08:56.300
我们拦住了AI

00:08:56.533 --> 00:08:57.933
事实根本不是这样

00:08:58.033 --> 00:09:00.166
这些数据中心，无论是建在美国境外

00:09:00.166 --> 00:09:02.633
还是落户在一些态度相对开放的州

00:09:02.766 --> 00:09:07.233
科技公司都会通过增加当地就业和缴纳税收来提供经济回报

00:09:07.300 --> 00:09:07.933
当然

00:09:07.933 --> 00:09:11.833
你必须确保他们在处理耗水和噪音问题上的方式是妥当的

00:09:11.833 --> 00:09:13.800
并且没有推高当地的电费

00:09:14.000 --> 00:09:17.633
但是把阻挠数据中心建设作为情绪的发泄口

00:09:17.833 --> 00:09:19.166
是找错了方向

00:09:19.400 --> 00:09:20.966
这就好比在说，看

00:09:20.966 --> 00:09:23.000
我们成功叫停了一条输油管道

00:09:23.000 --> 00:09:25.433
所以我们彻底解决了气候变化问题

00:09:25.766 --> 00:09:29.166
这完全把本该用于探讨什么是合理监管的精力

00:09:29.166 --> 00:09:31.200
引向了一个得不偿失的方向

00:09:31.700 --> 00:09:32.900
回到就业的话题

00:09:32.966 --> 00:09:34.500
如果冲击真的这么大

00:09:34.500 --> 00:09:37.433
那未来世界会不会充斥着更多的不平等呢？

00:09:37.533 --> 00:09:38.566
很难让人相信

00:09:38.566 --> 00:09:43.000
整个社会会突然开始高度重视那些需要密集人际互动的行业

00:09:43.166 --> 00:09:45.166
尽管人们总在理想化地畅想

00:09:45.166 --> 00:09:48.233
但我们真的很难看清未来社会的真实面貌

00:09:48.500 --> 00:09:49.300
针对这个问题

00:09:49.300 --> 00:09:51.933
盖茨提出了一个以前从未见过的概念

00:09:51.933 --> 00:09:52.600
他说

00:09:52.600 --> 00:09:56.333
我们应该将某些特定的工作类别划定为人类专属

00:09:56.333 --> 00:09:57.433
Human Reserved

00:09:57.700 --> 00:09:58.400
什么意思呢？

00:09:58.400 --> 00:09:59.200
你可以理解为

00:09:59.200 --> 00:10:02.166
就像我们设立自然保护区、保护濒危动物一样

00:10:02.166 --> 00:10:03.733
我们也应该通过立法

00:10:03.733 --> 00:10:06.200
给人类划出一些专属的工作领域

00:10:06.333 --> 00:10:08.933
哪怕AI和机器人在技术上完全能做

00:10:08.933 --> 00:10:10.366
我们也不允许它做

00:10:10.500 --> 00:10:15.133
比如幼儿托育、心理护理、向绝症患者宣布诊断结果等等

00:10:15.133 --> 00:10:15.833
这些工作

00:10:15.833 --> 00:10:17.800
哪怕机器在技术上完全胜任

00:10:17.800 --> 00:10:19.766
我们也应该立法禁止它介入

00:10:20.166 --> 00:10:20.800
为什么呢

00:10:20.800 --> 00:10:22.466
因为工作除了经济效率

00:10:22.466 --> 00:10:25.000
还有不可替代的人性与社会尊严

00:10:25.200 --> 00:10:28.600
工作对于获取社会连接和人生意义至关重要

00:10:28.833 --> 00:10:30.866
盖茨说，目前在许多工作中

00:10:30.933 --> 00:10:32.933
阻止AI取代人类的唯一屏障

00:10:32.933 --> 00:10:35.000
就是要把系统做到极度可靠

00:10:35.066 --> 00:10:36.966
在工程上一直极其困难

00:10:37.166 --> 00:10:39.200
但他预见到，在未来几年内

00:10:39.200 --> 00:10:42.533
随着落地工程的推进和模型本身能力的丰富

00:10:42.566 --> 00:10:45.433
这层不可靠的技术障碍将被彻底扫除

00:10:45.733 --> 00:10:48.466
一旦进入竞争对手都在引入自动化的周期

00:10:48.466 --> 00:10:50.200
你就会面临巨大的压力

00:10:50.200 --> 00:10:52.633
被迫跟进以匹配他们的成本结构

00:10:52.766 --> 00:10:54.200
然而对整个社会而言

00:10:54.200 --> 00:10:56.200
当你用机器替代了那个人时

00:10:56.366 --> 00:11:00.800
社会安全网本就面临着资金匮乏和高额赤字的窘境

00:11:01.033 --> 00:11:04.200
目前政府根本没有预留任何准备金来提供救济

00:11:04.400 --> 00:11:07.466
当你开始具体讨论该采取什么干预措施时

00:11:07.633 --> 00:11:09.200
无论是保留特定岗位

00:11:09.200 --> 00:11:11.166
还是实行全民基本收入

00:11:11.200 --> 00:11:16.233
你会感觉这几乎与我们现有的社会组织方式或资本主义体制格格不入

00:11:16.366 --> 00:11:19.200
感觉这需要一种截然不同的心态和世界观

00:11:19.266 --> 00:11:22.733
而盖茨不确定大众是否已经做好了理解它的准备

00:11:23.066 --> 00:11:25.600
当然，倒也并非完全格格不入

00:11:25.666 --> 00:11:28.566
历史上，我们也曾立法禁止雇佣童工

00:11:28.633 --> 00:11:32.266
我们也要求人们必须考取专业资质才能从事某些工作

00:11:32.333 --> 00:11:35.033
这些都是用法律来划定边界的先例

00:11:35.033 --> 00:11:36.466
盖茨同意这个观点

00:11:36.466 --> 00:11:37.000
他说

00:11:37.000 --> 00:11:40.466
保留市场价格发现机制的内生活力极具价值

00:11:40.633 --> 00:11:44.200
你不希望看到只有一个中央实体来包揽所有的食品生产

00:11:44.233 --> 00:11:46.166
你希望看到人们百花齐放

00:11:46.166 --> 00:11:47.566
我开了一家泰国餐馆

00:11:47.566 --> 00:11:49.166
你开了一家印度餐馆

00:11:49.200 --> 00:11:51.866
这其中蕴含着巨大的自由与创新

00:11:52.233 --> 00:11:55.000
正因如此，他关于税制改革的提议是

00:11:55.000 --> 00:11:58.000
从对劳动力课税转向对资本课税

00:11:58.233 --> 00:11:59.333
简单说就是

00:11:59.366 --> 00:12:04.666
改变目前雇佣真人要缴税、购买机器反而能冲抵税费的倒挂制度

00:12:04.733 --> 00:12:07.166
对AI算力消耗和机器人征税

00:12:07.166 --> 00:12:11.266
用这笔钱去兜底被淘汰工人的再培训与基本生活

00:12:11.533 --> 00:12:14.166
同时，我们要挑选出一些特定领域

00:12:14.166 --> 00:12:15.566
明确宣告，不

00:12:15.566 --> 00:12:18.333
机器人在这些领域不能全面取代人类

00:12:19.133 --> 00:12:21.566
这或许是一段时期内的过渡性保护

00:12:21.566 --> 00:12:22.666
但是在更多领域

00:12:22.666 --> 00:12:24.766
这种保护应当是永久性的

00:12:24.966 --> 00:12:25.633
盖茨说

00:12:25.633 --> 00:12:28.200
他认为这是一场非常合理的公共辩论

00:12:28.233 --> 00:12:30.433
如果有人觉得这是个糟糕的解法

00:12:30.433 --> 00:12:32.600
或者看不出它能落地在何处

00:12:32.600 --> 00:12:33.800
他觉得这很有意思

00:12:33.933 --> 00:12:37.666
因为他极度渴望听听他们能拿出什么更好的解决方案

00:12:37.666 --> 00:12:39.366
他不希望化解AI挑战

00:12:39.366 --> 00:12:41.433
沦为单一党派的政治博弈

00:12:41.466 --> 00:12:43.933
他希望两党都能深度参与进来

00:12:44.066 --> 00:12:46.066
他们提出的解法或许截然不同

00:12:46.066 --> 00:12:46.833
但这个议题

00:12:46.833 --> 00:12:49.433
必须被提升到国家议程的绝对首位

00:12:49.700 --> 00:12:50.333
聊到这儿

00:12:50.333 --> 00:12:52.333
主持人又抛出了一个很现实的问题

00:12:52.433 --> 00:12:54.000
现在常听到一种声音

00:12:54.000 --> 00:12:55.166
如果我们放慢脚步

00:12:55.166 --> 00:12:57.000
就会在竞争中输给中国

00:12:57.133 --> 00:12:58.733
这种论调的核心逻辑是

00:12:58.733 --> 00:13:00.433
任何形式的技术减速

00:13:00.433 --> 00:13:02.800
都意味着将主动权拱手让人

00:13:02.966 --> 00:13:05.133
这个问题很尖锐，而且你会发现

00:13:05.133 --> 00:13:06.666
不只是美国，在很多国家

00:13:06.666 --> 00:13:10.166
不能输给别人都是延缓监管的一个万能借口

00:13:10.466 --> 00:13:11.866
盖茨怎么回答的呢？

00:13:11.866 --> 00:13:14.233
他说，但我们必须保持清醒

00:13:14.333 --> 00:13:17.566
你认为其他国家会希望看到生物恐怖主义肆虐吗？

00:13:17.600 --> 00:13:19.966
会希望面临毁灭性的网络攻击吗？

00:13:20.133 --> 00:13:21.166
真正的问题在于

00:13:21.166 --> 00:13:24.033
我们自己对于究竟该如何谨慎设防

00:13:24.033 --> 00:13:25.566
都缺乏清晰的认知

00:13:25.566 --> 00:13:27.333
一旦我们自己厘清了监管方案

00:13:27.333 --> 00:13:29.333
我们就可以去寻求国际共识

00:13:29.366 --> 00:13:31.366
我们希望各方所管辖的模型

00:13:31.366 --> 00:13:33.266
都不要开放这些高危能力

00:13:33.266 --> 00:13:38.233
除非你自己先动真格去应对负面危害、拿出切实可行的监控方案

00:13:38.266 --> 00:13:40.766
否则就别拿国际竞争当借口

00:13:40.933 --> 00:13:42.166
目前我们所拥有的

00:13:42.166 --> 00:13:45.200
不过是毫无强制标准的所谓自愿审查

00:13:45.300 --> 00:13:46.033
试想一下

00:13:46.033 --> 00:13:48.666
如果你带着一套毫无实质内容的自愿标准

00:13:48.666 --> 00:13:51.933
去寻求国际合作，碰壁后回国摊手说

00:13:51.933 --> 00:13:53.966
看吧，对方什么都不愿意配合

00:13:54.066 --> 00:13:57.800
那纯粹是因为你自己根本没有提出任何实质性的解决方案

00:13:58.033 --> 00:14:00.400
盖茨还特别提到，这种监管真空

00:14:00.400 --> 00:14:04.566
目前在很大程度上被一些盲目叫好的啦啦队长给填补上了

00:14:04.566 --> 00:14:05.866
这让他深感不安

00:14:06.133 --> 00:14:07.266
谁是啦啦队长呢？

00:14:07.266 --> 00:14:07.933
盖茨说

00:14:07.933 --> 00:14:10.866
指的是美国政府内部那些一心只想喊着

00:14:10.966 --> 00:14:12.866
看，我们保持领先了的人

00:14:13.000 --> 00:14:14.833
他们一直在试图通过各种手段

00:14:14.833 --> 00:14:17.400
切断竞争对手获取高端芯片的渠道

00:14:17.600 --> 00:14:20.266
我们把这变成了一场纯粹的地缘政治博弈

00:14:20.266 --> 00:14:22.400
明确试图打压对方的发展速度

00:14:22.466 --> 00:14:26.800
但这直接倒逼了对方举全国之力投入自主芯片的研发体系中

00:14:26.866 --> 00:14:29.033
至于科技巨头的高管们算不算

00:14:29.066 --> 00:14:30.600
盖茨的说法比较委婉

00:14:30.666 --> 00:14:31.566
他说在他看来

00:14:31.566 --> 00:14:34.600
这些科技企业的领袖在公开预警风险时

00:14:34.633 --> 00:14:36.366
表现得已经相当负责了

00:14:36.533 --> 00:14:39.533
但你绝不能指望一个商业行业去实现自我监管

00:14:39.533 --> 00:14:41.600
这在商业规律上是行不通的

00:14:41.633 --> 00:14:43.566
必须有独立的监管者出面仲裁

00:14:43.566 --> 00:14:45.233
并明确划定底线

00:14:45.466 --> 00:14:46.966
对这些企业说，听着

00:14:46.966 --> 00:14:49.933
如果你们不严肃对待生物武器的合成风险

00:14:50.000 --> 00:14:52.333
如果你们拒绝接入安全监控机制

00:14:52.333 --> 00:14:53.066
那么对不起

00:14:53.066 --> 00:14:55.966
你们就拿不到继续推进研发的合规牌照

00:14:55.966 --> 00:14:56.566
同样

00:14:56.566 --> 00:15:00.666
如果你不给家长提供查看孩子在跟谁互动的透明权限

00:15:00.800 --> 00:15:03.800
而那些所谓的朋友甚至都不是真实的人类

00:15:03.966 --> 00:15:06.466
这种底线监管也同样至关重要

00:15:06.600 --> 00:15:08.566
说到这里，访谈也接近尾声了

00:15:08.633 --> 00:15:10.000
主持人最后问了一个问题

00:15:10.166 --> 00:15:11.800
政府监管显然很重要

00:15:11.800 --> 00:15:13.033
显然是应该做的

00:15:13.033 --> 00:15:14.366
但我们有基础设施

00:15:14.366 --> 00:15:16.133
或者有意愿去监管吗？

00:15:16.133 --> 00:15:17.800
这是一个现实的计划吗？

00:15:17.866 --> 00:15:20.433
盖茨的回答是，我们处于民主制度中

00:15:20.466 --> 00:15:26.666
就像尽量减少无证销售药物的危害、打击身份冒用、或者防止老年人被骗取钱财一样

00:15:26.733 --> 00:15:27.533
他依然相信

00:15:27.533 --> 00:15:30.533
政府有能力帮助将这里的危害降到最低

00:15:30.600 --> 00:15:32.433
甚至能以建设性的方式

00:15:32.433 --> 00:15:35.066
与世界其他国家共同发挥领导作用

00:15:35.233 --> 00:15:37.733
他想有些国家会欢迎这样的态度，嘿

00:15:37.733 --> 00:15:39.233
我们是命运共同体

00:15:39.266 --> 00:15:40.600
我们在共同解决问题

00:15:40.600 --> 00:15:42.366
而不是我们在占你们的便宜

00:15:42.466 --> 00:15:44.566
你必须相信大家都在乎这件事

00:15:44.666 --> 00:15:45.566
我们都是人类

00:15:45.566 --> 00:15:47.600
而且行动的时刻就是现在

00:15:48.033 --> 00:15:50.200
然后盖茨说了一句非常有分量的话

00:15:50.233 --> 00:15:52.466
他说，如果我能自己挑选时间

00:15:52.466 --> 00:15:55.133
我希望能选在一个晚得多的时间节点

00:15:55.333 --> 00:15:56.866
但现实已然如此

00:15:57.166 --> 00:15:58.533
盖茨还坦诚地说

00:15:58.533 --> 00:16:01.733
整个社会用来厘清这些利弊权衡的集体智慧

00:16:01.733 --> 00:16:03.666
并没有真正被调动起来

00:16:03.933 --> 00:16:06.166
现在那些正使用AI的大学毕业生

00:16:06.166 --> 00:16:08.000
他们知道这东西有多强大

00:16:08.000 --> 00:16:10.000
也清楚如果就业市场发生转变

00:16:10.000 --> 00:16:11.466
情况将对他们不利

00:16:11.633 --> 00:16:14.333
你开始在少数领域看到了一点点警觉

00:16:14.433 --> 00:16:16.666
但到底有多大比例的经济学教授

00:16:16.666 --> 00:16:18.266
在真正关注这个问题

00:16:18.366 --> 00:16:20.366
并且帮助我们寻找对策呢？

00:16:20.366 --> 00:16:22.133
他觉得大概只有百分之二

00:16:22.166 --> 00:16:24.166
甚至在他和他们见面时

00:16:24.166 --> 00:16:26.833
这百分之二中的很多人也没有意识到

00:16:26.833 --> 00:16:29.533
他们今天所使用的AI是多么的初级

00:16:30.000 --> 00:16:31.666
作为一个身处科技领域

00:16:31.666 --> 00:16:34.466
且过去一直主张科技越多越好的人

00:16:34.533 --> 00:16:36.800
现在却说出只有我们讲究分寸

00:16:36.800 --> 00:16:39.033
好处才能盖过坏处这样的话

00:16:39.133 --> 00:16:42.733
盖茨说这意味着他绝对是在拉响极其强烈的警报

00:16:42.933 --> 00:16:44.600
他给了一个非常直观的对比

00:16:44.666 --> 00:16:48.033
自二零零八年他转为在基金会全职工作以来

00:16:48.066 --> 00:16:49.733
只要有机会与各国政要会面

00:16:49.733 --> 00:16:51.666
他传递的信息中百分之九十

00:16:51.733 --> 00:16:54.233
都是关于帮助降低儿童死亡率的

00:16:54.266 --> 00:16:56.200
他们已经把死亡率降低了一半

00:16:56.200 --> 00:16:59.333
并希望在基金会剩余的十九年里再减半

00:16:59.566 --> 00:17:00.333
但现在

00:17:00.333 --> 00:17:02.466
他与各国政要交流的大部分时间

00:17:02.466 --> 00:17:03.966
都将用来讨论AI

00:17:04.066 --> 00:17:05.600
他希望在未来几年里

00:17:05.600 --> 00:17:08.966
各界对AI的参与能够变得足够广泛而充分

00:17:08.966 --> 00:17:11.200
这样他就能把分配给他的时间

00:17:11.233 --> 00:17:15.733
重新用百分之九十来关注全球健康、疟疾和小儿麻痹症

00:17:15.733 --> 00:17:18.600
而不是被迫动用他第一段职业生涯的经验

00:17:18.600 --> 00:17:19.533
去对人们说

00:17:19.533 --> 00:17:23.433
你们还没明白这东西影响有多深远、进步有多快

00:17:23.566 --> 00:17:26.966
以及限制这些负面影响将需要付出多么巨大的努力

00:17:27.066 --> 00:17:27.800
访谈的最后

00:17:27.800 --> 00:17:30.466
主持人注意到盖茨用了讲究分寸这个词

00:17:30.466 --> 00:17:32.200
问他为什么选了这么一个词

00:17:32.266 --> 00:17:33.966
盖茨说，这是个好词

00:17:34.200 --> 00:17:36.400
分寸听起来有克制感、得体

00:17:36.433 --> 00:17:38.766
考虑到其中涉及的资金规模和人数

00:17:38.833 --> 00:17:41.000
人类历史上还从未有过哪一个领域

00:17:41.000 --> 00:17:44.533
能汇聚如此多的资本或如此庞大的薪资总额

00:17:44.800 --> 00:17:46.133
哪怕先不谈机器人

00:17:46.133 --> 00:17:48.466
这里也有几百家公司在全速狂奔

00:17:48.566 --> 00:17:51.533
要求他们在安全措施上投入精力的这种平衡

00:17:51.533 --> 00:17:53.333
在今天完全是失衡的

00:17:53.433 --> 00:17:55.133
甚至连行业内部都在问

00:17:55.166 --> 00:17:57.033
监管规定到底在哪里？

00:17:57.133 --> 00:17:59.566
或许这些人中有一部分并不真诚

00:17:59.766 --> 00:18:01.600
如果我们真的拿出了监管方案

00:18:01.600 --> 00:18:03.266
肯定会听到他们的抗议声

00:18:03.400 --> 00:18:06.566
但我们正试图让它成为一种促进公平的因素

00:18:06.600 --> 00:18:07.800
不仅是为了美国

00:18:07.800 --> 00:18:09.033
也是为了全世界

00:18:09.233 --> 00:18:12.000
所以，讲究分寸的意思更像是公平

00:18:12.000 --> 00:18:15.966
对于如果在某些负面不受遏制将面临极大风险的事情

00:18:15.966 --> 00:18:17.366
用这样一个温和的词汇

00:18:17.366 --> 00:18:19.366
确实带有轻微的讽刺意味

00:18:19.733 --> 00:18:21.366
整场访谈听下来，你会发现

00:18:21.366 --> 00:18:23.166
盖茨不是在唱衰AI

00:18:23.200 --> 00:18:26.166
他比谁都清楚AI能带来多大的正面价值

00:18:26.366 --> 00:18:28.833
普及医疗、个性化教育、加速新药研发

00:18:28.833 --> 00:18:30.933
这些他都在做，也都在推动

00:18:31.066 --> 00:18:32.733
但是正因为他身处前沿

00:18:32.733 --> 00:18:34.333
亲眼看到了技术的威力

00:18:34.333 --> 00:18:35.833
他才比谁都更清楚

00:18:35.833 --> 00:18:37.266
如果没有恰当的护栏

00:18:37.266 --> 00:18:38.800
这辆车开得有多快

00:18:38.800 --> 00:18:40.733
翻车的后果就有多严重

00:18:41.033 --> 00:18:43.233
他拉响警报，不是因为他反对技术

00:18:43.233 --> 00:18:46.833
恰恰是因为他希望技术的好处能够真正惠及所有人

00:18:46.833 --> 00:18:48.233
而不是在失控之后

00:18:48.233 --> 00:18:50.466
让整个社会付出沉重的代价

00:18:50.833 --> 00:18:53.066
从科技越多越好到讲究分寸

00:18:53.066 --> 00:18:55.366
这中间隔着五十年的亲身经历

00:18:55.366 --> 00:18:58.233
也隔着一个从业者对技术本质的深刻理解

00:18:58.466 --> 00:19:00.633
这场AI革命，我们已经身在其中

00:19:00.633 --> 00:19:02.233
没有人能置身事外

00:19:02.333 --> 00:19:03.200
现在最重要的

00:19:03.200 --> 00:19:05.033
也许不是争论它会不会来

00:19:05.033 --> 00:19:07.033
而是我们该如何与它共处

00:19:07.033 --> 00:19:09.266
如何让它朝着我们希望的方向走

00:19:09.333 --> 00:19:11.100
感谢收看，我们下期再见