最近這幾天,AI先出現了一個很反常的畫面。 Athropic的CEO達里奧阿莫迪發了一篇長文。 公開的呼應,全言AI應該放慢一點。 奧特曼說同意,馬斯克也說他是對的。 最愛搶速度的這三個人,突然都在談減速。 這聽起來像是三家公司握手停戰了。 可事实并不是这样的 他们只在安全评估上出现了交集 没有人承诺一起停讯 也没有约好下一代的模型 共同的延期 可这件事依然很重要 它会影响以后进入办公软件 学校 日常产品的AI 是更多的公司更快推出攻击 还是少数巨头 经过更长的审核之后 决定什么能上线 背后暴露的是今天Air竞赛最难解的一道题 谁都不敢递一个松开油门 但谁都害怕有人把整条赛道给撞毁了 想象三只登三队正在站第一 任何一队单独停下 另外两队都可能先登顶 可画面已经进入了风险期 任何一队走错了一步 都可能把风险扩散给所有人 这个时候呢 三个队伍都会支持一条共同的安全线 问题是 这条线究竟在降低风险 还是在顺便把已经走在前面的队伍 留在最有力的位置呢 这才是阿莫迪这篇文章 真正值得看的地方 不是气口几个英文单词 也不急着把他判成好人或坏人 真正要看清的是他们想让什么慢下来 谁为减速付钱 这道归族会不会让后来的人更难追上呢 先看阿木迪到底提了什么 他的方案大致分三步 第一步 让外部的评估人员在法力 合同和隐私边界内 长期获得接近员工的访问能力 查看前沿AI公司的内部系统和记录 第二步 先在美国和其他愿意合作的地区 协调前沿AI安全标准 第三步 再尝试把这种协调扩展到全球 他也专门强调 所谓的放慢并不等于停止模型的信念 更不等于停止技术的进步 这句话很容易让人产生一个印象 训练照常 只有模型发布会被管住 可继续往下看 事情没有这么简单 阿莫迪同时把训练流程 训练算力和一次一次大规模的训练任务 都列成了未来可能采用的政策攻击 所以他提的不是一张已经写好的限速令 而是一套还在等待填空的制度框架 它可以很轻 只要求公司保存记录 接受外部的测试 也可以很重 模型能力和训练规模 一旦达到某个门槛 公司就得停下来接受检查 这两种版本对行业的影响完全不同 前一种更像是给飞机增加黑匣子和年检 飞机仍然可以飞 只是起飞前要多做检查 而另一种则可能直接限制飞机能装多大的发动机 一次能飞多延 把这两种情况混在一起 就会误判整个Air产业接下来会发生什么 为什么偏偏是Azropik先站出来呢 第一层原因并不神秘 安全一直是Azropik最重要的品牌 也是他和OpenAir XAir争夺企业客户时最鲜明的标签 全员模型被接近攻击 代码执行环境和企业数据之后 越来越常被做成能够执行多部任务的智能体 能力也强 只有公司自己宣布安全 就越难让外界幸福 让独立的人员进入内部系统 查看测试记录和真实的运行情况 确实有现实价值 因为很多问题不是做一次公开测评就能发现的 模型在实验室测评中表现正常 不代表由它工具权限和业务数据组成的系统 接入代码库、浏览器或者企业数据库之后仍然正常 评估着如果只能看公司挑好的演示 也很难知道展示范围之外遗漏了什么失败的记录 但看得到记录 不等于已经测得出所有的危险 更难的是 测试能不能覆盖模型换了工具 前线和任务之后出现了新的行为 以及谁有前线 判定风险已经高到了必须停下来 但还有第二层的原因 谁先提出标准 谁就有机会影响标准怎么写 Athropics已经有成熟的安全团队 测试流程和对外的稀释 他今天主动承诺的事情 可能本来就是他比很多小公司更擅长 更有自然完成的事情 一旦这些能力变成全行业的法定要求 那Athropics既获得了可信度 也获得了规则的话语钱 这里先不急着把安全判断成纯粹的包装 真实世界最麻烦的地方 恰恰是两件可以同时成立 阿莫迪可以真的担心前沿AI失控 也可以希望未来的行业规则 更接近埃斯托匹克已经建好的那套能力 安全收益是真的 商业优势也可以是真的 那么长期针锋相对的奥特曼 为什么也愿意跟进呢 因为他公开接受的 首先是最容易形成共识的部分 奥特曼说 他同意需要为前沿的能力控制节奏 也同意让独立的测评者 获得接近员工级的访问前线 OpenAI会照做 到这里为止 他支持的是透明度和评估的方向 并没有公开的接受 阿姆迪文章里的每一项制度的设计 这对OpenAI来说 也是一种低成本但有价值的表态 他不需要当场的承诺停掉哪次的训练 且能证明自己没有站在安全讨论的对立面 更重要的是 未来的规则还没有写完呢 OpenA现在加入讨论 就有机会参与决定评估什么 何时触发 出了问题怎么处理 而不是等竞争对手先写出了标准 再被动的接受 马斯克的表态更短 只有达里奥是对的 这能证明他认同阿莫迪提出的问题 不能证明他已经同意永久凭无言 政府强制标准 或者某个共同的训练上限 把这三个人包装成正式的联盟 袭击性很强 准切先切不够 马斯克的位置还比一级竞争对手更复杂 馬爾斯克的位置還比一級競爭對手更複雜。Xair已經併入了SpaceX,而Aceropic又公開使用了SpaceX提供的Glosses算力。 也就是说 双方一边在前沿模型上竞争 一边又存在基础设施的交易 这个关系能解释为什么他们并非简单的敌我两边 且仍然不能证明马斯克的表态 来自某项共同的商业安排 可他们为什么连这种有限支持都愿意给呢 因为一次严重事故造成的损失 很可能不会只落在出事的公司身上 如果一个前沿智能体造成大范围的安全问题 和公众、客户和政府把它视为行业的风险 受损的就不只是一家公司的生意了 事故未必让所有公司承担相同的损失 但它可能抬高整个行业的审查、采购和许可的成本 换句话说 模型能力是各家的私有收益 重大事故却可能变成前行业共同承担的成本 三个竞争者可以继续的相互抢客户 但他们都有理由防止某一家快速消耗整个行业的公共信任 还有一个更现实的原因 单独减速很贵 共同接受最低检查线 且便宜得多 假如OpenAI独自推迟训练 而Astropic和XAI继续前进 OpEN也可能很快就丢掉能力领先了 反过来也一样 没有人愿意成为唯一停下来的人 所以对头部竞争者而言 最理想的安排 往往是一套大家都要遵守 而且成本足够对称的规则 这就是这场罕见铜像背后的第一层答案 它们不是突然不竞争了 而是想把要不要减速从一家公司的道德选择 变成主要竞争者共同面对的制度问题 只有在成本足够对称的条件下 先讲安全的一方 才不容易因为单边承担代价而先输掉比赛 不过真正的较量也从这里才开始 因为大家都接受检查听起来是很公平的 同一张检查表落在不同公司身上 成本可能完全不同 一套持续的外部评估 不只是请几个人来办公室看模型 它要保存训练和事故的日志 控制访问前线 安排独立的测试 还要处理客户数据 商业机密 以及由谁来承担法律责任 发现危险结果之后 要推迟发布 限制功能 还是允许公司解释之后继续上线 也都要有流程 对资源更充足的前沿公司来说 这类要求更可能建立在既有安全 法务和基础设施之上 对资源较少的团队 同样的固定流程 更可能占起了更高比例的研发议算 到底差多少 还要看评估的频率 保密要求和责任的规则 设想两家公司同时做出一个 能够自动修改代码的智能体 头部公司可以在现有的团队上 增加测试和法力审查 资源有限的团队面对的 却可能不只是多花一笔钱 而是合规的周期测试能力和法力责任 会不会错过它的产品窗口 规则如果不按能力和风险分级 原本有竞争能力的团队 也可能把大量的资源 从研发转器补文档 测试和责任的准备 这种差别 最后也会落到普通人使用的AI上 大公司的产品 会更容易获得经过检查的标签 进入办公软件 学校和企业系统 小团队更大胆 更便宜的工具 则可能长期停在测试阶段 用户得到的产品或许更安全 但选择也可能更集中 价格和功能有更少的公司结定 这就是安全规则最容易变成竞争门槛的地方 不是因为门槛这两个字天然的邪恶 而是固定成本往往会对小公司更重 它是否最终会变成护城河 还要看规则能不能减少重复审计 能不能让合格的小团体也拿到客户认可的证明 反过来讲 按能力和实际前线分级的规则 也可能帮助创新 小团队如果能使用共享的测试设施 有清楚的研究和开源责任边界 并提前知道哪些能力需要什么证明 就不用在每次发布前 才规则会不会临时的改现 真正商创新的 往往不只是标准的严格 而是标准模糊 不可复减 又只对后来者严格 所以判断这套倡议 是安全护栏还是头部的护城河 不应该靠猜阿莫迪心里想什么 不用记住所有的细节 只盯住一件事 规则的成本和约束 有没有对称的落到提出规则的头部公司身上 下面四个问题 都是检查这一件事的 第一 规则是否同样耶稣提出者 如果小公司发布模型 要先等好几个页 头部公司训练更大的模型 是不是也要接受同样严格的检查呢 第二 评估人员有谁选择 有谁付钱 如果公司可以随时的更换不满意的评估者 那所谓独立 就很容易只剩下一个名字了 第三 负面结果能不能独立的保存和披露 如果发现了问题 最后仍然只能由评估公司来决定是否公开 那外部人员更像是高级顾问 不像是真正的监督者 第四 小团队有没有负担得起的合规路径 如果标准知写所有人一视同仁 且不管同一笔高额的成本 对不同公司的陷阱流 意义完全不同 那形式上的平等 就可能变成了结果上的封锁 到这里呢 主线已经很清楚了 安全风险给了共同规则正当性 单边减速的代价 让竞争者愿意谈统一规则 头部公司的自言 又让他们更能够承受规则的成本 先把产业结论交出来 这份倡议不会自动砍掉AI的芯片和资本开支 只有规则把训练规模也纳住了强制的门槛 那影响才会传到基础设施 如果只是独立的评估 首先增加的是合规成本和上限的时间 那接下来才是最关键的问题 如果美国政府真的采纳 AI行业会发生什么呢 这里至少有三种完全不同的结果 在战事规则出现之前 企业表态最多只能形成自研的业数 覆盖哪些公司 能力门槛画在哪 事故记录和发布前检查 这样的规则 首先托慢模型上线和高风险功能的开放 不一定会托慢底层的训练 公司仍然可以购买芯片 建设数据中心 训练下一代的模型 只是产品走出实验室前 要多过几道检查 这会增加成本 但未必会让AI能力停止增长 有些案件测试 对抗测试和监控还是会消耗算力的 但能否抵消掉训练和部署的变化 要看最终的规则 第二种规则更重 政府按照模型能力设置检查点 达到某个水平就必须取得许可 或者接受更长时间的审查 这样一来 竞争可能不再是只看谁先把模型做出来 还要看谁既能做出来 又有钱 有记录 有团队通过检查 头部公司的领先可能因此更加稳定了 因为他们不仅拥有更多的芯片 也更早建设了安全和法律体系 第二梯队即使在算法上追得很近 也可能在记录 人员和责任保险上被拉开 开研项目尤其麻烦 因为它没有传统公司那样清晰的控制中心 谁负责提交评估 谁对下游修改负责 都可能成为争议 第三种才是真正意义上的产业结束 如果规则直接限制了训练算力 训练任务 或者把用AI改进AI的流程纳入门槛 那么大模型极型的排气会受到影响 下一代模型的训练计划也可能被推迟 这时候政策才会从发布端一路传达到芯片 引服务 电力和数据中心 把它翻译成人话 全两种主要改变新功能什么时候上线 谁来承担合规的成本 只有第三种才会直接碰到芯片订单和数据中心的建设 问题在意 阿莫迪现在提出的是一组可选的工具 并不是已经写进法律的第三种方案 今天就宣布AI资本开支会大幅的收缩 芯片需求会消失 和宣布什么时候不会改变一样 都是把尚未决定的细节当成了确定的结果 如果只有美国公司执行 其他地区不跟又会怎么样呢 最直接的担心是 美国公司慢下来 其他地方继续追赶 这个风险确实存在 阿穆迪也承认 完整的全球协调 短期内很难实现 但结果也不会简单到 谁不监管谁就赢 因为前沿AI模型需要芯片 数据中心 电力 资金 客户和稳定的供应链 规则更宽松 不代表这些资源立刻的补齐 反过来 如果美国的规则昂贵又模糊 人才和项目寻找其他弱点的动力就会增加 美国公司也可能推动大型客户和银平台 采用同一套的评估标准 让本国的规则逐渐变成国际的门槛 能否做到 要看标准是否透明 能否复验 也要看其他市场有没有可信的替代方案 所以真正难谈的不是安全重不重要 而是谁愿意把训练计划交给外部检查 谁接受负面的结果公开 谁愿意在竞争者不配合时仍然推迟模型 芯片和资本开支到底会不会减速 不能靠口话判断 Azorvik,OpenAI以及SpaceX和XA所在的体系 都在扩大基础设施 但扩建不能证明他们绝不会调整训练 倡议也不能证明已经签下的安排一定会奇效 阿莫迪认为 部分风险可能在未来6到12个月内迅速的升级 可数据中心云容量和电力工程按的是多年的规划 软件发布几周内就能改期 编电站机房和芯片交付却没有那么灵活 外界又看不到完整的合同 所以更准确的问题是 如果真的放缓了 会先在哪类公开的记录里留下痕迹呢 第一章是模型训练和发布表 下一代模型是否延期 危险功能是否推迟的开放 已经完成的训练的模型 是否增加更长的验证器 第二章是云厂商和数据中心的资本开支表 企业是否调整新增的机型 电力容量和机房建设的指引 只有这一层出现了持续变化 减速那才开始传达到基础设施 第三章是容量合同和芯片交付表 公开可核印的延期缩减或取消 会是安全主张开始触及真金白印的强信号 其他合同能否调整 是否已经安排重排 外界未必看得到 现阶段不能因为一计放慢 就依判半导体产业急转慢 假如政策只要求更多的评估 测试、监控和验证 可能带来一部分算力的需求 但能否抵消训练段的变化 要看规则强度和企业的部署 只有直接限制训练算力 才更可能改变芯片订单和数据中心的建设 回到开头 三位竞争者不是突然变成盟友 也不能简单说成是联手社级 他们看见了共同的风险 又不愿意独自的承担减速的代价 阿穆迪先提出规则 奥特曼接受独立评估 马斯克只认同了方向 三个人究竟愿意付出什么代价 还没有完整的答案 这套倡议可能减少真实的风险 也可能把合规的成本变成新的竞争壁垒 真正决定他性质的 不是CEO说的多诚恳 而是规则有没有对称的落到他们自己身上 以后再看到哪家AI公司呼一方慢 不必急着相信 也不必急着嘲笑 先看三类动作 事故记录是否真的交给独立者 模型训练和发布是否真的调整 算力与资本计划是否出现了可验证的变化 如果只看到入口越来越严 且看不到头部公司的训练和发布 承担对称的代价 那它更像是再重新安排谁能做上前排 如果三类动作相互印证 而且能和规则要求对应 那会是更强的证据 说明减速成本开始落到头部公司自己身上 至于资本计划是否改变 还要看规则最终有没有触及到训练的规模 普通使用者也可以把这套方法说成三个问题 谁做了评估 出了问题能不能查到记录 限制是不是对所有公司都一样 你最希望这些公司先公开哪一类的记录呢 是训练计划 事故记录 还是算力合同的调整呢 你觉得这三巨头是真的在为 全人类的安全担忧 还是在联手给后来者 挖坑修城墙呢 评论区聊一聊 记得点赞订阅 打开小铃铛 咱们下期再见