start	end	text
0	26000	ChatGPT主創人員之一表示他讓他感到心碎。Diogo Ameta曾是OpenAI研究員,參與構建了聊天機器人並共同發明了RLHF,即基於人類反饋的強化學習。這很可能是造就當前AI時代最關鍵的技術。但他卻感到失望用他的話來說,我們空有驚人潛力,卻無法將其轉化為實際用途。
26000	34380	他的观点是,整个行业一直在针对人类语言进行优化,模型在这方面已出色了四年之久,但这并不能带来自动化。
34800	41800	毕竟计算机的语言与人类不同,他在发布文中,反问,模型在对话方面已超越人类多年。
42600	50020	那自动化究竟在哪?他曾以为对话模型能通向API调用,但尽管外界喧嚣不断,显然还缺了关键的一环。
50020	52500	于是两年前他离开了OpenAI
52500	54300	创办了TypeSafe AI
54300	57740	并出任联合创始人兼CEO
57740	59520	他们融资4000万美元
59520	60940	潜心研发两年
60940	64020	并于9月15日周二发布了JEFF
64020	66400	这是他们首个系统一模型一类
66400	67780	全新的前沿模型
67780	70780	能直接为软件提供快速的结构化决策
70780	74960	最奇特的一点是他基于Transformer架构
74960	76840	但他并非大语言模型
76840	78980	他不输出文本而是返回概率
78980	81200	即他们所说的校准决策
81200	84460	Almeta将其称为机器原生人工智能
84460	89500	因为如果人工智能要改变工作流程
89500	91900	人类不能是智能的唯一受众
91900	95260	TypeSafe将其称为前沿智能函数
95260	98440	输入非结构化状态输出类型化的概率决策
98440	101360	输出结果可以是Jason
101360	103400	也可以只是一个简单的字符串
103400	105540	比如我的卡被重复扣费了
105540	108780	随后你可以使用名为Choice Score的原语来提问
108780	112000	以及NEO他们会返回类型化的选择评分
112000	115480	或是带有概率的不耳直答案全部并行评估
115480	116780	以工单分类为例
116780	120500	假设你需要决定有哪个部门处理客户咨询
120500	123040	你会得到账务0.08
123040	124360	技术0.85
124360	127720	销售0.07
127720	128840	智信度0.82
128840	130800	这对人类而言毫无意义
130800	132900	但对代码来说却非常完美
132900	135180	因为可以直接据此进行逻辑分支
135180	136560	这就是名字的由来
136560	139380	类型安全是指程序捕获异常数据的方式
139380	142020	即防止程序遇到预期之外的情况
142020	143340	比如试图用整数
143340	145480	去除以字符串而使用Jeff
145480	147520	你可以预先定义输出格式
147520	149900	它绝不会输出结构以外的内容
149900	151920	省去了解析与验证的麻烦
151920	154300	而大语言模型输出的只是一个字符串
154300	155480	可能是对话回复
155480	156160	可能是代码
156160	157220	可能是幻觉
157220	158320	也可能是拒绝回答
158320	160560	又或是带有风险的结构化数据
160560	162080	稍不留神就会失控
162080	164360	你当然能用代码封装大语言模型
164360	166220	但这正是Jeff的优势所在
166220	166860	Type Safe
166860	168640	声称它不会产生幻觉
168640	170880	在处理系统一任务时
170880	173080	其表现足以媲美大语言模型
173080	174880	且速度快了两个数量级
174880	177240	效率也更高在其底层架构下
177240	180140	采用了一种全新的并行采样器架构
180140	183320	以及一种名为强化学习的训练方法
183320	184920	即基于校准决策
184920	186280	简称RLCD
186280	190080	The Register将RLCD归类为一种架构
190080	192200	但它本质上是一种训练方法
192200	194220	也是他们对RLHF的回应
194220	196600	像GPD 5.6 Terra这类模型
196600	198200	每次只能生成一个Token
198200	201220	每个Token都依赖前一个Jeff
201220	203040	就能一次性生成所有结果
203040	205400	通过单次硬件感知查询实现
205400	207360	它基于结构化程序状态
207360	208660	而非序列消息构建
208660	210700	他们认为放弃字符串
210700	212180	赋予了模型超能力
212180	213640	而且速度快得惊人
213640	214540	这就是TypeSafe
214540	216420	前沿大模型处理耗时
216420	218660	3到329秒端到端
218660	220340	人类用者还行
220340	222260	但在代码自动化场景下
222260	223580	就是瓶颈Jeff只需
223580	225100	70到500毫秒
225100	227200	速度快了40到200倍
227200	230400	在TechCrunch报道的对比演示中
230400	235320	截图显示Jeff响应仅需0.114秒
235320	238540	而Tara则用了8.566秒
238540	239840	更惊人的是价格
239840	242160	大模型每百万输入Token收费
242160	243680	20美分到10美元
243680	245800	输出费用是输入的5倍
245800	250600	而Jeff每百万Token仅需0.042美元
250600	253300	也就是每10亿Token仅需42美元
253300	254760	没错他们按10亿单位计费
254760	256000	输出成本极低
256000	256980	几乎可以忽略不计
256980	259080	Tara模型输入为每百万两美元
259080	261680	输出则为每百万十二美元
261680	263320	数据显示Jeff模型
263320	265880	比Fable 5.1便宜了238倍
265880	267420	再来说说自信度
267420	270900	这恐怕是最被低估的一点大模型
270900	271940	往往过度自信
271940	274440	且对自身确信度的评估前后不一
274440	277700	如果一个模型能在95%的情况下完成任务
277700	278900	但却无法告诉你
278900	279980	它何时会出错
279980	281200	你就无法实现自动化
281200	282500	Jeff的自信度
282500	283420	经过了较准
283420	285400	自信度越高
285400	286560	准确率也就越高
286560	288800	相似的输入会得到相似的答案
288800	290880	Iron DL的首席技术官
290880	292160	Armond Risser表示
292160	294300	这让开源模型得以发挥其效用
294300	296720	他告诉TechCrunch
296720	298060	这实际上是将
298060	300580	幻觉问题交由用户自行把控
300580	303120	自信度5x10如抛硬币直接忽略
303120	305020	9x50则果断执行
305020	307020	面对高调的声称TypeSafe
307020	307800	心知肚明
307800	309500	正如文中那句
309500	311540	非凡的结论需要非凡的证据
311540	314540	下方还附上了有图有真相的证据配文
314540	316020	还带了个图指甲油的表情
316020	317680	他们自称欢迎质疑
317680	319200	因为他们自己就是怀疑论者
319200	320460	值得称赞的是
320460	323020	他们在速度优化上确实下足了功夫
323020	324200	你可以亲自验证
324200	327200	这些模型多运行在西海岸的笔记本上
327200	330020	也就是该服务的所在地定价方面很透明
330020	332900	但他们坦言无法证明其未获补贴
332900	335440	并预计价格未来会进一步下降
335440	337220	且不存在类型错误
337220	339060	虽然一个反例就能将其推翻
339060	341100	但这在数学上是不可能的
341100	342940	他们说在Terra演示中
342940	345460	他们坦言查询过程经过了高度简化
345460	347580	使用了可读的问题件外加一段
347580	349580	有利于Jeff的密集状态描述
349580	350900	从而美化了其表现
350900	352920	他们选用了默认推理的Terra
352920	355260	认为其智力水平最接近Jeff
355260	358360	唯一的意见分歧在于流失可能性的判断
358360	361280	他们称之为真正的魔能两可有趣的是
361280	364460	正是类似的演示说服了他们全力投入
364460	368340	更有利的证据是他们的工作流评估
368340	370420	旨在衡量AI在代码环境下的表现
370420	371800	没有标准答案标签
371800	373460	也不对评估框架进行微调
373460	375900	迎演导致过你和每个模型
375900	377300	都运行相同的工作流
377300	380740	并根据GT6 Extra的平均表现评分
380740	382580	以及Fable 5.1他们说
382580	384340	Jeff 稳居 帕雷托 前沿
384340	387540	在近两个数量级的范围内
387540	390100	且由大语言模型处理所有逻辑
390100	392920	比起遵循工作流思维链的表现
392920	393880	明显差得多
393880	396340	这些调用远比演示案例复杂
396340	397840	更接近实际生产环境
397840	400880	他们将结果发布在评估网站上
400880	402680	他们认为可靠的工作流
402680	404820	是有许多小型的独立
404820	406300	由概率驱动的问题
406300	408240	组成最终导向一个分支
408240	408720	这就是
408720	410720	他们主页上那些数据的来源
410720	411360	也就是100
411360	413300	93.6倍的提速
413300	416240	以及444.6倍的成本缩减
416240	418800	Virtue将其四舍侮入为100
418800	420260	94和400
420260	421460	即45倍
421460	423280	这大概是实际应用中的上限
423280	424980	他们声称这些工作流
424980	426020	并非刻意挑选
426020	428220	且不在训练数据分布之内
428220	430600	但毕竟是他们自家团队构建的
430600	432760	所以难免存在偏差Astra
432760	434280	和Fable的参考案例
434280	436740	可能更偏向OpenAI和Anthlopic
436740	439400	所以他们认为自己可能还低估了性能
439400	441220	以及DeepSeek这些大模型
441220	443960	都是通过TypeSafe的开源系统运行的
443960	446280	即针对Python的大模型封装库
446280	449360	他们称这是获取大模型决策最准确的方式
449360	452060	但处理幻觉时速度较慢成本也更高
452060	454380	他们视类型安全为基本门槛
454380	455560	对智能体来说
455560	457840	工具调用产生幻觉是不可接受的
457840	459780	但对于有延迟要求的系统
459780	460820	这是致命的缺陷
460820	462940	或是深埋在依赖链的底层
462940	465380	即便是最强的模型也难免出错
465380	468820	它们的大模型指标来自OpenRouter
468820	471780	复杂查询会被自动路由到更强的模型
471780	473820	Jeff的零错误率不是测出来的
473820	475480	而是由模式匹配保证的
475480	477180	The Register的反驳很重肯
477180	478880	Jeff并不生成自然语言
494423	496503	以此演示其具备的实时智能
496503	498003	据他们说
498003	500403	工程师曾担心每秒十次查询
500403	502583	以及每小时七美元的成本
502583	504503	团队认为这比预期更低
504503	506503	他读取的是文本
506503	508223	而非图像格式的游戏状态
508223	509163	暂时还不是
509163	512003	他们也承认非AI机器人玩起来会更强
512003	513163	但他们想要的是
513163	515503	能适应多种游戏状态表达的AI
515503	517023	且能听从指令
517023	518963	用他们的话说着酷毙了
518963	521883	演示和黑客松活动即将开启
521883	522743	还有危机竞速
522743	527543	仅靠点击链接在成百上千个页面间穿梭
527543	529583	每一步都有上千种选择
529583	531863	充分展现了其极高的处理效率
531863	536683	面对海量选项不产生幻觉的优势会不断叠加
536683	539143	Jeff支持的基数上限为200
539143	540603	一旦超过这个数值
540603	543263	他会独立评估各个链接再进行选择
543263	545203	因此偶尔会出现减速
545203	548883	毕竟大模型没有推理过程整体提速空间有限
548883	552623	但Astra设为最低档以保证流畅度的情况除外
552623	555763	而且Jeff往往能以更少的步骤完成任务
555763	556963	这是我最喜欢的一点
556963	560563	第二和第三项挑战的起始页面都随机抽到了小黄鸭
560563	563343	直到团队指出来作者才发现这一点
563343	566943	开发者们蜂拥而至导致需求激增
566943	570523	以至于TypeSafe的API一度无法为用户提供服务
570523	571543	据TechCrunch报道
571543	573543	开发者将其视为一种更经济
573543	575923	更稳健的智能集成方案
575923	579323	Adversal公司的工程师Branet Sharma表示
579323	582443	他们此前一直在使用指令安全分类器
582443	585023	基于OpenAI的GPD-4O Mini模型
585023	586183	但换成Jeff后
586183	588563	处理速度提升了5到18倍
588563	590223	且准确度更高
590223	593063	Brio AI的CTO Nikhil Matokar
593063	594703	在处理商务邮件时
594703	597123	对比了Gemini的准确率
597123	597723	略胜一筹
597723	600523	但成本却高出10到20倍
600523	601943	让他感到震惊的是
601943	604443	况且Jeff是唯一能提供
604443	606063	真实概率反馈的模型
606063	607783	他认为这使其成为
607783	609703	自动化工作流的理想之选
609703	612163	AI Gateway的数据表现简直惊人
612163	613663	发布24小时内
613663	615983	Jeff吸引的付费团队数量
615983	617763	是此前任何模型的两倍多
617763	620583	这是Gateway历史上普及最快的模型
620583	622803	12小时内就超越了所有竞品
622803	624583	第18小时就覆盖了
624583	625843	1%的付费团队
625843	628523	第24小时是接近13%
628523	631523	是GPT 5.6系列的两倍
631523	634383	更是Fable 5.1的6倍多
634383	636603	而其他近期发布的模型
636603	638263	均未超过7%
638263	639883	首日数据就足以证明
639883	643743	专用模型投入生产环境的速度有多快
643743	647223	但真正的考验在于持久性谈到具体用途
647223	650363	Perser提到智能体可以自主选择下一个工具
650363	655883	或在子智能体的工作流中决定是继续重视还是询问用户
655883	658823	亦或在行动前先评估风险并决定是否终止
658823	661543	并将无法确定的情况转交人工处理
661543	664683	TypeSafe将其称为智能异服语句或模糊规则
664683	667143	因为手写逻辑往往过于脆弱
667143	668383	他们还建议使用Map
668383	671923	将PB级数据精炼为特征以支持实时应用
671923	675743	毕竟100毫秒的延迟完全在用户体验的可控范围内
675743	678663	从推理过程到越狱尝试全程进行验证
678663	681543	Amata希望人们能用它来监控智能体
681543	683963	由于智能体互间成本高昂
683963	686863	Runiker建议采用实时模型路由
686863	691263	The Register补充到聊天机器人人由LLM架构主导
691263	696343	编程助手代码智能体以及数学证明或演示等可验证任务
696343	699043	而这正如Type Safe戏称的那样
699043	700743	效果时好时坏
700743	702303	至于内部究竟如何
702303	703643	Amita手口如瓶
703643	706483	外界普遍怀疑其底层使用的是
706483	707843	开源权重的大模型
707843	710643	尽管Jeff称其FAQ文档内容并不短
710643	714283	Jeff模型完全采用合成数据进行训练
714283	716263	Amita告诉TechCrunch
716263	719663	资产数据是他人生中最成功的豪赌之一
719663	722263	比发布产品更成功
722263	723803	也优于RLHF
723803	727143	TypeSafe自诩为一家核心的数据研究实验室
727143	729443	公司半数员工几乎主导了
729443	732583	统计学可控合成数据这一细分领域
732583	734383	这已成他毕生乐趣
734383	737563	即便你请求他们也不会用你的数据训练请见谅
737563	738723	想了解细节
738723	740463	得先被他们录用
740463	743283	这就是他们所奉行的苦涩教训
743283	746503	优化任务远比堆砌数据和算力重要
746503	749943	或是RLHF这类针对文本优化的算法
749943	752163	人类评估员偏好虽然适合聊天
752163	753503	却不适用于自动化任务
753503	757543	且RLHF仅适用于程序可校验的任务
757543	760283	导致其现实判断波动极大
760283	761803	智能表现不够稳健
761803	763343	系统1这一名称
763343	765263	源自卡尼曼的思考快与曼
765263	766963	尽管在传统认知中
766963	768803	系统1往往意味着一出错
768803	771163	但他们认为这些模型
771163	772803	其实比其他方案更可靠
772803	775403	他们还完全放弃了公开基准测试
775403	776843	仅提供一次性评估
776843	779483	并推动用户自行构建评估体系
779483	782403	因为系统1任务更易于评估
782403	785603	甚至还有篇题为反基准优化的文章
785603	788003	Jeff 这个名字源自威廉 Tauffell
788003	791403	这位19世纪的经济学家提出了一个悖论
791403	793203	当蒸汽机效率提升
793203	796403	煤炭需求反而不降反升他们压住的是
797803	800003	智能成本每降低一个数量级
800003	802803	就会解锁多出数个数量级的应用场景
804003	806803	阿尔梅达预见智能软件将无处不再呈现出涌现性
806803	810203	且更像早期互联网那样分布化而非如今的超级应用
810203	811803	但The Register 指出
811803	813163	这建立在一个假设之上
813163	815063	即Token的需求会像能源一样广泛
815063	817263	这尚未有定论PO研究中心
817263	820703	发现许多能用上AI的人根本找不到用处
820703	824923	CNBC调查显示另一些人则出于道德顾虑排斥AI
824923	827543	目前Jeff依然是特例
827543	830083	但Renneker预计竞争终会出现
830083	832383	他感叹我们本应早点看透这一点
832383	834343	毕竟大语言模型太便宜了
834343	836983	再加上补贴人们往往懒得去创新
836983	840143	但TypeSafe正在开发更多新模态版本
840143	843203	并开始从后补名单中邀请开发者
843203	845403	询问他们想实现什么样的科幻构想
845403	847163	当TypeCrunch问起TypeSafe
847163	848743	是否属于前沿实验室时
848743	851183	Almeta直言前沿实验室的主打产品
851183	852323	无非是恐惧和炒作
852323	854203	它追求的是真正智能
854203	855923	而非一场无限财富的豪赌
855923	857303	也不是某种宗教
857303	859123	更不是在数据中心里创造神
859123	860523	总之 这是Jeff
860523	862303	欢迎在评论区留言分享
862303	863463	你会如何使用它
863463	864083	感谢观看
864083	865303	我们下期见