start	end	text
0	7000	來,各位家人們,最近幾天,整個硅谷都被一款叫做Jill的模型刷屏了。
7000	14000	然後呢,發布前三天已經被Wassel,Cloudflare,LongChang等主流平台迅速給集成了。
14000	16000	這個模型有什麼特點呢?
16000	23000	這款模型,它相比普通的模型推理速度,最高可以提升200倍,最高可以高到200倍。
23000	27000	然後呢,這個成本可以降低,最高可以降到400倍。
27000	28880	是一个非常非常恐怖的数字啊
28880	31220	而且是可以组合的前沿之冷
31220	34280	那么这种牛扮的东西到底是一个什么东西呢
34280	38500	它会不会把open AI把这个Athrope给颠覆掉呢
38500	40440	别张奇哈我们来认识一下
40440	41380	J5这个模型
41380	44260	那么J5这个模型呢一句话来干口啊
44260	46020	J5呢是一个决策模型
46020	47520	决策模型有什么特点呢
47520	48800	它不生成文本
48800	50360	不生成图片
50360	53080	只做结果化判断输出概率
53080	54500	也就是它只输出概率啊
54500	57840	专门给agent的程序做高频快判断
57840	59340	它是一个什么东西啊
59340	60960	它其实是一个决策模型
60960	62300	或者是一个判断模型
62300	65500	它其实跟GPT跟Cloud
65500	67620	跟GP9是有本质的区别的
67620	68760	GPT这种模型呢
68760	70180	其实是一个生成式模型
70180	71220	生成文本
71220	72180	生成图片
72180	75100	但是GP呢只做决策
75100	76960	它们是有本质的区别的
76960	78340	所以它们之间并不是一个
78340	80040	谁替代是这么一种关系
80040	81820	还是一种互补的关系
81820	83380	那么有种人讲
83380	85540	现在是生成式的天下
85540	87320	你这个东西有什么用呢
87320	88960	这个生成式模型
88960	90140	GPT
90140	91140	Cloat
91140	93100	真来也可以做决策对吧
93100	96460	你这个Jill有什么特点呢
96460	96820	对不对
96820	100220	凭什么这么招扬
100220	100600	是吧
100600	101300	也别着急
101300	103100	他其实有非常非常多的场景
103100	104540	我们稍后会来进行介绍
104540	106140	那我们再来看一下
106140	107780	Jill这个模型到底是怎么来的
107780	109080	这个模型呢
109080	110060	其实是由
110060	112720	前欧巴亚的研究员叫Digo
112720	116200	他这个创办的TypeSafe AI公司
116200	118120	在前几天发布的
118120	119180	在9月15号发布的
119180	120020	也前几天发布的
120020	121400	那么这个创始人
121400	122820	是非常非常厉害的一个人物
122820	125160	他参与了ChairGPT的创造
125160	127560	是一个非常非常有经验的
127560	128900	这么一个大佬
128900	130060	然后他自己呢
130060	132940	就是说在创造完ChairGPT之后
132940	134460	他一直在问自己一个问题
134460	136640	就是说这些超人的聊天模型
136640	138380	为什么没有带来这个AGI
138380	139960	那过去的两年
139960	140920	我一直在眼神
140920	141940	抓大家做两件事情
141940	144240	就是一种新的模型训练方法
144240	146480	就是它提出了一种新的训练方法
146480	147980	叫RLCD
147980	151220	然后呢和一种新内心的情形配安模型
151220	152320	就是JIL
152320	153320	这个东西
153320	154460	那
154460	156480	好了那么重点再来介绍这个JIL
156480	159500	那么JIL和这个一般的模型有什么区别呢
159500	160940	那么一般的模型啊
160940	162460	像这个GPT是什么呢
162460	163800	竹子生成Token
163800	164940	是自回归
164940	166760	那么它是呢
166760	168360	高延迟高成本
168360	169900	就是你问它一个问题
169900	172080	他呢就基于你这个问题
172080	173220	这个问题就是一个提示词
173220	174060	基于这个问题
174060	176340	他一个一个的生成这个token
176340	177980	把这个token拼在一起
177980	180080	他其实就是一个完整的这个回答
180080	181840	这么这样子来的
181840	182680	可以生成文本
182680	183340	可以生成逐变
183340	185000	但只有这个模型呢
185000	186500	他是一次效情计算
186500	188560	直接输出判断概率
188560	190340	他的特点是什么呢
190340	191880	延迟极低成本极低
191880	192440	记住啊
192440	193600	延迟极低
193600	194680	也就是说啊
194680	196320	你给一个问题
196320	199240	他基本上在500毫秒之内
199240	201220	可以得到这个结果啊
201220	203500	500毫秒之内其实是非常非常快的
203500	205180	非常非常快啊
205180	206080	那个说实话
206080	207100	你像使用GPT
207100	208460	那基本上几秒啊
208460	209760	十几秒才得到这个结果
209760	210060	对不对
210060	211240	它的延迟极低
211240	213200	500毫秒之内
213200	214100	就可以得到这个结果
214100	215240	成本极低啊
215240	217240	我们后面会介绍的成本
217240	219740	然后再来看一下啊
219740	221020	这个东西怎么使用啊
221020	223080	就是说你怎么去使用这个东西呢
223080	225820	使用这个Jill这个模型呢
225820	227140	使用Jill这个模型呢
227140	227820	通常啊
227820	230760	其实它是开放这个API给大家去使用
230760	232920	就大家通常都是调这个API的方式啊
232920	234000	去使用这个模型
234000	235680	那么它呢
235680	237800	主要提供两个东西
237800	238720	第一个就是state
238720	241800	这个什么东西呢
241800	243360	大家可以把它看作是一个context
243360	244060	一个上下文
244060	246520	然后第二个就是问题
246520	249240	就是开发者预先定义好的派对的任务
249240	250100	主要是两个东西
250100	252080	然后呢交给这个这个模型
252080	253980	这个模型然后再发挥一个结果
253980	255980	那发挥的结果会是个什么东西呢
255980	257300	这个结果啊
257300	260720	跟一般大模型还是有些区别的
260720	261380	一般大模型呢
261380	263600	其实是输出一个啊
263600	265040	会输出一道文本
265040	265460	对不对
265460	266400	那它这里呢
266400	268960	其实是输出一种强烈性的结构化JSON
268960	271340	是一种强烈性的结构化JSON
271340	272740	是一种JSON的文本
272740	273740	啊
273740	274580	JSON文本
274580	276440	它不包含这个自然语言文本
276440	278000	是一种纯JSON的文本
278000	280220	大概是变形结构预测
280220	282040	模型一次性返回所有概率
282040	284720	也就是说你丢给它几个问题啊
284720	286640	它是一次性给你返回所有的概率
286640	288480	它是变形预测的
288480	290940	第三个就是程序可以直接解析
290940	292740	才是反过一个接测文本嘛
292740	293940	是可以解析的
293940	295420	所以我们总结来的话
295420	297440	总结来这个这个这个这个模型
297440	300300	它的输入就是state加预定的question
300300	302460	然后呢输出一个回答对象
302460	303480	是这样子
303480	306260	好那么它的输出呢有三种类型啊
306260	307780	第一种类型呢是no啊
307780	309500	只有三种类型啊
309500	311060	第一个是no啊
311060	312200	no是一个概率类型
312200	313980	这个类型有什么特点呢
313980	315560	也就是不完类型判断
315560	317760	它是返回0到1的伏点数
317760	319960	数值代表成立概率
319960	323220	无需单独设置置信度
323220	324960	这段数字即为置信度
324960	326180	好 我们来看一下
326180	328520	就是它返回一个什么样的东西
328520	331480	这里是它返回的一个结构的一个实例
331480	333280	因为我先说过
333280	335060	它其实是它的使用
335060	336580	它使用的方式
336580	338880	其实跟contract GPT
338880	340180	跟GPT还是有些区别
340180	340600	对吧
340600	343840	通常是以结构的方式对外使用
343840	345840	你直接给他一个
345840	346840	你直接呢
346840	350840	通过这个机构的方式提供这个task需要的内容
350840	352840	state和这个question
352840	355840	然后他返回的是一个json的这样一个sultrime
355840	356840	这个sultrime里面呢
356840	357840	有两个重要的东西
357840	359840	第一个就是类型
359840	360840	类型就是no
360840	362840	它是概率类型
362840	365840	然后这个呢就是它的这个值
365840	366840	0.95
366840	367840	我们前面说过
367840	370840	它这里是0到1的这么一个伏点数
370840	371840	对不对
371840	374280	那么这个0.9.5其实就是表示一个概率
374280	376040	大家可以反而看作是一个概率
376640	378800	那么这个时候同学就会问了
378800	379880	这个这里有什么用呢
380080	380600	对吧
380600	382240	嗯反正0.95是吧
382440	384000	其实场景是非常多的
384000	384680	比如说
385880	387640	检测用户退款对不对
387840	389000	检测用户退款的话
389000	389800	其实呢
390000	390600	这个东西啊
390600	392680	当然你用XenGPT其实也可以回答
392680	393280	是不是
393400	395280	你丢给一个啊
395280	397800	就是用户的这个用户的信息啊
398200	399680	直接给到这个GPT
399680	401000	他也可以回答
401000	403000	说这个用户到底会不会退款
403000	403600	对不对
403900	405000	但是呢其实呢
405300	406700	那个东西有点什么
406800	408500	有点这个杀鸡又牛肉的感觉
408500	410200	其实这种需求呢
410200	412200	其实有更简单的方式去实现
412200	415100	就是所谓的Jell这种方式对吧
415400	417500	那么检测用户退款请求
417500	419600	这用户呢可能是一个信息发过来
419800	422100	那么给到Jell这个模型
422200	423100	那么Jell呢
423500	426100	直接就回答一个概率就可以了
426400	427200	比如说
427600	428800	用户呢不会退款
428800	430000	他就可能就返回给你
430000	430300	对不对
430300	430980	如果会退款
430980	432100	那么就返回这个
432100	434380	比如说0.9或者1就可以了
434380	434620	对不对
434620	438600	那么这样子其实非常方便的解决这个问题
438600	440580	那么它这个
440580	442980	它的成本会远远的低于这个
442980	444280	用GPT来解决这个问题
444280	447820	而且这个速度也会快很多
447820	450460	它的这个延迟的时间是500毫秒
450460	453440	它那个GPT那是几秒钟
453440	453780	对不对
453780	455920	所以它用它这种方式来解决
455920	456520	这个问题的话
456520	458440	其实是成本更低
458440	460000	然后那速度呢更好
460000	461340	是不是速度更快
461340	462080	效率更高
462942	466942	然後我們再來看第二個類型,就是Close類型。
466942	476942	這個什麼意思呢?也就是說,我們在去提供上下文的時候,其實是會帶好幾個選項過去的。
476942	478222	然后呢
478222	480542	这个这个模型说到这个
480542	483722	这个上下和和这个问题之后呢
483722	486182	他会选择其中的一个来作为回答
486182	487942	就是做选择题嘛
487942	489082	就ABC第四个选项
489082	490382	他选一个告诉你
490382	491602	好那么其实这个呢
491602	492682	就是他换回的结果
492682	494882	假设他这个提供的选项
494882	496942	有三个选项啊
496942	497782	一个是binim
497782	500302	这个是结算
500302	501522	然后这个是技术
501522	502502	然后是销售
502502	504202	就是三百三个部门啊
504202	505182	对吧
505182	506762	然后这里面他会选一个
506762	509002	他选择这个billion这个部门
509002	510302	就他选一个
510302	511122	你给他三个选项
511122	511882	他选一个出来
511882	513682	那这有时候这个东西
513682	516702	哪里有这个场景多不多呢
516702	517622	这个很多嘛
517622	518082	对不对
518082	519662	很多重要的场景
519662	521402	比如说这个三件商品
521402	522102	让他选一个
522102	522502	是不是
522502	524442	那其实这种场景是非常多的
524442	524602	是不是
524602	526422	OK我们来看一下
526422	527002	这个关键
527002	529242	只有关键的这个字段
529242	530902	这个是truth
530902	532562	就是概率最高的选项名称
532562	533262	就这个
533262	535042	就概率最高的
535042	537022	他选一个出来
537022	538142	就是ABCD四个选项
538142	538822	他选一个出来
538822	541402	他说不一定是ABCD四个选项
541402	543322	他最多可以255个选项
543322	544542	选项可以很多
544542	545722	你把它列出来
545722	547202	他会选一个出来
547202	548922	然后这个呢
548922	550942	就是概率的总和
550942	554982	就是所有或选项的完整的概率分布
554982	557082	那如果说是255个选项呢
557082	560462	那么就会列出255个选项
560462	561342	每一个选项的概率
561342	564162	那么这个trose这里呢
564162	565462	其实概念最高的那一个
565462	567522	那么这个是confidence
567522	568482	自信度啊
568482	570982	模型对本次分类结果的自信度
570982	572642	那么数值越高呢
572642	574162	就分类呢越确定
574162	576202	好那我们看一下这个自信度是0.8
576202	577442	对吧这是比较高的
577442	579802	是不是当然我们在进行
579802	581122	决策的时候呢
581122	583322	你可以跟这个自信度来进行
583322	584542	评估哈
584542	586722	就是如果自信度高于0.8
586722	588242	或者说高于0.7
588242	590242	我们就可以选择这样的一个结果
590242	592262	就是所谓的决策模型的
592262	593662	价值在这里面
594162	596162	好让我们再看第三个啊
596162	597162	就是score啊
597162	598522	打分啊
598522	599342	打个分数
599342	600782	啊
600782	602362	那么它的特点就是连续打分
602362	604102	各级别概率分布啊
604102	605162	confidence 知性度
605162	607262	我们来看一下这个结果啊
607262	607462	那么
607462	610022	通常它会去
610022	612002	比如说你给它三个选项啊
612002	612622	你给它一个问
612622	614142	就是说你给给问
614142	615622	给上下文给问题
615622	616842	然后提供选项
616842	618602	好那么它反而结果里面呢
618602	620382	它就会对三个选项呢
620382	621682	每个选项打一个分数
621682	622602	我们来看一下啊
622602	623322	好
623322	624262	它的分数是
624262	626462	非诊数打分值
626462	627322	这个是I.86
627322	627722	对不对
627722	629022	知情度是0.94
629022	632322	然后它提供了三个选项
632322	633622	这三个选项
633622	634202	评鉴
634202	635322	轻微不满
635322	635822	生气
635822	637502	极度愤怒
637502	637902	对吧
637902	639222	好上面就是分数
639222	641182	这个第一个评鉴
641182	641962	就是0.0分
641962	642622	就是不评鉴
642622	643242	对吧
643242	643502	OK
643502	645202	这里是0.0爱
645202	646622	这个轻微不满
646622	648342	对应的分数是0.0爱
648342	649962	然后这个是0.1
649962	650822	好
650822	651502	这个生气
651502	652682	然后极度愤怒
652682	653742	是年点88
653742	655042	那么这个分数最高了
655042	655282	对不对
655282	657922	那如果说你是基于这个分数来进行
657922	658362	啊
658362	658982	决策的话
658982	660462	那么你可能会选这个是不是
660462	661162	啊
661162	662482	这个其实就是对于
662482	663462	多个选项
663462	664622	进行打一个分数
664622	665282	啊
665282	666582	这个其实也是长期很多
666582	666942	啊
666942	668282	这个是
668282	668862	呃
668862	670902	我们的Jill这个模型啊
670902	671302	它的
671302	674262	返回结果的三个可能性
674262	675362	OK啊
675362	676102	三种结果
676102	677342	好
677342	678362	那么先怎么总结一下
678362	680902	Jill输出的关键的特性啊
680902	682082	第二点就是
682082	683002	年文本幻觉
683002	685162	它输出结构是强制约定的
685162	686342	宁格式错误
686342	687302	不乱增自断
687302	689842	然后是拼尿变形计算的
689842	691382	一次请就变形处理所有
691382	694742	然后校准级概念
694742	696302	直接预计分支
696302	698262	那么低分支可以人工复制
698262	700222	它会有一个知性度给你
700222	701442	然后输出你的费用
701442	704262	它这个模型输出是不收费的
704262	705962	你用它这个模型输出是不收费的
705962	708482	而且输入的成本也是非常低
708482	710902	它是我们使用
710902	714842	GPT的成本大概就是100万Token
714842	715202	对吧
715202	715842	就一兆
715842	718922	大概就是10美元
718922	720002	10美元
720002	721142	那么他这个
721142	723922	大概就是100万
723922	732342	大概就是0.0.4万美元
732342	734062	就是他这个10美元
734062	735282	他这个年纪年4万美元
735282	737142	所以他的成本低很多
737142	739522	那么也就是说
739522	741682	我们在实际上面进行
741682	743842	在做应用的时候呢
743842	745742	那么其实就给了我们很多的选择
745742	748542	有些场景其实并不完全需要
748542	751242	由GPT或者说
751242	753122	Close这种模型来进行处理
753122	754922	我们完全可以把它交给什么
754922	757082	交给我们的JP这种模型来处理
757082	757542	对不对
757542	759502	所以他们这其实是这样写的关系
759502	762802	并不是说替代的关系
762802	763562	并不是这样子
763562	766642	好那么接下来我们给大家看一个案例
766642	767842	就是到底它是怎么用的
767842	768302	这个东西
768302	769382	我们来看一下
769382	771042	官网上面提供了一个案例
771042	772702	我们直接来看到官网就可以了
772702	772862	好吧
772862	774382	就是汉缩入门
774382	776882	大家可以到这个网站
776882	779042	去看一下它的官网上面提供了一个案例
779042	780362	那么当然首先呢
780362	782382	我们需要去申请
782382	783022	申请
783022	784142	如果说你要使用的话
784142	787862	你需要到它的控制台去申请一个API-KIT
787862	790182	申请还是比较容易的
790182	790822	OK
790822	793862	然后得到一个接口之后呢
793862	796262	你就可以来进行使用了
796262	797142	好
797142	797802	那么这里呢
797802	802562	是CURL这个方式来去发行一个请求
802802	804802	你需要提供的是一个API-K
805102	806102	这是它的接口
806902	808402	然后你提供哪些数据呢
808402	809502	这个数据是State
809602	811602	大家可以把State看作是上线文
812002	812602	OK
812802	814302	这个是它的上线文
814302	815102	是在英文是吧
815102	816602	我们把它翻译一下
816602	817502	什么意思
819002	819502	OK
821402	821802	好
821802	823102	这个上线文是这样子
823102	823502	你好
823502	825902	我已经尝试您借我的strip账户三天了
825902	827102	但其实一直失败
827102	828742	我的销售正在锦上
829102	831142	请尽快帮我帮助我
831142	831662	对吧
831662	832062	这个东西
832062	833742	这个内容应该是一个
834302	836142	是一个street的客户是吧
836142	837942	在在咨询对吧
837942	839462	在向客户进行咨询啊
839462	840462	或者说储藏
840742	841702	储藏这么一个信息啊
841702	842262	ok
842262	842422	好
842422	843342	现在我们来看一下啊
843862	844462	这个模型呢
844462	846302	是Jill latest的这个模型
846302	847342	然后问题是什么呢
848342	849542	问题是这样子啊
849862	850862	在下面啊
851462	852502	这个是那个类型
853022	856142	就是你希望用什么类型来回复你这个问题啊
856222	857062	是no 是吧
857102	858442	也就是给个概率就可以了
858442	859822	我们看一下的问题是什么
859822	862402	这个信息的紧迫度
862402	865922	就是表达一下信息的紧迫度
865922	869082	这个内容的紧迫度是什么样子
869082	869382	对不对
869382	870522	那么然后这个时候
870522	873582	这个模型回复一个概率
873582	878062	年到一这样的一个分值过来
878062	878862	一个概率过来
878862	880922	如果说这个值是一的话
880922	881562	那么说明什么
881562	883122	说明这个紧迫度是很高的
883122	883402	对不对
883402	884502	如果是0.95的话
884502	885902	这个紧迫度也是很高的
885902	886902	好
886902	887702	然后我们再来看一下
887702	889242	那其他的这种
889242	891462	这个案例啊
891462	892342	如果说我们是
892342	894142	写代码掉结果
894142	895902	那么我们自己在代码里面
895902	897102	就要这样来写啊
897102	897362	好
897362	898042	那么同样的
898042	898722	它的这个
898722	900502	上下文还是这个啊
900502	901662	还是这个来举例啊
901662	902902	我们看一下它的模型
902902	904002	是Jolatist
904002	905122	好
905122	906422	那么这个下面是问题啊
906422	907942	它其实是什么呢
907942	908502	呃
908502	910522	它是它什么
910522	912662	它其实是一个一个上下文
912662	914202	它其实是问了三个问题啊
914202	914782	问了三个问题
914782	917262	其实用三种类型来问好
917262	918402	这个是choose
918402	919842	choose ok
919842	921042	这个呢就是它的问题
921042	922102	哪一个团队呢
922102	924202	来处理这样的一个事情
924202	924542	对吧
924542	925662	提供了三个选项
925662	927362	这个是结算这个团队
927362	928262	这个是技术这个团队
928262	929202	这个销售这个团队
929202	930882	这提供了三个选项
931597	934597	因為我們說過,truth嘛,對不對?
934597	937597	你是要大模型給你做選擇,所以你提供這個選項給他。
937597	940597	像ABCD,做選擇題,是這樣子。
940597	945597	好,我們看第二個,就是分數,score,使用這個類型來進行回答。
945597	947797	回答好那么他是什么呢
947797	951477	呃这个现在这个客户的这个什么啊
951477	954777	失望度呢怎么样对吗啊啊
954777	955697	什么怎么样啊OK
955697	957697	他同样的提供了三个什么呢
957697	959377	三种可能啊
959377	960537	第一个呢就是冷静
960537	961917	第二个呢是失望
961917	963937	而第三个是非常生气
963937	965277	就是你要根据什么
965277	969977	根据这个上下文来去对于这三个描述进行打分
969977	971137	打分
971137	973637	OK好我们再看第三个啊
973637	975217	第三个就是什么呢
975597	979197	那Noah这种类型其实就是
979197	980997	概率对吧是概率这个
980997	984197	那么也就是说你的问题一定是跟概率相关的是吧
984197	986197	这个信息它到底
986197	989597	也表示了它多么紧迫对吧
989597	991797	ok 那么这个时候你回答一个概率就可以了
991797	993397	好 我们再来看一下它的回答
993397	996397	因为你这里是三个类型的问题对吧
996397	996997	三个类型的问题
996997	998597	所以它的回答也是三个类型的
998597	1000197	我们看choose
1000197	1001397	choose就是
1001397	1003597	它首先要做出一个选择对吧
1003597	1005937	ABCD要选一个选一个选一个答案
1005937	1006737	对不对啊
1006737	1008337	但是结果是技术部门是吧
1008337	1010097	技术部门来处理这个问题啊
1010097	1011757	之前都是0.78啊
1011757	1014157	然后当然他也会给三个选项呢
1014157	1015457	每一个打一个分数啊
1016657	1019497	我们看第二个第二个问题
1020397	1021657	第二个问题是打分对吧
1022237	1023237	打分啊打分的话
1023237	1025997	他会对于三个情绪啊
1025997	1028257	但见到打分那很明显啊
1028257	1029457	这个呢呃
1029457	1032037	第二个情绪他的这个分值是会高的
1032037	1034557	也就是他当前的用户所表达这个情绪
1034557	1035517	应该是这个是吧
1036597	1037117	啊
1037157	1037797	是这个
1038357	1039237	这个情绪啊
1040357	1041557	好我们看最后这个啊
1041997	1043477	最后这个是要表
1043477	1045197	要是输出一个概率是不是
1045197	1046277	然后直接给了一个概率是不是
1046277	1047237	这个最简单的啊
1047237	1049517	一点点说明这个事情的紧迫度啊
1049517	1050597	是非常非常大的
1050597	1051157	对不对
1051317	1052317	这个其实就是
1052597	1053597	Jayv这个模型啊
1053597	1054917	使用的这个
1055197	1056477	这样的一个方式啊
1056477	1057597	其实就是掉接口
1057597	1058317	然后呢
1058317	1058597	啊
1058597	1059317	接口里面呢
1059317	1061077	需要描述你的这个问题
1061077	1063077	其实需要提供一个上下文啊
1063077	1064677	把你的这个情况给交代啊
1064677	1066837	这个做用gp
1066837	1067837	用chat gpt
1067837	1068837	gpt或者glowd
1068837	1069317	都是一样的
1069317	1070637	要提供一个上下文对不对
1070637	1071637	然后就是问题
1071637	1074637	如果说是truth或者说score
1074637	1076517	那么还需要提供这个选项
1076877	1077637	啊OK
1077637	1078757	那么结果呢
1078757	1080277	就对方就会提供一个
1080517	1082437	啊json的这样的一个结果化的
1082437	1084277	一个字符传给到我们啊
1084277	1084917	他这个时候
1084917	1085637	大家就会问了
1085637	1087277	这这东西到底有什么用对吧
1087277	1088637	能用在哪个地方
1088917	1090917	啊好像没有这个chat gpt
1090917	1091877	这种这么方便
1091877	1093537	什么都可以问
1093537	1095097	然后他多给你一个回复
1095097	1095337	是不是
1095337	1098377	但其实这个场景是非常多的
1098377	1099697	我们来看一下他的场景
1099697	1101697	其实很多时候
1101697	1103977	其实并不需要用GPT这种模型
1103977	1105877	因为他成本太高了
1105877	1107077	第一个就是成本高
1107077	1107617	第二个就是什么
1107617	1110577	就是他的延时太高了
1110577	1112517	就是处理一个问题要好几秒
1112517	1114357	他这个几百毫秒就能解决
1114357	1114617	是不是
1114617	1116177	所以我们这个时候来看一下
1116177	1117717	他的场景
1117717	1118657	第一个场景其实就是
1118657	1120337	我们用在agent里面
1120337	1124577	比如说浏览器与这个电脑的使用
1124577	1126337	比如说什么
1126337	1130057	识别这个页面状态
1130057	1131277	判断下一个动作
1131277	1133317	因为它的这个动作
1133317	1135097	其实是有限的嘛
1135097	1135317	对不对
1135317	1137337	点击输入下拉对不对
1137857	1139877	就哪怕我玩游戏也是一样的
1139877	1141737	玩游戏它动作就那么点
1141737	1142737	选项只有那么多
1142737	1143037	对不对
1143037	1144637	你可以把它选项全部列出来
1144637	1144917	是不是
1144917	1147577	列出来给它就可以了
1147577	1149977	也就是说这种操作是有限的操作
1149977	1152977	其实非常适合用J5这种模型来处理的
1152977	1154597	还有智能工具路由
1154597	1154937	对吧
1154937	1156277	坚准选择工具
1156277	1158817	搜索数据库邮件询问用户
1158817	1160897	比如说安全降与分控
1160897	1164737	就是高危操作前的快速的安全判断
1164737	1166797	高频游戏
1166797	1167597	说实话
1167597	1172757	昨天我还用J5来去玩俄罗斯方块
1172757	1174277	因为俄罗斯方块的话
1174277	1174877	其实说实话
1174877	1175957	它只有那几种选项
1175957	1176237	对不对
1176237	1177897	你把选项全部列出来就可以了
1177897	1179877	用J5进行判断
1179877	1182277	最高他支持255种选项
1182277	1182557	是不是
1182557	1185017	那其实生活中绝大部分
1185017	1186657	其实实验绝大部分场景的
1186657	1187517	就有几少数场景
1187517	1189137	它是一种无限可能的
1189137	1189537	对不对
1189537	1191837	绝大部分场景都是有限可能的
1191837	1192057	是不是
1192057	1194617	我们这个只要把动作
1194617	1195437	全部罗列出来
1195437	1197137	就可以这样交给他去判断
1197137	1199057	他又快成本又低
1199057	1199737	是不是
1199737	1200957	好给我们看一下
1200957	1202577	比如说客户公单与客户
1202577	1203777	消息智能处理平台
1203777	1205797	比如说公单的分类
1205797	1206077	是吧
1206077	1206757	是物流问题
1206757	1207357	账单问题
1207357	1208377	产品故障还是投诉
1208377	1208777	对吧
1208777	1210537	比如说紧急度打分
1210537	1213097	这个情绪的强烈度
1213097	1213717	对不对
1213717	1217257	还有这个比如说像这个Node核心判断
1217257	1218137	是不是退款
1218137	1219617	是不是辱骂
1219617	1221377	是不是需要人工进入
1221377	1221717	对不对
1221717	1223497	做的非常非常适合用
1223497	1224717	我们的Jail这个模型来处理
1224717	1225797	真的非常非常方便
1225797	1228617	所以以后做这个智能体
1228617	1229557	它一定是什么
1229557	1230637	一定是Jail
1230637	1233677	一定是Jail和这个GPT或者和Lode
1233677	1235517	进行配合使用
1235517	1237257	就现在硅谷已经基本上
1237257	1238817	是这两个组合在一起使用了
1238817	1239457	啊
1239457	1239897	就跟我
1239897	1241177	根据我所找的信息
1241177	1243697	就是他们现在已经在调整自己的决策了
1243697	1245157	都是使用J5加什么
1245157	1247217	加GPT来做这个智能体
1247217	1249457	因为GPT其实实在是太贵了
1249457	1250217	知道吗
1250217	1250497	啊
1250497	1251237	好用就好
1251237	1252017	它实在是贵
1252017	1253037	而且效率比较低
1253037	1256177	所以不是所有的场景都适合用GPT键理
1256177	1257037	啊
1257037	1257557	其实少
1257557	1258457	就是大部分场景
1258457	1260497	其实都是比较适合用J5来做处理的
1260497	1263177	还比如说这个内容与文档的拼尿删讯
1263177	1264137	有些分类
1264137	1264677	是不是
1264677	1265337	啊
1265337	1265577	只要
1265577	1267377	就是只要给一个标记就可以了
1267377	1267657	对吧
1267657	1268937	还有评论
1268937	1269817	消息删选
1269817	1270777	对不对
1270777	1272717	说实话
1272717	1274997	你之前给几个标签给它
1274997	1275297	是不是
1275297	1276377	因为这个
1276377	1278917	这往判断是哪一种类型的
1278917	1280077	直接就说实话
1280077	1282037	就很快
1282037	1283757	就给我们打这个标签了
1283757	1284857	还能闻到删选
1284857	1285797	会议记样
1285797	1286137	是不是
1286137	1288257	还有实时业务分控
1288257	1288757	自动化
1288757	1290797	交易电带分控
1290797	1292617	服务器与AOT设备
1292617	1293577	告紧自动化
1293577	1295237	都适合用
1295237	1297297	用我们的J5来先处理
1297297	1299177	比如说模型的路由与大模型
1299177	1299837	这要评估
1299837	1301757	模型路由对不对
1301757	1305277	因为你全部使用GPT或者Close
1305277	1307177	来解决问题实在是太贵了
1307177	1308757	公司消耗不起对吧
1308757	1309717	那么这个时候呢
1309717	1313197	我就完全可以由J5来做一个模型的调度
1313197	1314537	来做一个路由
1314537	1316057	就是说你这个问题
1316057	1318117	到底适合有哪一个模型来进行处理
1318117	1318477	对不对
1318477	1321337	常用的模型可能也就十来个
1321337	1323437	你把这十来个模型全部累出来
1323437	1326217	然后你交个J5判断一下就可以了
1326217	1327797	到底选哪一个模型来处理这个问题
1327797	1328457	对不对
1328457	1331337	然后选出来之后
1331337	1333057	然后我们再交个对应的模型来处理
1333057	1333357	对不对
1333357	1335317	比如大模型输出降业预示
1335317	1338397	判断反复结果是否拼离核心要求
1338397	1340697	是否存在幻觉分件
1340697	1341577	做质量预示
1341577	1343637	比如数据及标注与评测
1343637	1346097	拼量进行按原判断与分离打分
1346097	1350577	高效替代大模型的榨纸调用
1350577	1351757	这只调用
1351757	1353397	这个其实就是说
1353397	1355997	它比这个原先用GPT去做决策呢
1355997	1356957	就要快很多
1356957	1357717	方便很多
1357717	1360797	就主打一个高效和年价
1360797	1361517	对吧
1361517	1363357	这是我们这种模型的特点
1363357	1364497	记住啊
1364497	1365897	它不是要去替代GPT
1365897	1366877	也不是要替代GPT
1366877	1368197	也不是替代这Cloud
1368197	1370817	还是给它们实现一种互补
1370817	1372137	来完成一个
1372137	1375157	一个又好用
1375157	1376397	又省钱的这么一个应用