0:00.000–0:07.000
zh來,各位家人們,最近幾天,整個硅谷都被一款叫做Jill的模型刷屏了。
0:07.000–0:09.608
zh然後呢,發布前三天已經被Wassel,
0:09.608–0:11.118
enCloudflare,
0:11.118–0:14.000
zhLongChang等主流平台迅速給集成了。
0:14.000–0:16.000
zh這個模型有什麼特點呢?
0:16.000–0:16.875
zh這款模型,
0:16.875–0:19.150
zh它相比普通的模型推理速度,
0:19.150–0:21.075
zh最高可以提升200倍,
0:21.075–0:23.000
zh最高可以高到200倍。
0:23.000–0:27.000
zh然後呢,這個成本可以降低,最高可以降到400倍。
0:27.000–0:28.880
zh是一个非常非常恐怖的数字啊
0:28.880–0:31.220
zh而且是可以组合的前沿之冷
0:31.220–0:34.280
zh那么这种牛扮的东西到底是一个什么东西呢
0:34.280–0:38.500
zh它会不会把open AI把这个Athrope给颠覆掉呢
0:38.500–0:40.440
zh别张奇哈我们来认识一下
0:40.440–0:41.380
zhJ5这个模型
0:41.380–0:44.260
zh那么J5这个模型呢一句话来干口啊
0:44.260–0:46.020
zhJ5呢是一个决策模型
0:46.020–0:47.520
zh决策模型有什么特点呢
0:47.520–0:48.800
zh它不生成文本
0:48.800–0:50.360
zh不生成图片
0:50.360–0:53.080
zh只做结果化判断输出概率
0:53.080–0:54.500
zh也就是它只输出概率啊
0:54.500–0:57.840
zh专门给agent的程序做高频快判断
0:57.840–0:59.340
zh它是一个什么东西啊
0:59.340–1:00.960
zh它其实是一个决策模型
1:00.960–1:02.300
zh或者是一个判断模型
1:02.300–1:05.500
zh它其实跟GPT跟Cloud
1:05.500–1:07.620
zh跟GP9是有本质的区别的
1:07.620–1:08.760
zhGPT这种模型呢
1:08.760–1:10.180
zh其实是一个生成式模型
1:10.180–1:11.220
zh生成文本
1:11.220–1:12.180
zh生成图片
1:12.180–1:15.100
zh但是GP呢只做决策
1:15.100–1:16.960
zh它们是有本质的区别的
1:16.960–1:18.340
zh所以它们之间并不是一个
1:18.340–1:20.040
zh谁替代是这么一种关系
1:20.040–1:21.820
zh还是一种互补的关系
1:21.820–1:23.380
zh那么有种人讲
1:23.380–1:25.540
zh现在是生成式的天下
1:25.540–1:27.320
zh你这个东西有什么用呢
1:27.320–1:28.960
zh这个生成式模型
1:28.960–1:30.140
enGPT
1:30.140–1:31.140
enCloat
1:31.140–1:33.100
zh真来也可以做决策对吧
1:33.100–1:36.460
zh你这个Jill有什么特点呢
1:36.460–1:36.960
zh对不对
1:36.960–1:40.220
zh凭什么这么招扬
1:40.220–1:40.720
zh是吧
1:40.720–1:41.300
zh也别着急
1:41.300–1:43.100
zh他其实有非常非常多的场景
1:43.100–1:44.540
zh我们稍后会来进行介绍
1:44.540–1:46.140
zh那我们再来看一下
1:46.140–1:47.780
zhJill这个模型到底是怎么来的
1:47.780–1:49.080
zh这个模型呢
1:49.080–1:50.060
zh其实是由
1:50.060–1:52.720
zh前欧巴亚的研究员叫Digo
1:52.720–1:56.200
zh他这个创办的TypeSafe AI公司
1:56.200–1:58.120
zh在前几天发布的
1:58.120–1:59.180
zh在9月15号发布的
1:59.180–2:00.020
zh也前几天发布的
2:00.020–2:01.400
zh那么这个创始人
2:01.400–2:02.820
zh是非常非常厉害的一个人物
2:02.820–2:05.160
zh他参与了ChairGPT的创造
2:05.160–2:07.560
zh是一个非常非常有经验的
2:07.560–2:08.900
zh这么一个大佬
2:08.900–2:10.060
zh然后他自己呢
2:10.060–2:12.940
zh就是说在创造完ChairGPT之后
2:12.940–2:14.460
zh他一直在问自己一个问题
2:14.460–2:16.640
zh就是说这些超人的聊天模型
2:16.640–2:18.380
zh为什么没有带来这个AGI
2:18.380–2:19.960
zh那过去的两年
2:19.960–2:20.920
zh我一直在眼神
2:20.920–2:21.940
zh抓大家做两件事情
2:21.940–2:24.240
zh就是一种新的模型训练方法
2:24.240–2:26.480
zh就是它提出了一种新的训练方法
2:26.480–2:27.980
zh叫RLCD
2:27.980–2:31.220
zh然后呢和一种新内心的情形配安模型
2:31.220–2:32.320
zh就是JIL
2:32.320–2:33.320
zh这个东西
2:33.320–2:34.460
zh那
2:34.460–2:36.480
zh好了那么重点再来介绍这个JIL
2:36.480–2:39.500
zh那么JIL和这个一般的模型有什么区别呢
2:39.500–2:40.940
zh那么一般的模型啊
2:40.940–2:42.460
zh像这个GPT是什么呢
2:42.460–2:43.800
zh竹子生成Token
2:43.800–2:44.940
zh是自回归
2:44.940–2:46.760
zh那么它是呢
2:46.760–2:48.360
zh高延迟高成本
2:48.360–2:49.900
zh就是你问它一个问题
2:49.900–2:52.080
zh他呢就基于你这个问题
2:52.080–2:53.220
zh这个问题就是一个提示词
2:53.220–2:54.060
zh基于这个问题
2:54.060–2:56.340
zh他一个一个的生成这个token
2:56.340–2:57.980
zh把这个token拼在一起
2:57.980–3:00.080
zh他其实就是一个完整的这个回答
3:00.080–3:01.840
zh这么这样子来的
3:01.840–3:02.680
zh可以生成文本
3:02.680–3:03.340
zh可以生成逐变
3:03.340–3:05.000
zh但只有这个模型呢
3:05.000–3:06.500
zh他是一次效情计算
3:06.500–3:08.560
zh直接输出判断概率
3:08.560–3:10.340
zh他的特点是什么呢
3:10.340–3:11.880
zh延迟极低成本极低
3:11.880–3:12.440
zh记住啊
3:12.440–3:13.600
zh延迟极低
3:13.600–3:14.680
zh也就是说啊
3:14.680–3:16.320
zh你给一个问题
3:16.320–3:19.240
zh他基本上在500毫秒之内
3:19.240–3:21.220
zh可以得到这个结果啊
3:21.220–3:23.500
zh500毫秒之内其实是非常非常快的
3:23.500–3:25.180
zh非常非常快啊
3:25.180–3:26.080
zh那个说实话
3:26.080–3:27.100
zh你像使用GPT
3:27.100–3:28.460
zh那基本上几秒啊
3:28.460–3:29.760
zh十几秒才得到这个结果
3:29.760–3:30.260
zh对不对
3:30.260–3:31.240
zh它的延迟极低
3:31.240–3:33.200
zh500毫秒之内
3:33.200–3:34.100
zh就可以得到这个结果
3:34.100–3:35.240
zh成本极低啊
3:35.240–3:37.240
zh我们后面会介绍的成本
3:37.240–3:39.740
zh然后再来看一下啊
3:39.740–3:41.020
zh这个东西怎么使用啊
3:41.020–3:43.080
zh就是说你怎么去使用这个东西呢
3:43.080–3:45.820
zh使用这个Jill这个模型呢
3:45.820–3:47.140
zh使用Jill这个模型呢
3:47.140–3:47.820
zh通常啊
3:47.820–3:50.760
zh其实它是开放这个API给大家去使用
3:50.760–3:52.920
zh就大家通常都是调这个API的方式啊
3:52.920–3:54.000
zh去使用这个模型
3:54.000–3:55.680
zh那么它呢
3:55.680–3:57.800
zh主要提供两个东西
3:57.800–3:58.720
zh第一个就是state
3:58.720–4:01.800
zh这个什么东西呢
4:01.800–4:03.360
zh大家可以把它看作是一个context
4:03.360–4:04.060
zh一个上下文
4:04.060–4:06.520
zh然后第二个就是问题
4:06.520–4:09.240
zh就是开发者预先定义好的派对的任务
4:09.240–4:10.100
zh主要是两个东西
4:10.100–4:12.080
zh然后呢交给这个这个模型
4:12.080–4:13.980
zh这个模型然后再发挥一个结果
4:13.980–4:15.980
zh那发挥的结果会是个什么东西呢
4:15.980–4:17.300
zh这个结果啊
4:17.300–4:20.720
zh跟一般大模型还是有些区别的
4:20.720–4:21.380
zh一般大模型呢
4:21.380–4:23.600
zh其实是输出一个啊
4:23.600–4:25.040
zh会输出一道文本
4:25.040–4:25.540
zh对不对
4:25.540–4:26.400
zh那它这里呢
4:26.400–4:28.960
zh其实是输出一种强烈性的结构化JSON
4:28.960–4:31.340
zh是一种强烈性的结构化JSON
4:31.340–4:32.740
zh是一种JSON的文本
4:32.740–4:33.740
zh啊
4:33.740–4:34.580
zhJSON文本
4:34.580–4:36.440
zh它不包含这个自然语言文本
4:36.440–4:38.000
zh是一种纯JSON的文本
4:38.000–4:40.220
zh大概是变形结构预测
4:40.220–4:42.040
zh模型一次性返回所有概率
4:42.040–4:44.720
zh也就是说你丢给它几个问题啊
4:44.720–4:46.640
zh它是一次性给你返回所有的概率
4:46.640–4:48.480
zh它是变形预测的
4:48.480–4:50.940
zh第三个就是程序可以直接解析
4:50.940–4:52.740
zh才是反过一个接测文本嘛
4:52.740–4:53.940
zh是可以解析的
4:53.940–4:55.420
zh所以我们总结来的话
4:55.420–4:57.440
zh总结来这个这个这个这个模型
4:57.440–5:00.300
zh它的输入就是state加预定的question
5:00.300–5:02.460
zh然后呢输出一个回答对象
5:02.460–5:03.480
zh是这样子
5:03.480–5:06.260
zh好那么它的输出呢有三种类型啊
5:06.260–5:07.780
zh第一种类型呢是no啊
5:07.780–5:09.500
zh只有三种类型啊
5:09.500–5:11.060
zh第一个是no啊
5:11.060–5:12.200
zhno是一个概率类型
5:12.200–5:13.980
zh这个类型有什么特点呢
5:13.980–5:15.560
zh也就是不完类型判断
5:15.560–5:17.760
zh它是返回0到1的伏点数
5:17.760–5:19.960
zh数值代表成立概率
5:19.960–5:23.220
zh无需单独设置置信度
5:23.220–5:24.960
zh这段数字即为置信度
5:24.960–5:26.180
zh好 我们来看一下
5:26.180–5:28.520
zh就是它返回一个什么样的东西
5:28.520–5:31.480
zh这里是它返回的一个结构的一个实例
5:31.480–5:33.280
zh因为我先说过
5:33.280–5:35.060
zh它其实是它的使用
5:35.060–5:36.580
zh它使用的方式
5:36.580–5:38.880
zh其实跟contract GPT
5:38.880–5:40.180
zh跟GPT还是有些区别
5:40.180–5:40.680
zh对吧
5:40.680–5:43.840
zh通常是以结构的方式对外使用
5:43.840–5:45.840
zh你直接给他一个
5:45.840–5:46.840
zh你直接呢
5:46.840–5:50.840
zh通过这个机构的方式提供这个task需要的内容
5:50.840–5:52.840
zhstate和这个question
5:52.840–5:55.840
zh然后他返回的是一个json的这样一个sultrime
5:55.840–5:56.840
zh这个sultrime里面呢
5:56.840–5:57.840
zh有两个重要的东西
5:57.840–5:59.840
zh第一个就是类型
5:59.840–6:00.840
zh类型就是no
6:00.840–6:02.840
zh它是概率类型
6:02.840–6:05.840
zh然后这个呢就是它的这个值
6:05.840–6:06.840
en0.95
6:06.840–6:07.840
zh我们前面说过
6:07.840–6:10.840
zh它这里是0到1的这么一个伏点数
6:10.840–6:11.840
zh对不对
6:11.840–6:14.280
zh那么这个0.9.5其实就是表示一个概率
6:14.280–6:16.040
zh大家可以反而看作是一个概率
6:16.640–6:18.800
zh那么这个时候同学就会问了
6:18.800–6:19.880
zh这个这里有什么用呢
6:20.080–6:20.600
zh对吧
6:20.600–6:22.240
zh嗯反正0.95是吧
6:22.440–6:24.000
zh其实场景是非常多的
6:24.000–6:24.680
zh比如说
6:25.880–6:27.640
zh检测用户退款对不对
6:27.840–6:29.000
zh检测用户退款的话
6:29.000–6:29.800
zh其实呢
6:30.000–6:30.600
zh这个东西啊
6:30.600–6:32.680
zh当然你用XenGPT其实也可以回答
6:32.680–6:33.280
zh是不是
6:33.400–6:35.280
zh你丢给一个啊
6:35.280–6:37.800
zh就是用户的这个用户的信息啊
6:38.200–6:39.680
zh直接给到这个GPT
6:39.680–6:41.000
zh他也可以回答
6:41.000–6:43.000
zh说这个用户到底会不会退款
6:43.000–6:43.600
zh对不对
6:43.900–6:45.000
zh但是呢其实呢
6:45.300–6:46.700
zh那个东西有点什么
6:46.800–6:48.500
zh有点这个杀鸡又牛肉的感觉
6:48.500–6:50.200
zh其实这种需求呢
6:50.200–6:52.200
zh其实有更简单的方式去实现
6:52.200–6:55.100
zh就是所谓的Jell这种方式对吧
6:55.400–6:57.500
zh那么检测用户退款请求
6:57.500–6:59.600
zh这用户呢可能是一个信息发过来
6:59.800–7:02.100
zh那么给到Jell这个模型
7:02.200–7:03.100
zh那么Jell呢
7:03.500–7:06.100
zh直接就回答一个概率就可以了
7:06.400–7:07.200
zh比如说
7:07.600–7:08.800
zh用户呢不会退款
7:08.800–7:10.000
zh他就可能就返回给你
7:10.000–7:10.500
zh对不对
7:10.500–7:11.000
zh如果会退款
7:11.000–7:12.100
zh那么就返回这个
7:12.100–7:14.380
zh比如说0.9或者1就可以了
7:14.380–7:14.880
zh对不对
7:14.880–7:18.600
zh那么这样子其实非常方便的解决这个问题
7:18.600–7:20.580
zh那么它这个
7:20.580–7:22.980
zh它的成本会远远的低于这个
7:22.980–7:24.280
zh用GPT来解决这个问题
7:24.280–7:27.820
zh而且这个速度也会快很多
7:27.820–7:30.460
zh它的这个延迟的时间是500毫秒
7:30.460–7:33.440
zh它那个GPT那是几秒钟
7:33.440–7:33.940
zh对不对
7:33.940–7:35.920
zh所以它用它这种方式来解决
7:35.920–7:36.520
zh这个问题的话
7:36.520–7:38.440
zh其实是成本更低
7:38.440–7:40.000
zh然后那速度呢更好
7:40.000–7:41.340
zh是不是速度更快
7:41.340–7:42.080
zh效率更高
7:42.942–7:46.942
zh然後我們再來看第二個類型,就是Close類型。
7:46.942–7:48.942
zh這個什麼意思呢?
7:48.942–7:50.192
zh也就是說,
7:50.192–7:53.442
zh我們在去提供上下文的時候,
7:53.442–7:56.942
zh其實是會帶好幾個選項過去的。
7:56.942–7:58.222
zh然后呢
7:58.222–8:00.542
zh这个这个模型说到这个
8:00.542–8:03.722
zh这个上下和和这个问题之后呢
8:03.722–8:06.182
zh他会选择其中的一个来作为回答
8:06.182–8:07.942
zh就是做选择题嘛
8:07.942–8:09.082
zh就ABC第四个选项
8:09.082–8:10.382
zh他选一个告诉你
8:10.382–8:11.602
zh好那么其实这个呢
8:11.602–8:12.682
zh就是他换回的结果
8:12.682–8:14.882
zh假设他这个提供的选项
8:14.882–8:16.942
zh有三个选项啊
8:16.942–8:17.782
zh一个是binim
8:17.782–8:20.302
zh这个是结算
8:20.302–8:21.522
zh然后这个是技术
8:21.522–8:22.502
zh然后是销售
8:22.502–8:24.202
zh就是三百三个部门啊
8:24.202–8:25.182
zh对吧
8:25.182–8:26.762
zh然后这里面他会选一个
8:26.762–8:29.002
zh他选择这个billion这个部门
8:29.002–8:30.302
zh就他选一个
8:30.302–8:31.122
zh你给他三个选项
8:31.122–8:31.882
zh他选一个出来
8:31.882–8:33.682
zh那这有时候这个东西
8:33.682–8:36.702
zh哪里有这个场景多不多呢
8:36.702–8:37.622
zh这个很多嘛
8:37.622–8:38.122
zh对不对
8:38.122–8:39.662
zh很多重要的场景
8:39.662–8:41.402
zh比如说这个三件商品
8:41.402–8:42.102
zh让他选一个
8:42.102–8:42.602
zh是不是
8:42.602–8:44.442
zh那其实这种场景是非常多的
8:44.442–8:44.942
zh是不是
8:44.942–8:46.422
zhOK我们来看一下
8:46.422–8:47.002
zh这个关键
8:47.002–8:49.242
zh只有关键的这个字段
8:49.242–8:50.902
zh这个是truth
8:50.902–8:52.562
zh就是概率最高的选项名称
8:52.562–8:53.262
zh就这个
8:53.262–8:55.042
zh就概率最高的
8:55.042–8:57.022
zh他选一个出来
8:57.022–8:58.142
zh就是ABCD四个选项
8:58.142–8:58.822
zh他选一个出来
8:58.822–9:01.402
zh他说不一定是ABCD四个选项
9:01.402–9:03.322
zh他最多可以255个选项
9:03.322–9:04.542
zh选项可以很多
9:04.542–9:05.722
zh你把它列出来
9:05.722–9:07.202
zh他会选一个出来
9:07.202–9:08.922
zh然后这个呢
9:08.922–9:10.942
zh就是概率的总和
9:10.942–9:14.982
zh就是所有或选项的完整的概率分布
9:14.982–9:17.082
zh那如果说是255个选项呢
9:17.082–9:20.462
zh那么就会列出255个选项
9:20.462–9:21.342
zh每一个选项的概率
9:21.342–9:24.162
zh那么这个trose这里呢
9:24.162–9:25.462
zh其实概念最高的那一个
9:25.462–9:27.522
zh那么这个是confidence
9:27.522–9:28.482
zh自信度啊
9:28.482–9:30.982
zh模型对本次分类结果的自信度
9:30.982–9:32.642
zh那么数值越高呢
9:32.642–9:34.162
zh就分类呢越确定
9:34.162–9:36.202
zh好那我们看一下这个自信度是0.8
9:36.202–9:37.442
zh对吧这是比较高的
9:37.442–9:39.802
zh是不是当然我们在进行
9:39.802–9:41.122
zh决策的时候呢
9:41.122–9:43.322
zh你可以跟这个自信度来进行
9:43.322–9:44.542
zh评估哈
9:44.542–9:46.722
zh就是如果自信度高于0.8
9:46.722–9:48.242
zh或者说高于0.7
9:48.242–9:50.242
zh我们就可以选择这样的一个结果
9:50.242–9:52.262
zh就是所谓的决策模型的
9:52.262–9:53.662
zh价值在这里面
9:54.162–9:56.162
zh好让我们再看第三个啊
9:56.162–9:57.162
zh就是score啊
9:57.162–9:58.522
zh打分啊
9:58.522–9:59.342
zh打个分数
9:59.342–10:00.782
zh啊
10:00.782–10:02.362
zh那么它的特点就是连续打分
10:02.362–10:04.102
zh各级别概率分布啊
10:04.102–10:05.162
zhconfidence 知性度
10:05.162–10:07.262
zh我们来看一下这个结果啊
10:07.262–10:07.762
zh那么
10:07.762–10:10.022
zh通常它会去
10:10.022–10:12.002
zh比如说你给它三个选项啊
10:12.002–10:12.622
zh你给它一个问
10:12.622–10:14.142
zh就是说你给给问
10:14.142–10:15.622
zh给上下文给问题
10:15.622–10:16.842
zh然后提供选项
10:16.842–10:18.602
zh好那么它反而结果里面呢
10:18.602–10:20.382
zh它就会对三个选项呢
10:20.382–10:21.682
zh每个选项打一个分数
10:21.682–10:22.602
zh我们来看一下啊
10:22.602–10:23.322
zh好
10:23.322–10:24.262
zh它的分数是
10:24.262–10:26.462
zh非诊数打分值
10:26.462–10:27.322
zh这个是I.86
10:27.322–10:27.822
zh对不对
10:27.822–10:29.022
zh知情度是0.94
10:29.022–10:32.322
zh然后它提供了三个选项
10:32.322–10:33.622
zh这三个选项
10:33.622–10:34.202
zh评鉴
10:34.202–10:35.322
zh轻微不满
10:35.322–10:35.822
zh生气
10:35.822–10:37.502
zh极度愤怒
10:37.502–10:38.002
zh对吧
10:38.002–10:39.222
zh好上面就是分数
10:39.222–10:41.182
zh这个第一个评鉴
10:41.182–10:41.962
zh就是0.0分
10:41.962–10:42.622
zh就是不评鉴
10:42.622–10:43.242
zh对吧
10:43.242–10:43.742
enOK
10:43.742–10:45.202
zh这里是0.0爱
10:45.202–10:46.622
zh这个轻微不满
10:46.622–10:48.342
zh对应的分数是0.0爱
10:48.342–10:49.962
zh然后这个是0.1
10:49.962–10:50.822
zh好
10:50.822–10:51.502
zh这个生气
10:51.502–10:52.682
zh然后极度愤怒
10:52.682–10:53.742
zh是年点88
10:53.742–10:55.042
zh那么这个分数最高了
10:55.042–10:55.542
zh对不对
10:55.542–10:57.922
zh那如果说你是基于这个分数来进行
10:57.922–10:58.422
zh啊
10:58.422–10:58.982
zh决策的话
10:58.982–11:00.462
zh那么你可能会选这个是不是
11:00.462–11:01.162
zh啊
11:01.162–11:02.482
zh这个其实就是对于
11:02.482–11:03.462
zh多个选项
11:03.462–11:04.622
zh进行打一个分数
11:04.622–11:05.282
zh啊
11:05.282–11:06.582
zh这个其实也是长期很多
11:06.582–11:07.082
zh啊
11:07.082–11:08.282
zh这个是
11:08.282–11:08.862
zh呃
11:08.862–11:10.902
zh我们的Jill这个模型啊
11:10.902–11:11.402
zh它的
11:11.402–11:14.262
zh返回结果的三个可能性
11:14.262–11:15.362
zhOK啊
11:15.362–11:16.102
zh三种结果
11:16.102–11:17.342
zh好
11:17.342–11:18.362
zh那么先怎么总结一下
11:18.362–11:20.902
zhJill输出的关键的特性啊
11:20.902–11:22.082
zh第二点就是
11:22.082–11:23.002
zh年文本幻觉
11:23.002–11:25.162
zh它输出结构是强制约定的
11:25.162–11:26.342
zh宁格式错误
11:26.342–11:27.302
zh不乱增自断
11:27.302–11:29.842
zh然后是拼尿变形计算的
11:29.842–11:31.382
zh一次请就变形处理所有
11:31.382–11:34.742
zh然后校准级概念
11:34.742–11:36.302
zh直接预计分支
11:36.302–11:38.262
zh那么低分支可以人工复制
11:38.262–11:40.222
zh它会有一个知性度给你
11:40.222–11:41.442
zh然后输出你的费用
11:41.442–11:44.262
zh它这个模型输出是不收费的
11:44.262–11:45.962
zh你用它这个模型输出是不收费的
11:45.962–11:48.482
zh而且输入的成本也是非常低
11:48.482–11:50.902
zh它是我们使用
11:50.902–11:54.842
zhGPT的成本大概就是100万Token
11:54.842–11:55.342
zh对吧
11:55.342–11:55.842
zh就一兆
11:55.842–11:58.922
zh大概就是10美元
11:58.922–12:00.002
zh10美元
12:00.002–12:01.142
zh那么他这个
12:01.142–12:03.922
zh大概就是100万
12:03.922–12:12.342
zh大概就是0.0.4万美元
12:12.342–12:14.062
zh就是他这个10美元
12:14.062–12:15.282
zh他这个年纪年4万美元
12:15.282–12:17.142
zh所以他的成本低很多
12:17.142–12:19.522
zh那么也就是说
12:19.522–12:21.682
zh我们在实际上面进行
12:21.682–12:23.842
zh在做应用的时候呢
12:23.842–12:25.742
zh那么其实就给了我们很多的选择
12:25.742–12:28.542
zh有些场景其实并不完全需要
12:28.542–12:31.242
zh由GPT或者说
12:31.242–12:33.122
zhClose这种模型来进行处理
12:33.122–12:34.922
zh我们完全可以把它交给什么
12:34.922–12:37.082
zh交给我们的JP这种模型来处理
12:37.082–12:37.582
zh对不对
12:37.582–12:39.502
zh所以他们这其实是这样写的关系
12:39.502–12:42.802
zh并不是说替代的关系
12:42.802–12:43.562
zh并不是这样子
12:43.562–12:46.642
zh好那么接下来我们给大家看一个案例
12:46.642–12:47.842
zh就是到底它是怎么用的
12:47.842–12:48.342
zh这个东西
12:48.342–12:49.382
zh我们来看一下
12:49.382–12:51.042
zh官网上面提供了一个案例
12:51.042–12:52.702
zh我们直接来看到官网就可以了
12:52.702–12:53.202
zh好吧
12:53.202–12:54.382
zh就是汉缩入门
12:54.382–12:56.882
zh大家可以到这个网站
12:56.882–12:59.042
zh去看一下它的官网上面提供了一个案例
12:59.042–13:00.362
zh那么当然首先呢
13:00.362–13:02.382
zh我们需要去申请
13:02.382–13:03.022
zh申请
13:03.022–13:04.142
zh如果说你要使用的话
13:04.142–13:07.862
zh你需要到它的控制台去申请一个API-KIT
13:07.862–13:10.182
zh申请还是比较容易的
13:10.182–13:10.822
enOK
13:10.822–13:13.862
zh然后得到一个接口之后呢
13:13.862–13:16.262
zh你就可以来进行使用了
13:16.262–13:17.142
zh好
13:17.142–13:17.802
zh那么这里呢
13:17.802–13:22.562
zh是CURL这个方式来去发行一个请求
13:22.802–13:24.802
zh你需要提供的是一个API-K
13:25.102–13:26.102
zh这是它的接口
13:26.902–13:28.402
zh然后你提供哪些数据呢
13:28.402–13:29.502
zh这个数据是State
13:29.602–13:31.602
zh大家可以把State看作是上线文
13:32.002–13:32.602
enOK
13:32.802–13:34.302
zh这个是它的上线文
13:34.302–13:35.102
zh是在英文是吧
13:35.102–13:36.602
zh我们把它翻译一下
13:36.602–13:37.502
zh什么意思
13:39.002–13:39.502
enOK
13:41.402–13:41.902
zh好
13:41.902–13:43.102
zh这个上线文是这样子
13:43.102–13:43.602
zh你好
13:43.602–13:45.902
zh我已经尝试您借我的strip账户三天了
13:45.902–13:47.102
zh但其实一直失败
13:47.102–13:48.742
zh我的销售正在锦上
13:49.102–13:51.142
zh请尽快帮我帮助我
13:51.142–13:51.662
zh对吧
13:51.662–13:52.162
zh这个东西
13:52.162–13:53.742
zh这个内容应该是一个
13:54.302–13:56.142
zh是一个street的客户是吧
13:56.142–13:57.942
zh在在咨询对吧
13:57.942–13:59.462
zh在向客户进行咨询啊
13:59.462–14:00.462
zh或者说储藏
14:00.742–14:01.702
zh储藏这么一个信息啊
14:01.702–14:02.262
enok
14:02.262–14:02.762
zh好
14:02.762–14:03.362
zh现在我们来看一下啊
14:03.862–14:04.462
zh这个模型呢
14:04.462–14:06.302
zh是Jill latest的这个模型
14:06.302–14:07.342
zh然后问题是什么呢
14:08.342–14:09.542
zh问题是这样子啊
14:09.862–14:10.862
zh在下面啊
14:11.462–14:12.502
zh这个是那个类型
14:13.022–14:16.142
zh就是你希望用什么类型来回复你这个问题啊
14:16.222–14:17.062
zh是no 是吧
14:17.102–14:18.442
zh也就是给个概率就可以了
14:18.442–14:19.822
zh我们看一下的问题是什么
14:19.822–14:22.402
zh这个信息的紧迫度
14:22.402–14:25.922
zh就是表达一下信息的紧迫度
14:25.922–14:29.082
zh这个内容的紧迫度是什么样子
14:29.082–14:29.582
zh对不对
14:29.582–14:30.522
zh那么然后这个时候
14:30.522–14:33.582
zh这个模型回复一个概率
14:33.582–14:38.062
zh年到一这样的一个分值过来
14:38.062–14:38.862
zh一个概率过来
14:38.862–14:40.922
zh如果说这个值是一的话
14:40.922–14:41.562
zh那么说明什么
14:41.562–14:43.122
zh说明这个紧迫度是很高的
14:43.122–14:43.622
zh对不对
14:43.622–14:44.502
zh如果是0.95的话
14:44.502–14:45.902
zh这个紧迫度也是很高的
14:45.902–14:46.902
zh好
14:46.902–14:47.702
zh然后我们再来看一下
14:47.702–14:49.242
zh那其他的这种
14:49.242–14:51.462
zh这个案例啊
14:51.462–14:52.342
zh如果说我们是
14:52.342–14:54.142
zh写代码掉结果
14:54.142–14:55.902
zh那么我们自己在代码里面
14:55.902–14:57.102
zh就要这样来写啊
14:57.102–14:57.602
zh好
14:57.602–14:58.102
zh那么同样的
14:58.102–14:58.722
zh它的这个
14:58.722–15:00.502
zh上下文还是这个啊
15:00.502–15:01.662
zh还是这个来举例啊
15:01.662–15:02.902
zh我们看一下它的模型
15:02.902–15:04.002
zh是Jolatist
15:04.002–15:05.122
zh好
15:05.122–15:06.422
zh那么这个下面是问题啊
15:06.422–15:07.942
zh它其实是什么呢
15:07.942–15:08.502
zh呃
15:08.502–15:10.522
zh它是它什么
15:10.522–15:12.662
zh它其实是一个一个上下文
15:12.662–15:14.202
zh它其实是问了三个问题啊
15:14.202–15:14.782
zh问了三个问题
15:14.782–15:17.262
zh其实用三种类型来问好
15:17.262–15:18.402
zh这个是choose
15:18.402–15:19.842
enchoose ok
15:19.842–15:21.042
zh这个呢就是它的问题
15:21.042–15:22.102
zh哪一个团队呢
15:22.102–15:24.202
zh来处理这样的一个事情
15:24.202–15:24.702
zh对吧
15:24.702–15:25.662
zh提供了三个选项
15:25.662–15:27.362
zh这个是结算这个团队
15:27.362–15:28.262
zh这个是技术这个团队
15:28.262–15:29.202
zh这个销售这个团队
15:29.202–15:30.882
zh这提供了三个选项
15:31.597–15:34.597
zh因為我們說過,truth嘛,對不對?
15:34.597–15:37.597
zh你是要大模型給你做選擇,所以你提供這個選項給他。
15:37.597–15:40.597
zh像ABCD,做選擇題,是這樣子。
15:40.597–15:45.597
zh好,我們看第二個,就是分數,score,使用這個類型來進行回答。
15:45.597–15:47.797
zh回答好那么他是什么呢
15:47.797–15:51.477
zh呃这个现在这个客户的这个什么啊
15:51.477–15:54.777
zh失望度呢怎么样对吗啊啊
15:54.777–15:55.697
zh什么怎么样啊OK
15:55.697–15:57.697
zh他同样的提供了三个什么呢
15:57.697–15:59.377
zh三种可能啊
15:59.377–16:00.537
zh第一个呢就是冷静
16:00.537–16:01.917
zh第二个呢是失望
16:01.917–16:03.937
zh而第三个是非常生气
16:03.937–16:05.277
zh就是你要根据什么
16:05.277–16:09.977
zh根据这个上下文来去对于这三个描述进行打分
16:09.977–16:11.137
zh打分
16:11.137–16:13.637
zhOK好我们再看第三个啊
16:13.637–16:15.217
zh第三个就是什么呢
16:15.597–16:19.197
zh那Noah这种类型其实就是
16:19.197–16:20.997
zh概率对吧是概率这个
16:20.997–16:24.197
zh那么也就是说你的问题一定是跟概率相关的是吧
16:24.197–16:26.197
zh这个信息它到底
16:26.197–16:29.597
zh也表示了它多么紧迫对吧
16:29.597–16:31.797
zhok 那么这个时候你回答一个概率就可以了
16:31.797–16:33.397
zh好 我们再来看一下它的回答
16:33.397–16:36.397
zh因为你这里是三个类型的问题对吧
16:36.397–16:36.997
zh三个类型的问题
16:36.997–16:38.597
zh所以它的回答也是三个类型的
16:38.597–16:40.197
zh我们看choose
16:40.197–16:41.397
zhchoose就是
16:41.397–16:43.597
zh它首先要做出一个选择对吧
16:43.597–16:45.937
zhABCD要选一个选一个选一个答案
16:45.937–16:46.737
zh对不对啊
16:46.737–16:48.337
zh但是结果是技术部门是吧
16:48.337–16:50.097
zh技术部门来处理这个问题啊
16:50.097–16:51.757
zh之前都是0.78啊
16:51.757–16:54.157
zh然后当然他也会给三个选项呢
16:54.157–16:55.457
zh每一个打一个分数啊
16:56.657–16:59.497
zh我们看第二个第二个问题
17:00.397–17:01.657
zh第二个问题是打分对吧
17:02.237–17:03.237
zh打分啊打分的话
17:03.237–17:05.997
zh他会对于三个情绪啊
17:05.997–17:08.257
zh但见到打分那很明显啊
17:08.257–17:09.457
zh这个呢呃
17:09.457–17:12.037
zh第二个情绪他的这个分值是会高的
17:12.037–17:14.557
zh也就是他当前的用户所表达这个情绪
17:14.557–17:15.517
zh应该是这个是吧
17:16.597–17:17.117
zh啊
17:17.157–17:17.797
zh是这个
17:18.357–17:19.237
zh这个情绪啊
17:20.357–17:21.557
zh好我们看最后这个啊
17:21.997–17:23.477
zh最后这个是要表
17:23.477–17:25.197
zh要是输出一个概率是不是
17:25.197–17:26.277
zh然后直接给了一个概率是不是
17:26.277–17:27.237
zh这个最简单的啊
17:27.237–17:29.517
zh一点点说明这个事情的紧迫度啊
17:29.517–17:30.597
zh是非常非常大的
17:30.597–17:31.157
zh对不对
17:31.317–17:32.317
zh这个其实就是
17:32.597–17:33.597
zhJayv这个模型啊
17:33.597–17:34.917
zh使用的这个
17:35.197–17:36.477
zh这样的一个方式啊
17:36.477–17:37.597
zh其实就是掉接口
17:37.597–17:38.317
zh然后呢
17:38.317–17:38.817
zh啊
17:38.817–17:39.317
zh接口里面呢
17:39.317–17:41.077
zh需要描述你的这个问题
17:41.077–17:43.077
zh其实需要提供一个上下文啊
17:43.077–17:44.677
zh把你的这个情况给交代啊
17:44.677–17:46.837
zh这个做用gp
17:46.837–17:47.837
zh用chat gpt
17:47.837–17:48.837
zhgpt或者glowd
17:48.837–17:49.337
zh都是一样的
17:49.337–17:50.637
zh要提供一个上下文对不对
17:50.637–17:51.637
zh然后就是问题
17:51.637–17:54.637
zh如果说是truth或者说score
17:54.637–17:56.517
zh那么还需要提供这个选项
17:56.877–17:57.637
zh啊OK
17:57.637–17:58.757
zh那么结果呢
17:58.757–18:00.277
zh就对方就会提供一个
18:00.517–18:02.437
zh啊json的这样的一个结果化的
18:02.437–18:04.277
zh一个字符传给到我们啊
18:04.277–18:04.917
zh他这个时候
18:04.917–18:05.637
zh大家就会问了
18:05.637–18:07.277
zh这这东西到底有什么用对吧
18:07.277–18:08.637
zh能用在哪个地方
18:08.917–18:10.917
zh啊好像没有这个chat gpt
18:10.917–18:11.877
zh这种这么方便
18:11.877–18:13.537
zh什么都可以问
18:13.537–18:15.097
zh然后他多给你一个回复
18:15.097–18:15.597
zh是不是
18:15.597–18:18.377
zh但其实这个场景是非常多的
18:18.377–18:19.697
zh我们来看一下他的场景
18:19.697–18:21.697
zh其实很多时候
18:21.697–18:23.977
zh其实并不需要用GPT这种模型
18:23.977–18:25.877
zh因为他成本太高了
18:25.877–18:27.077
zh第一个就是成本高
18:27.077–18:27.617
zh第二个就是什么
18:27.617–18:30.577
zh就是他的延时太高了
18:30.577–18:32.517
zh就是处理一个问题要好几秒
18:32.517–18:34.357
zh他这个几百毫秒就能解决
18:34.357–18:34.857
zh是不是
18:34.857–18:36.177
zh所以我们这个时候来看一下
18:36.177–18:37.717
zh他的场景
18:37.717–18:38.657
zh第一个场景其实就是
18:38.657–18:40.337
zh我们用在agent里面
18:40.337–18:44.577
zh比如说浏览器与这个电脑的使用
18:44.577–18:46.337
zh比如说什么
18:46.337–18:50.057
zh识别这个页面状态
18:50.057–18:51.277
zh判断下一个动作
18:51.277–18:53.317
zh因为它的这个动作
18:53.317–18:55.097
zh其实是有限的嘛
18:55.097–18:55.597
zh对不对
18:55.597–18:57.337
zh点击输入下拉对不对
18:57.857–18:59.877
zh就哪怕我玩游戏也是一样的
18:59.877–19:01.737
zh玩游戏它动作就那么点
19:01.737–19:02.737
zh选项只有那么多
19:02.737–19:03.237
zh对不对
19:03.237–19:04.637
zh你可以把它选项全部列出来
19:04.637–19:05.137
zh是不是
19:05.137–19:07.577
zh列出来给它就可以了
19:07.577–19:09.977
zh也就是说这种操作是有限的操作
19:09.977–19:12.977
zh其实非常适合用J5这种模型来处理的
19:12.977–19:14.597
zh还有智能工具路由
19:14.597–19:15.097
zh对吧
19:15.097–19:16.277
zh坚准选择工具
19:16.277–19:18.817
zh搜索数据库邮件询问用户
19:18.817–19:20.897
zh比如说安全降与分控
19:20.897–19:24.737
zh就是高危操作前的快速的安全判断
19:24.737–19:26.797
zh高频游戏
19:26.797–19:27.597
zh说实话
19:27.597–19:32.757
zh昨天我还用J5来去玩俄罗斯方块
19:32.757–19:34.277
zh因为俄罗斯方块的话
19:34.277–19:34.877
zh其实说实话
19:34.877–19:35.957
zh它只有那几种选项
19:35.957–19:36.457
zh对不对
19:36.457–19:37.897
zh你把选项全部列出来就可以了
19:37.897–19:39.877
zh用J5进行判断
19:39.877–19:42.277
zh最高他支持255种选项
19:42.277–19:42.777
zh是不是
19:42.777–19:45.017
zh那其实生活中绝大部分
19:45.017–19:46.657
zh其实实验绝大部分场景的
19:46.657–19:47.517
zh就有几少数场景
19:47.517–19:49.137
zh它是一种无限可能的
19:49.137–19:49.637
zh对不对
19:49.637–19:51.837
zh绝大部分场景都是有限可能的
19:51.837–19:52.337
zh是不是
19:52.337–19:54.617
zh我们这个只要把动作
19:54.617–19:55.437
zh全部罗列出来
19:55.437–19:57.137
zh就可以这样交给他去判断
19:57.137–19:59.057
zh他又快成本又低
19:59.057–19:59.737
zh是不是
19:59.737–20:00.957
zh好给我们看一下
20:00.957–20:02.577
zh比如说客户公单与客户
20:02.577–20:03.777
zh消息智能处理平台
20:03.777–20:05.797
zh比如说公单的分类
20:05.797–20:06.297
zh是吧
20:06.297–20:06.797
zh是物流问题
20:06.797–20:07.357
zh账单问题
20:07.357–20:08.377
zh产品故障还是投诉
20:08.377–20:08.877
zh对吧
20:08.877–20:10.537
zh比如说紧急度打分
20:10.537–20:13.097
zh这个情绪的强烈度
20:13.097–20:13.717
zh对不对
20:13.717–20:17.257
zh还有这个比如说像这个Node核心判断
20:17.257–20:18.137
zh是不是退款
20:18.137–20:19.617
zh是不是辱骂
20:19.617–20:21.377
zh是不是需要人工进入
20:21.377–20:21.877
zh对不对
20:21.877–20:23.497
zh做的非常非常适合用
20:23.497–20:24.717
zh我们的Jail这个模型来处理
20:24.717–20:25.797
zh真的非常非常方便
20:25.797–20:28.617
zh所以以后做这个智能体
20:28.617–20:29.557
zh它一定是什么
20:29.557–20:30.637
zh一定是Jail
20:30.637–20:33.677
zh一定是Jail和这个GPT或者和Lode
20:33.677–20:35.517
zh进行配合使用
20:35.517–20:37.257
zh就现在硅谷已经基本上
20:37.257–20:38.817
zh是这两个组合在一起使用了
20:38.817–20:39.457
zh啊
20:39.457–20:39.957
zh就跟我
20:39.957–20:41.177
zh根据我所找的信息
20:41.177–20:43.697
zh就是他们现在已经在调整自己的决策了
20:43.697–20:45.157
zh都是使用J5加什么
20:45.157–20:47.217
zh加GPT来做这个智能体
20:47.217–20:49.457
zh因为GPT其实实在是太贵了
20:49.457–20:50.217
zh知道吗
20:50.217–20:50.717
zh啊
20:50.717–20:51.237
zh好用就好
20:51.237–20:52.017
zh它实在是贵
20:52.017–20:53.037
zh而且效率比较低
20:53.037–20:56.177
zh所以不是所有的场景都适合用GPT键理
20:56.177–20:57.037
zh啊
20:57.037–20:57.557
zh其实少
20:57.557–20:58.457
zh就是大部分场景
20:58.457–21:00.497
zh其实都是比较适合用J5来做处理的
21:00.497–21:03.177
zh还比如说这个内容与文档的拼尿删讯
21:03.177–21:04.137
zh有些分类
21:04.137–21:04.677
zh是不是
21:04.677–21:05.337
zh啊
21:05.337–21:05.837
zh只要
21:05.837–21:07.377
zh就是只要给一个标记就可以了
21:07.377–21:07.877
zh对吧
21:07.877–21:08.937
zh还有评论
21:08.937–21:09.817
zh消息删选
21:09.817–21:10.777
zh对不对
21:10.777–21:12.717
zh说实话
21:12.717–21:14.997
zh你之前给几个标签给它
21:14.997–21:15.497
zh是不是
21:15.497–21:16.377
zh因为这个
21:16.377–21:18.917
zh这往判断是哪一种类型的
21:18.917–21:20.077
zh直接就说实话
21:20.077–21:22.037
zh就很快
21:22.037–21:23.757
zh就给我们打这个标签了
21:23.757–21:24.857
zh还能闻到删选
21:24.857–21:25.797
zh会议记样
21:25.797–21:26.297
zh是不是
21:26.297–21:28.257
zh还有实时业务分控
21:28.257–21:28.757
zh自动化
21:28.757–21:30.797
zh交易电带分控
21:30.797–21:32.617
zh服务器与AOT设备
21:32.617–21:33.577
zh告紧自动化
21:33.577–21:35.237
zh都适合用
21:35.237–21:37.297
zh用我们的J5来先处理
21:37.297–21:39.177
zh比如说模型的路由与大模型
21:39.177–21:39.837
zh这要评估
21:39.837–21:41.757
zh模型路由对不对
21:41.757–21:45.277
zh因为你全部使用GPT或者Close
21:45.277–21:47.177
zh来解决问题实在是太贵了
21:47.177–21:48.757
zh公司消耗不起对吧
21:48.757–21:49.717
zh那么这个时候呢
21:49.717–21:53.197
zh我就完全可以由J5来做一个模型的调度
21:53.197–21:54.537
zh来做一个路由
21:54.537–21:56.057
zh就是说你这个问题
21:56.057–21:58.117
zh到底适合有哪一个模型来进行处理
21:58.117–21:58.617
zh对不对
21:58.617–22:01.337
zh常用的模型可能也就十来个
22:01.337–22:03.437
zh你把这十来个模型全部累出来
22:03.437–22:06.217
zh然后你交个J5判断一下就可以了
22:06.217–22:07.797
zh到底选哪一个模型来处理这个问题
22:07.797–22:08.457
zh对不对
22:08.457–22:11.337
zh然后选出来之后
22:11.337–22:13.057
zh然后我们再交个对应的模型来处理
22:13.057–22:13.557
zh对不对
22:13.557–22:15.317
zh比如大模型输出降业预示
22:15.317–22:18.397
zh判断反复结果是否拼离核心要求
22:18.397–22:20.697
zh是否存在幻觉分件
22:20.697–22:21.577
zh做质量预示
22:21.577–22:23.637
zh比如数据及标注与评测
22:23.637–22:26.097
zh拼量进行按原判断与分离打分
22:26.097–22:30.577
zh高效替代大模型的榨纸调用
22:30.577–22:31.757
zh这只调用
22:31.757–22:33.397
zh这个其实就是说
22:33.397–22:35.997
zh它比这个原先用GPT去做决策呢
22:35.997–22:36.957
zh就要快很多
22:36.957–22:37.717
zh方便很多
22:37.717–22:40.797
zh就主打一个高效和年价
22:40.797–22:41.517
zh对吧
22:41.517–22:43.357
zh这是我们这种模型的特点
22:43.357–22:44.497
zh记住啊
22:44.497–22:45.897
zh它不是要去替代GPT
22:45.897–22:46.877
zh也不是要替代GPT
22:46.877–22:48.197
zh也不是替代这Cloud
22:48.197–22:50.817
zh还是给它们实现一种互补
22:50.817–22:52.137
zh来完成一个
22:52.137–22:55.157
zh一个又好用
22:55.157–22:56.397
zh又省钱的这么一个应用
0:00.000–0:07.000
來,各位家人們,最近幾天,整個硅谷都被一款叫做Jill的模型刷屏了。
0:07.000–0:09.608
然後呢,發布前三天已經被Wassel,
0:09.608–0:11.118
Cloudflare,
0:11.118–0:14.000
LongChang等主流平台迅速給集成了。
0:14.000–0:16.000
這個模型有什麼特點呢?
0:16.000–0:16.875
這款模型,
0:16.875–0:19.150
它相比普通的模型推理速度,
0:19.150–0:21.075
最高可以提升200倍,
0:21.075–0:23.000
最高可以高到200倍。
0:23.000–0:27.000
然後呢,這個成本可以降低,最高可以降到400倍。
0:27.000–0:28.880
是一个非常非常恐怖的数字啊
0:28.880–0:31.220
而且是可以组合的前沿之冷
0:31.220–0:34.280
那么这种牛扮的东西到底是一个什么东西呢
0:34.280–0:38.500
它会不会把open AI把这个Athrope给颠覆掉呢
0:38.500–0:40.440
别张奇哈我们来认识一下
0:40.440–0:41.380
J5这个模型
0:41.380–0:44.260
那么J5这个模型呢一句话来干口啊
0:44.260–0:46.020
J5呢是一个决策模型
0:46.020–0:47.520
决策模型有什么特点呢
0:47.520–0:48.800
它不生成文本
0:48.800–0:50.360
不生成图片
0:50.360–0:53.080
只做结果化判断输出概率
0:53.080–0:54.500
也就是它只输出概率啊
0:54.500–0:57.840
专门给agent的程序做高频快判断
0:57.840–0:59.340
它是一个什么东西啊
0:59.340–1:00.960
它其实是一个决策模型
1:00.960–1:02.300
或者是一个判断模型
1:02.300–1:05.500
它其实跟GPT跟Cloud
1:05.500–1:07.620
跟GP9是有本质的区别的
1:07.620–1:08.760
GPT这种模型呢
1:08.760–1:10.180
其实是一个生成式模型
1:10.180–1:11.220
生成文本
1:11.220–1:12.180
生成图片
1:12.180–1:15.100
但是GP呢只做决策
1:15.100–1:16.960
它们是有本质的区别的
1:16.960–1:18.340
所以它们之间并不是一个
1:18.340–1:20.040
谁替代是这么一种关系
1:20.040–1:21.820
还是一种互补的关系
1:21.820–1:23.380
那么有种人讲
1:23.380–1:25.540
现在是生成式的天下
1:25.540–1:27.320
你这个东西有什么用呢
1:27.320–1:28.960
这个生成式模型
1:28.960–1:30.140
GPT
1:30.140–1:31.140
Cloat
1:31.140–1:33.100
真来也可以做决策对吧
1:33.100–1:36.460
你这个Jill有什么特点呢
1:36.460–1:36.960
对不对
1:36.960–1:40.220
凭什么这么招扬
1:40.220–1:40.720
是吧
1:40.720–1:41.300
也别着急
1:41.300–1:43.100
他其实有非常非常多的场景
1:43.100–1:44.540
我们稍后会来进行介绍
1:44.540–1:46.140
那我们再来看一下
1:46.140–1:47.780
Jill这个模型到底是怎么来的
1:47.780–1:49.080
这个模型呢
1:49.080–1:50.060
其实是由
1:50.060–1:52.720
前欧巴亚的研究员叫Digo
1:52.720–1:56.200
他这个创办的TypeSafe AI公司
1:56.200–1:58.120
在前几天发布的
1:58.120–1:59.180
在9月15号发布的
1:59.180–2:00.020
也前几天发布的
2:00.020–2:01.400
那么这个创始人
2:01.400–2:02.820
是非常非常厉害的一个人物
2:02.820–2:05.160
他参与了ChairGPT的创造
2:05.160–2:07.560
是一个非常非常有经验的
2:07.560–2:08.900
这么一个大佬
2:08.900–2:10.060
然后他自己呢
2:10.060–2:12.940
就是说在创造完ChairGPT之后
2:12.940–2:14.460
他一直在问自己一个问题
2:14.460–2:16.640
就是说这些超人的聊天模型
2:16.640–2:18.380
为什么没有带来这个AGI
2:18.380–2:19.960
那过去的两年
2:19.960–2:20.920
我一直在眼神
2:20.920–2:21.940
抓大家做两件事情
2:21.940–2:24.240
就是一种新的模型训练方法
2:24.240–2:26.480
就是它提出了一种新的训练方法
2:26.480–2:27.980
叫RLCD
2:27.980–2:31.220
然后呢和一种新内心的情形配安模型
2:31.220–2:32.320
就是JIL
2:32.320–2:33.320
这个东西
2:33.320–2:34.460
那
2:34.460–2:36.480
好了那么重点再来介绍这个JIL
2:36.480–2:39.500
那么JIL和这个一般的模型有什么区别呢
2:39.500–2:40.940
那么一般的模型啊
2:40.940–2:42.460
像这个GPT是什么呢
2:42.460–2:43.800
竹子生成Token
2:43.800–2:44.940
是自回归
2:44.940–2:46.760
那么它是呢
2:46.760–2:48.360
高延迟高成本
2:48.360–2:49.900
就是你问它一个问题
2:49.900–2:52.080
他呢就基于你这个问题
2:52.080–2:53.220
这个问题就是一个提示词
2:53.220–2:54.060
基于这个问题
2:54.060–2:56.340
他一个一个的生成这个token
2:56.340–2:57.980
把这个token拼在一起
2:57.980–3:00.080
他其实就是一个完整的这个回答
3:00.080–3:01.840
这么这样子来的
3:01.840–3:02.680
可以生成文本
3:02.680–3:03.340
可以生成逐变
3:03.340–3:05.000
但只有这个模型呢
3:05.000–3:06.500
他是一次效情计算
3:06.500–3:08.560
直接输出判断概率
3:08.560–3:10.340
他的特点是什么呢
3:10.340–3:11.880
延迟极低成本极低
3:11.880–3:12.440
记住啊
3:12.440–3:13.600
延迟极低
3:13.600–3:14.680
也就是说啊
3:14.680–3:16.320
你给一个问题
3:16.320–3:19.240
他基本上在500毫秒之内
3:19.240–3:21.220
可以得到这个结果啊
3:21.220–3:23.500
500毫秒之内其实是非常非常快的
3:23.500–3:25.180
非常非常快啊
3:25.180–3:26.080
那个说实话
3:26.080–3:27.100
你像使用GPT
3:27.100–3:28.460
那基本上几秒啊
3:28.460–3:29.760
十几秒才得到这个结果
3:29.760–3:30.260
对不对
3:30.260–3:31.240
它的延迟极低
3:31.240–3:33.200
500毫秒之内
3:33.200–3:34.100
就可以得到这个结果
3:34.100–3:35.240
成本极低啊
3:35.240–3:37.240
我们后面会介绍的成本
3:37.240–3:39.740
然后再来看一下啊
3:39.740–3:41.020
这个东西怎么使用啊
3:41.020–3:43.080
就是说你怎么去使用这个东西呢
3:43.080–3:45.820
使用这个Jill这个模型呢
3:45.820–3:47.140
使用Jill这个模型呢
3:47.140–3:47.820
通常啊
3:47.820–3:50.760
其实它是开放这个API给大家去使用
3:50.760–3:52.920
就大家通常都是调这个API的方式啊
3:52.920–3:54.000
去使用这个模型
3:54.000–3:55.680
那么它呢
3:55.680–3:57.800
主要提供两个东西
3:57.800–3:58.720
第一个就是state
3:58.720–4:01.800
这个什么东西呢
4:01.800–4:03.360
大家可以把它看作是一个context
4:03.360–4:04.060
一个上下文
4:04.060–4:06.520
然后第二个就是问题
4:06.520–4:09.240
就是开发者预先定义好的派对的任务
4:09.240–4:10.100
主要是两个东西
4:10.100–4:12.080
然后呢交给这个这个模型
4:12.080–4:13.980
这个模型然后再发挥一个结果
4:13.980–4:15.980
那发挥的结果会是个什么东西呢
4:15.980–4:17.300
这个结果啊
4:17.300–4:20.720
跟一般大模型还是有些区别的
4:20.720–4:21.380
一般大模型呢
4:21.380–4:23.600
其实是输出一个啊
4:23.600–4:25.040
会输出一道文本
4:25.040–4:25.540
对不对
4:25.540–4:26.400
那它这里呢
4:26.400–4:28.960
其实是输出一种强烈性的结构化JSON
4:28.960–4:31.340
是一种强烈性的结构化JSON
4:31.340–4:32.740
是一种JSON的文本
4:32.740–4:33.740
啊
4:33.740–4:34.580
JSON文本
4:34.580–4:36.440
它不包含这个自然语言文本
4:36.440–4:38.000
是一种纯JSON的文本
4:38.000–4:40.220
大概是变形结构预测
4:40.220–4:42.040
模型一次性返回所有概率
4:42.040–4:44.720
也就是说你丢给它几个问题啊
4:44.720–4:46.640
它是一次性给你返回所有的概率
4:46.640–4:48.480
它是变形预测的
4:48.480–4:50.940
第三个就是程序可以直接解析
4:50.940–4:52.740
才是反过一个接测文本嘛
4:52.740–4:53.940
是可以解析的
4:53.940–4:55.420
所以我们总结来的话
4:55.420–4:57.440
总结来这个这个这个这个模型
4:57.440–5:00.300
它的输入就是state加预定的question
5:00.300–5:02.460
然后呢输出一个回答对象
5:02.460–5:03.480
是这样子
5:03.480–5:06.260
好那么它的输出呢有三种类型啊
5:06.260–5:07.780
第一种类型呢是no啊
5:07.780–5:09.500
只有三种类型啊
5:09.500–5:11.060
第一个是no啊
5:11.060–5:12.200
no是一个概率类型
5:12.200–5:13.980
这个类型有什么特点呢
5:13.980–5:15.560
也就是不完类型判断
5:15.560–5:17.760
它是返回0到1的伏点数
5:17.760–5:19.960
数值代表成立概率
5:19.960–5:23.220
无需单独设置置信度
5:23.220–5:24.960
这段数字即为置信度
5:24.960–5:26.180
好 我们来看一下
5:26.180–5:28.520
就是它返回一个什么样的东西
5:28.520–5:31.480
这里是它返回的一个结构的一个实例
5:31.480–5:33.280
因为我先说过
5:33.280–5:35.060
它其实是它的使用
5:35.060–5:36.580
它使用的方式
5:36.580–5:38.880
其实跟contract GPT
5:38.880–5:40.180
跟GPT还是有些区别
5:40.180–5:40.680
对吧
5:40.680–5:43.840
通常是以结构的方式对外使用
5:43.840–5:45.840
你直接给他一个
5:45.840–5:46.840
你直接呢
5:46.840–5:50.840
通过这个机构的方式提供这个task需要的内容
5:50.840–5:52.840
state和这个question
5:52.840–5:55.840
然后他返回的是一个json的这样一个sultrime
5:55.840–5:56.840
这个sultrime里面呢
5:56.840–5:57.840
有两个重要的东西
5:57.840–5:59.840
第一个就是类型
5:59.840–6:00.840
类型就是no
6:00.840–6:02.840
它是概率类型
6:02.840–6:05.840
然后这个呢就是它的这个值
6:05.840–6:06.840
0.95
6:06.840–6:07.840
我们前面说过
6:07.840–6:10.840
它这里是0到1的这么一个伏点数
6:10.840–6:11.840
对不对
6:11.840–6:14.280
那么这个0.9.5其实就是表示一个概率
6:14.280–6:16.040
大家可以反而看作是一个概率
6:16.640–6:18.800
那么这个时候同学就会问了
6:18.800–6:19.880
这个这里有什么用呢
6:20.080–6:20.600
对吧
6:20.600–6:22.240
嗯反正0.95是吧
6:22.440–6:24.000
其实场景是非常多的
6:24.000–6:24.680
比如说
6:25.880–6:27.640
检测用户退款对不对
6:27.840–6:29.000
检测用户退款的话
6:29.000–6:29.800
其实呢
6:30.000–6:30.600
这个东西啊
6:30.600–6:32.680
当然你用XenGPT其实也可以回答
6:32.680–6:33.280
是不是
6:33.400–6:35.280
你丢给一个啊
6:35.280–6:37.800
就是用户的这个用户的信息啊
6:38.200–6:39.680
直接给到这个GPT
6:39.680–6:41.000
他也可以回答
6:41.000–6:43.000
说这个用户到底会不会退款
6:43.000–6:43.600
对不对
6:43.900–6:45.000
但是呢其实呢
6:45.300–6:46.700
那个东西有点什么
6:46.800–6:48.500
有点这个杀鸡又牛肉的感觉
6:48.500–6:50.200
其实这种需求呢
6:50.200–6:52.200
其实有更简单的方式去实现
6:52.200–6:55.100
就是所谓的Jell这种方式对吧
6:55.400–6:57.500
那么检测用户退款请求
6:57.500–6:59.600
这用户呢可能是一个信息发过来
6:59.800–7:02.100
那么给到Jell这个模型
7:02.200–7:03.100
那么Jell呢
7:03.500–7:06.100
直接就回答一个概率就可以了
7:06.400–7:07.200
比如说
7:07.600–7:08.800
用户呢不会退款
7:08.800–7:10.000
他就可能就返回给你
7:10.000–7:10.500
对不对
7:10.500–7:11.000
如果会退款
7:11.000–7:12.100
那么就返回这个
7:12.100–7:14.380
比如说0.9或者1就可以了
7:14.380–7:14.880
对不对
7:14.880–7:18.600
那么这样子其实非常方便的解决这个问题
7:18.600–7:20.580
那么它这个
7:20.580–7:22.980
它的成本会远远的低于这个
7:22.980–7:24.280
用GPT来解决这个问题
7:24.280–7:27.820
而且这个速度也会快很多
7:27.820–7:30.460
它的这个延迟的时间是500毫秒
7:30.460–7:33.440
它那个GPT那是几秒钟
7:33.440–7:33.940
对不对
7:33.940–7:35.920
所以它用它这种方式来解决
7:35.920–7:36.520
这个问题的话
7:36.520–7:38.440
其实是成本更低
7:38.440–7:40.000
然后那速度呢更好
7:40.000–7:41.340
是不是速度更快
7:41.340–7:42.080
效率更高
7:42.942–7:46.942
然後我們再來看第二個類型,就是Close類型。
7:46.942–7:48.942
這個什麼意思呢?
7:48.942–7:50.192
也就是說,
7:50.192–7:53.442
我們在去提供上下文的時候,
7:53.442–7:56.942
其實是會帶好幾個選項過去的。
7:56.942–7:58.222
然后呢
7:58.222–8:00.542
这个这个模型说到这个
8:00.542–8:03.722
这个上下和和这个问题之后呢
8:03.722–8:06.182
他会选择其中的一个来作为回答
8:06.182–8:07.942
就是做选择题嘛
8:07.942–8:09.082
就ABC第四个选项
8:09.082–8:10.382
他选一个告诉你
8:10.382–8:11.602
好那么其实这个呢
8:11.602–8:12.682
就是他换回的结果
8:12.682–8:14.882
假设他这个提供的选项
8:14.882–8:16.942
有三个选项啊
8:16.942–8:17.782
一个是binim
8:17.782–8:20.302
这个是结算
8:20.302–8:21.522
然后这个是技术
8:21.522–8:22.502
然后是销售
8:22.502–8:24.202
就是三百三个部门啊
8:24.202–8:25.182
对吧
8:25.182–8:26.762
然后这里面他会选一个
8:26.762–8:29.002
他选择这个billion这个部门
8:29.002–8:30.302
就他选一个
8:30.302–8:31.122
你给他三个选项
8:31.122–8:31.882
他选一个出来
8:31.882–8:33.682
那这有时候这个东西
8:33.682–8:36.702
哪里有这个场景多不多呢
8:36.702–8:37.622
这个很多嘛
8:37.622–8:38.122
对不对
8:38.122–8:39.662
很多重要的场景
8:39.662–8:41.402
比如说这个三件商品
8:41.402–8:42.102
让他选一个
8:42.102–8:42.602
是不是
8:42.602–8:44.442
那其实这种场景是非常多的
8:44.442–8:44.942
是不是
8:44.942–8:46.422
OK我们来看一下
8:46.422–8:47.002
这个关键
8:47.002–8:49.242
只有关键的这个字段
8:49.242–8:50.902
这个是truth
8:50.902–8:52.562
就是概率最高的选项名称
8:52.562–8:53.262
就这个
8:53.262–8:55.042
就概率最高的
8:55.042–8:57.022
他选一个出来
8:57.022–8:58.142
就是ABCD四个选项
8:58.142–8:58.822
他选一个出来
8:58.822–9:01.402
他说不一定是ABCD四个选项
9:01.402–9:03.322
他最多可以255个选项
9:03.322–9:04.542
选项可以很多
9:04.542–9:05.722
你把它列出来
9:05.722–9:07.202
他会选一个出来
9:07.202–9:08.922
然后这个呢
9:08.922–9:10.942
就是概率的总和
9:10.942–9:14.982
就是所有或选项的完整的概率分布
9:14.982–9:17.082
那如果说是255个选项呢
9:17.082–9:20.462
那么就会列出255个选项
9:20.462–9:21.342
每一个选项的概率
9:21.342–9:24.162
那么这个trose这里呢
9:24.162–9:25.462
其实概念最高的那一个
9:25.462–9:27.522
那么这个是confidence
9:27.522–9:28.482
自信度啊
9:28.482–9:30.982
模型对本次分类结果的自信度
9:30.982–9:32.642
那么数值越高呢
9:32.642–9:34.162
就分类呢越确定
9:34.162–9:36.202
好那我们看一下这个自信度是0.8
9:36.202–9:37.442
对吧这是比较高的
9:37.442–9:39.802
是不是当然我们在进行
9:39.802–9:41.122
决策的时候呢
9:41.122–9:43.322
你可以跟这个自信度来进行
9:43.322–9:44.542
评估哈
9:44.542–9:46.722
就是如果自信度高于0.8
9:46.722–9:48.242
或者说高于0.7
9:48.242–9:50.242
我们就可以选择这样的一个结果
9:50.242–9:52.262
就是所谓的决策模型的
9:52.262–9:53.662
价值在这里面
9:54.162–9:56.162
好让我们再看第三个啊
9:56.162–9:57.162
就是score啊
9:57.162–9:58.522
打分啊
9:58.522–9:59.342
打个分数
9:59.342–10:00.782
啊
10:00.782–10:02.362
那么它的特点就是连续打分
10:02.362–10:04.102
各级别概率分布啊
10:04.102–10:05.162
confidence 知性度
10:05.162–10:07.262
我们来看一下这个结果啊
10:07.262–10:07.762
那么
10:07.762–10:10.022
通常它会去
10:10.022–10:12.002
比如说你给它三个选项啊
10:12.002–10:12.622
你给它一个问
10:12.622–10:14.142
就是说你给给问
10:14.142–10:15.622
给上下文给问题
10:15.622–10:16.842
然后提供选项
10:16.842–10:18.602
好那么它反而结果里面呢
10:18.602–10:20.382
它就会对三个选项呢
10:20.382–10:21.682
每个选项打一个分数
10:21.682–10:22.602
我们来看一下啊
10:22.602–10:23.322
好
10:23.322–10:24.262
它的分数是
10:24.262–10:26.462
非诊数打分值
10:26.462–10:27.322
这个是I.86
10:27.322–10:27.822
对不对
10:27.822–10:29.022
知情度是0.94
10:29.022–10:32.322
然后它提供了三个选项
10:32.322–10:33.622
这三个选项
10:33.622–10:34.202
评鉴
10:34.202–10:35.322
轻微不满
10:35.322–10:35.822
生气
10:35.822–10:37.502
极度愤怒
10:37.502–10:38.002
对吧
10:38.002–10:39.222
好上面就是分数
10:39.222–10:41.182
这个第一个评鉴
10:41.182–10:41.962
就是0.0分
10:41.962–10:42.622
就是不评鉴
10:42.622–10:43.242
对吧
10:43.242–10:43.742
OK
10:43.742–10:45.202
这里是0.0爱
10:45.202–10:46.622
这个轻微不满
10:46.622–10:48.342
对应的分数是0.0爱
10:48.342–10:49.962
然后这个是0.1
10:49.962–10:50.822
好
10:50.822–10:51.502
这个生气
10:51.502–10:52.682
然后极度愤怒
10:52.682–10:53.742
是年点88
10:53.742–10:55.042
那么这个分数最高了
10:55.042–10:55.542
对不对
10:55.542–10:57.922
那如果说你是基于这个分数来进行
10:57.922–10:58.422
啊
10:58.422–10:58.982
决策的话
10:58.982–11:00.462
那么你可能会选这个是不是
11:00.462–11:01.162
啊
11:01.162–11:02.482
这个其实就是对于
11:02.482–11:03.462
多个选项
11:03.462–11:04.622
进行打一个分数
11:04.622–11:05.282
啊
11:05.282–11:06.582
这个其实也是长期很多
11:06.582–11:07.082
啊
11:07.082–11:08.282
这个是
11:08.282–11:08.862
呃
11:08.862–11:10.902
我们的Jill这个模型啊
11:10.902–11:11.402
它的
11:11.402–11:14.262
返回结果的三个可能性
11:14.262–11:15.362
OK啊
11:15.362–11:16.102
三种结果
11:16.102–11:17.342
好
11:17.342–11:18.362
那么先怎么总结一下
11:18.362–11:20.902
Jill输出的关键的特性啊
11:20.902–11:22.082
第二点就是
11:22.082–11:23.002
年文本幻觉
11:23.002–11:25.162
它输出结构是强制约定的
11:25.162–11:26.342
宁格式错误
11:26.342–11:27.302
不乱增自断
11:27.302–11:29.842
然后是拼尿变形计算的
11:29.842–11:31.382
一次请就变形处理所有
11:31.382–11:34.742
然后校准级概念
11:34.742–11:36.302
直接预计分支
11:36.302–11:38.262
那么低分支可以人工复制
11:38.262–11:40.222
它会有一个知性度给你
11:40.222–11:41.442
然后输出你的费用
11:41.442–11:44.262
它这个模型输出是不收费的
11:44.262–11:45.962
你用它这个模型输出是不收费的
11:45.962–11:48.482
而且输入的成本也是非常低
11:48.482–11:50.902
它是我们使用
11:50.902–11:54.842
GPT的成本大概就是100万Token
11:54.842–11:55.342
对吧
11:55.342–11:55.842
就一兆
11:55.842–11:58.922
大概就是10美元
11:58.922–12:00.002
10美元
12:00.002–12:01.142
那么他这个
12:01.142–12:03.922
大概就是100万
12:03.922–12:12.342
大概就是0.0.4万美元
12:12.342–12:14.062
就是他这个10美元
12:14.062–12:15.282
他这个年纪年4万美元
12:15.282–12:17.142
所以他的成本低很多
12:17.142–12:19.522
那么也就是说
12:19.522–12:21.682
我们在实际上面进行
12:21.682–12:23.842
在做应用的时候呢
12:23.842–12:25.742
那么其实就给了我们很多的选择
12:25.742–12:28.542
有些场景其实并不完全需要
12:28.542–12:31.242
由GPT或者说
12:31.242–12:33.122
Close这种模型来进行处理
12:33.122–12:34.922
我们完全可以把它交给什么
12:34.922–12:37.082
交给我们的JP这种模型来处理
12:37.082–12:37.582
对不对
12:37.582–12:39.502
所以他们这其实是这样写的关系
12:39.502–12:42.802
并不是说替代的关系
12:42.802–12:43.562
并不是这样子
12:43.562–12:46.642
好那么接下来我们给大家看一个案例
12:46.642–12:47.842
就是到底它是怎么用的
12:47.842–12:48.342
这个东西
12:48.342–12:49.382
我们来看一下
12:49.382–12:51.042
官网上面提供了一个案例
12:51.042–12:52.702
我们直接来看到官网就可以了
12:52.702–12:53.202
好吧
12:53.202–12:54.382
就是汉缩入门
12:54.382–12:56.882
大家可以到这个网站
12:56.882–12:59.042
去看一下它的官网上面提供了一个案例
12:59.042–13:00.362
那么当然首先呢
13:00.362–13:02.382
我们需要去申请
13:02.382–13:03.022
申请
13:03.022–13:04.142
如果说你要使用的话
13:04.142–13:07.862
你需要到它的控制台去申请一个API-KIT
13:07.862–13:10.182
申请还是比较容易的
13:10.182–13:10.822
OK
13:10.822–13:13.862
然后得到一个接口之后呢
13:13.862–13:16.262
你就可以来进行使用了
13:16.262–13:17.142
好
13:17.142–13:17.802
那么这里呢
13:17.802–13:22.562
是CURL这个方式来去发行一个请求
13:22.802–13:24.802
你需要提供的是一个API-K
13:25.102–13:26.102
这是它的接口
13:26.902–13:28.402
然后你提供哪些数据呢
13:28.402–13:29.502
这个数据是State
13:29.602–13:31.602
大家可以把State看作是上线文
13:32.002–13:32.602
OK
13:32.802–13:34.302
这个是它的上线文
13:34.302–13:35.102
是在英文是吧
13:35.102–13:36.602
我们把它翻译一下
13:36.602–13:37.502
什么意思
13:39.002–13:39.502
OK
13:41.402–13:41.902
好
13:41.902–13:43.102
这个上线文是这样子
13:43.102–13:43.602
你好
13:43.602–13:45.902
我已经尝试您借我的strip账户三天了
13:45.902–13:47.102
但其实一直失败
13:47.102–13:48.742
我的销售正在锦上
13:49.102–13:51.142
请尽快帮我帮助我
13:51.142–13:51.662
对吧
13:51.662–13:52.162
这个东西
13:52.162–13:53.742
这个内容应该是一个
13:54.302–13:56.142
是一个street的客户是吧
13:56.142–13:57.942
在在咨询对吧
13:57.942–13:59.462
在向客户进行咨询啊
13:59.462–14:00.462
或者说储藏
14:00.742–14:01.702
储藏这么一个信息啊
14:01.702–14:02.262
ok
14:02.262–14:02.762
好
14:02.762–14:03.362
现在我们来看一下啊
14:03.862–14:04.462
这个模型呢
14:04.462–14:06.302
是Jill latest的这个模型
14:06.302–14:07.342
然后问题是什么呢
14:08.342–14:09.542
问题是这样子啊
14:09.862–14:10.862
在下面啊
14:11.462–14:12.502
这个是那个类型
14:13.022–14:16.142
就是你希望用什么类型来回复你这个问题啊
14:16.222–14:17.062
是no 是吧
14:17.102–14:18.442
也就是给个概率就可以了
14:18.442–14:19.822
我们看一下的问题是什么
14:19.822–14:22.402
这个信息的紧迫度
14:22.402–14:25.922
就是表达一下信息的紧迫度
14:25.922–14:29.082
这个内容的紧迫度是什么样子
14:29.082–14:29.582
对不对
14:29.582–14:30.522
那么然后这个时候
14:30.522–14:33.582
这个模型回复一个概率
14:33.582–14:38.062
年到一这样的一个分值过来
14:38.062–14:38.862
一个概率过来
14:38.862–14:40.922
如果说这个值是一的话
14:40.922–14:41.562
那么说明什么
14:41.562–14:43.122
说明这个紧迫度是很高的
14:43.122–14:43.622
对不对
14:43.622–14:44.502
如果是0.95的话
14:44.502–14:45.902
这个紧迫度也是很高的
14:45.902–14:46.902
好
14:46.902–14:47.702
然后我们再来看一下
14:47.702–14:49.242
那其他的这种
14:49.242–14:51.462
这个案例啊
14:51.462–14:52.342
如果说我们是
14:52.342–14:54.142
写代码掉结果
14:54.142–14:55.902
那么我们自己在代码里面
14:55.902–14:57.102
就要这样来写啊
14:57.102–14:57.602
好
14:57.602–14:58.102
那么同样的
14:58.102–14:58.722
它的这个
14:58.722–15:00.502
上下文还是这个啊
15:00.502–15:01.662
还是这个来举例啊
15:01.662–15:02.902
我们看一下它的模型
15:02.902–15:04.002
是Jolatist
15:04.002–15:05.122
好
15:05.122–15:06.422
那么这个下面是问题啊
15:06.422–15:07.942
它其实是什么呢
15:07.942–15:08.502
呃
15:08.502–15:10.522
它是它什么
15:10.522–15:12.662
它其实是一个一个上下文
15:12.662–15:14.202
它其实是问了三个问题啊
15:14.202–15:14.782
问了三个问题
15:14.782–15:17.262
其实用三种类型来问好
15:17.262–15:18.402
这个是choose
15:18.402–15:19.842
choose ok
15:19.842–15:21.042
这个呢就是它的问题
15:21.042–15:22.102
哪一个团队呢
15:22.102–15:24.202
来处理这样的一个事情
15:24.202–15:24.702
对吧
15:24.702–15:25.662
提供了三个选项
15:25.662–15:27.362
这个是结算这个团队
15:27.362–15:28.262
这个是技术这个团队
15:28.262–15:29.202
这个销售这个团队
15:29.202–15:30.882
这提供了三个选项
15:31.597–15:34.597
因為我們說過,truth嘛,對不對?
15:34.597–15:37.597
你是要大模型給你做選擇,所以你提供這個選項給他。
15:37.597–15:40.597
像ABCD,做選擇題,是這樣子。
15:40.597–15:45.597
好,我們看第二個,就是分數,score,使用這個類型來進行回答。
15:45.597–15:47.797
回答好那么他是什么呢
15:47.797–15:51.477
呃这个现在这个客户的这个什么啊
15:51.477–15:54.777
失望度呢怎么样对吗啊啊
15:54.777–15:55.697
什么怎么样啊OK
15:55.697–15:57.697
他同样的提供了三个什么呢
15:57.697–15:59.377
三种可能啊
15:59.377–16:00.537
第一个呢就是冷静
16:00.537–16:01.917
第二个呢是失望
16:01.917–16:03.937
而第三个是非常生气
16:03.937–16:05.277
就是你要根据什么
16:05.277–16:09.977
根据这个上下文来去对于这三个描述进行打分
16:09.977–16:11.137
打分
16:11.137–16:13.637
OK好我们再看第三个啊
16:13.637–16:15.217
第三个就是什么呢
16:15.597–16:19.197
那Noah这种类型其实就是
16:19.197–16:20.997
概率对吧是概率这个
16:20.997–16:24.197
那么也就是说你的问题一定是跟概率相关的是吧
16:24.197–16:26.197
这个信息它到底
16:26.197–16:29.597
也表示了它多么紧迫对吧
16:29.597–16:31.797
ok 那么这个时候你回答一个概率就可以了
16:31.797–16:33.397
好 我们再来看一下它的回答
16:33.397–16:36.397
因为你这里是三个类型的问题对吧
16:36.397–16:36.997
三个类型的问题
16:36.997–16:38.597
所以它的回答也是三个类型的
16:38.597–16:40.197
我们看choose
16:40.197–16:41.397
choose就是
16:41.397–16:43.597
它首先要做出一个选择对吧
16:43.597–16:45.937
ABCD要选一个选一个选一个答案
16:45.937–16:46.737
对不对啊
16:46.737–16:48.337
但是结果是技术部门是吧
16:48.337–16:50.097
技术部门来处理这个问题啊
16:50.097–16:51.757
之前都是0.78啊
16:51.757–16:54.157
然后当然他也会给三个选项呢
16:54.157–16:55.457
每一个打一个分数啊
16:56.657–16:59.497
我们看第二个第二个问题
17:00.397–17:01.657
第二个问题是打分对吧
17:02.237–17:03.237
打分啊打分的话
17:03.237–17:05.997
他会对于三个情绪啊
17:05.997–17:08.257
但见到打分那很明显啊
17:08.257–17:09.457
这个呢呃
17:09.457–17:12.037
第二个情绪他的这个分值是会高的
17:12.037–17:14.557
也就是他当前的用户所表达这个情绪
17:14.557–17:15.517
应该是这个是吧
17:16.597–17:17.117
啊
17:17.157–17:17.797
是这个
17:18.357–17:19.237
这个情绪啊
17:20.357–17:21.557
好我们看最后这个啊
17:21.997–17:23.477
最后这个是要表
17:23.477–17:25.197
要是输出一个概率是不是
17:25.197–17:26.277
然后直接给了一个概率是不是
17:26.277–17:27.237
这个最简单的啊
17:27.237–17:29.517
一点点说明这个事情的紧迫度啊
17:29.517–17:30.597
是非常非常大的
17:30.597–17:31.157
对不对
17:31.317–17:32.317
这个其实就是
17:32.597–17:33.597
Jayv这个模型啊
17:33.597–17:34.917
使用的这个
17:35.197–17:36.477
这样的一个方式啊
17:36.477–17:37.597
其实就是掉接口
17:37.597–17:38.317
然后呢
17:38.317–17:38.817
啊
17:38.817–17:39.317
接口里面呢
17:39.317–17:41.077
需要描述你的这个问题
17:41.077–17:43.077
其实需要提供一个上下文啊
17:43.077–17:44.677
把你的这个情况给交代啊
17:44.677–17:46.837
这个做用gp
17:46.837–17:47.837
用chat gpt
17:47.837–17:48.837
gpt或者glowd
17:48.837–17:49.337
都是一样的
17:49.337–17:50.637
要提供一个上下文对不对
17:50.637–17:51.637
然后就是问题
17:51.637–17:54.637
如果说是truth或者说score
17:54.637–17:56.517
那么还需要提供这个选项
17:56.877–17:57.637
啊OK
17:57.637–17:58.757
那么结果呢
17:58.757–18:00.277
就对方就会提供一个
18:00.517–18:02.437
啊json的这样的一个结果化的
18:02.437–18:04.277
一个字符传给到我们啊
18:04.277–18:04.917
他这个时候
18:04.917–18:05.637
大家就会问了
18:05.637–18:07.277
这这东西到底有什么用对吧
18:07.277–18:08.637
能用在哪个地方
18:08.917–18:10.917
啊好像没有这个chat gpt
18:10.917–18:11.877
这种这么方便
18:11.877–18:13.537
什么都可以问
18:13.537–18:15.097
然后他多给你一个回复
18:15.097–18:15.597
是不是
18:15.597–18:18.377
但其实这个场景是非常多的
18:18.377–18:19.697
我们来看一下他的场景
18:19.697–18:21.697
其实很多时候
18:21.697–18:23.977
其实并不需要用GPT这种模型
18:23.977–18:25.877
因为他成本太高了
18:25.877–18:27.077
第一个就是成本高
18:27.077–18:27.617
第二个就是什么
18:27.617–18:30.577
就是他的延时太高了
18:30.577–18:32.517
就是处理一个问题要好几秒
18:32.517–18:34.357
他这个几百毫秒就能解决
18:34.357–18:34.857
是不是
18:34.857–18:36.177
所以我们这个时候来看一下
18:36.177–18:37.717
他的场景
18:37.717–18:38.657
第一个场景其实就是
18:38.657–18:40.337
我们用在agent里面
18:40.337–18:44.577
比如说浏览器与这个电脑的使用
18:44.577–18:46.337
比如说什么
18:46.337–18:50.057
识别这个页面状态
18:50.057–18:51.277
判断下一个动作
18:51.277–18:53.317
因为它的这个动作
18:53.317–18:55.097
其实是有限的嘛
18:55.097–18:55.597
对不对
18:55.597–18:57.337
点击输入下拉对不对
18:57.857–18:59.877
就哪怕我玩游戏也是一样的
18:59.877–19:01.737
玩游戏它动作就那么点
19:01.737–19:02.737
选项只有那么多
19:02.737–19:03.237
对不对
19:03.237–19:04.637
你可以把它选项全部列出来
19:04.637–19:05.137
是不是
19:05.137–19:07.577
列出来给它就可以了
19:07.577–19:09.977
也就是说这种操作是有限的操作
19:09.977–19:12.977
其实非常适合用J5这种模型来处理的
19:12.977–19:14.597
还有智能工具路由
19:14.597–19:15.097
对吧
19:15.097–19:16.277
坚准选择工具
19:16.277–19:18.817
搜索数据库邮件询问用户
19:18.817–19:20.897
比如说安全降与分控
19:20.897–19:24.737
就是高危操作前的快速的安全判断
19:24.737–19:26.797
高频游戏
19:26.797–19:27.597
说实话
19:27.597–19:32.757
昨天我还用J5来去玩俄罗斯方块
19:32.757–19:34.277
因为俄罗斯方块的话
19:34.277–19:34.877
其实说实话
19:34.877–19:35.957
它只有那几种选项
19:35.957–19:36.457
对不对
19:36.457–19:37.897
你把选项全部列出来就可以了
19:37.897–19:39.877
用J5进行判断
19:39.877–19:42.277
最高他支持255种选项
19:42.277–19:42.777
是不是
19:42.777–19:45.017
那其实生活中绝大部分
19:45.017–19:46.657
其实实验绝大部分场景的
19:46.657–19:47.517
就有几少数场景
19:47.517–19:49.137
它是一种无限可能的
19:49.137–19:49.637
对不对
19:49.637–19:51.837
绝大部分场景都是有限可能的
19:51.837–19:52.337
是不是
19:52.337–19:54.617
我们这个只要把动作
19:54.617–19:55.437
全部罗列出来
19:55.437–19:57.137
就可以这样交给他去判断
19:57.137–19:59.057
他又快成本又低
19:59.057–19:59.737
是不是
19:59.737–20:00.957
好给我们看一下
20:00.957–20:02.577
比如说客户公单与客户
20:02.577–20:03.777
消息智能处理平台
20:03.777–20:05.797
比如说公单的分类
20:05.797–20:06.297
是吧
20:06.297–20:06.797
是物流问题
20:06.797–20:07.357
账单问题
20:07.357–20:08.377
产品故障还是投诉
20:08.377–20:08.877
对吧
20:08.877–20:10.537
比如说紧急度打分
20:10.537–20:13.097
这个情绪的强烈度
20:13.097–20:13.717
对不对
20:13.717–20:17.257
还有这个比如说像这个Node核心判断
20:17.257–20:18.137
是不是退款
20:18.137–20:19.617
是不是辱骂
20:19.617–20:21.377
是不是需要人工进入
20:21.377–20:21.877
对不对
20:21.877–20:23.497
做的非常非常适合用
20:23.497–20:24.717
我们的Jail这个模型来处理
20:24.717–20:25.797
真的非常非常方便
20:25.797–20:28.617
所以以后做这个智能体
20:28.617–20:29.557
它一定是什么
20:29.557–20:30.637
一定是Jail
20:30.637–20:33.677
一定是Jail和这个GPT或者和Lode
20:33.677–20:35.517
进行配合使用
20:35.517–20:37.257
就现在硅谷已经基本上
20:37.257–20:38.817
是这两个组合在一起使用了
20:38.817–20:39.457
啊
20:39.457–20:39.957
就跟我
20:39.957–20:41.177
根据我所找的信息
20:41.177–20:43.697
就是他们现在已经在调整自己的决策了
20:43.697–20:45.157
都是使用J5加什么
20:45.157–20:47.217
加GPT来做这个智能体
20:47.217–20:49.457
因为GPT其实实在是太贵了
20:49.457–20:50.217
知道吗
20:50.217–20:50.717
啊
20:50.717–20:51.237
好用就好
20:51.237–20:52.017
它实在是贵
20:52.017–20:53.037
而且效率比较低
20:53.037–20:56.177
所以不是所有的场景都适合用GPT键理
20:56.177–20:57.037
啊
20:57.037–20:57.557
其实少
20:57.557–20:58.457
就是大部分场景
20:58.457–21:00.497
其实都是比较适合用J5来做处理的
21:00.497–21:03.177
还比如说这个内容与文档的拼尿删讯
21:03.177–21:04.137
有些分类
21:04.137–21:04.677
是不是
21:04.677–21:05.337
啊
21:05.337–21:05.837
只要
21:05.837–21:07.377
就是只要给一个标记就可以了
21:07.377–21:07.877
对吧
21:07.877–21:08.937
还有评论
21:08.937–21:09.817
消息删选
21:09.817–21:10.777
对不对
21:10.777–21:12.717
说实话
21:12.717–21:14.997
你之前给几个标签给它
21:14.997–21:15.497
是不是
21:15.497–21:16.377
因为这个
21:16.377–21:18.917
这往判断是哪一种类型的
21:18.917–21:20.077
直接就说实话
21:20.077–21:22.037
就很快
21:22.037–21:23.757
就给我们打这个标签了
21:23.757–21:24.857
还能闻到删选
21:24.857–21:25.797
会议记样
21:25.797–21:26.297
是不是
21:26.297–21:28.257
还有实时业务分控
21:28.257–21:28.757
自动化
21:28.757–21:30.797
交易电带分控
21:30.797–21:32.617
服务器与AOT设备
21:32.617–21:33.577
告紧自动化
21:33.577–21:35.237
都适合用
21:35.237–21:37.297
用我们的J5来先处理
21:37.297–21:39.177
比如说模型的路由与大模型
21:39.177–21:39.837
这要评估
21:39.837–21:41.757
模型路由对不对
21:41.757–21:45.277
因为你全部使用GPT或者Close
21:45.277–21:47.177
来解决问题实在是太贵了
21:47.177–21:48.757
公司消耗不起对吧
21:48.757–21:49.717
那么这个时候呢
21:49.717–21:53.197
我就完全可以由J5来做一个模型的调度
21:53.197–21:54.537
来做一个路由
21:54.537–21:56.057
就是说你这个问题
21:56.057–21:58.117
到底适合有哪一个模型来进行处理
21:58.117–21:58.617
对不对
21:58.617–22:01.337
常用的模型可能也就十来个
22:01.337–22:03.437
你把这十来个模型全部累出来
22:03.437–22:06.217
然后你交个J5判断一下就可以了
22:06.217–22:07.797
到底选哪一个模型来处理这个问题
22:07.797–22:08.457
对不对
22:08.457–22:11.337
然后选出来之后
22:11.337–22:13.057
然后我们再交个对应的模型来处理
22:13.057–22:13.557
对不对
22:13.557–22:15.317
比如大模型输出降业预示
22:15.317–22:18.397
判断反复结果是否拼离核心要求
22:18.397–22:20.697
是否存在幻觉分件
22:20.697–22:21.577
做质量预示
22:21.577–22:23.637
比如数据及标注与评测
22:23.637–22:26.097
拼量进行按原判断与分离打分
22:26.097–22:30.577
高效替代大模型的榨纸调用
22:30.577–22:31.757
这只调用
22:31.757–22:33.397
这个其实就是说
22:33.397–22:35.997
它比这个原先用GPT去做决策呢
22:35.997–22:36.957
就要快很多
22:36.957–22:37.717
方便很多
22:37.717–22:40.797
就主打一个高效和年价
22:40.797–22:41.517
对吧
22:41.517–22:43.357
这是我们这种模型的特点
22:43.357–22:44.497
记住啊
22:44.497–22:45.897
它不是要去替代GPT
22:45.897–22:46.877
也不是要替代GPT
22:46.877–22:48.197
也不是替代这Cloud
22:48.197–22:50.817
还是给它们实现一种互补
22:50.817–22:52.137
来完成一个
22:52.137–22:55.157
一个又好用
22:55.157–22:56.397
又省钱的这么一个应用
0:00.000–0:07.000
zh來,各位家人們,最近幾天,整個硅谷都被一款叫做Jill的模型刷屏了。
來,各位家人們,最近幾天,整個硅谷都被一款叫做Jill的模型刷屏了。
0:07.000–0:09.608
zh然後呢,發布前三天已經被Wassel,
然後呢,發布前三天已經被Wassel,
0:09.608–0:11.118
enCloudflare,
Cloudflare,
0:11.118–0:14.000
zhLongChang等主流平台迅速給集成了。
LongChang等主流平台迅速給集成了。
0:14.000–0:16.000
zh這個模型有什麼特點呢?
這個模型有什麼特點呢?
0:16.000–0:16.875
zh這款模型,
這款模型,
0:16.875–0:19.150
zh它相比普通的模型推理速度,
它相比普通的模型推理速度,
0:19.150–0:21.075
zh最高可以提升200倍,
最高可以提升200倍,
0:21.075–0:23.000
zh最高可以高到200倍。
最高可以高到200倍。
0:23.000–0:27.000
zh然後呢,這個成本可以降低,最高可以降到400倍。
然後呢,這個成本可以降低,最高可以降到400倍。
0:27.000–0:28.880
zh是一个非常非常恐怖的数字啊
是一个非常非常恐怖的数字啊
0:28.880–0:31.220
zh而且是可以组合的前沿之冷
而且是可以组合的前沿之冷
0:31.220–0:34.280
zh那么这种牛扮的东西到底是一个什么东西呢
那么这种牛扮的东西到底是一个什么东西呢
0:34.280–0:38.500
zh它会不会把open AI把这个Athrope给颠覆掉呢
它会不会把open AI把这个Athrope给颠覆掉呢
0:38.500–0:40.440
zh别张奇哈我们来认识一下
别张奇哈我们来认识一下
0:40.440–0:41.380
zhJ5这个模型
J5这个模型
0:41.380–0:44.260
zh那么J5这个模型呢一句话来干口啊
那么J5这个模型呢一句话来干口啊
0:44.260–0:46.020
zhJ5呢是一个决策模型
J5呢是一个决策模型
0:46.020–0:47.520
zh决策模型有什么特点呢
决策模型有什么特点呢
0:47.520–0:48.800
zh它不生成文本
它不生成文本
0:48.800–0:50.360
zh不生成图片
不生成图片
0:50.360–0:53.080
zh只做结果化判断输出概率
只做结果化判断输出概率
0:53.080–0:54.500
zh也就是它只输出概率啊
也就是它只输出概率啊
0:54.500–0:57.840
zh专门给agent的程序做高频快判断
专门给agent的程序做高频快判断
0:57.840–0:59.340
zh它是一个什么东西啊
它是一个什么东西啊
0:59.340–1:00.960
zh它其实是一个决策模型
它其实是一个决策模型
1:00.960–1:02.300
zh或者是一个判断模型
或者是一个判断模型
1:02.300–1:05.500
zh它其实跟GPT跟Cloud
它其实跟GPT跟Cloud
1:05.500–1:07.620
zh跟GP9是有本质的区别的
跟GP9是有本质的区别的
1:07.620–1:08.760
zhGPT这种模型呢
GPT这种模型呢
1:08.760–1:10.180
zh其实是一个生成式模型
其实是一个生成式模型
1:10.180–1:11.220
zh生成文本
生成文本
1:11.220–1:12.180
zh生成图片
生成图片
1:12.180–1:15.100
zh但是GP呢只做决策
但是GP呢只做决策
1:15.100–1:16.960
zh它们是有本质的区别的
它们是有本质的区别的
1:16.960–1:18.340
zh所以它们之间并不是一个
所以它们之间并不是一个
1:18.340–1:20.040
zh谁替代是这么一种关系
谁替代是这么一种关系
1:20.040–1:21.820
zh还是一种互补的关系
还是一种互补的关系
1:21.820–1:23.380
zh那么有种人讲
那么有种人讲
1:23.380–1:25.540
zh现在是生成式的天下
现在是生成式的天下
1:25.540–1:27.320
zh你这个东西有什么用呢
你这个东西有什么用呢
1:27.320–1:28.960
zh这个生成式模型
这个生成式模型
1:28.960–1:30.140
enGPT
GPT
1:30.140–1:31.140
enCloat
Cloat
1:31.140–1:33.100
zh真来也可以做决策对吧
真来也可以做决策对吧
1:33.100–1:36.460
zh你这个Jill有什么特点呢
你这个Jill有什么特点呢
1:36.460–1:36.960
zh对不对
对不对
1:36.960–1:40.220
zh凭什么这么招扬
凭什么这么招扬
1:40.220–1:40.720
zh是吧
是吧
1:40.720–1:41.300
zh也别着急
也别着急
1:41.300–1:43.100
zh他其实有非常非常多的场景
他其实有非常非常多的场景
1:43.100–1:44.540
zh我们稍后会来进行介绍
我们稍后会来进行介绍
1:44.540–1:46.140
zh那我们再来看一下
那我们再来看一下
1:46.140–1:47.780
zhJill这个模型到底是怎么来的
Jill这个模型到底是怎么来的
1:47.780–1:49.080
zh这个模型呢
这个模型呢
1:49.080–1:50.060
zh其实是由
其实是由
1:50.060–1:52.720
zh前欧巴亚的研究员叫Digo
前欧巴亚的研究员叫Digo
1:52.720–1:56.200
zh他这个创办的TypeSafe AI公司
他这个创办的TypeSafe AI公司
1:56.200–1:58.120
zh在前几天发布的
在前几天发布的
1:58.120–1:59.180
zh在9月15号发布的
在9月15号发布的
1:59.180–2:00.020
zh也前几天发布的
也前几天发布的
2:00.020–2:01.400
zh那么这个创始人
那么这个创始人
2:01.400–2:02.820
zh是非常非常厉害的一个人物
是非常非常厉害的一个人物
2:02.820–2:05.160
zh他参与了ChairGPT的创造
他参与了ChairGPT的创造
2:05.160–2:07.560
zh是一个非常非常有经验的
是一个非常非常有经验的
2:07.560–2:08.900
zh这么一个大佬
这么一个大佬
2:08.900–2:10.060
zh然后他自己呢
然后他自己呢
2:10.060–2:12.940
zh就是说在创造完ChairGPT之后
就是说在创造完ChairGPT之后
2:12.940–2:14.460
zh他一直在问自己一个问题
他一直在问自己一个问题
2:14.460–2:16.640
zh就是说这些超人的聊天模型
就是说这些超人的聊天模型
2:16.640–2:18.380
zh为什么没有带来这个AGI
为什么没有带来这个AGI
2:18.380–2:19.960
zh那过去的两年
那过去的两年
2:19.960–2:20.920
zh我一直在眼神
我一直在眼神
2:20.920–2:21.940
zh抓大家做两件事情
抓大家做两件事情
2:21.940–2:24.240
zh就是一种新的模型训练方法
就是一种新的模型训练方法
2:24.240–2:26.480
zh就是它提出了一种新的训练方法
就是它提出了一种新的训练方法
2:26.480–2:27.980
zh叫RLCD
叫RLCD
2:27.980–2:31.220
zh然后呢和一种新内心的情形配安模型
然后呢和一种新内心的情形配安模型
2:31.220–2:32.320
zh就是JIL
就是JIL
2:32.320–2:33.320
zh这个东西
这个东西
2:33.320–2:34.460
zh那
那
2:34.460–2:36.480
zh好了那么重点再来介绍这个JIL
好了那么重点再来介绍这个JIL
2:36.480–2:39.500
zh那么JIL和这个一般的模型有什么区别呢
那么JIL和这个一般的模型有什么区别呢
2:39.500–2:40.940
zh那么一般的模型啊
那么一般的模型啊
2:40.940–2:42.460
zh像这个GPT是什么呢
像这个GPT是什么呢
2:42.460–2:43.800
zh竹子生成Token
竹子生成Token
2:43.800–2:44.940
zh是自回归
是自回归
2:44.940–2:46.760
zh那么它是呢
那么它是呢
2:46.760–2:48.360
zh高延迟高成本
高延迟高成本
2:48.360–2:49.900
zh就是你问它一个问题
就是你问它一个问题
2:49.900–2:52.080
zh他呢就基于你这个问题
他呢就基于你这个问题
2:52.080–2:53.220
zh这个问题就是一个提示词
这个问题就是一个提示词
2:53.220–2:54.060
zh基于这个问题
基于这个问题
2:54.060–2:56.340
zh他一个一个的生成这个token
他一个一个的生成这个token
2:56.340–2:57.980
zh把这个token拼在一起
把这个token拼在一起
2:57.980–3:00.080
zh他其实就是一个完整的这个回答
他其实就是一个完整的这个回答
3:00.080–3:01.840
zh这么这样子来的
这么这样子来的
3:01.840–3:02.680
zh可以生成文本
可以生成文本
3:02.680–3:03.340
zh可以生成逐变
可以生成逐变
3:03.340–3:05.000
zh但只有这个模型呢
但只有这个模型呢
3:05.000–3:06.500
zh他是一次效情计算
他是一次效情计算
3:06.500–3:08.560
zh直接输出判断概率
直接输出判断概率
3:08.560–3:10.340
zh他的特点是什么呢
他的特点是什么呢
3:10.340–3:11.880
zh延迟极低成本极低
延迟极低成本极低
3:11.880–3:12.440
zh记住啊
记住啊
3:12.440–3:13.600
zh延迟极低
延迟极低
3:13.600–3:14.680
zh也就是说啊
也就是说啊
3:14.680–3:16.320
zh你给一个问题
你给一个问题
3:16.320–3:19.240
zh他基本上在500毫秒之内
他基本上在500毫秒之内
3:19.240–3:21.220
zh可以得到这个结果啊
可以得到这个结果啊
3:21.220–3:23.500
zh500毫秒之内其实是非常非常快的
500毫秒之内其实是非常非常快的
3:23.500–3:25.180
zh非常非常快啊
非常非常快啊
3:25.180–3:26.080
zh那个说实话
那个说实话
3:26.080–3:27.100
zh你像使用GPT
你像使用GPT
3:27.100–3:28.460
zh那基本上几秒啊
那基本上几秒啊
3:28.460–3:29.760
zh十几秒才得到这个结果
十几秒才得到这个结果
3:29.760–3:30.260
zh对不对
对不对
3:30.260–3:31.240
zh它的延迟极低
它的延迟极低
3:31.240–3:33.200
zh500毫秒之内
500毫秒之内
3:33.200–3:34.100
zh就可以得到这个结果
就可以得到这个结果
3:34.100–3:35.240
zh成本极低啊
成本极低啊
3:35.240–3:37.240
zh我们后面会介绍的成本
我们后面会介绍的成本
3:37.240–3:39.740
zh然后再来看一下啊
然后再来看一下啊
3:39.740–3:41.020
zh这个东西怎么使用啊
这个东西怎么使用啊
3:41.020–3:43.080
zh就是说你怎么去使用这个东西呢
就是说你怎么去使用这个东西呢
3:43.080–3:45.820
zh使用这个Jill这个模型呢
使用这个Jill这个模型呢
3:45.820–3:47.140
zh使用Jill这个模型呢
使用Jill这个模型呢
3:47.140–3:47.820
zh通常啊
通常啊
3:47.820–3:50.760
zh其实它是开放这个API给大家去使用
其实它是开放这个API给大家去使用
3:50.760–3:52.920
zh就大家通常都是调这个API的方式啊
就大家通常都是调这个API的方式啊
3:52.920–3:54.000
zh去使用这个模型
去使用这个模型
3:54.000–3:55.680
zh那么它呢
那么它呢
3:55.680–3:57.800
zh主要提供两个东西
主要提供两个东西
3:57.800–3:58.720
zh第一个就是state
第一个就是state
3:58.720–4:01.800
zh这个什么东西呢
这个什么东西呢
4:01.800–4:03.360
zh大家可以把它看作是一个context
大家可以把它看作是一个context
4:03.360–4:04.060
zh一个上下文
一个上下文
4:04.060–4:06.520
zh然后第二个就是问题
然后第二个就是问题
4:06.520–4:09.240
zh就是开发者预先定义好的派对的任务
就是开发者预先定义好的派对的任务
4:09.240–4:10.100
zh主要是两个东西
主要是两个东西
4:10.100–4:12.080
zh然后呢交给这个这个模型
然后呢交给这个这个模型
4:12.080–4:13.980
zh这个模型然后再发挥一个结果
这个模型然后再发挥一个结果
4:13.980–4:15.980
zh那发挥的结果会是个什么东西呢
那发挥的结果会是个什么东西呢
4:15.980–4:17.300
zh这个结果啊
这个结果啊
4:17.300–4:20.720
zh跟一般大模型还是有些区别的
跟一般大模型还是有些区别的
4:20.720–4:21.380
zh一般大模型呢
一般大模型呢
4:21.380–4:23.600
zh其实是输出一个啊
其实是输出一个啊
4:23.600–4:25.040
zh会输出一道文本
会输出一道文本
4:25.040–4:25.540
zh对不对
对不对
4:25.540–4:26.400
zh那它这里呢
那它这里呢
4:26.400–4:28.960
zh其实是输出一种强烈性的结构化JSON
其实是输出一种强烈性的结构化JSON
4:28.960–4:31.340
zh是一种强烈性的结构化JSON
是一种强烈性的结构化JSON
4:31.340–4:32.740
zh是一种JSON的文本
是一种JSON的文本
4:32.740–4:33.740
zh啊
啊
4:33.740–4:34.580
zhJSON文本
JSON文本
4:34.580–4:36.440
zh它不包含这个自然语言文本
它不包含这个自然语言文本
4:36.440–4:38.000
zh是一种纯JSON的文本
是一种纯JSON的文本
4:38.000–4:40.220
zh大概是变形结构预测
大概是变形结构预测
4:40.220–4:42.040
zh模型一次性返回所有概率
模型一次性返回所有概率
4:42.040–4:44.720
zh也就是说你丢给它几个问题啊
也就是说你丢给它几个问题啊
4:44.720–4:46.640
zh它是一次性给你返回所有的概率
它是一次性给你返回所有的概率
4:46.640–4:48.480
zh它是变形预测的
它是变形预测的
4:48.480–4:50.940
zh第三个就是程序可以直接解析
第三个就是程序可以直接解析
4:50.940–4:52.740
zh才是反过一个接测文本嘛
才是反过一个接测文本嘛
4:52.740–4:53.940
zh是可以解析的
是可以解析的
4:53.940–4:55.420
zh所以我们总结来的话
所以我们总结来的话
4:55.420–4:57.440
zh总结来这个这个这个这个模型
总结来这个这个这个这个模型
4:57.440–5:00.300
zh它的输入就是state加预定的question
它的输入就是state加预定的question
5:00.300–5:02.460
zh然后呢输出一个回答对象
然后呢输出一个回答对象
5:02.460–5:03.480
zh是这样子
是这样子
5:03.480–5:06.260
zh好那么它的输出呢有三种类型啊
好那么它的输出呢有三种类型啊
5:06.260–5:07.780
zh第一种类型呢是no啊
第一种类型呢是no啊
5:07.780–5:09.500
zh只有三种类型啊
只有三种类型啊
5:09.500–5:11.060
zh第一个是no啊
第一个是no啊
5:11.060–5:12.200
zhno是一个概率类型
no是一个概率类型
5:12.200–5:13.980
zh这个类型有什么特点呢
这个类型有什么特点呢
5:13.980–5:15.560
zh也就是不完类型判断
也就是不完类型判断
5:15.560–5:17.760
zh它是返回0到1的伏点数
它是返回0到1的伏点数
5:17.760–5:19.960
zh数值代表成立概率
数值代表成立概率
5:19.960–5:23.220
zh无需单独设置置信度
无需单独设置置信度
5:23.220–5:24.960
zh这段数字即为置信度
这段数字即为置信度
5:24.960–5:26.180
zh好 我们来看一下
好 我们来看一下
5:26.180–5:28.520
zh就是它返回一个什么样的东西
就是它返回一个什么样的东西
5:28.520–5:31.480
zh这里是它返回的一个结构的一个实例
这里是它返回的一个结构的一个实例
5:31.480–5:33.280
zh因为我先说过
因为我先说过
5:33.280–5:35.060
zh它其实是它的使用
它其实是它的使用
5:35.060–5:36.580
zh它使用的方式
它使用的方式
5:36.580–5:38.880
zh其实跟contract GPT
其实跟contract GPT
5:38.880–5:40.180
zh跟GPT还是有些区别
跟GPT还是有些区别
5:40.180–5:40.680
zh对吧
对吧
5:40.680–5:43.840
zh通常是以结构的方式对外使用
通常是以结构的方式对外使用
5:43.840–5:45.840
zh你直接给他一个
你直接给他一个
5:45.840–5:46.840
zh你直接呢
你直接呢
5:46.840–5:50.840
zh通过这个机构的方式提供这个task需要的内容
通过这个机构的方式提供这个task需要的内容
5:50.840–5:52.840
zhstate和这个question
state和这个question
5:52.840–5:55.840
zh然后他返回的是一个json的这样一个sultrime
然后他返回的是一个json的这样一个sultrime
5:55.840–5:56.840
zh这个sultrime里面呢
这个sultrime里面呢
5:56.840–5:57.840
zh有两个重要的东西
有两个重要的东西
5:57.840–5:59.840
zh第一个就是类型
第一个就是类型
5:59.840–6:00.840
zh类型就是no
类型就是no
6:00.840–6:02.840
zh它是概率类型
它是概率类型
6:02.840–6:05.840
zh然后这个呢就是它的这个值
然后这个呢就是它的这个值
6:05.840–6:06.840
en0.95
0.95
6:06.840–6:07.840
zh我们前面说过
我们前面说过
6:07.840–6:10.840
zh它这里是0到1的这么一个伏点数
它这里是0到1的这么一个伏点数
6:10.840–6:11.840
zh对不对
对不对
6:11.840–6:14.280
zh那么这个0.9.5其实就是表示一个概率
那么这个0.9.5其实就是表示一个概率
6:14.280–6:16.040
zh大家可以反而看作是一个概率
大家可以反而看作是一个概率
6:16.640–6:18.800
zh那么这个时候同学就会问了
那么这个时候同学就会问了
6:18.800–6:19.880
zh这个这里有什么用呢
这个这里有什么用呢
6:20.080–6:20.600
zh对吧
对吧
6:20.600–6:22.240
zh嗯反正0.95是吧
嗯反正0.95是吧
6:22.440–6:24.000
zh其实场景是非常多的
其实场景是非常多的
6:24.000–6:24.680
zh比如说
比如说
6:25.880–6:27.640
zh检测用户退款对不对
检测用户退款对不对
6:27.840–6:29.000
zh检测用户退款的话
检测用户退款的话
6:29.000–6:29.800
zh其实呢
其实呢
6:30.000–6:30.600
zh这个东西啊
这个东西啊
6:30.600–6:32.680
zh当然你用XenGPT其实也可以回答
当然你用XenGPT其实也可以回答
6:32.680–6:33.280
zh是不是
是不是
6:33.400–6:35.280
zh你丢给一个啊
你丢给一个啊
6:35.280–6:37.800
zh就是用户的这个用户的信息啊
就是用户的这个用户的信息啊
6:38.200–6:39.680
zh直接给到这个GPT
直接给到这个GPT
6:39.680–6:41.000
zh他也可以回答
他也可以回答
6:41.000–6:43.000
zh说这个用户到底会不会退款
说这个用户到底会不会退款
6:43.000–6:43.600
zh对不对
对不对
6:43.900–6:45.000
zh但是呢其实呢
但是呢其实呢
6:45.300–6:46.700
zh那个东西有点什么
那个东西有点什么
6:46.800–6:48.500
zh有点这个杀鸡又牛肉的感觉
有点这个杀鸡又牛肉的感觉
6:48.500–6:50.200
zh其实这种需求呢
其实这种需求呢
6:50.200–6:52.200
zh其实有更简单的方式去实现
其实有更简单的方式去实现
6:52.200–6:55.100
zh就是所谓的Jell这种方式对吧
就是所谓的Jell这种方式对吧
6:55.400–6:57.500
zh那么检测用户退款请求
那么检测用户退款请求
6:57.500–6:59.600
zh这用户呢可能是一个信息发过来
这用户呢可能是一个信息发过来
6:59.800–7:02.100
zh那么给到Jell这个模型
那么给到Jell这个模型
7:02.200–7:03.100
zh那么Jell呢
那么Jell呢
7:03.500–7:06.100
zh直接就回答一个概率就可以了
直接就回答一个概率就可以了
7:06.400–7:07.200
zh比如说
比如说
7:07.600–7:08.800
zh用户呢不会退款
用户呢不会退款
7:08.800–7:10.000
zh他就可能就返回给你
他就可能就返回给你
7:10.000–7:10.500
zh对不对
对不对
7:10.500–7:11.000
zh如果会退款
如果会退款
7:11.000–7:12.100
zh那么就返回这个
那么就返回这个
7:12.100–7:14.380
zh比如说0.9或者1就可以了
比如说0.9或者1就可以了
7:14.380–7:14.880
zh对不对
对不对
7:14.880–7:18.600
zh那么这样子其实非常方便的解决这个问题
那么这样子其实非常方便的解决这个问题
7:18.600–7:20.580
zh那么它这个
那么它这个
7:20.580–7:22.980
zh它的成本会远远的低于这个
它的成本会远远的低于这个
7:22.980–7:24.280
zh用GPT来解决这个问题
用GPT来解决这个问题
7:24.280–7:27.820
zh而且这个速度也会快很多
而且这个速度也会快很多
7:27.820–7:30.460
zh它的这个延迟的时间是500毫秒
它的这个延迟的时间是500毫秒
7:30.460–7:33.440
zh它那个GPT那是几秒钟
它那个GPT那是几秒钟
7:33.440–7:33.940
zh对不对
对不对
7:33.940–7:35.920
zh所以它用它这种方式来解决
所以它用它这种方式来解决
7:35.920–7:36.520
zh这个问题的话
这个问题的话
7:36.520–7:38.440
zh其实是成本更低
其实是成本更低
7:38.440–7:40.000
zh然后那速度呢更好
然后那速度呢更好
7:40.000–7:41.340
zh是不是速度更快
是不是速度更快
7:41.340–7:42.080
zh效率更高
效率更高
7:42.942–7:46.942
zh然後我們再來看第二個類型,就是Close類型。
然後我們再來看第二個類型,就是Close類型。
7:46.942–7:48.942
zh這個什麼意思呢?
這個什麼意思呢?
7:48.942–7:50.192
zh也就是說,
也就是說,
7:50.192–7:53.442
zh我們在去提供上下文的時候,
我們在去提供上下文的時候,
7:53.442–7:56.942
zh其實是會帶好幾個選項過去的。
其實是會帶好幾個選項過去的。
7:56.942–7:58.222
zh然后呢
然后呢
7:58.222–8:00.542
zh这个这个模型说到这个
这个这个模型说到这个
8:00.542–8:03.722
zh这个上下和和这个问题之后呢
这个上下和和这个问题之后呢
8:03.722–8:06.182
zh他会选择其中的一个来作为回答
他会选择其中的一个来作为回答
8:06.182–8:07.942
zh就是做选择题嘛
就是做选择题嘛
8:07.942–8:09.082
zh就ABC第四个选项
就ABC第四个选项
8:09.082–8:10.382
zh他选一个告诉你
他选一个告诉你
8:10.382–8:11.602
zh好那么其实这个呢
好那么其实这个呢
8:11.602–8:12.682
zh就是他换回的结果
就是他换回的结果
8:12.682–8:14.882
zh假设他这个提供的选项
假设他这个提供的选项
8:14.882–8:16.942
zh有三个选项啊
有三个选项啊
8:16.942–8:17.782
zh一个是binim
一个是binim
8:17.782–8:20.302
zh这个是结算
这个是结算
8:20.302–8:21.522
zh然后这个是技术
然后这个是技术
8:21.522–8:22.502
zh然后是销售
然后是销售
8:22.502–8:24.202
zh就是三百三个部门啊
就是三百三个部门啊
8:24.202–8:25.182
zh对吧
对吧
8:25.182–8:26.762
zh然后这里面他会选一个
然后这里面他会选一个
8:26.762–8:29.002
zh他选择这个billion这个部门
他选择这个billion这个部门
8:29.002–8:30.302
zh就他选一个
就他选一个
8:30.302–8:31.122
zh你给他三个选项
你给他三个选项
8:31.122–8:31.882
zh他选一个出来
他选一个出来
8:31.882–8:33.682
zh那这有时候这个东西
那这有时候这个东西
8:33.682–8:36.702
zh哪里有这个场景多不多呢
哪里有这个场景多不多呢
8:36.702–8:37.622
zh这个很多嘛
这个很多嘛
8:37.622–8:38.122
zh对不对
对不对
8:38.122–8:39.662
zh很多重要的场景
很多重要的场景
8:39.662–8:41.402
zh比如说这个三件商品
比如说这个三件商品
8:41.402–8:42.102
zh让他选一个
让他选一个
8:42.102–8:42.602
zh是不是
是不是
8:42.602–8:44.442
zh那其实这种场景是非常多的
那其实这种场景是非常多的
8:44.442–8:44.942
zh是不是
是不是
8:44.942–8:46.422
zhOK我们来看一下
OK我们来看一下
8:46.422–8:47.002
zh这个关键
这个关键
8:47.002–8:49.242
zh只有关键的这个字段
只有关键的这个字段
8:49.242–8:50.902
zh这个是truth
这个是truth
8:50.902–8:52.562
zh就是概率最高的选项名称
就是概率最高的选项名称
8:52.562–8:53.262
zh就这个
就这个
8:53.262–8:55.042
zh就概率最高的
就概率最高的
8:55.042–8:57.022
zh他选一个出来
他选一个出来
8:57.022–8:58.142
zh就是ABCD四个选项
就是ABCD四个选项
8:58.142–8:58.822
zh他选一个出来
他选一个出来
8:58.822–9:01.402
zh他说不一定是ABCD四个选项
他说不一定是ABCD四个选项
9:01.402–9:03.322
zh他最多可以255个选项
他最多可以255个选项
9:03.322–9:04.542
zh选项可以很多
选项可以很多
9:04.542–9:05.722
zh你把它列出来
你把它列出来
9:05.722–9:07.202
zh他会选一个出来
他会选一个出来
9:07.202–9:08.922
zh然后这个呢
然后这个呢
9:08.922–9:10.942
zh就是概率的总和
就是概率的总和
9:10.942–9:14.982
zh就是所有或选项的完整的概率分布
就是所有或选项的完整的概率分布
9:14.982–9:17.082
zh那如果说是255个选项呢
那如果说是255个选项呢
9:17.082–9:20.462
zh那么就会列出255个选项
那么就会列出255个选项
9:20.462–9:21.342
zh每一个选项的概率
每一个选项的概率
9:21.342–9:24.162
zh那么这个trose这里呢
那么这个trose这里呢
9:24.162–9:25.462
zh其实概念最高的那一个
其实概念最高的那一个
9:25.462–9:27.522
zh那么这个是confidence
那么这个是confidence
9:27.522–9:28.482
zh自信度啊
自信度啊
9:28.482–9:30.982
zh模型对本次分类结果的自信度
模型对本次分类结果的自信度
9:30.982–9:32.642
zh那么数值越高呢
那么数值越高呢
9:32.642–9:34.162
zh就分类呢越确定
就分类呢越确定
9:34.162–9:36.202
zh好那我们看一下这个自信度是0.8
好那我们看一下这个自信度是0.8
9:36.202–9:37.442
zh对吧这是比较高的
对吧这是比较高的
9:37.442–9:39.802
zh是不是当然我们在进行
是不是当然我们在进行
9:39.802–9:41.122
zh决策的时候呢
决策的时候呢
9:41.122–9:43.322
zh你可以跟这个自信度来进行
你可以跟这个自信度来进行
9:43.322–9:44.542
zh评估哈
评估哈
9:44.542–9:46.722
zh就是如果自信度高于0.8
就是如果自信度高于0.8
9:46.722–9:48.242
zh或者说高于0.7
或者说高于0.7
9:48.242–9:50.242
zh我们就可以选择这样的一个结果
我们就可以选择这样的一个结果
9:50.242–9:52.262
zh就是所谓的决策模型的
就是所谓的决策模型的
9:52.262–9:53.662
zh价值在这里面
价值在这里面
9:54.162–9:56.162
zh好让我们再看第三个啊
好让我们再看第三个啊
9:56.162–9:57.162
zh就是score啊
就是score啊
9:57.162–9:58.522
zh打分啊
打分啊
9:58.522–9:59.342
zh打个分数
打个分数
9:59.342–10:00.782
zh啊
啊
10:00.782–10:02.362
zh那么它的特点就是连续打分
那么它的特点就是连续打分
10:02.362–10:04.102
zh各级别概率分布啊
各级别概率分布啊
10:04.102–10:05.162
zhconfidence 知性度
confidence 知性度
10:05.162–10:07.262
zh我们来看一下这个结果啊
我们来看一下这个结果啊
10:07.262–10:07.762
zh那么
那么
10:07.762–10:10.022
zh通常它会去
通常它会去
10:10.022–10:12.002
zh比如说你给它三个选项啊
比如说你给它三个选项啊
10:12.002–10:12.622
zh你给它一个问
你给它一个问
10:12.622–10:14.142
zh就是说你给给问
就是说你给给问
10:14.142–10:15.622
zh给上下文给问题
给上下文给问题
10:15.622–10:16.842
zh然后提供选项
然后提供选项
10:16.842–10:18.602
zh好那么它反而结果里面呢
好那么它反而结果里面呢
10:18.602–10:20.382
zh它就会对三个选项呢
它就会对三个选项呢
10:20.382–10:21.682
zh每个选项打一个分数
每个选项打一个分数
10:21.682–10:22.602
zh我们来看一下啊
我们来看一下啊
10:22.602–10:23.322
zh好
好
10:23.322–10:24.262
zh它的分数是
它的分数是
10:24.262–10:26.462
zh非诊数打分值
非诊数打分值
10:26.462–10:27.322
zh这个是I.86
这个是I.86
10:27.322–10:27.822
zh对不对
对不对
10:27.822–10:29.022
zh知情度是0.94
知情度是0.94
10:29.022–10:32.322
zh然后它提供了三个选项
然后它提供了三个选项
10:32.322–10:33.622
zh这三个选项
这三个选项
10:33.622–10:34.202
zh评鉴
评鉴
10:34.202–10:35.322
zh轻微不满
轻微不满
10:35.322–10:35.822
zh生气
生气
10:35.822–10:37.502
zh极度愤怒
极度愤怒
10:37.502–10:38.002
zh对吧
对吧
10:38.002–10:39.222
zh好上面就是分数
好上面就是分数
10:39.222–10:41.182
zh这个第一个评鉴
这个第一个评鉴
10:41.182–10:41.962
zh就是0.0分
就是0.0分
10:41.962–10:42.622
zh就是不评鉴
就是不评鉴
10:42.622–10:43.242
zh对吧
对吧
10:43.242–10:43.742
enOK
OK
10:43.742–10:45.202
zh这里是0.0爱
这里是0.0爱
10:45.202–10:46.622
zh这个轻微不满
这个轻微不满
10:46.622–10:48.342
zh对应的分数是0.0爱
对应的分数是0.0爱
10:48.342–10:49.962
zh然后这个是0.1
然后这个是0.1
10:49.962–10:50.822
zh好
好
10:50.822–10:51.502
zh这个生气
这个生气
10:51.502–10:52.682
zh然后极度愤怒
然后极度愤怒
10:52.682–10:53.742
zh是年点88
是年点88
10:53.742–10:55.042
zh那么这个分数最高了
那么这个分数最高了
10:55.042–10:55.542
zh对不对
对不对
10:55.542–10:57.922
zh那如果说你是基于这个分数来进行
那如果说你是基于这个分数来进行
10:57.922–10:58.422
zh啊
啊
10:58.422–10:58.982
zh决策的话
决策的话
10:58.982–11:00.462
zh那么你可能会选这个是不是
那么你可能会选这个是不是
11:00.462–11:01.162
zh啊
啊
11:01.162–11:02.482
zh这个其实就是对于
这个其实就是对于
11:02.482–11:03.462
zh多个选项
多个选项
11:03.462–11:04.622
zh进行打一个分数
进行打一个分数
11:04.622–11:05.282
zh啊
啊
11:05.282–11:06.582
zh这个其实也是长期很多
这个其实也是长期很多
11:06.582–11:07.082
zh啊
啊
11:07.082–11:08.282
zh这个是
这个是
11:08.282–11:08.862
zh呃
呃
11:08.862–11:10.902
zh我们的Jill这个模型啊
我们的Jill这个模型啊
11:10.902–11:11.402
zh它的
它的
11:11.402–11:14.262
zh返回结果的三个可能性
返回结果的三个可能性
11:14.262–11:15.362
zhOK啊
OK啊
11:15.362–11:16.102
zh三种结果
三种结果
11:16.102–11:17.342
zh好
好
11:17.342–11:18.362
zh那么先怎么总结一下
那么先怎么总结一下
11:18.362–11:20.902
zhJill输出的关键的特性啊
Jill输出的关键的特性啊
11:20.902–11:22.082
zh第二点就是
第二点就是
11:22.082–11:23.002
zh年文本幻觉
年文本幻觉
11:23.002–11:25.162
zh它输出结构是强制约定的
它输出结构是强制约定的
11:25.162–11:26.342
zh宁格式错误
宁格式错误
11:26.342–11:27.302
zh不乱增自断
不乱增自断
11:27.302–11:29.842
zh然后是拼尿变形计算的
然后是拼尿变形计算的
11:29.842–11:31.382
zh一次请就变形处理所有
一次请就变形处理所有
11:31.382–11:34.742
zh然后校准级概念
然后校准级概念
11:34.742–11:36.302
zh直接预计分支
直接预计分支
11:36.302–11:38.262
zh那么低分支可以人工复制
那么低分支可以人工复制
11:38.262–11:40.222
zh它会有一个知性度给你
它会有一个知性度给你
11:40.222–11:41.442
zh然后输出你的费用
然后输出你的费用
11:41.442–11:44.262
zh它这个模型输出是不收费的
它这个模型输出是不收费的
11:44.262–11:45.962
zh你用它这个模型输出是不收费的
你用它这个模型输出是不收费的
11:45.962–11:48.482
zh而且输入的成本也是非常低
而且输入的成本也是非常低
11:48.482–11:50.902
zh它是我们使用
它是我们使用
11:50.902–11:54.842
zhGPT的成本大概就是100万Token
GPT的成本大概就是100万Token
11:54.842–11:55.342
zh对吧
对吧
11:55.342–11:55.842
zh就一兆
就一兆
11:55.842–11:58.922
zh大概就是10美元
大概就是10美元
11:58.922–12:00.002
zh10美元
10美元
12:00.002–12:01.142
zh那么他这个
那么他这个
12:01.142–12:03.922
zh大概就是100万
大概就是100万
12:03.922–12:12.342
zh大概就是0.0.4万美元
大概就是0.0.4万美元
12:12.342–12:14.062
zh就是他这个10美元
就是他这个10美元
12:14.062–12:15.282
zh他这个年纪年4万美元
他这个年纪年4万美元
12:15.282–12:17.142
zh所以他的成本低很多
所以他的成本低很多
12:17.142–12:19.522
zh那么也就是说
那么也就是说
12:19.522–12:21.682
zh我们在实际上面进行
我们在实际上面进行
12:21.682–12:23.842
zh在做应用的时候呢
在做应用的时候呢
12:23.842–12:25.742
zh那么其实就给了我们很多的选择
那么其实就给了我们很多的选择
12:25.742–12:28.542
zh有些场景其实并不完全需要
有些场景其实并不完全需要
12:28.542–12:31.242
zh由GPT或者说
由GPT或者说
12:31.242–12:33.122
zhClose这种模型来进行处理
Close这种模型来进行处理
12:33.122–12:34.922
zh我们完全可以把它交给什么
我们完全可以把它交给什么
12:34.922–12:37.082
zh交给我们的JP这种模型来处理
交给我们的JP这种模型来处理
12:37.082–12:37.582
zh对不对
对不对
12:37.582–12:39.502
zh所以他们这其实是这样写的关系
所以他们这其实是这样写的关系
12:39.502–12:42.802
zh并不是说替代的关系
并不是说替代的关系
12:42.802–12:43.562
zh并不是这样子
并不是这样子
12:43.562–12:46.642
zh好那么接下来我们给大家看一个案例
好那么接下来我们给大家看一个案例
12:46.642–12:47.842
zh就是到底它是怎么用的
就是到底它是怎么用的
12:47.842–12:48.342
zh这个东西
这个东西
12:48.342–12:49.382
zh我们来看一下
我们来看一下
12:49.382–12:51.042
zh官网上面提供了一个案例
官网上面提供了一个案例
12:51.042–12:52.702
zh我们直接来看到官网就可以了
我们直接来看到官网就可以了
12:52.702–12:53.202
zh好吧
好吧
12:53.202–12:54.382
zh就是汉缩入门
就是汉缩入门
12:54.382–12:56.882
zh大家可以到这个网站
大家可以到这个网站
12:56.882–12:59.042
zh去看一下它的官网上面提供了一个案例
去看一下它的官网上面提供了一个案例
12:59.042–13:00.362
zh那么当然首先呢
那么当然首先呢
13:00.362–13:02.382
zh我们需要去申请
我们需要去申请
13:02.382–13:03.022
zh申请
申请
13:03.022–13:04.142
zh如果说你要使用的话
如果说你要使用的话
13:04.142–13:07.862
zh你需要到它的控制台去申请一个API-KIT
你需要到它的控制台去申请一个API-KIT
13:07.862–13:10.182
zh申请还是比较容易的
申请还是比较容易的
13:10.182–13:10.822
enOK
OK
13:10.822–13:13.862
zh然后得到一个接口之后呢
然后得到一个接口之后呢
13:13.862–13:16.262
zh你就可以来进行使用了
你就可以来进行使用了
13:16.262–13:17.142
zh好
好
13:17.142–13:17.802
zh那么这里呢
那么这里呢
13:17.802–13:22.562
zh是CURL这个方式来去发行一个请求
是CURL这个方式来去发行一个请求
13:22.802–13:24.802
zh你需要提供的是一个API-K
你需要提供的是一个API-K
13:25.102–13:26.102
zh这是它的接口
这是它的接口
13:26.902–13:28.402
zh然后你提供哪些数据呢
然后你提供哪些数据呢
13:28.402–13:29.502
zh这个数据是State
这个数据是State
13:29.602–13:31.602
zh大家可以把State看作是上线文
大家可以把State看作是上线文
13:32.002–13:32.602
enOK
OK
13:32.802–13:34.302
zh这个是它的上线文
这个是它的上线文
13:34.302–13:35.102
zh是在英文是吧
是在英文是吧
13:35.102–13:36.602
zh我们把它翻译一下
我们把它翻译一下
13:36.602–13:37.502
zh什么意思
什么意思
13:39.002–13:39.502
enOK
OK
13:41.402–13:41.902
zh好
好
13:41.902–13:43.102
zh这个上线文是这样子
这个上线文是这样子
13:43.102–13:43.602
zh你好
你好
13:43.602–13:45.902
zh我已经尝试您借我的strip账户三天了
我已经尝试您借我的strip账户三天了
13:45.902–13:47.102
zh但其实一直失败
但其实一直失败
13:47.102–13:48.742
zh我的销售正在锦上
我的销售正在锦上
13:49.102–13:51.142
zh请尽快帮我帮助我
请尽快帮我帮助我
13:51.142–13:51.662
zh对吧
对吧
13:51.662–13:52.162
zh这个东西
这个东西
13:52.162–13:53.742
zh这个内容应该是一个
这个内容应该是一个
13:54.302–13:56.142
zh是一个street的客户是吧
是一个street的客户是吧
13:56.142–13:57.942
zh在在咨询对吧
在在咨询对吧
13:57.942–13:59.462
zh在向客户进行咨询啊
在向客户进行咨询啊
13:59.462–14:00.462
zh或者说储藏
或者说储藏
14:00.742–14:01.702
zh储藏这么一个信息啊
储藏这么一个信息啊
14:01.702–14:02.262
enok
ok
14:02.262–14:02.762
zh好
好
14:02.762–14:03.362
zh现在我们来看一下啊
现在我们来看一下啊
14:03.862–14:04.462
zh这个模型呢
这个模型呢
14:04.462–14:06.302
zh是Jill latest的这个模型
是Jill latest的这个模型
14:06.302–14:07.342
zh然后问题是什么呢
然后问题是什么呢
14:08.342–14:09.542
zh问题是这样子啊
问题是这样子啊
14:09.862–14:10.862
zh在下面啊
在下面啊
14:11.462–14:12.502
zh这个是那个类型
这个是那个类型
14:13.022–14:16.142
zh就是你希望用什么类型来回复你这个问题啊
就是你希望用什么类型来回复你这个问题啊
14:16.222–14:17.062
zh是no 是吧
是no 是吧
14:17.102–14:18.442
zh也就是给个概率就可以了
也就是给个概率就可以了
14:18.442–14:19.822
zh我们看一下的问题是什么
我们看一下的问题是什么
14:19.822–14:22.402
zh这个信息的紧迫度
这个信息的紧迫度
14:22.402–14:25.922
zh就是表达一下信息的紧迫度
就是表达一下信息的紧迫度
14:25.922–14:29.082
zh这个内容的紧迫度是什么样子
这个内容的紧迫度是什么样子
14:29.082–14:29.582
zh对不对
对不对
14:29.582–14:30.522
zh那么然后这个时候
那么然后这个时候
14:30.522–14:33.582
zh这个模型回复一个概率
这个模型回复一个概率
14:33.582–14:38.062
zh年到一这样的一个分值过来
年到一这样的一个分值过来
14:38.062–14:38.862
zh一个概率过来
一个概率过来
14:38.862–14:40.922
zh如果说这个值是一的话
如果说这个值是一的话
14:40.922–14:41.562
zh那么说明什么
那么说明什么
14:41.562–14:43.122
zh说明这个紧迫度是很高的
说明这个紧迫度是很高的
14:43.122–14:43.622
zh对不对
对不对
14:43.622–14:44.502
zh如果是0.95的话
如果是0.95的话
14:44.502–14:45.902
zh这个紧迫度也是很高的
这个紧迫度也是很高的
14:45.902–14:46.902
zh好
好
14:46.902–14:47.702
zh然后我们再来看一下
然后我们再来看一下
14:47.702–14:49.242
zh那其他的这种
那其他的这种
14:49.242–14:51.462
zh这个案例啊
这个案例啊
14:51.462–14:52.342
zh如果说我们是
如果说我们是
14:52.342–14:54.142
zh写代码掉结果
写代码掉结果
14:54.142–14:55.902
zh那么我们自己在代码里面
那么我们自己在代码里面
14:55.902–14:57.102
zh就要这样来写啊
就要这样来写啊
14:57.102–14:57.602
zh好
好
14:57.602–14:58.102
zh那么同样的
那么同样的
14:58.102–14:58.722
zh它的这个
它的这个
14:58.722–15:00.502
zh上下文还是这个啊
上下文还是这个啊
15:00.502–15:01.662
zh还是这个来举例啊
还是这个来举例啊
15:01.662–15:02.902
zh我们看一下它的模型
我们看一下它的模型
15:02.902–15:04.002
zh是Jolatist
是Jolatist
15:04.002–15:05.122
zh好
好
15:05.122–15:06.422
zh那么这个下面是问题啊
那么这个下面是问题啊
15:06.422–15:07.942
zh它其实是什么呢
它其实是什么呢
15:07.942–15:08.502
zh呃
呃
15:08.502–15:10.522
zh它是它什么
它是它什么
15:10.522–15:12.662
zh它其实是一个一个上下文
它其实是一个一个上下文
15:12.662–15:14.202
zh它其实是问了三个问题啊
它其实是问了三个问题啊
15:14.202–15:14.782
zh问了三个问题
问了三个问题
15:14.782–15:17.262
zh其实用三种类型来问好
其实用三种类型来问好
15:17.262–15:18.402
zh这个是choose
这个是choose
15:18.402–15:19.842
enchoose ok
choose ok
15:19.842–15:21.042
zh这个呢就是它的问题
这个呢就是它的问题
15:21.042–15:22.102
zh哪一个团队呢
哪一个团队呢
15:22.102–15:24.202
zh来处理这样的一个事情
来处理这样的一个事情
15:24.202–15:24.702
zh对吧
对吧
15:24.702–15:25.662
zh提供了三个选项
提供了三个选项
15:25.662–15:27.362
zh这个是结算这个团队
这个是结算这个团队
15:27.362–15:28.262
zh这个是技术这个团队
这个是技术这个团队
15:28.262–15:29.202
zh这个销售这个团队
这个销售这个团队
15:29.202–15:30.882
zh这提供了三个选项
这提供了三个选项
15:31.597–15:34.597
zh因為我們說過,truth嘛,對不對?
因為我們說過,truth嘛,對不對?
15:34.597–15:37.597
zh你是要大模型給你做選擇,所以你提供這個選項給他。
你是要大模型給你做選擇,所以你提供這個選項給他。
15:37.597–15:40.597
zh像ABCD,做選擇題,是這樣子。
像ABCD,做選擇題,是這樣子。
15:40.597–15:45.597
zh好,我們看第二個,就是分數,score,使用這個類型來進行回答。
好,我們看第二個,就是分數,score,使用這個類型來進行回答。
15:45.597–15:47.797
zh回答好那么他是什么呢
回答好那么他是什么呢
15:47.797–15:51.477
zh呃这个现在这个客户的这个什么啊
呃这个现在这个客户的这个什么啊
15:51.477–15:54.777
zh失望度呢怎么样对吗啊啊
失望度呢怎么样对吗啊啊
15:54.777–15:55.697
zh什么怎么样啊OK
什么怎么样啊OK
15:55.697–15:57.697
zh他同样的提供了三个什么呢
他同样的提供了三个什么呢
15:57.697–15:59.377
zh三种可能啊
三种可能啊
15:59.377–16:00.537
zh第一个呢就是冷静
第一个呢就是冷静
16:00.537–16:01.917
zh第二个呢是失望
第二个呢是失望
16:01.917–16:03.937
zh而第三个是非常生气
而第三个是非常生气
16:03.937–16:05.277
zh就是你要根据什么
就是你要根据什么
16:05.277–16:09.977
zh根据这个上下文来去对于这三个描述进行打分
根据这个上下文来去对于这三个描述进行打分
16:09.977–16:11.137
zh打分
打分
16:11.137–16:13.637
zhOK好我们再看第三个啊
OK好我们再看第三个啊
16:13.637–16:15.217
zh第三个就是什么呢
第三个就是什么呢
16:15.597–16:19.197
zh那Noah这种类型其实就是
那Noah这种类型其实就是
16:19.197–16:20.997
zh概率对吧是概率这个
概率对吧是概率这个
16:20.997–16:24.197
zh那么也就是说你的问题一定是跟概率相关的是吧
那么也就是说你的问题一定是跟概率相关的是吧
16:24.197–16:26.197
zh这个信息它到底
这个信息它到底
16:26.197–16:29.597
zh也表示了它多么紧迫对吧
也表示了它多么紧迫对吧
16:29.597–16:31.797
zhok 那么这个时候你回答一个概率就可以了
ok 那么这个时候你回答一个概率就可以了
16:31.797–16:33.397
zh好 我们再来看一下它的回答
好 我们再来看一下它的回答
16:33.397–16:36.397
zh因为你这里是三个类型的问题对吧
因为你这里是三个类型的问题对吧
16:36.397–16:36.997
zh三个类型的问题
三个类型的问题
16:36.997–16:38.597
zh所以它的回答也是三个类型的
所以它的回答也是三个类型的
16:38.597–16:40.197
zh我们看choose
我们看choose
16:40.197–16:41.397
zhchoose就是
choose就是
16:41.397–16:43.597
zh它首先要做出一个选择对吧
它首先要做出一个选择对吧
16:43.597–16:45.937
zhABCD要选一个选一个选一个答案
ABCD要选一个选一个选一个答案
16:45.937–16:46.737
zh对不对啊
对不对啊
16:46.737–16:48.337
zh但是结果是技术部门是吧
但是结果是技术部门是吧
16:48.337–16:50.097
zh技术部门来处理这个问题啊
技术部门来处理这个问题啊
16:50.097–16:51.757
zh之前都是0.78啊
之前都是0.78啊
16:51.757–16:54.157
zh然后当然他也会给三个选项呢
然后当然他也会给三个选项呢
16:54.157–16:55.457
zh每一个打一个分数啊
每一个打一个分数啊
16:56.657–16:59.497
zh我们看第二个第二个问题
我们看第二个第二个问题
17:00.397–17:01.657
zh第二个问题是打分对吧
第二个问题是打分对吧
17:02.237–17:03.237
zh打分啊打分的话
打分啊打分的话
17:03.237–17:05.997
zh他会对于三个情绪啊
他会对于三个情绪啊
17:05.997–17:08.257
zh但见到打分那很明显啊
但见到打分那很明显啊
17:08.257–17:09.457
zh这个呢呃
这个呢呃
17:09.457–17:12.037
zh第二个情绪他的这个分值是会高的
第二个情绪他的这个分值是会高的
17:12.037–17:14.557
zh也就是他当前的用户所表达这个情绪
也就是他当前的用户所表达这个情绪
17:14.557–17:15.517
zh应该是这个是吧
应该是这个是吧
17:16.597–17:17.117
zh啊
啊
17:17.157–17:17.797
zh是这个
是这个
17:18.357–17:19.237
zh这个情绪啊
这个情绪啊
17:20.357–17:21.557
zh好我们看最后这个啊
好我们看最后这个啊
17:21.997–17:23.477
zh最后这个是要表
最后这个是要表
17:23.477–17:25.197
zh要是输出一个概率是不是
要是输出一个概率是不是
17:25.197–17:26.277
zh然后直接给了一个概率是不是
然后直接给了一个概率是不是
17:26.277–17:27.237
zh这个最简单的啊
这个最简单的啊
17:27.237–17:29.517
zh一点点说明这个事情的紧迫度啊
一点点说明这个事情的紧迫度啊
17:29.517–17:30.597
zh是非常非常大的
是非常非常大的
17:30.597–17:31.157
zh对不对
对不对
17:31.317–17:32.317
zh这个其实就是
这个其实就是
17:32.597–17:33.597
zhJayv这个模型啊
Jayv这个模型啊
17:33.597–17:34.917
zh使用的这个
使用的这个
17:35.197–17:36.477
zh这样的一个方式啊
这样的一个方式啊
17:36.477–17:37.597
zh其实就是掉接口
其实就是掉接口
17:37.597–17:38.317
zh然后呢
然后呢
17:38.317–17:38.817
zh啊
啊
17:38.817–17:39.317
zh接口里面呢
接口里面呢
17:39.317–17:41.077
zh需要描述你的这个问题
需要描述你的这个问题
17:41.077–17:43.077
zh其实需要提供一个上下文啊
其实需要提供一个上下文啊
17:43.077–17:44.677
zh把你的这个情况给交代啊
把你的这个情况给交代啊
17:44.677–17:46.837
zh这个做用gp
这个做用gp
17:46.837–17:47.837
zh用chat gpt
用chat gpt
17:47.837–17:48.837
zhgpt或者glowd
gpt或者glowd
17:48.837–17:49.337
zh都是一样的
都是一样的
17:49.337–17:50.637
zh要提供一个上下文对不对
要提供一个上下文对不对
17:50.637–17:51.637
zh然后就是问题
然后就是问题
17:51.637–17:54.637
zh如果说是truth或者说score
如果说是truth或者说score
17:54.637–17:56.517
zh那么还需要提供这个选项
那么还需要提供这个选项
17:56.877–17:57.637
zh啊OK
啊OK
17:57.637–17:58.757
zh那么结果呢
那么结果呢
17:58.757–18:00.277
zh就对方就会提供一个
就对方就会提供一个
18:00.517–18:02.437
zh啊json的这样的一个结果化的
啊json的这样的一个结果化的
18:02.437–18:04.277
zh一个字符传给到我们啊
一个字符传给到我们啊
18:04.277–18:04.917
zh他这个时候
他这个时候
18:04.917–18:05.637
zh大家就会问了
大家就会问了
18:05.637–18:07.277
zh这这东西到底有什么用对吧
这这东西到底有什么用对吧
18:07.277–18:08.637
zh能用在哪个地方
能用在哪个地方
18:08.917–18:10.917
zh啊好像没有这个chat gpt
啊好像没有这个chat gpt
18:10.917–18:11.877
zh这种这么方便
这种这么方便
18:11.877–18:13.537
zh什么都可以问
什么都可以问
18:13.537–18:15.097
zh然后他多给你一个回复
然后他多给你一个回复
18:15.097–18:15.597
zh是不是
是不是
18:15.597–18:18.377
zh但其实这个场景是非常多的
但其实这个场景是非常多的
18:18.377–18:19.697
zh我们来看一下他的场景
我们来看一下他的场景
18:19.697–18:21.697
zh其实很多时候
其实很多时候
18:21.697–18:23.977
zh其实并不需要用GPT这种模型
其实并不需要用GPT这种模型
18:23.977–18:25.877
zh因为他成本太高了
因为他成本太高了
18:25.877–18:27.077
zh第一个就是成本高
第一个就是成本高
18:27.077–18:27.617
zh第二个就是什么
第二个就是什么
18:27.617–18:30.577
zh就是他的延时太高了
就是他的延时太高了
18:30.577–18:32.517
zh就是处理一个问题要好几秒
就是处理一个问题要好几秒
18:32.517–18:34.357
zh他这个几百毫秒就能解决
他这个几百毫秒就能解决
18:34.357–18:34.857
zh是不是
是不是
18:34.857–18:36.177
zh所以我们这个时候来看一下
所以我们这个时候来看一下
18:36.177–18:37.717
zh他的场景
他的场景
18:37.717–18:38.657
zh第一个场景其实就是
第一个场景其实就是
18:38.657–18:40.337
zh我们用在agent里面
我们用在agent里面
18:40.337–18:44.577
zh比如说浏览器与这个电脑的使用
比如说浏览器与这个电脑的使用
18:44.577–18:46.337
zh比如说什么
比如说什么
18:46.337–18:50.057
zh识别这个页面状态
识别这个页面状态
18:50.057–18:51.277
zh判断下一个动作
判断下一个动作
18:51.277–18:53.317
zh因为它的这个动作
因为它的这个动作
18:53.317–18:55.097
zh其实是有限的嘛
其实是有限的嘛
18:55.097–18:55.597
zh对不对
对不对
18:55.597–18:57.337
zh点击输入下拉对不对
点击输入下拉对不对
18:57.857–18:59.877
zh就哪怕我玩游戏也是一样的
就哪怕我玩游戏也是一样的
18:59.877–19:01.737
zh玩游戏它动作就那么点
玩游戏它动作就那么点
19:01.737–19:02.737
zh选项只有那么多
选项只有那么多
19:02.737–19:03.237
zh对不对
对不对
19:03.237–19:04.637
zh你可以把它选项全部列出来
你可以把它选项全部列出来
19:04.637–19:05.137
zh是不是
是不是
19:05.137–19:07.577
zh列出来给它就可以了
列出来给它就可以了
19:07.577–19:09.977
zh也就是说这种操作是有限的操作
也就是说这种操作是有限的操作
19:09.977–19:12.977
zh其实非常适合用J5这种模型来处理的
其实非常适合用J5这种模型来处理的
19:12.977–19:14.597
zh还有智能工具路由
还有智能工具路由
19:14.597–19:15.097
zh对吧
对吧
19:15.097–19:16.277
zh坚准选择工具
坚准选择工具
19:16.277–19:18.817
zh搜索数据库邮件询问用户
搜索数据库邮件询问用户
19:18.817–19:20.897
zh比如说安全降与分控
比如说安全降与分控
19:20.897–19:24.737
zh就是高危操作前的快速的安全判断
就是高危操作前的快速的安全判断
19:24.737–19:26.797
zh高频游戏
高频游戏
19:26.797–19:27.597
zh说实话
说实话
19:27.597–19:32.757
zh昨天我还用J5来去玩俄罗斯方块
昨天我还用J5来去玩俄罗斯方块
19:32.757–19:34.277
zh因为俄罗斯方块的话
因为俄罗斯方块的话
19:34.277–19:34.877
zh其实说实话
其实说实话
19:34.877–19:35.957
zh它只有那几种选项
它只有那几种选项
19:35.957–19:36.457
zh对不对
对不对
19:36.457–19:37.897
zh你把选项全部列出来就可以了
你把选项全部列出来就可以了
19:37.897–19:39.877
zh用J5进行判断
用J5进行判断
19:39.877–19:42.277
zh最高他支持255种选项
最高他支持255种选项
19:42.277–19:42.777
zh是不是
是不是
19:42.777–19:45.017
zh那其实生活中绝大部分
那其实生活中绝大部分
19:45.017–19:46.657
zh其实实验绝大部分场景的
其实实验绝大部分场景的
19:46.657–19:47.517
zh就有几少数场景
就有几少数场景
19:47.517–19:49.137
zh它是一种无限可能的
它是一种无限可能的
19:49.137–19:49.637
zh对不对
对不对
19:49.637–19:51.837
zh绝大部分场景都是有限可能的
绝大部分场景都是有限可能的
19:51.837–19:52.337
zh是不是
是不是
19:52.337–19:54.617
zh我们这个只要把动作
我们这个只要把动作
19:54.617–19:55.437
zh全部罗列出来
全部罗列出来
19:55.437–19:57.137
zh就可以这样交给他去判断
就可以这样交给他去判断
19:57.137–19:59.057
zh他又快成本又低
他又快成本又低
19:59.057–19:59.737
zh是不是
是不是
19:59.737–20:00.957
zh好给我们看一下
好给我们看一下
20:00.957–20:02.577
zh比如说客户公单与客户
比如说客户公单与客户
20:02.577–20:03.777
zh消息智能处理平台
消息智能处理平台
20:03.777–20:05.797
zh比如说公单的分类
比如说公单的分类
20:05.797–20:06.297
zh是吧
是吧
20:06.297–20:06.797
zh是物流问题
是物流问题
20:06.797–20:07.357
zh账单问题
账单问题
20:07.357–20:08.377
zh产品故障还是投诉
产品故障还是投诉
20:08.377–20:08.877
zh对吧
对吧
20:08.877–20:10.537
zh比如说紧急度打分
比如说紧急度打分
20:10.537–20:13.097
zh这个情绪的强烈度
这个情绪的强烈度
20:13.097–20:13.717
zh对不对
对不对
20:13.717–20:17.257
zh还有这个比如说像这个Node核心判断
还有这个比如说像这个Node核心判断
20:17.257–20:18.137
zh是不是退款
是不是退款
20:18.137–20:19.617
zh是不是辱骂
是不是辱骂
20:19.617–20:21.377
zh是不是需要人工进入
是不是需要人工进入
20:21.377–20:21.877
zh对不对
对不对
20:21.877–20:23.497
zh做的非常非常适合用
做的非常非常适合用
20:23.497–20:24.717
zh我们的Jail这个模型来处理
我们的Jail这个模型来处理
20:24.717–20:25.797
zh真的非常非常方便
真的非常非常方便
20:25.797–20:28.617
zh所以以后做这个智能体
所以以后做这个智能体
20:28.617–20:29.557
zh它一定是什么
它一定是什么
20:29.557–20:30.637
zh一定是Jail
一定是Jail
20:30.637–20:33.677
zh一定是Jail和这个GPT或者和Lode
一定是Jail和这个GPT或者和Lode
20:33.677–20:35.517
zh进行配合使用
进行配合使用
20:35.517–20:37.257
zh就现在硅谷已经基本上
就现在硅谷已经基本上
20:37.257–20:38.817
zh是这两个组合在一起使用了
是这两个组合在一起使用了
20:38.817–20:39.457
zh啊
啊
20:39.457–20:39.957
zh就跟我
就跟我
20:39.957–20:41.177
zh根据我所找的信息
根据我所找的信息
20:41.177–20:43.697
zh就是他们现在已经在调整自己的决策了
就是他们现在已经在调整自己的决策了
20:43.697–20:45.157
zh都是使用J5加什么
都是使用J5加什么
20:45.157–20:47.217
zh加GPT来做这个智能体
加GPT来做这个智能体
20:47.217–20:49.457
zh因为GPT其实实在是太贵了
因为GPT其实实在是太贵了
20:49.457–20:50.217
zh知道吗
知道吗
20:50.217–20:50.717
zh啊
啊
20:50.717–20:51.237
zh好用就好
好用就好
20:51.237–20:52.017
zh它实在是贵
它实在是贵
20:52.017–20:53.037
zh而且效率比较低
而且效率比较低
20:53.037–20:56.177
zh所以不是所有的场景都适合用GPT键理
所以不是所有的场景都适合用GPT键理
20:56.177–20:57.037
zh啊
啊
20:57.037–20:57.557
zh其实少
其实少
20:57.557–20:58.457
zh就是大部分场景
就是大部分场景
20:58.457–21:00.497
zh其实都是比较适合用J5来做处理的
其实都是比较适合用J5来做处理的
21:00.497–21:03.177
zh还比如说这个内容与文档的拼尿删讯
还比如说这个内容与文档的拼尿删讯
21:03.177–21:04.137
zh有些分类
有些分类
21:04.137–21:04.677
zh是不是
是不是
21:04.677–21:05.337
zh啊
啊
21:05.337–21:05.837
zh只要
只要
21:05.837–21:07.377
zh就是只要给一个标记就可以了
就是只要给一个标记就可以了
21:07.377–21:07.877
zh对吧
对吧
21:07.877–21:08.937
zh还有评论
还有评论
21:08.937–21:09.817
zh消息删选
消息删选
21:09.817–21:10.777
zh对不对
对不对
21:10.777–21:12.717
zh说实话
说实话
21:12.717–21:14.997
zh你之前给几个标签给它
你之前给几个标签给它
21:14.997–21:15.497
zh是不是
是不是
21:15.497–21:16.377
zh因为这个
因为这个
21:16.377–21:18.917
zh这往判断是哪一种类型的
这往判断是哪一种类型的
21:18.917–21:20.077
zh直接就说实话
直接就说实话
21:20.077–21:22.037
zh就很快
就很快
21:22.037–21:23.757
zh就给我们打这个标签了
就给我们打这个标签了
21:23.757–21:24.857
zh还能闻到删选
还能闻到删选
21:24.857–21:25.797
zh会议记样
会议记样
21:25.797–21:26.297
zh是不是
是不是
21:26.297–21:28.257
zh还有实时业务分控
还有实时业务分控
21:28.257–21:28.757
zh自动化
自动化
21:28.757–21:30.797
zh交易电带分控
交易电带分控
21:30.797–21:32.617
zh服务器与AOT设备
服务器与AOT设备
21:32.617–21:33.577
zh告紧自动化
告紧自动化
21:33.577–21:35.237
zh都适合用
都适合用
21:35.237–21:37.297
zh用我们的J5来先处理
用我们的J5来先处理
21:37.297–21:39.177
zh比如说模型的路由与大模型
比如说模型的路由与大模型
21:39.177–21:39.837
zh这要评估
这要评估
21:39.837–21:41.757
zh模型路由对不对
模型路由对不对
21:41.757–21:45.277
zh因为你全部使用GPT或者Close
因为你全部使用GPT或者Close
21:45.277–21:47.177
zh来解决问题实在是太贵了
来解决问题实在是太贵了
21:47.177–21:48.757
zh公司消耗不起对吧
公司消耗不起对吧
21:48.757–21:49.717
zh那么这个时候呢
那么这个时候呢
21:49.717–21:53.197
zh我就完全可以由J5来做一个模型的调度
我就完全可以由J5来做一个模型的调度
21:53.197–21:54.537
zh来做一个路由
来做一个路由
21:54.537–21:56.057
zh就是说你这个问题
就是说你这个问题
21:56.057–21:58.117
zh到底适合有哪一个模型来进行处理
到底适合有哪一个模型来进行处理
21:58.117–21:58.617
zh对不对
对不对
21:58.617–22:01.337
zh常用的模型可能也就十来个
常用的模型可能也就十来个
22:01.337–22:03.437
zh你把这十来个模型全部累出来
你把这十来个模型全部累出来
22:03.437–22:06.217
zh然后你交个J5判断一下就可以了
然后你交个J5判断一下就可以了
22:06.217–22:07.797
zh到底选哪一个模型来处理这个问题
到底选哪一个模型来处理这个问题
22:07.797–22:08.457
zh对不对
对不对
22:08.457–22:11.337
zh然后选出来之后
然后选出来之后
22:11.337–22:13.057
zh然后我们再交个对应的模型来处理
然后我们再交个对应的模型来处理
22:13.057–22:13.557
zh对不对
对不对
22:13.557–22:15.317
zh比如大模型输出降业预示
比如大模型输出降业预示
22:15.317–22:18.397
zh判断反复结果是否拼离核心要求
判断反复结果是否拼离核心要求
22:18.397–22:20.697
zh是否存在幻觉分件
是否存在幻觉分件
22:20.697–22:21.577
zh做质量预示
做质量预示
22:21.577–22:23.637
zh比如数据及标注与评测
比如数据及标注与评测
22:23.637–22:26.097
zh拼量进行按原判断与分离打分
拼量进行按原判断与分离打分
22:26.097–22:30.577
zh高效替代大模型的榨纸调用
高效替代大模型的榨纸调用
22:30.577–22:31.757
zh这只调用
这只调用
22:31.757–22:33.397
zh这个其实就是说
这个其实就是说
22:33.397–22:35.997
zh它比这个原先用GPT去做决策呢
它比这个原先用GPT去做决策呢
22:35.997–22:36.957
zh就要快很多
就要快很多
22:36.957–22:37.717
zh方便很多
方便很多
22:37.717–22:40.797
zh就主打一个高效和年价
就主打一个高效和年价
22:40.797–22:41.517
zh对吧
对吧
22:41.517–22:43.357
zh这是我们这种模型的特点
这是我们这种模型的特点
22:43.357–22:44.497
zh记住啊
记住啊
22:44.497–22:45.897
zh它不是要去替代GPT
它不是要去替代GPT
22:45.897–22:46.877
zh也不是要替代GPT
也不是要替代GPT
22:46.877–22:48.197
zh也不是替代这Cloud
也不是替代这Cloud
22:48.197–22:50.817
zh还是给它们实现一种互补
还是给它们实现一种互补
22:50.817–22:52.137
zh来完成一个
来完成一个
22:52.137–22:55.157
zh一个又好用
一个又好用
22:55.157–22:56.397
zh又省钱的这么一个应用
又省钱的这么一个应用
影片筆記：【Jev实测】Jev是什么？怎么用？二十分钟彻底给你讲清楚它的底层原理！少走99%弯路！看懂 TypeSafe Jev：它根本不是聊天 LLM
<!-- VIDEONOTE_PUBLICATION_WARNINGS_BEGIN -->
⚠️ 可先使用，仍有待修正項目
本筆記已完成可閱讀的逐字稿與時間跳轉；下列為待處理問題，建議播放原片確認。
- 待修正：逐字稿全文快速校讀未完成（已保留自動字幕/原始逐字稿並繼續生成筆記。；未完成的全文速讀項目可在精進模式回聽確認。）
<!-- VIDEONOTE_PUBLICATION_WARNINGS_END -->
一句話總結
影片介紹了一款名為 Jev（筆記中亦出現 Jill, J5, Jil, Jayv 等稱呼）的新型 AI 模型，其核心定位為「決策模型」而非傳統生成式 LLM。Jev 採用一次性變形計算（Deformed Calculation）與 RLCD 訓練方法，不生成文本，而是直接輸出結構化的概率判斷（JSON），具備極低延遲（500ms 內）與極低成本（較 GPT 降低 400 倍）的優勢，主要應用於 Agent 路由、安全风控、分類打分等高頻決策場景，與 GPT/Claude 形成互補關係。
核心重點
- 模型定位差異：
- 傳統模型（GPT, Claude）：自回歸（Autoregressive）生成 Token，逐字生成，高延遲、高成本，適合創意與文本生成。
- Jev 模型：決策/判斷模型，一次性輸出結構化概率，低延遲、低成本，適合有限選項的判斷與路由。
- 技術原理：
- 由前 OpenAI 研究員 Digo 創辦的 TypeSafe AI 發布。
- 採用 RLCD 訓練方法。
- 核心架構為「一次性變形計算」，直接輸出判斷概率，而非逐 Token 生成。
- 效能優勢：
- 推理速度最高提升 200 倍。
- 成本最高降低 400 倍（例如：100 萬 Token 成本約為 GPT 的 1/250，約 0.04 美元對比 10 美元）。
- 延遲極低：500 毫秒內返回結果。
- 輸出格式與類型：
- 強制結構化 JSON 輸出，無自然語言文本，無格式錯誤，無文本幻覺。
- 三種輸出類型：
no：概率判斷（0-1 浮點數），數值即為置信度。choose：多選一，返回最高概率選項名稱、自信度（Confidence）及完整概率分布。score：連續打分，返回非整數打分值及自信度。
- 應用場景：
- Agent 高頻快判斷、路由選擇（如從多個模型中選擇最佳模型）。
- 安全控制與風控（高危操作判斷、實時業務風控、IoT 設備告警）。
- 客戶服務與數據處理（工單分類、情緒分析、緊急度打分、內容篩選）。
詳細大綱
一、 Jev 模型概述與市場反應
- 市場熱度：近期在硅谷刷屏，發布前三天已被 Wassel, Cloudflare, LongChang 等主流平台集成。
- 核心優勢對比：
- 速度：推理速度最高提升 200 倍，延遲極低（500 毫秒內得到結果，對比 GPT 的幾秒至十幾秒）。
- 成本：成本最高降低 400 倍。100 萬 Token 成本約為 GPT 的 1/250（約 0.04 美元對比 10 美元）。
- 定位：與 GPT/Claude 並非替代關係，而是互補關係。
二、 技術背景與原理
- 開發團隊：
- 公司：TypeSafe AI。
- 發布時間：9月15日。
- 創始人：Digo（前 OpenAI 研究員，參與 ChatGPT 創造）。
- 研發動機：解決超強聊天模型未帶來 AGI 的問題，探索新訓練方法。
- 技術方法：
- 新訓練方法：RLCD。
- 新模型架構：Jev（筆記中亦稱 Jill 等）。
- 區別於傳統模型：
- GPT/Claude：自回歸（Autoregressive），逐 Token 生成，高延遲高成本。
- Jev：一次性變形計算（Deformed Calculation），直接輸出判斷概率，低延遲低成本。
三、 Jev 的使用方式與輸入輸出
- 使用方式：通過 API 調用。
- 輸入內容：
state：上下文/環境狀態。question：預定義的任務/問題。
- 輸出內容：
- 強制結構化 JSON（非自然語言文本）。
- 一次性返回所有概率。
- 程序可直接解析。
四、 三種輸出類型詳解
- No 類型（概率判斷）：
- 特點：不完型判斷，返回 0 到 1 的浮點數（筆記疑點：伏點數）。
- 含義：數值代表成立概率，無需單獨設置置信度，數字即為置信度。
- 範例：檢測用戶是否會退款（返回 0.9 或 1 表示高概率會退款）。
- Choose 類型（多選一）：
- 特點：從多個選項中選擇概率最高的一個。
- 限制：最多支持 255 個選項。
- 輸出字段：
truth（筆記疑點：可能指 choice 或 result）：概率最高的選項名稱。confidence（筆記疑點：知性度/自信度）：模型對本次分類結果的自信度（數值越高越確定，建議閾值 0.7-0.8）。- 完整概率分布。
- 範例：將客服工單路由至結算、技術或銷售部門。
- Score 類型（連續打分）：
- 特點：對多個選項進行連續打分，提供各級別概率分布。
- 輸出字段：
- 非整數打分值（筆記疑點：非诊数打分值）。
confidence：自信度。- 範例：對用戶情緒（冷靜、失望、憤怒）進行打分，選擇最高分對應的情緒。
五、 實際應用場景
- Agent 與自動化：
- 瀏覽器/電腦操作識別（點擊、輸入、下拉等有限動作）。
- 遊戲操作判斷（如俄羅斯方塊，選項有限）。
- 智能工具路由：從十幾個常用模型中選擇最適合的模型進行處理。
- 安全與风控：
- 高危操作前的快速安全判斷。
- 實時業務风控（筆記疑點：電帶分控）、自動化交易风控。
- 服務器與 IoT 設備（筆記疑點：AOT 設備）告警自動化。
- 客戶服務與數據處理：
- 公單分類（物流、賬單、故障、投訴）。
- 緊急度打分、情緒強烈度判斷。
- Node 核心判斷（是否退款、是否辱罵、是否需要人工介入）。
- 內容與文檔篩選、評論篩選、會議記錄標籤化。
- 數據標註與評測：替代大模型進行批量調用（筆記疑點：榨紙調用），高效篩選與打分。
六、 總結與建議
- 成本效益：GPT 等生成式模型成本高、延遲高，不適合所有場景。
- 組合策略：硅谷趨勢為「Jev + GPT/Claude」組合使用。
- Jev 負責高頻、低延遲、低成本的決策與路由。
- GPT/Claude 負責需要生成文本或複雜創意的場景。
- 核心價值：高效、低價、無文本幻覺（筆記疑點：年文本幻覺）、結構化輸出、無格式錯誤（筆記疑點：寧格式錯誤）。
工具 / 模型 / 名詞整理
- Jev (亦被稱為 Jill, J5, Jil, Jayv, Jill latest, Jolatist)
- GPT (ChatGPT, 筆記疑點：ChairGPT, GP9)
- Claude (筆記疑點：Cloat)
- OpenAI
- Wassel
- Cloudflare
- LongChang
- TypeSafe AI
- RLCD (訓練方法)
- API
- JSON
- CURL
- AGI
- Agent
- Deformed Calculation (一次性變形計算，筆記疑點：拼尿變形計算)
- Autoregressive (自回歸)
- Confidence (自信度/置信度，筆記疑點：知性度, 知情度)
- Stripe (筆記疑點：Strip 賬戶, street 的客戶)
- IoT (筆記疑點：AOT 設備)
操作流程整理
- 準備階段：
- 獲取 TypeSafe AI 的 API Key（筆記疑點：API-KIT）。
- 確定應用場景（如路由、分類、打分）。
- 構建請求：
- 定義輸入參數：
state：當前上下文或環境狀態。question：預定義的任務或問題。- 選擇輸出類型：
no（概率判斷）、choose（多選一）或score（連續打分）。
- 調用 API：
- 通過 CURL 或程式碼調用 Jev API。
- 發送請求，等待回應。
- 解析回應：
- 接收結構化 JSON 數據。
- 解析
truth（最高概率選項）、confidence（自信度）及概率分布。 - 根據解析結果執行後續動作（如路由請求、觸發風控、輸出標籤）。
- 組合使用（可選）：
- 若 Jev 判斷需要生成文本，將結果作為上下文輸入給 GPT/Claude 進行生成。
值得注意的限制或風險
- 適用場景限制：Jev 主要適用於有限選項的判斷、路由和分類場景，不適合需要創意生成或複雜文本生成的任務。
- 選項數量限制：
choose類型最多支持 255 個選項。 - 置信度閾值：使用
choose類型時，建議設置置信度閾值（0.7-0.8），低於閾值可能需要人工介入（筆記疑點：低分支可以人工复制）。 - 技術成熟度：作為新型模型，其長期穩定性及在極端邊緣案例下的表現仍需觀察。
- 辨識不確定性：由於逐字稿中存在大量疑似聽寫錯誤的名稱和術語，實際產品細節可能與筆記描述存在差異，需以官方文檔為準。
逐字稿辨識疑點
模型與產品名稱：
- Jill / J5 / Jil / Jayv / Jill latest / Jolatist：逐字稿中交替使用，疑點指代同一模型 Jev。
- Wassel / LongChang：疑點，需查證是否為特定平台名稱。
- Cloat / GP9 / ChairGPT：疑點，可能為 "Claude" 或 "GPT" 的聽寫錯誤。
- Digo：疑點，前 OpenAI 研究員創辦 TypeSafe AI，需查證實際姓名。
- Jolatist：疑點，可能指 "Jill latest"。
技術術語與概念：
- 拼尿變形計算 / 拼尿刪訊 / 拼尿核心要求 / 拼尿變形計算 / 拼量進行按原判斷與分離打分 / 拼尿變形計算 / 拼尿核心要求 / 拼量進行按原判斷：疑點，可能為 "批量"、"平行" 或 "一次性" 的聽寫錯誤，結合上下文 "Deformed Calculation"，可能指 "一次性變形計算" 或 "批量變形計算"。
- RLCD：疑點，需查證具體訓練方法縮寫。
- 知性度 / 自信度 / 知情度：疑點，可能指 "Confidence"（置信度/自信度）。
- 伏點數 / 非诊数打分值：疑點，可能指 "浮點數" 或 "非整數打分值"。
- truth：疑點，可能指 "choice" 或 "result"。
- sultrime：疑點，可能指 "summary" 或 "structure"。
- 評鑑：疑點，可能指 "評分"。
- 年文本幻覺 / 年文本幻觉：疑點，可能指 "無文本幻覺"。
- 寧格式錯誤 / 宁格式错误：疑點，可能指 "無格式錯誤"。
- 校准级概念：疑點，可能指 "置信度概念"。
- 直接预计分支：疑點，可能指 "直接預測分支"。
- 低分支可以人工复制：疑點，可能指 "低分支可以人工介入"。
- 输出你的费用：疑點，可能指 "输出你的结果" 或 "输出你的费用"。
- 年纪年4万美元：疑點，可能指 "0.04万美元"。
- 汉缩入门：疑點，可能指 "快速入門"。
- API-KIT：疑點，可能指 "API-KEY"。
- 上线文：疑點，可能指 "上下文"。
- street 的客戶 / Strip 賬戶：疑點，可能指 "Stripe 的客戶/賬戶"。
- 储藏 储藏 這麼一個信息：疑點，可能指 "存儲"。
- 非诊数打分值：疑點，可能指 "非整數打分值"。
- 年点88：疑點，可能指 "0.88"。
- 爱：疑點，可能指 "0"。
- 電帶分控：疑點，可能指 "電商风控"。
- AOT 設備：疑點，可能指 "IoT 設備"。
- 榨紙調用：疑點，可能指 "批量調用"。
- 降业预示：疑點，可能指 "業務預警"。
- 拼離核心要求：疑點，可能指 "偏离核心要求"。
- 拼量進行按原判斷：疑點，可能指 "批量進行按原判斷"。
- 一次請就變形處理所有：疑點，可能指 "一次請求就變形處理所有"。
可延伸追問
- TypeSafe AI 的創始人 Digo 的真實姓名及背景是什麼？
- RLCD 訓練方法的具體技術細節和論文是什麼？
- Jev 模型在
choose類型中，當置信度低於閾值時的具體處理邏輯是什麼？ - Wassel, Cloudflare, LongChang 等平台上集成 Jev 的具體案例和性能數據為何？
- Jev 模型與 GPT/Claude 組合使用的最佳實踐架構是什麼？
- Jev 模型在處理超過 255 個選項時是否有替代方案或擴展機制？
尚未產生學習筆記
請在 Telegram 指令最後加上「學習」，例如：videonote 網址 英文 雙語 學習