大家好,我是Kid。最近有個模型非常火,它的名字叫Jeff。它不是平常我們對話的那種大語言模型。它是由Type-Safe AI公司開發的一款模型。它的創始人曾經是在OpenAI工作,然後是XGPT的共同作者。Jeff特別適合無人職守的自動化,用它來打遊戲也非常好。我們可以通過這個視頻了解一下Jeff能幫我們做什麼。
如果是正常的大语言模型
它呢就会一个token一个token的
蹦出自来
花费时间8.5秒
那如果是JF呢
它就会给出几个选项
然后会给出知心度
花费时间0.1秒
如果是让它玩游戏
它呢是
就是由固定的几个操作
往上往右往前
还有Shopter
Jeff呢
他是能做一个选择
分类
评分
路由
不能去写诗
写代码
或者是一步步的推理
这视频做的还是非常好的
对于开发者来说
主要有三种可以设置
第一呢是choice
选择
从选项里选一个
第二是打分
然后第三是
判断陈述是否成立
它是0到1的一个真值的分数
一个请求里呢
可以混合多种问题
模型还可以并行去回答
官方的手法呢
就是把它当成软件里的智能的IF
路由打分器
JIF的速度呢
是非常非常快的
而且它的价格尤其的便宜
我掉落了200多次
花费了200分
而且Type Safe呢
现在还提供五刀的一个体验额度
所以我得花很长时间
才能把这个
才能把这个五刀的额度给使用出去
我们可以在TyperSafe里面去加入它的Whitlist
如果你特别着急的话
也可以通过OperRouter进行调用
或者是AI Gateway进行调用
它也登录了Cloud Flare的AI
所以是有多个路径可以调用它的
而且它非常有意思的是
它的输出Token是不收费的
官方给出的理由是
新的架构下输出便宜到不必寄费
这里就有一个例子呢
Verso的CTO做了一个测试
它呢对比调用Gem9 2.5 Flashlight来做分类
Gem9 2.5 Flashlight呢
它的API还是比较便宜的
而将Jeff和Gem9做一个对比
它的据确率更高
而且速度也更快
通过这张图
我们可以看到Jeff
它的质地程度是非常不错的
非常接近于Terra了
但是要比Terra便宜非常多
我们可以在Type-Safe官网右上角
点击他的加入waitlist来申请
现在就来看一下X上面
关于Jeff有哪些精彩的案例
Versal的CEO认为
把他们的FX安全审查
换成Jeff
对面GibT和Luna呢
Jeff的速度快到18倍
而且还更准确
把500封邮件发给Jeff
他仍在几秒内就帮你分类好
而且成本非常低
Boss CEO认为呢
企业里那些分类路由安全判断们
那现在有了Jeff
对大量的企业任务就意义巨大
有用户昨天刚打到权限
他就将Jeff集成到他们的数据管道里
实体识别情绪分析
把相关信号粘起来等等
他认为都非常惊艳
Jeff有一大应用就是他在浏览器方面的改进
这浏览器方面的例子
比如说七秒查机票
只花了0.0039刀
又快
质量又好
知名开源产品CV
它也是紧跟潮流
立即发了一个
和Jeff相关的跨系统计算机使用
叫Jeff Use
在玩2048的时候
Jeff的速度快了5倍
成本大约便宜1000倍
比Astra更高效
还有用户将Jeff和OpenCode结合起来
测试应用
测试的时候就发现
点按钮快到像是在看加速片
Jeff呢他在浏览器工作上是非常非常便宜的
比如说这样一位用户
他就分享浏览器忘记关了
那消耗了这么多token才花费不到七刀
Scode的作者呢
他用Jeff来控制iOS的模拟器
去建一个日历事件
我们会看到这边会写着
Taper
然后ScreenChanger
ScreenChanger
等等
还有用户喊话Sam
让Codex负责规划
Jeff负责从页面选择点谁
有用户他分享了一个点子
让Jeff去做及时的压缩
给每次2Core打分
然后丢掉无关的上下文
我们可以看一下这样的一个例子
绿色的就是留下的
红色的就是删去
也有用户还做了一个Jeff的review
给编码agent接上打分反馈还的一个mcp
不同的ai agent
然后review之后进行打分
给定他一个数值到了哪个程度
那就让他再去优化
有用户就直接做了一个crowd的插件
一秒就把绘画从近100万token上下无人长度
压缩到8.6万
这里展示压缩前后的一些情况
有兴趣的话
大家去看一下
Rosa的工程师呢
说每个Agent
Hannis呢
现在都能用上Jeff
通过这样的工具
也有用户呢
给OpenCode写了一个插件
自栏语言写规则
Jeff呢
拦住每一条道路
还有用户
使用Jeff呢
光速给提交
打安全补丁的标签
当然Jeff呢
来做意向调研
也是非常好的
比如说这样的一位用户
做的一个分享
也有用户花了8个小时
让Jeff做一个爆款帖分类器
他认为Jeff的准确率呢
和Fibber 5.1一样好
但是快了100倍
也有博主呢
让Jeff去分析自己的3000多条帖子
然后找出一些公式
最后这是推荐的主题
也有用户分享
我们可以通过Jeff呢
做一些规则匹配
就可以傻瓜式的
将一些文件进行分类了
还有用户呢
把Jeff接到自动驾驶的决策上
他认为Jeff
对自动驾驶的影响会非常大
一个用户呢
让Jeff像人一样
来复原一个魔方
他能在很快的时间内
来对这个魔方进行转动
视频里是放慢了
方便我们去看清楚
还有用户呢
他说他花了一周时间
才把PPO策略
训练到通关的超级马利奥世界里
这里的PPO是尽端策略优化
而Jeff他是花了30分钟就打通了
非常非常恐怖的一个效率
有用户就来畅想了
一个Jeff在云电脑上玩Minecraft
那如果想象1000个11个
每一个都在云端自己的电脑上协作
发现新科学 跑实验 设计新药
而且是全天候的
也有用户让Jeff做一些实时的广告拦截
比如说他做了一个插件
然后进入了一个网站
Baby AGI的作者呢
还用Jeff来抽图
我们可以看一下这里的demo
Fluss的作者呢
对Jeff非常非常认可
他认为以前很多场景
用大语言模型
是根本不成立的
今天大家也可以看到
我为什么梳理了那么多案例
实在是Jeff太优秀了
真的是有非常非常多
可以和我们现在的agent
结合在一起使用的玩法
有用户认为呢
Hannis就会被改写
无论是Kodas CC
内置这样的dev型的决策
只是时间的问题
Vestor CEO认为
有很多是AI炒的一些热点
但是Jeff是真正站得住的那个产品
他认为Jeff这种AI
可能比今天的大元模型
更持久的改写我们的工作和产品
因为Jeff输入是非常非常划算的
所以大量的自动化
就会突然变得买得起
说了那么多
已经有人做了一个非常好的仓库
是Orzen Type Safe
仓库里呢
有官方的资源
也有很多社区的项目
比如客户端库和集成
Agent和开发者工具
浏览器智能体
机器人交互演示
评测与独立研究等等
非常非常多
而Jeff呢
发布也才两天左右的时间而已
我们使用Jeff呢
也非常简单
进入他的控制台
它有个Quick Start
然后我们可以copy这里的
给Agent的提示词
就可以在我们电脑上
安装Type Safe的Skill
比如这里呢
我呢就调用它的Skill
然后让它帮我做一个
打游戏的Web页面
JPT很快就帮我做出了这样一个游戏
第一章呢
我刚刚已经让Jeff已经游玩过了
我们先看一下这里的游戏指南
可以让Jeff来玩
也可以手动接管
总共有三个章节
Choice它会显示后选动作的真实概率
自信度衡量分布的集中程度
Nord它是单独判断是否急需休息
第一关已经打完了
那现在我来点一下看一下第二关
我们可以观察右侧Jeff的每一步
今天的这个视频我是没有做变速
所以大家可以观察一下
杰弗他的一个速度情况
现在来点击一下
让他开始
他开始收集到原木了
有了原木之后
这里的桥就可以搭建好了
学好之后
他就可以去获取对岸的胡萝卜
然后还有一个胡萝卜
他还没收集好
所以他这里收集一下
再回到他的家
我可以把这里的蛋报呢
进行保存
也就是说
他会下载一个JSON文件
右侧我们会看到
他的当前章节的目标
这里的概率呢
他就写的比较大
所以兔子呢
最后就回到引力去了
在探险偏好里呢
也可以去选择一下
页面的下方
还可以看到他的冒险记录
还有他的休息的情况
我呢之前将第一个章节
玩的一个战报
然后下载了下来
让AI介绍一下
他说呢
回合
九回合
结局胜利
体力还剩37
葛萝卜的话有五根
第一章节里面
它是没有木头的
下方呢
是兔子走过的路线
日志对应的是什么
决策记录里
我们会看到
用的是Jave的模型
然后第一步是比较慢
这和我当前的网络
当然也有很大关系
后面的话快乐非常多
大多数的致敬度呢
在0.77到0.96
其中有两步
有欲
因为一开始这个桥呢
没有修复好
所以
Jeff呢就来回
在这三个洪框的点
这里来回折腾
后来我就让Astra来修复了一下
这个游戏
现在我们再来到
他的第三章节
那我这里呢
点击一下手动接管
音效呢也打开了
那我点
点一个
比如说
我这里先点了除菊小镜
再点一个萤火炒坡
然后我们会看到
还有胡萝卜
然后这里还有木头
没有收集到
那我再返回别的地方
点一下
这里收集到木头了
再点一下
他说等待修船
等等
那再来让他单独来玩一下
看看他怎么玩
修好桥了
然后再去取胡萝卜
又返回来
它要去取胡萝卜
因为这个设定里呢
它还需要一个金种子
开启石门
所以它最后是在右侧
游戏那里去结束的
最后呢再来看一个案例
我呢让Astra做的一个页面
外星人要到地球
那要把外星人的奇怪发言
变成代码执行的判断
左边呢
就会有非常多的
待检的旅客
总共是有24个
他们呢
长的是有三种样式
名字有各个不同
比如说这里的白闪博士
他说旅客的原话
是什么样子的
那正常这种情况下
他说他有简易放行证明
点击一下开始扫描
肯定是让他去通过的
Jeff这里呢
他有三个判断
第一是Choice
第二呢是No
那对这样外星人呢
我们就不需要过度的去关注他
然后下方就有一个欢迎雨
欢迎来到地球
决策档案里呢
就会显示刚刚做了那些决策
实测的实验室里呢
这是之前跑过的一次例子
这是24条人工编写的一个测试情境
每条呢
向真实的Jeff来发送
同一state下的三个独立问题
参考标签不会传给模型
比如说
这里的参考通道啊
是哪个
那就不会发给Jeff
通过这个测试呢
就可以比对人工写的参考信息
和GF判断了结果之间的一些差别
最后的对照里面会说明他们的状态
那我这里再点击一下重新实测
我是开了最多的10号并发
那我们可以看到它是成功完成
参考是有91%
是一致的
耗时当然是非常短的
实际耗用了这些Token
那我再点一下来进行测试
这个刚刚的测试结果也是一样的
不过呢每次测试不一定是完全一样的
所以有的时候可能这里是百分百
然后下方我们可以看一下
有哪些地方是不一致
比如说这对这个外星人的一个分析
然后参考认为是可以常规路径的
而Jeff认为需要深度调查
对这两位外星人人工分析
和Jeff判断有不一致的情况
我们看一下
他为什么对这里是要人工复合呢
这位外星人他说
他运送了一件武器外星的博物馆空壳
内部完全猜出确认没有什么什么什么
还有附有检查证明
以上就是今天介绍Jeff的所有内容
这个模型对于我们日常工作还是有非常大的帮助的
非常推荐大家去了解它
记得看社区里面
Alson TypeSafe的仓库
希望我的视频对你有帮助
我们下期再见