本集节目由VOAI绝好身疮技术支援
VOAI提供富有情绪的高拟增台湾口音AI声音
并提供上传图片与音档一键生成虚拟人的功能
是最具台湾味的AI平台
使用优惠码AILRB26
吉祥VOAI网站以及API方案95折优惠
大家听到的这集Podcast是透过VOAI API生成的哦
更多资讯请下资讯栏
每天都有一堆新的AI工具冒出来
是不是常常不知道该从哪里开始
别担心
这里是AI懒人报
每天帮你精选5个最多人讨论的AI工具影片
每天10分钟
让AI走进你的生活中
让你不知不觉成为效率大师
今天这个工具最有趣的地方是
它可能让你再也不用半夜起来
修坏掉的Jason
这对我们这些每天跟AI流程
打交道的人来说简直是福音
好,那我们赶快开始吧
先从一个很多人都有过的痛苦经验说起
你花了好几个小时设计一个自动化流程
测试的时候跑得很完美
你觉得这次终于搞定了
然后你把它排成
让他每天早上自动跑
第一天没问题
第二天没问题
第三天早上你打开电脑
一堆错误
为什么
因为AI今天心情好
把一个应该是数字的栏位输出成字串了
或者他觉得自己很聪明
在Jason里多加了一个他觉得有用的栏位
结果你的后端完全吃不下去
所以你不是去改流程
你是去写验证逻辑
写从事机制
写各种备缘处理
花了整个周末
结果整个系统变得比手动作还复杂
说真的
我觉得这是用AI做自动化
最让人崩溃的地方
你明明是为了省时间
结果花更多时间在管理AI的输出
这个问题的根源在哪
在于现在主流的大型语言模型
包括Chattgbt Cloud
还有最近很红的Astra跟Fable
他們的設計邏輯都是預測下一個Token
就算你在Prompt里寫得再清楚
請只輸出JSON
他還是有一定機率會偷偷加一個Markdown的反引號
或者換行多一個空格
或者把Tru寫成加引號的Tru
這並不是模型本
這其實是他的架構
本質上就是機率性的
沒辦法百分之百保證格式
就像你請一個很會寫文章的朋友幫你填表格
他可能會寫得很精彩
但格式就不一定每次都對了
Jerby就是冲着这个问题来的
Jerby是Type Safe AI这家公司开发的
他们把它归类为System 1 Model
跟我们熟悉的大型原模型是完全不同的东西
它不是用来聊天的
也不是用来写文章或解释概念的
它只做一件事
看你给它的资料
对照你定义的schema
输出一个结构完全正确的决策结果
你可以把它想象成一个非常严谨的表格填写员
你给它什么格式
它就保证给你什么格式
这里最关键的技术概念叫做
Constraint Decoding
也就是在推理层面就做好限制
一般的模型
在生成每一个Token的时候
理论上可以选任何字
但Jav的做法是
你传给他一个Schema
你可以先把它想成资料格式规则
他在生成每个Token的时候
会直接把所有经费违反这个规则的选项
从词汇表里遮掉
如果这个栏位的形别是布林子
那他在那個位置能選的詞就只有2跟false
其他字根本不在選項裡
這並不是說他很努力不出錯
這是他在架構上就不可能出錯
這兩件事的差別非常大
前面那種你還是需要驗證
後面這種你可以直接信任輸出
就像你相信一個計算機算出來的結果一樣
TypeSafe AI把這個特性叫做schema safe
意思就是輸出永遠符合你定義的型別結構
即對開發者來說
这意味着你可以把原本那些验证成
从事逻辑
而是修正的程式码
大部分都砍掉
你定义好行别
交给Jeff
就会拿到一个结构完全正确的结果
每次都是
这就像你请了一个永远不会犯错的秘书
他交给你的文件永远都是格式正确的
你完全不用再检查一遍
Jeff提供三个主要的功能界面
第一个叫Choice
你给他一个输入
再给他一个选项清单
他直接回传最符合的那个选项
最多可以有255个选项
这是像一个超级精准的选择题机器
你问他问题
他马上给你正确答案
第二个叫score
他会对输入打一个分数
同时附上confidence
也就是信心分数
让你知道他对这个分数有多确定
这就像一个很专业的评论员
不只给分数
还会告诉你
他打这个分数的把握有多大
第三个叫no-o
这个比较特别
他会输出一个0到1之间的几率值
代表某件事发生的可能性
而且這個機率是經過校準的
不是隨便說說的
意思是如果NOLE說退款機率是0.8
就代表10封類似的信裡
大概有8封真的會是退款需求
這個數字是可靠的
這三個功能合在一起
你就可以做很多事了
比如說你有一個客服系統
每天收到幾千封信
你想要自動分類
判斷優先順序
偵測有沒有退款需求
用傳統的大型語言模型
你要寫很長的prompt
還要解析它輸出的文字
然後還要擔心它今天心情不好
输出格式跑掉
用Jeff
你就把信的内容传进去
定义好Schema
他直接给你一个Jason
类别是什么
优先顺序
几分
是不是退款请求
信心分数多少
全部结构完整
直接可以用
这就像你把一大堆文件
丢给一个超级有效率的助理
他马上就能把所有资讯整理好
分门别类
让你一眼就能看懂
社群里有人做了一个测试
一次处理1000封信
平均回应时间大约是200毫秒
整批跑完费用是多少
非常少
因为JF的定价非常低
输入是每百万Token四分美金
输出是免费的
这个价格跟主流的大型原模型
比起来差距非常大
简直是佛星价
说到速度
TypeSafe AI官方的说法是
JF可以比传统Transformer模型
快20到200倍
便宜40到400倍
我知道这种数字看起来像行销化数
所以要说清楚
这个速度优势
是在特定的结构化决策任务上
而不是在所有任务上
你不能拿Jeff来写一篇文章
他根本不会
但如果你的任务是
看这段资料
告诉我他属于哪个类别
那这个速度差距是真实存在的
这就像你请一个
短跑选手去跑马拉松
他可能跑不完
但如果你让他去跑100公尺
他绝对是世界级的
为什么Jeff可以这么快
因为他根本不需要
做一般语言模型做的那一事
他不需要生成自然语言
不需要维护复杂的上下文
也不需要做什么深度推理
他的工作就是看schema
看輸入輸出
一個符合schema的決策
整個推理路徑短很多
所以快很多
這就像一個專注於單一任務的機器人
他只做他被設計來做的事
所以效率極高
這個速度差距在某些使用情境上
會讓整件事從可以用變成真正好用
最明顯的例子是瀏覽器自動化
現在有很多工具
可以讓AI控制你的瀏覽器
你給他一個目標
他自己去點頁面
填資料跳到下一頁
但如果你真的試過用Astra或Fable做這件事
你會發現他慢的很痛苦
Agent 結一張網頁的截圖傳給模型
然後你等2秒、3秒、有時候5秒
模型才決定要點哪裡
這段時間裡網頁可能已經更新了
或者跳出一個彈窗
然後Agent的動作就失效了
這就像你請一個動作很慢的人
幫你搶限量商品
等到他反應過來
商品早就被搶光了
這就是為什麼瀏覽器自動化到現在
還是很難真正穩定部署的原因之一
延遲太高
反應跟不上動態網頁的節奏
但如果你把決策層換成Jeff
延遲從秒級降到毫秒級
Agent看到DOM結構
馬上對照Schema
馬上輸出下一個動作
他不需要思考
他就是執行
這樣的速度才能讓瀏覽器自動化
從一個很酷的示範
變成一個可以真正跑在生產環境的東西
這就像你給機器人裝上超快速反應晶片
他能瞬間判斷並執行任務
讓整個流程順暢無比
好,現在來到我覺得最有意思的部分
也就是第二個重點
Jeff的定位很特別
他並不是要取代Astra或Fable
他其實是要跟他們一起用
你可以把它想像成一個團隊裡的兩個角色
一個負責策略,一個負責執行
我把這個架構叫做雙腦架構
概念很直觀
你用大型語言模型做需要深度推理的事
用Jav做需要快速執行的事
舉個具體的例子
假設你在建一個自動化的軟體開發agent
他可以看需求、寫程式、跑測試、修bug
當一個新的功能需求進來的時候
你先把它交給Fable或Astra
這些模型有深度的推理能力
他們可以分析整個專案程式碼
理解依賴關係
想清楚要怎麼實作
然后产出一份详细的执行计划
就是慢的贵的但值得
因为这个阶段真的需要深度思考
这就像一个公司的策略长
负责制定整体方向和计划
计划出来之后
Fable退场
Jeff接手
Jeff比较适合负责
判断下一步要做什么
输出固定格式的指令
如果测试失败了
Jeff不需要重新思考整个架构
他只需要看错误讯息
对照行别定义
修掉那個行別不符的地方
再跑一次幾毫秒就完成
真正寫大段程式碼還是交給Fable或Astra
這就像公司的執行長
負責把策略長的計劃
分解成一個個具體任務
並快速高效的執行
你把昂貴的推理集中在規劃階段
把執行交給一個高速低成本
格式保證正確的引擎
這樣的組合才能讓多A-系統真正規模化
以前這種架構的問題是成本和延遲
如果一個複雜的任務需要50個為決策
每個決策要2秒花3分美金
整個流程就要花1分多鐘
1塊多美金單次執行
這樣的單位經濟學根本沒辦法做自動化
因為跑幾次就虧了
但Jeff把每個為決策的成本和延遲
都壓到幾乎可以忽略的程度
這個架構才真正變得可行
這就像以前你需要請好幾個顧問來做決策
現在你只需要請一個策略顧問
然後把執行交給一個超便宜又超快的機器人
那實際上怎麼把JAB接近你現有的流程
有幾個很具體的切入點
最直接的方式
是找出你現有AI流程裡最容易壞掉的節點
通常就是那些讓LLM從非結構化的資料裡
抽取資訊
然後格式化成某個固定格式的步驟
比如說從一封信裡抓出客戶名稱
訂單編號
問題類別
然後寫進CRM
這種步驟犯成JAB是最直接的
你定義好schema讓介位做抽取
格式問題直接消失
這就像你把一個經常出錯的環節
換成一個永遠不會出錯的自動化機器人
瞬間解決了所有問題
另一個很適合的使用情境是vibe coding
就是你用AI輔助快速開發的那種模式
現在的vibe coding流程通常是
讓AI生成程式碼
你去跑,跑出錯誤
把錯誤貼回去給AI
等它修,再跑
這個回圈很慢,而且很煩
因為Jeff速度過快
对程式语法的理解是原生的
你可以在IDE里设定一个背景监听器
每次有编译错误或测试失败
自动把错误丢给Jeff
让他在背景直接修掉
你甚至不需要手动介入
他已经修好了
这就像你身边有一个超级程式码修正助手
在你写程式的时候
他随时帮你检查并修复错误
让你专心在创作上
这个部分说完
我要讲一个很重要
但很多人在兴奋的时候会忘掉的是
速度越快
出错的代价越高
当你有一个模型可以在毫秒内生成
并执行程式码
你根本来不及在他出错之前阻止他
如果Jeff在自动化流程里
有权限存取你的档案系统
执行终端机指令
更新资料库
而他以200倍的速度在跑
那出了问题的时候
你看到的已经是结果
不是过程
这就像你开一台超级跑车
速度很快
但如果失控造成的损害
也会非常巨大
所以安全边界必须跟着调整
几个原则要记住
第一
就算是高准确定的模型
AI生成的程式码
预设要当成不信任的来处理
不要因为他很少出错
就给他最高权限
第二
如果你要在本机跑Jab做自动化
Docker容器
把执行环境隔离起来
给他最小必要的权限
不要给root
第三
如果Jab在做浏览器自动化
不要用你平常已经登录的浏览器设定档
用独立的
一次性的工作阶段
這樣就算他誤判了某個DOM元素
也不會動到你的生產環境
這就像你使用任何強大的工具一樣
必須先做好安全防護
才能避免不必要的風險
Jeff幫你省下了寫程式碼的時間
但這些省下來的時間
你要拿去建更完善的自動化測試和安全驗證
你的角色從寫程式的人
變成設計系統架構
和做安全審計的人
這就像以前你需要自己造車
現在你只需要設計好車子的功能
和安全系統
然後讓機器人去製造
最後來說說我對Jeff這件事的整體看法
過去一年多
AI產業的主旋律
是把模型做得越來越大
越來越聰明
越來越貴
每個人都在追AGI
都在比誰的模型推理能力更強
Extra跟Fable在這條路上做得很好
他們真的很厲害
但真正在用AI做產品的人
工程師
獨立開發者
小團隊
我們不是每天都在解歷史難題
我們大部分時間需要的是
這個資料是不是不領值
這個請求應該要分派給哪個服務
這封信的優先順序
是高還是低
這些問題不需要深度推理
需要的是快、準、格式正確
這就像我們日常生活
大部分時候我們需要的不是哲學家
而是一個能快速精準回答問題的工具人
Jeff代表的是AI執行層的工業化
他承認一件事
未來的自動化不會是一個超級大腦
慢慢把所有事情都做完
而是一堆高度專門化的引擎分工合作
各自在自己最擅長的部分做到最好
這就像一個現代化的工廠
每個環節都有專門的機器人負責
協同合作達到最高的效率
對那些花了無數個夜晚
在除錯Jason格式問題的人來說
這個東西出現的時機真的很剛好
如果你覺得今天的內容讓你有點收穫
那就幫我到Apple Podcast按讚追蹤
有個五星好評吧
FB IG Flats 收AI懶人報就找到我了
你的支持是我持續優化內容的最大動力
最近的AI發展依然快的讓我害怕
不想出過明天再繼續收聽AI懶人報囉
我是湯懶懶
我們明天見
拜拜