# 影片筆記:爆紅新模型 Jev 解析,不聊天只做決定,快 200 倍又便宜 400 倍? ## ⚠️ 全文快速校讀發現待確認修正 本筆記已完成可閱讀的逐字稿與時間跳轉;下列為待處理問題,建議播放原片確認。 - 待修正:⚠️ 全文快速校讀:已套用暫定修正,請確認(segment=38 已先套用暫定修正:它對標的不是 Fable → 它對標的不是 Fable、Astra 這類幾乎全能的大模型;segment=80 已先套用暫定修正:你只需要給它三樣東西 一份資料 → 你只需要給它三樣東西:一份資料、一個問題,以及你事先列好的幾個選項) - 待修正:逐字稿可先使用,但有待校正清單(segment=203 rapid_semantic_review: 全文速讀上下文判斷;尚未回聽或交叉比對;segment=251 rapid_semantic_review: 全文速讀上下文判斷;尚未回聽或交叉比對) ## 一句話總結 影片介紹了由 TypeSafe AI 開發的新模型 **Jev**,這是一個專注於「做決定」而非生成內容的 System 1 模型。它通過回傳選項機率而非文字,實現了比主流大模型快 20-200 倍的速度與極低的成本,適合用於自動化工作流中的分類、路由與決策節點。 ## 核心重點 1. **模型定位差異**:Jev 不是用於對話或生成內容的大語言模型,而是專注於「做決定」的 System 1 模型。它不生成文字,而是針對給定的資料與選項,回傳各個選項的機率。 2. **極致效能與成本**: * **速度**:通常不到 0.3 秒完成判斷,比主流模型快 20-200 倍。 * **價格**:輸出完全免費,僅收取輸入 Token 費用(約每百萬 Token 0.042 美元)。 * **低幻覺**:因不生成選項外的內容,極低幻覺率。 3. **運作原理**: * 輸入:資料、問題、預設選項。 * 輸出:回傳每個選項的機率。 * 比喻:一般大模型寫申論題(慢、可能離題),Jev 寫選擇題(快、答案受限於選項)。 4. **三種題型與應用**: * **是非題 (Yes/No)**:回傳 0 到 1 之間的機率,應用於發票詐騙判斷、設定門檻自動拒絕或轉交人工。 * **單選題 (Multiple Choice)**:從多個選項中挑出一個最合適的,並提供各選項機率(最多 255 個選項),應用於自動整理信箱、郵件歸類。 * **打分題 (Scoring)**:設定光譜或級距(最多 11 級),回傳當前狀況落在哪個位置,應用於業務潛在客戶篩選。 5. **System 1 vs System 2 分工**: * **System 1 (Jev)**:直覺、反應快、不需深思,用於快速、準確的判斷與分類。 * **System 2 (如 Fable, Astra, GPT-4o)**:推理、速度慢、想得深,用於構思、寫作、複雜邏輯。 * Jev 是「小而美的自動化開關」,非取代大模型,而是互補。 6. **實際應用案例**: * **虛擬小鎮實驗**:50 個 AI 居民在 0.6 秒內決定對「麵包店大拍賣」的反應,應用於遊戲 NPC 行為擬真。 * **西洋棋對弈**:Jev 每步僅 2.6 秒,而 Fable 每步 6-15 秒,Jev 在快棋中因速度優勢獲勝。 * **大量分類壓力測試**:處理 1000 封信件,Jev 耗時 70 秒、成本 9 美分;GPT-4o 耗時 5 分鐘、成本 62 美分。 * **模型路由器**:Jev 判斷題目該派給哪個模型,將 Agent 自行挑 Skill 的出錯率從 17% 降至 7.3%。 * **客服 AI Agent**:Jev 用於分類與評分(嚴重度、情緒等),大模型撰寫回覆,最後再由 Jev 檢查回覆是否解決痛點、語氣是否誠懇、有無洩漏機密。 ## 詳細大綱 ### 一、 Jev 的基本介紹與背景 * **發布資訊**:9 月 15 日發布,創辦人為 Diogo Almeida。 * **市場反應**:創辦人 X 貼文獲近 3000 萬次觀看,Hacker News 獲 1679 分,Vercel 迅速上架。 * **核心定位**: * 不聊天、不寫文章、不寫程式。 * 只專注於「做決定」。 * 對標對象不是 Fable、Astra 等全能大模型,而是工作流中的決策節點。 * **技術背景**: * 開發公司:TypeSafe AI(過去低調,Jev 為首款公開模型)。 * 創辦人背景:Diogo Almeida 是 RLHF(強化學習從人類反饋)的共同發明人。 * 訓練方法:ChatGPT 後花了兩年研究全新訓練方法,非傳統生成式訓練。 * 命名由來:取自經濟學中的「傑文斯悖論」(Jevons Paradox),意指越便宜高效,使用量越大。 ### 二、 Jev 的運作原理與特點 * **運作方式**: * 輸入:資料、問題、預設選項。 * 輸出:回傳每個選項的機率(非生成文字)。 * 速度:通常不到 0.3 秒完成判斷。 * **比喻**: * 一般大模型:寫申論題(慢、可能離題)。 * Jev:寫選擇題(快、答案發散範圍受限於選項)。 * **優勢**: * 速度快、價格便宜、極低幻覺(因為沒有機會瞎掰選項外的答案)。 * **計費模式**: * 輸出完全免費。 * 僅收取輸入文字量(Token),每百萬 Token 約 0.042 美元。 ### 三、 Jev 的三種題型與應用場景 1. **是非題 (Yes/No)**: * 回傳 0 到 1 之間的機率。 * 應用:發票詐騙判斷、設定門檻自動拒絕或轉交人工。 2. **單選題 (Multiple Choice)**: * 從多個選項中挑出一個最合適的,並提供各選項機率。 * 限制:最多 255 個選項,可搭配說明文字。 * 應用:自動整理信箱、郵件歸類。 3. **打分題 (Scoring)**: * 設定光譜或級距(最多 11 級),回傳當前狀況落在哪個位置。 * 應用:業務潛在客戶篩選(根據預算、需求打分),觸發後續自動化規則(如通知主管)。 ### 四、 Jev 與大模型的分工 (System 1 vs System 2) * **理論基礎**:引用《快思慢想》(Thinking, Fast and Slow)。 * **System 1**:直覺、反應快、不需深思(Jev 的定位)。 * **System 2**:推理、速度慢、想得深(Fable、Astra 等全能模型的定位)。 * **分工策略**: * 構思、寫作、複雜邏輯:交給大模型。 * 快速、準確的判斷、分類:交給 Jev。 * Jev 是「小而美的自動化開關」,非取代大模型,而是互補。 ### 五、 社群 Demo 與實際案例 1. **虛擬小鎮實驗 (YouTuber Matthew Berman)**: * 50 個 AI 居民在 0.6 秒內決定對「麵包店大拍賣」的反應。 * 應用前景:遊戲 NPC 行為擬真,運算成本極低。 2. **西洋棋對弈實驗 (AI ML API 團隊)**: * Jev 與 Fable/Astra 下快棋(每步限時)。 * 結果:Fable 棋力強但思考時間長(每步 6-15 秒),最終超時輸掉;Jev 每步僅 2.6 秒。 * Astra 則在 18 步內將死 Jev。 3. **大量分類壓力測試**: * 1000 封信件判斷:Jev 耗時 70 秒,成本 9 美分;GPT-4o 耗時 5 分鐘,成本 62 美分。 * 1700 封信件分類 (OpenCode Ryan Vogel):耗時極短,總成本 18 美分。 4. **模型路由器 (YouTuber Riley Brown)**: * Jev 不回答問題,只判斷題目該派給哪個模型(便宜模型處理小事,貴模型處理複雜程式)。 * 官方數據:Agent 自行挑 Skill 出錯率 17%;經 Jev 過濾後降至 7.3%。 5. **瀏覽器外掛 (開發者 kitze - Unclutter)**: * 即時判斷網頁區塊,過濾廣告與垃圾內容,提供清爽閱讀版面。 6. **客服 AI Agent 實際案例**: * **流程**:客服單進入 -> Jev 分類與評分(嚴重度、情緒、是否退款等 5 個問題)-> 自動派單至對應部門。 * **回覆生成**:由大模型撰寫安撫信。 * **最後把關**:再次呼叫 Jev 檢查回覆是否解決痛點、語氣是否誠懇、有無洩漏機密。 * **效益**:速度快、成本忽略不計、降低幻覺與公關危機風險。 ### 六、 總結與建議 * **適用對象**:從事 AI 自動化、處理海量信件/留言/客服單的用戶。 * **開發者應用**:適合放在檢查關卡,掃描註解、審查程式碼邏輯(因便宜可頻繁運行)。 * **核心觀念**:不要問哪個模型最強,要問哪個模型最適合當下工作流。 * **未來展望**:未來軟體產品背後可能會大量出現專門做判斷的模型應用(如 Claude 外包決策給 Jev)。 * **獲取方式**:目前處於早期預約階段,需登記 Email 排隊。 ## 工具 / 模型 / 名詞整理 * **Jev**:影片主要介紹的 AI 模型,由 TypeSafe AI 開發。 * **TypeSafe AI**:開發 Jev 的公司。 * **ChatGPT**:被提及為 Jev 創辦人參與打造的模型。 * **RLHF**:強化學習從人類反饋(Reinforcement Learning from Human Feedback),ChatGPT 背後的訓練方法。 * **X**:社交媒體平台(原 Twitter)。 * **Hacker News**:工程師論壇。 * **Vercel**:平台,上架了 Jev。 * **Fable**:被提及的全能型大模型之一。 * **Astra**:被提及的全能型大模型之一。 * **GPT-4o**:被用於對比測試的大模型。 * **Claude**:被提及的全能型大模型之一。 * **OpenCode**:提及的創始團隊。 * **Unclutter**:開發者 kitze 製作的瀏覽器外掛名稱。 * **Skool**:影片作者提到的社群平台。 * **System 1 / System 2**:引用《快思慢想》中的概念,System 1 指直覺快速反應(Jev),System 2 指推理深思(大模型)。 * **傑文斯悖論 (Jevons Paradox)**:經濟學概念,指資源效率提高導致總消耗量增加,此處用於解釋 Jev 命名由來。 ## 操作流程整理 ### 客服 AI Agent 處理流程 1. **接收請求**:客服單進入系統。 2. **Jev 分類與評分**: * 使用 Jev 進行分類與評分(包含嚴重度、情緒、是否退款等 5 個問題)。 * 根據評分結果,自動派單至對應部門。 3. **大模型回覆生成**: * 由大模型撰寫安撫信或回覆內容。 4. **Jev 最後把關**: * 再次呼叫 Jev 檢查回覆內容。 * 檢查項目:是否解決痛點、語氣是否誠懇、有無洩漏機密。 5. **發送回覆**:通過檢查後發送給用戶。 ### 模型路由器流程 1. **接收問題**:用戶提出問題或需求。 2. **Jev 路由判斷**: * Jev 判斷題目該派給哪個模型。 * 簡單問題派給便宜模型,複雜程式問題派給貴模型。 3. **執行任務**:由對應模型處理並返回結果。 ## 值得注意的限制或風險 * **選項限制**:單選題最多僅支援 255 個選項。 * **級距限制**:打分題最多僅支援 11 級。 * **適用範圍**:Jev 不生成文字,僅適用於有明確選項的決策、分類或評分任務,不適用於開放式創作或對話。 * **預約狀態**:目前處於早期預約階段,需登記 Email 排隊,尚未全面開放。 ## 逐字稿辨識疑點 * **segment 203: rapid_semantic_review — 全文速讀上下文判斷;尚未回聽或交叉比對** * **segment 251: rapid_semantic_review — 全文速讀上下文判斷;尚未回聽或交叉比對** **其他疑似辨識錯誤或需查證之名稱/數據:** * **Jev**:逐字稿中多次出現此名稱,疑為模型名稱,但需確認是否為拼寫錯誤(如 Jev 或 Jevn 等)。 * **Diogo Almeida**:Jev 創辦人姓名,需查證是否為正確拼寫。 * **Fable**:逐字稿中與 Astra 並列為「全能的大模型」,需查證是否存在名為 Fable 的主流大模型,或是否為其他模型名稱之聽誤。 * **System 1 模型**:TypeSafe 創造的分類詞彙,需確認是否為官方正式術語。 * **傑文斯悖論 (Jevons Paradox)**:經濟學概念,逐字稿中譯為「傑文斯」,通常譯為「傑文斯」或「吉文斯」,需確認譯名一致性。 * **快思慢想**:書籍名稱,通常譯為《思考,快與慢》(Thinking, Fast and Slow),需確認是否為特定譯本名稱。 * **0.042 美元**:計費標準,需查證是否為準確數字。 * **255 個選項**:單選題最大選項數,需查證是否為技術限制。 * **11 級**:打分題最大級距數,需查證是否為技術限制。 * **Matthew Berman**:YouTuber 姓名,需查證是否為正確拼寫。 * **AI ML API**:團隊名稱,需查證是否為正確名稱。 * **Ryan Vogel**:OpenCode 創始團隊成員姓名,需查證是否為正確拼寫。 * **Riley Brown**:YouTuber 姓名,需查證是否為正確拼寫。 * **kitze**:開發者名稱,需查證是否為正確拼寫。 ## 可延伸追問 1. Jev 的「全新訓練方法」具體技術細節為何?與傳統生成式訓練有何本質區別? 2. 若選項超過 255 個或級距超過 11 級,Jev 是否有擴展方案或替代處理方式? 3. Jev 在處理模糊不清或選項定義不明的任務時,準確率會如何下降? 4. 目前 Jev 的預約機制與正式上線時間表為何? 5. 除了客服與分類,Jev 在金融風險評估、醫療診斷輔助等高精度要求領域的應用潛力與限制為何?