影片筆記：爆紅新模型 Jev 解析，不聊天只做決定，快 200 倍又便宜 400 倍？

<!-- VIDEONOTE_PUBLICATION_WARNINGS_BEGIN -->

⚠️ 全文快速校讀發現待確認修正

本筆記已完成可閱讀的逐字稿與時間跳轉；下列為待處理問題，建議播放原片確認。

• 待修正：⚠️ 全文快速校讀：已套用暫定修正，請確認（segment=38 已先套用暫定修正：它對標的不是 Fable → 它對標的不是 Fable、Astra 這類幾乎全能的大模型；segment=80 已先套用暫定修正：你只需要給它三樣東西 一份資料 → 你只需要給它三樣東西：一份資料、一個問題，以及你事先列好的幾個選項）
• 待修正：逐字稿可先使用，但有待校正清單（segment=203 rapid_semantic_review: 全文速讀上下文判斷；尚未回聽或交叉比對；segment=251 rapid_semantic_review: 全文速讀上下文判斷；尚未回聽或交叉比對）

<!-- VIDEONOTE_PUBLICATION_WARNINGS_END -->

一句話總結

影片介紹了由 TypeSafe AI 開發的新模型 Jev，這是一個專注於「做決定」而非生成內容的 System 1 模型。它通過回傳選項機率而非文字，實現了比主流大模型快 20-200 倍的速度與極低的成本，適合用於自動化工作流中的分類、路由與決策節點。

核心重點

1. 模型定位差異：Jev 不是用於對話或生成內容的大語言模型，而是專注於「做決定」的 System 1 模型。它不生成文字，而是針對給定的資料與選項，回傳各個選項的機率。
2. 極致效能與成本：

• 速度：通常不到 0.3 秒完成判斷，比主流模型快 20-200 倍。
• 價格：輸出完全免費，僅收取輸入 Token 費用（約每百萬 Token 0.042 美元）。
• 低幻覺：因不生成選項外的內容，極低幻覺率。

1. 運作原理：

• 輸入：資料、問題、預設選項。
• 輸出：回傳每個選項的機率。
• 比喻：一般大模型寫申論題（慢、可能離題），Jev 寫選擇題（快、答案受限於選項）。

1. 三種題型與應用：

• 是非題 (Yes/No)：回傳 0 到 1 之間的機率，應用於發票詐騙判斷、設定門檻自動拒絕或轉交人工。
• 單選題 (Multiple Choice)：從多個選項中挑出一個最合適的，並提供各選項機率（最多 255 個選項），應用於自動整理信箱、郵件歸類。
• 打分題 (Scoring)：設定光譜或級距（最多 11 級），回傳當前狀況落在哪個位置，應用於業務潛在客戶篩選。

1. System 1 vs System 2 分工：

• System 1 (Jev)：直覺、反應快、不需深思，用於快速、準確的判斷與分類。
• System 2 (如 Fable, Astra, GPT-4o)：推理、速度慢、想得深，用於構思、寫作、複雜邏輯。
• Jev 是「小而美的自動化開關」，非取代大模型，而是互補。

1. 實際應用案例：

• 虛擬小鎮實驗：50 個 AI 居民在 0.6 秒內決定對「麵包店大拍賣」的反應，應用於遊戲 NPC 行為擬真。
• 西洋棋對弈：Jev 每步僅 2.6 秒，而 Fable 每步 6-15 秒，Jev 在快棋中因速度優勢獲勝。
• 大量分類壓力測試：處理 1000 封信件，Jev 耗時 70 秒、成本 9 美分；GPT-4o 耗時 5 分鐘、成本 62 美分。
• 模型路由器：Jev 判斷題目該派給哪個模型，將 Agent 自行挑 Skill 的出錯率從 17% 降至 7.3%。
• 客服 AI Agent：Jev 用於分類與評分（嚴重度、情緒等），大模型撰寫回覆，最後再由 Jev 檢查回覆是否解決痛點、語氣是否誠懇、有無洩漏機密。

詳細大綱

一、 Jev 的基本介紹與背景

• 發布資訊：9 月 15 日發布，創辦人為 Diogo Almeida。
• 市場反應：創辦人 X 貼文獲近 3000 萬次觀看，Hacker News 獲 1679 分，Vercel 迅速上架。
• 核心定位：
• 不聊天、不寫文章、不寫程式。
• 只專注於「做決定」。
• 對標對象不是 Fable、Astra 等全能大模型，而是工作流中的決策節點。
• 技術背景：
• 開發公司：TypeSafe AI（過去低調，Jev 為首款公開模型）。
• 創辦人背景：Diogo Almeida 是 RLHF（強化學習從人類反饋）的共同發明人。
• 訓練方法：ChatGPT 後花了兩年研究全新訓練方法，非傳統生成式訓練。
• 命名由來：取自經濟學中的「傑文斯悖論」（Jevons Paradox），意指越便宜高效，使用量越大。

二、 Jev 的運作原理與特點

• 運作方式：
• 輸入：資料、問題、預設選項。
• 輸出：回傳每個選項的機率（非生成文字）。
• 速度：通常不到 0.3 秒完成判斷。
• 比喻：
• 一般大模型：寫申論題（慢、可能離題）。
• Jev：寫選擇題（快、答案發散範圍受限於選項）。
• 優勢：
• 速度快、價格便宜、極低幻覺（因為沒有機會瞎掰選項外的答案）。
• 計費模式：
• 輸出完全免費。
• 僅收取輸入文字量（Token），每百萬 Token 約 0.042 美元。

三、 Jev 的三種題型與應用場景

1. 是非題 (Yes/No)：

• 回傳 0 到 1 之間的機率。
• 應用：發票詐騙判斷、設定門檻自動拒絕或轉交人工。

1. 單選題 (Multiple Choice)：

• 從多個選項中挑出一個最合適的，並提供各選項機率。
• 限制：最多 255 個選項，可搭配說明文字。
• 應用：自動整理信箱、郵件歸類。

1. 打分題 (Scoring)：

• 設定光譜或級距（最多 11 級），回傳當前狀況落在哪個位置。
• 應用：業務潛在客戶篩選（根據預算、需求打分），觸發後續自動化規則（如通知主管）。

四、 Jev 與大模型的分工 (System 1 vs System 2)

• 理論基礎：引用《快思慢想》(Thinking, Fast and Slow)。
• System 1：直覺、反應快、不需深思（Jev 的定位）。
• System 2：推理、速度慢、想得深（Fable、Astra 等全能模型的定位）。
• 分工策略：
• 構思、寫作、複雜邏輯：交給大模型。
• 快速、準確的判斷、分類：交給 Jev。
• Jev 是「小而美的自動化開關」，非取代大模型，而是互補。

五、 社群 Demo 與實際案例

1. 虛擬小鎮實驗 (YouTuber Matthew Berman)：

• 50 個 AI 居民在 0.6 秒內決定對「麵包店大拍賣」的反應。
• 應用前景：遊戲 NPC 行為擬真，運算成本極低。

1. 西洋棋對弈實驗 (AI ML API 團隊)：

• Jev 與 Fable/Astra 下快棋（每步限時）。
• 結果：Fable 棋力強但思考時間長（每步 6-15 秒），最終超時輸掉；Jev 每步僅 2.6 秒。
• Astra 則在 18 步內將死 Jev。

1. 大量分類壓力測試：

• 1000 封信件判斷：Jev 耗時 70 秒，成本 9 美分；GPT-4o 耗時 5 分鐘，成本 62 美分。
• 1700 封信件分類 (OpenCode Ryan Vogel)：耗時極短，總成本 18 美分。

1. 模型路由器 (YouTuber Riley Brown)：

• Jev 不回答問題，只判斷題目該派給哪個模型（便宜模型處理小事，貴模型處理複雜程式）。
• 官方數據：Agent 自行挑 Skill 出錯率 17%；經 Jev 過濾後降至 7.3%。

1. 瀏覽器外掛 (開發者 kitze - Unclutter)：

• 即時判斷網頁區塊，過濾廣告與垃圾內容，提供清爽閱讀版面。

1. 客服 AI Agent 實際案例：

• 流程：客服單進入 -> Jev 分類與評分（嚴重度、情緒、是否退款等 5 個問題）-> 自動派單至對應部門。
• 回覆生成：由大模型撰寫安撫信。
• 最後把關：再次呼叫 Jev 檢查回覆是否解決痛點、語氣是否誠懇、有無洩漏機密。
• 效益：速度快、成本忽略不計、降低幻覺與公關危機風險。

六、 總結與建議

• 適用對象：從事 AI 自動化、處理海量信件/留言/客服單的用戶。
• 開發者應用：適合放在檢查關卡，掃描註解、審查程式碼邏輯（因便宜可頻繁運行）。
• 核心觀念：不要問哪個模型最強，要問哪個模型最適合當下工作流。
• 未來展望：未來軟體產品背後可能會大量出現專門做判斷的模型應用（如 Claude 外包決策給 Jev）。
• 獲取方式：目前處於早期預約階段，需登記 Email 排隊。

工具 / 模型 / 名詞整理

• Jev：影片主要介紹的 AI 模型，由 TypeSafe AI 開發。
• TypeSafe AI：開發 Jev 的公司。
• ChatGPT：被提及為 Jev 創辦人參與打造的模型。
• RLHF：強化學習從人類反饋（Reinforcement Learning from Human Feedback），ChatGPT 背後的訓練方法。
• X：社交媒體平台（原 Twitter）。
• Hacker News：工程師論壇。
• Vercel：平台，上架了 Jev。
• Fable：被提及的全能型大模型之一。
• Astra：被提及的全能型大模型之一。
• GPT-4o：被用於對比測試的大模型。
• Claude：被提及的全能型大模型之一。
• OpenCode：提及的創始團隊。
• Unclutter：開發者 kitze 製作的瀏覽器外掛名稱。
• Skool：影片作者提到的社群平台。
• System 1 / System 2：引用《快思慢想》中的概念，System 1 指直覺快速反應（Jev），System 2 指推理深思（大模型）。
• 傑文斯悖論 (Jevons Paradox)：經濟學概念，指資源效率提高導致總消耗量增加，此處用於解釋 Jev 命名由來。

操作流程整理

客服 AI Agent 處理流程

1. 接收請求：客服單進入系統。
2. Jev 分類與評分：

• 使用 Jev 進行分類與評分（包含嚴重度、情緒、是否退款等 5 個問題）。
• 根據評分結果，自動派單至對應部門。

1. 大模型回覆生成：

• 由大模型撰寫安撫信或回覆內容。

1. Jev 最後把關：

• 再次呼叫 Jev 檢查回覆內容。
• 檢查項目：是否解決痛點、語氣是否誠懇、有無洩漏機密。

1. 發送回覆：通過檢查後發送給用戶。

模型路由器流程

1. 接收問題：用戶提出問題或需求。
2. Jev 路由判斷：

• Jev 判斷題目該派給哪個模型。
• 簡單問題派給便宜模型，複雜程式問題派給貴模型。

1. 執行任務：由對應模型處理並返回結果。

值得注意的限制或風險

• 選項限制：單選題最多僅支援 255 個選項。
• 級距限制：打分題最多僅支援 11 級。
• 適用範圍：Jev 不生成文字，僅適用於有明確選項的決策、分類或評分任務，不適用於開放式創作或對話。
• 預約狀態：目前處於早期預約階段，需登記 Email 排隊，尚未全面開放。

逐字稿辨識疑點

• segment 203: rapid_semantic_review — 全文速讀上下文判斷；尚未回聽或交叉比對
• segment 251: rapid_semantic_review — 全文速讀上下文判斷；尚未回聽或交叉比對

其他疑似辨識錯誤或需查證之名稱/數據：

• Jev：逐字稿中多次出現此名稱，疑為模型名稱，但需確認是否為拼寫錯誤（如 Jev 或 Jevn 等）。
• Diogo Almeida：Jev 創辦人姓名，需查證是否為正確拼寫。
• Fable：逐字稿中與 Astra 並列為「全能的大模型」，需查證是否存在名為 Fable 的主流大模型，或是否為其他模型名稱之聽誤。
• System 1 模型：TypeSafe 創造的分類詞彙，需確認是否為官方正式術語。
• 傑文斯悖論 (Jevons Paradox)：經濟學概念，逐字稿中譯為「傑文斯」，通常譯為「傑文斯」或「吉文斯」，需確認譯名一致性。
• 快思慢想：書籍名稱，通常譯為《思考，快與慢》(Thinking, Fast and Slow)，需確認是否為特定譯本名稱。
• 0.042 美元：計費標準，需查證是否為準確數字。
• 255 個選項：單選題最大選項數，需查證是否為技術限制。
• 11 級：打分題最大級距數，需查證是否為技術限制。
• Matthew Berman：YouTuber 姓名，需查證是否為正確拼寫。
• AI ML API：團隊名稱，需查證是否為正確名稱。
• Ryan Vogel：OpenCode 創始團隊成員姓名，需查證是否為正確拼寫。
• Riley Brown：YouTuber 姓名，需查證是否為正確拼寫。
• kitze：開發者名稱，需查證是否為正確拼寫。

可延伸追問

1. Jev 的「全新訓練方法」具體技術細節為何？與傳統生成式訓練有何本質區別？
2. 若選項超過 255 個或級距超過 11 級，Jev 是否有擴展方案或替代處理方式？
3. Jev 在處理模糊不清或選項定義不明的任務時，準確率會如何下降？
4. 目前 Jev 的預約機制與正式上線時間表為何？
5. 除了客服與分類，Jev 在金融風險評估、醫療診斷輔助等高精度要求領域的應用潛力與限制為何？