# 影片筆記:【Jev实测】Jev是什么?怎么用?二十分钟彻底给你讲清楚它的底层原理!少走99%弯路!看懂 TypeSafe Jev:它根本不是聊天 LLM ## ⚠️ 可先使用,仍有待修正項目 本筆記已完成可閱讀的逐字稿與時間跳轉;下列為待處理問題,建議播放原片確認。 - 待修正:逐字稿全文快速校讀未完成(已保留自動字幕/原始逐字稿並繼續生成筆記。;未完成的全文速讀項目可在精進模式回聽確認。) ## 一句話總結 影片介紹了一款名為 **Jev**(筆記中亦出現 Jill, J5, Jil, Jayv 等稱呼)的新型 AI 模型,其核心定位為「決策模型」而非傳統生成式 LLM。Jev 採用一次性變形計算(Deformed Calculation)與 RLCD 訓練方法,不生成文本,而是直接輸出結構化的概率判斷(JSON),具備極低延遲(500ms 內)與極低成本(較 GPT 降低 400 倍)的優勢,主要應用於 Agent 路由、安全风控、分類打分等高頻決策場景,與 GPT/Claude 形成互補關係。 ## 核心重點 1. **模型定位差異**: * 傳統模型(GPT, Claude):自回歸(Autoregressive)生成 Token,逐字生成,高延遲、高成本,適合創意與文本生成。 * Jev 模型:決策/判斷模型,一次性輸出結構化概率,低延遲、低成本,適合有限選項的判斷與路由。 2. **技術原理**: * 由前 OpenAI 研究員 Digo 創辦的 TypeSafe AI 發布。 * 採用 RLCD 訓練方法。 * 核心架構為「一次性變形計算」,直接輸出判斷概率,而非逐 Token 生成。 3. **效能優勢**: * 推理速度最高提升 200 倍。 * 成本最高降低 400 倍(例如:100 萬 Token 成本約為 GPT 的 1/250,約 0.04 美元對比 10 美元)。 * 延遲極低:500 毫秒內返回結果。 4. **輸出格式與類型**: * 強制結構化 JSON 輸出,無自然語言文本,無格式錯誤,無文本幻覺。 * 三種輸出類型: * `no`:概率判斷(0-1 浮點數),數值即為置信度。 * `choose`:多選一,返回最高概率選項名稱、自信度(Confidence)及完整概率分布。 * `score`:連續打分,返回非整數打分值及自信度。 5. **應用場景**: * Agent 高頻快判斷、路由選擇(如從多個模型中選擇最佳模型)。 * 安全控制與風控(高危操作判斷、實時業務風控、IoT 設備告警)。 * 客戶服務與數據處理(工單分類、情緒分析、緊急度打分、內容篩選)。 ## 詳細大綱 ### 一、 Jev 模型概述與市場反應 * **市場熱度**:近期在硅谷刷屏,發布前三天已被 Wassel, Cloudflare, LongChang 等主流平台集成。 * **核心優勢對比**: * **速度**:推理速度最高提升 200 倍,延遲極低(500 毫秒內得到結果,對比 GPT 的幾秒至十幾秒)。 * **成本**:成本最高降低 400 倍。100 萬 Token 成本約為 GPT 的 1/250(約 0.04 美元對比 10 美元)。 * **定位**:與 GPT/Claude 並非替代關係,而是互補關係。 ### 二、 技術背景與原理 * **開發團隊**: * 公司:TypeSafe AI。 * 發布時間:9月15日。 * 創始人:Digo(前 OpenAI 研究員,參與 ChatGPT 創造)。 * **研發動機**:解決超強聊天模型未帶來 AGI 的問題,探索新訓練方法。 * **技術方法**: * 新訓練方法:RLCD。 * 新模型架構:Jev(筆記中亦稱 Jill 等)。 * **區別於傳統模型**: * GPT/Claude:自回歸(Autoregressive),逐 Token 生成,高延遲高成本。 * Jev:一次性變形計算(Deformed Calculation),直接輸出判斷概率,低延遲低成本。 ### 三、 Jev 的使用方式與輸入輸出 * **使用方式**:通過 API 調用。 * **輸入內容**: 1. `state`:上下文/環境狀態。 2. `question`:預定義的任務/問題。 * **輸出內容**: * 強制結構化 JSON(非自然語言文本)。 * 一次性返回所有概率。 * 程序可直接解析。 ### 四、 三種輸出類型詳解 1. **No 類型(概率判斷)**: * 特點:不完型判斷,返回 0 到 1 的浮點數(筆記疑點:伏點數)。 * 含義:數值代表成立概率,無需單獨設置置信度,數字即為置信度。 * 範例:檢測用戶是否會退款(返回 0.9 或 1 表示高概率會退款)。 2. **Choose 類型(多選一)**: * 特點:從多個選項中選擇概率最高的一個。 * 限制:最多支持 255 個選項。 * 輸出字段: * `truth`(筆記疑點:可能指 choice 或 result):概率最高的選項名稱。 * `confidence`(筆記疑點:知性度/自信度):模型對本次分類結果的自信度(數值越高越確定,建議閾值 0.7-0.8)。 * 完整概率分布。 * 範例:將客服工單路由至結算、技術或銷售部門。 3. **Score 類型(連續打分)**: * 特點:對多個選項進行連續打分,提供各級別概率分布。 * 輸出字段: * 非整數打分值(筆記疑點:非诊数打分值)。 * `confidence`:自信度。 * 範例:對用戶情緒(冷靜、失望、憤怒)進行打分,選擇最高分對應的情緒。 ### 五、 實際應用場景 * **Agent 與自動化**: * 瀏覽器/電腦操作識別(點擊、輸入、下拉等有限動作)。 * 遊戲操作判斷(如俄羅斯方塊,選項有限)。 * 智能工具路由:從十幾個常用模型中選擇最適合的模型進行處理。 * **安全與风控**: * 高危操作前的快速安全判斷。 * 實時業務风控(筆記疑點:電帶分控)、自動化交易风控。 * 服務器與 IoT 設備(筆記疑點:AOT 設備)告警自動化。 * **客戶服務與數據處理**: * 公單分類(物流、賬單、故障、投訴)。 * 緊急度打分、情緒強烈度判斷。 * Node 核心判斷(是否退款、是否辱罵、是否需要人工介入)。 * 內容與文檔篩選、評論篩選、會議記錄標籤化。 * 數據標註與評測:替代大模型進行批量調用(筆記疑點:榨紙調用),高效篩選與打分。 ### 六、 總結與建議 * **成本效益**:GPT 等生成式模型成本高、延遲高,不適合所有場景。 * **組合策略**:硅谷趨勢為「Jev + GPT/Claude」組合使用。 * Jev 負責高頻、低延遲、低成本的決策與路由。 * GPT/Claude 負責需要生成文本或複雜創意的場景。 * **核心價值**:高效、低價、無文本幻覺(筆記疑點:年文本幻覺)、結構化輸出、無格式錯誤(筆記疑點:寧格式錯誤)。 ## 工具 / 模型 / 名詞整理 * **Jev** (亦被稱為 Jill, J5, Jil, Jayv, Jill latest, Jolatist) * **GPT** (ChatGPT, 筆記疑點:ChairGPT, GP9) * **Claude** (筆記疑點:Cloat) * **OpenAI** * **Wassel** * **Cloudflare** * **LongChang** * **TypeSafe AI** * **RLCD** (訓練方法) * **API** * **JSON** * **CURL** * **AGI** * **Agent** * **Deformed Calculation** (一次性變形計算,筆記疑點:拼尿變形計算) * **Autoregressive** (自回歸) * **Confidence** (自信度/置信度,筆記疑點:知性度, 知情度) * **Stripe** (筆記疑點:Strip 賬戶, street 的客戶) * **IoT** (筆記疑點:AOT 設備) ## 操作流程整理 1. **準備階段**: * 獲取 TypeSafe AI 的 API Key(筆記疑點:API-KIT)。 * 確定應用場景(如路由、分類、打分)。 2. **構建請求**: * 定義輸入參數: * `state`:當前上下文或環境狀態。 * `question`:預定義的任務或問題。 * 選擇輸出類型:`no`(概率判斷)、`choose`(多選一)或 `score`(連續打分)。 3. **調用 API**: * 通過 CURL 或程式碼調用 Jev API。 * 發送請求,等待回應。 4. **解析回應**: * 接收結構化 JSON 數據。 * 解析 `truth`(最高概率選項)、`confidence`(自信度)及概率分布。 * 根據解析結果執行後續動作(如路由請求、觸發風控、輸出標籤)。 5. **組合使用(可選)**: * 若 Jev 判斷需要生成文本,將結果作為上下文輸入給 GPT/Claude 進行生成。 ## 值得注意的限制或風險 1. **適用場景限制**:Jev 主要適用於有限選項的判斷、路由和分類場景,不適合需要創意生成或複雜文本生成的任務。 2. **選項數量限制**:`choose` 類型最多支持 255 個選項。 3. **置信度閾值**:使用 `choose` 類型時,建議設置置信度閾值(0.7-0.8),低於閾值可能需要人工介入(筆記疑點:低分支可以人工复制)。 4. **技術成熟度**:作為新型模型,其長期穩定性及在極端邊緣案例下的表現仍需觀察。 5. **辨識不確定性**:由於逐字稿中存在大量疑似聽寫錯誤的名稱和術語,實際產品細節可能與筆記描述存在差異,需以官方文檔為準。 ## 逐字稿辨識疑點 **模型與產品名稱:** * **Jill / J5 / Jil / Jayv / Jill latest / Jolatist**:逐字稿中交替使用,疑點指代同一模型 Jev。 * **Wassel / LongChang**:疑點,需查證是否為特定平台名稱。 * **Cloat / GP9 / ChairGPT**:疑點,可能為 "Claude" 或 "GPT" 的聽寫錯誤。 * **Digo**:疑點,前 OpenAI 研究員創辦 TypeSafe AI,需查證實際姓名。 * **Jolatist**:疑點,可能指 "Jill latest"。 **技術術語與概念:** * **拼尿變形計算 / 拼尿刪訊 / 拼尿核心要求 / 拼尿變形計算 / 拼量進行按原判斷與分離打分 / 拼尿變形計算 / 拼尿核心要求 / 拼量進行按原判斷**:疑點,可能為 "批量"、"平行" 或 "一次性" 的聽寫錯誤,結合上下文 "Deformed Calculation",可能指 "一次性變形計算" 或 "批量變形計算"。 * **RLCD**:疑點,需查證具體訓練方法縮寫。 * **知性度 / 自信度 / 知情度**:疑點,可能指 "Confidence"(置信度/自信度)。 * **伏點數 / 非诊数打分值**:疑點,可能指 "浮點數" 或 "非整數打分值"。 * **truth**:疑點,可能指 "choice" 或 "result"。 * **sultrime**:疑點,可能指 "summary" 或 "structure"。 * **評鑑**:疑點,可能指 "評分"。 * **年文本幻覺 / 年文本幻觉**:疑點,可能指 "無文本幻覺"。 * **寧格式錯誤 / 宁格式错误**:疑點,可能指 "無格式錯誤"。 * **校准级概念**:疑點,可能指 "置信度概念"。 * **直接预计分支**:疑點,可能指 "直接預測分支"。 * **低分支可以人工复制**:疑點,可能指 "低分支可以人工介入"。 * **输出你的费用**:疑點,可能指 "输出你的结果" 或 "输出你的费用"。 * **年纪年4万美元**:疑點,可能指 "0.04万美元"。 * **汉缩入门**:疑點,可能指 "快速入門"。 * **API-KIT**:疑點,可能指 "API-KEY"。 * **上线文**:疑點,可能指 "上下文"。 * **street 的客戶 / Strip 賬戶**:疑點,可能指 "Stripe 的客戶/賬戶"。 * **储藏 储藏 這麼一個信息**:疑點,可能指 "存儲"。 * **非诊数打分值**:疑點,可能指 "非整數打分值"。 * **年点88**:疑點,可能指 "0.88"。 * **爱**:疑點,可能指 "0"。 * **電帶分控**:疑點,可能指 "電商风控"。 * **AOT 設備**:疑點,可能指 "IoT 設備"。 * **榨紙調用**:疑點,可能指 "批量調用"。 * **降业预示**:疑點,可能指 "業務預警"。 * **拼離核心要求**:疑點,可能指 "偏离核心要求"。 * **拼量進行按原判斷**:疑點,可能指 "批量進行按原判斷"。 * **一次請就變形處理所有**:疑點,可能指 "一次請求就變形處理所有"。 ## 可延伸追問 1. TypeSafe AI 的創始人 Digo 的真實姓名及背景是什麼? 2. RLCD 訓練方法的具體技術細節和論文是什麼? 3. Jev 模型在 `choose` 類型中,當置信度低於閾值時的具體處理邏輯是什麼? 4. Wassel, Cloudflare, LongChang 等平台上集成 Jev 的具體案例和性能數據為何? 5. Jev 模型與 GPT/Claude 組合使用的最佳實踐架構是什麼? 6. Jev 模型在處理超過 255 個選項時是否有替代方案或擴展機制?