工作清單

EP155 - 席捲 AI 圈的 Jev,到底在紅什麼?AI Agent 真的要大改了嗎?

逐字稿文字預覽

哈囉,大家好
歡迎收聽科技浪
我是主持人哈利
科技浪是一個白話跟你聊科技的 Podcast
希望可以用簡單易懂
但是又深入的方式,帶你了解時下最火的科技話題
本期節目由犀牛盾贊助播出
好
那過去這一週
就是算是蘋果發表會結束的第二週
就是有一些初步的評測都已經出來了嘛
對不對?
我不知道大家看到這個 iPhone 18 Pro
有沒有決定要購買呢?
當然
跟 17 Pro 比起來
確實沒有多少的更新,對不對?
但我自己還是會換
因為我現在其實原本我的 iPhone
我有很多支手機,那 iPhone 就是有一支 17 Pro
它也算是我主要的手機之一
那我還是會想換成 18 Pro,是為什麼呢?
其實,老實說啦,單純看這個
就目前看 CP 值,真的是沒有到那麼高,OK
就你換了之後,你得到什麼?
就更好的電池續航跟晶片效能以及相機
那相機那邊就是有個可變光圈嘛
對不對?
然後當然還有顏色啦
顏色對我來說還好啦
好,那你就得到這些嘛
那這個真的值得你多花那一兩萬塊嗎?
我覺得對於很多人來說
就現有的體驗來說是真的沒有到很值得,OK
然後我自己本人,就我目前的使用狀況呢
確實也真的沒有必要
就是多花這一筆錢這樣子
但我還是會換,是為什麼?
因為我的想法是比較接近,我買了先放著
這個能力我覺得我未來會用到,我買了先放著
我現在還用不到
我們今天這集業配時間比較長一點
剛好願意跟大家分享一些我自己的想法
我們現在都還沒講到業配產品
反正我的想法就是,因為這個 iPhone 18 Pro
他們用了這個新的晶片,叫做 A20 Pro 的晶片嘛
對不對?
它跟上一代 A19 Pro 比起來呢
當然就是在各方面的表現都有提升啊
那他們 demo
很多打遊戲的散熱效果比較好啊等等的
但那些評測員都沒有 demo 到的一點
是它的 AI 運算的表現
它的 AI 運算表現不是提升一點點而已喔
提升非常多喔
我看有一個網友發了他的測試在 X 上面
他是跑 On-Device 的 Apple Foundation Model
他發現一個長 prompt 的 time to first token
直接從 A19 Pro 的 2000 多毫秒變成 1000 毫秒
直接砍半
整個 time to first token 都快非常多
當然,我知道很多人就會說,蘋果根本就沒有 AI
那你現在買來放著有什麼用?
我覺得快了啦,真的快了啦
你聽我們之前在分析
Apple Intelligence 的那幾集
Apple Foundation Model 的那幾集
你就會知道蘋果在這邊已經有在做準備了
尤其像這個更強的 Siri,iOS 27
其實我不知道這個中文版到底什麼時候會推出
但我覺得
如果推出的時候
大家中文版用到的是接近英文版的這種滿血狀態的話
會很有感啦
真的
那如果你已經準備好
要下單 iPhone 18 Pro 了
手機殼也必須先準備好
那這次要跟大家介紹我最近最喜歡的
這個太空級防摔
犀牛盾 AirX 極致氣墊緩衝殼
那 AirX 的防護到底有多強呢?
你知道犀牛盾他們把 AirX 送到瑞典太空中心
進行超過三萬公尺近太空高度的摔落測試
你沒聽錯喔
三萬公尺
那它經歷了,這個手機包著殼,經歷了極致低溫
真空環境跟高空落下來的衝擊之後呢
手機竟然還可以正常使用
這個是創下了全新的世界紀錄的
那 AirX 可以做到這件事情呢
關鍵就在於 AirX 裡面有 360 度的包覆式氣囊
搭配了這個犀牛盾獨家的內傷防護複合系統
可以把摔落瞬間的衝擊力給分散吸收掉
那你可以想像
就是我們幫手機裝上了一圈安全氣囊
可以降低摔落的受損機會
如果你挑手機殼
也很在意顏色跟手感的話
可以看看犀牛盾的 SolidX 強化吸震緩衝殼
這個 SolidX
它的霧透系列可以透出 iPhone 本身的顏色
很百搭,再加上它很細緻的磨砂質感
摸起來很舒服
也抗污耐髒。內側四個角落
也是有緩衝槽的
所以它的外型跟防護都有顧到
也很好拆裝。另外也有其他的
像是主打終身抗黃保固
如果變黃了,可以免費換新的 Clear 透明殼系列
以及全新的裸機感 Bumper 邊框殼
連螢幕、鏡頭保護都可以一起備齊
現在購買任何一款手機殼
保護貼還有限時 7 折起
舊殼也不要急著丟
犀牛盾現在有 RHINOLOOP
手機殼回收計畫的大進化
加入官方會員,完成手機驗證
再啟動舊殼回收的話
新殼就可以折抵 500 塊
那或是你在官網結帳的時候呢
輸入我們哈利的折扣碼
這個科技浪的限時折扣碼 i18-harry,小寫的 i
然後 18,然後 dash harry,都是小寫的
這個我們在本集資訊欄也會提供折扣碼
你就可以訂單直接滿 700 塊,現折 100 塊,OK
所以這個連結跟折扣碼都放在節目的資訊欄
準備換新 iPhone 的朋友,可以記得去看看
來幫新手機先把防護給準備好
本集業配就到這邊結束,謝謝犀牛盾的贊助
各位,我們必須得來聊聊 Jev,J-E-V,Jev
過去這三天的社群媒體
不管是 X 還是 Threads
全部都是 Jev,怎麼滑都是看到 Jev
十篇裡面至少七八篇都是 Jev,如果你不知道的話
這個 Jev 是過去這一週 AI 圈最大的一個新聞
所有人都在討論的一個新的 AI 模型
那它是由一間叫做 TypeSafe AI 的公司在上禮拜推出的
那你如果沒有聽過 TypeSafe AI 這間公司
其實非常正常啦
因為他們基本上在上禮拜之前是
沒有人聽過的一間公司
他們 2024 年成立
但是兩年的時間他們都是在低調打造產品
就是 Stealth Mode 這樣子
那在上禮拜他們才終於就是推出他們的第一個模型
然後就也讓大家了解知道他們這樣子
那這模型一出來,馬上就是全網爆紅啊
整個 AI 圈子沒有任何其他 topic
大家都在講 Jev,那為什麼會這麼紅呢?
就是現在 AI 模型整天都在推出嘛
就是每個禮拜都有新模型推出來
為什麼這個模型會得到這麼多關注?
首先,最主要的原因是因為它不是一般的 AI 模型
它不是一個 chatbot,也不是一個 AI agent
它是一個 TypeSafe 把它稱作
System 1 model 的模型
好,那你聽這個名字
原本你第一次看到就覺得,哇
好像很炫砲耶,好像很神秘耶!
什麼叫做 System 1 model?感覺好像很厲害
然後你往下繼續看他們的這個宣傳文呢
你會覺得越看越扯
他們講了很多東西,像是說
Jev 這個模型呢,是不會有幻覺的
Zero Hallucinations,這個原本應該是 AI 模型
這個 LLM 模型的一個致命痛點的幻覺問題
他們竟然沒有
然後還寫
它的速度跟成本都是遠遠勝過現在的大型語言模型
速度快多少倍?
不是快一倍兩倍,是快兩百倍
然後成本呢?
便宜四百倍
哇,看到這邊你真的會覺得說
這個模型到底是何方神聖啊
你就忍不住想要去研究它嘛
那這是它爆紅的第一個原因
它還有另外一個原因
就是它的 Founder
TypeSafe AI 的 CEO,其實背景很硬喔
他的名字叫做 Diogo Almeida
是一個蠻騷包的 CEO
因為他去參加一些演講啊,Event
都會穿著一個粉色的那種羽絨大衣,OK
就很亮的很亮的那種粉色
就有點像是那個 One Piece 的那個 Doflamingo 那樣子
那反正,他的技術底子真的很硬喔
他是 ChatGPT 的共同發明者之一
差不多 2022 年
OpenAI 在研究怎麼把
GPT-3 這種只會做文字接龍的大型語言模型
變成是一個 chatbot
像是 ChatGPT 這種會跟你一來一往地聊天的模型
那這背後最核心的技術呢
就是後訓練,就是 RLHF 的這些技術
就是 Diogo Almeida 當時在 OpenAI 研究的
他們甚至後來出了一篇論文
然後這個 Diogo Almeida
是那篇論文的主要作者之一
所以這整件事就是一個完美頭條嘛,對不對?
哇
這個 ChatGPT 的共同發明者之一
竟然推出了一個 AI 模型
比現在的模型快兩百倍
然後還便宜四百倍
然後還永遠不會產生幻覺。哇!
天翻地覆,世界要改變啦!
那當然啦,就一如既往
其實很多這些 marketing 的講法都是比較偏炒作啦
其實事實的狀況就是,天下沒有白吃的午餐
好
你今天要做到我們剛剛講的那三件事情呢
你勢必要犧牲一點你們模型能夠做到的事
那聽完今天這集 podcast 呢
你就會完全理解 Jev 這個模型它到底是什麼
它的運作原理又是什麼
它的應用場景可以應用在哪些地方
能夠解決哪些問題
然後哪些場景是沒有辦法取代現在的 LLM 的
以及它的實測狀況如何
我自己也有簡單地去測試一下
然後最後我覺得也是非常重要的一點
就是 So what?
有了 Jev 之後,又會發生什麼事情?
這對於現在的 AI agent 的意義究竟是什麼?
我覺得 Jev 當然不像是很多的文章一樣
講得會改變世界
但是它確實,必須說,是一個重要的技術趨勢
它確實是會改變一些事情
好,那首先呢
我們就先從 Jev 到底是什麼開始聊起
好,那當然這個 TypeSafe AI 是把它稱作
一個 System 1 model 嘛,對不對?
好,但你直接這樣子講
沒有人會知道它是什麼的啦
好,其實一個最精準的講法
我會把它稱作一個
LLM-based general-purpose classification model
中文可以翻成基於大型語言模型的通用分類模型
OK,那當然我知道 TypeSafe AI
他們官方絕對不會認同這樣子的定義
因為他們就是很明顯地想要跟 LLM 切割嘛
然後做出差別
才會把它叫做 System 1 model
但是我覺得最精準的講法應該是這樣子
我自己認為
那當然這一句話聽起來很長很複雜
很多人可能一時之間沒有辦法
完全理解它是什麼意思
所以我們把它 break down
我們把它拆出幾個重要的觀念來看
先看最後一句喔
Jev 是一個 classification model 分類模型
意思就是說它只能做分類工作
它不能產生文字、圖片或是程式碼
這邊其實就是跟一般的這些
AI agent、AI chatbot 很不一樣的地方嘛
對不對?
所謂的分類工作呢
就真的是針對一個情況或是一個物件去幫它做分類
就比如說你拿到一個客服的訊息
一個客人的抱怨的訊息
那你要根據這個訊息
分辨它究竟是一個技術相關的問題
還是一個帳務相關的問題
還是一個物流相關的問題
等等
或者是根據目前你看到的這一則 email 的內容呢
去判斷它是不是釣魚信件
OK,就兩種可能而已,是或是不是
或者是根據履歷的內容以及你的徵才標準
去判斷這個應徵者跟我們職缺的適合程度有幾分
1 到 5 分,究竟有幾分這樣子
好,那像這類型的工作呢,就是 Jev 在做的
而且 Jev 也只能做這類型的工作
它不會產生文字,也不會產生圖片,好
你今天就是丟給它一個你要判斷的情況
以及這個情況之下你目前的選項有哪些
然後 Jev 就會直接吐給你一串機率分布
好,這個機率分布呢
就是你給它的選項當中的機率分布
OK
比如說 A 選項幾% 的機率
B 選項幾% 的機率,C 選項幾% 這樣子
像是你丟給它一個客服的訊息,內容就是說
「我想知道一下我的包裹目前的進度。」
那你下面就寫出,你現在要問的問題是
請問這個客服的訊息呢
它是哪一個類別的問題?
然後下面有 A 選項:帳務
B 選項:技術,C 選項:物流
D 選項……然後你把這整坨東西丟給 Jev
Jev 就會吐一個機率分布給你
比如說帳務機率 2%,技術機率 1%
然後物流機率 92%
然後其他選項機率幾%、幾%、幾%
你透過這個機率分布就可以看到說
Jev 認為這個問題有 92% 的機會是跟物流相關的
所以說,好
這個,八成這個問題就是物流的問題這樣
好,你覺得 Jev 可以幫你很快地去做出這個判斷
然後同時,Jev 也不只是一個單純的分類模型
它是一個通用的分類模型
一個 general-purpose classification model
那這句話在講的呢
就是同樣一個 Jev 模型
可以解決各式各樣不同的分類問題
OK
你不用再額外去訓練它去學習如何分類不同的問題
它自己本來就可以靠著它的
這個世界知識去進行判斷
好,你只要 context
就是你的問題的狀況,問題的敘述
還有這個該給的資訊有給足
它大部分的情況下都有能力可以自己判斷
那當然啦,我覺得有些人可能會覺得說
這不是理所當然的嗎?
現在哪一個模型不是通用的嘛,對不對?
但你必須要知道
我覺得通用這件事情
就是你還是得加在
classification model 這個詞之前
因為你要知道
在 ChatGPT 時代之前
我們那時候在講 AI,其實那時候
甚至不是在講 AI
在講 machine learning 那個時候
在講 machine learning
在講機器學習的時候呢
classification,也就是分類問題
一直以來都是一個大類別
很多的機器學習的演算法都是為了分類問題而設計的
那當然沒有任何一個演算法是可以像是現在 Jev
像是現在那個 ChatGPT 這麼通用的
全部都是針對一個你的特定問題
特定領域的特定問題去訓練一個模型出來
就比如說你們今天一個銀行
想要大量去判斷你們客戶的違約機率有多高
你就要準備大量的歷史資料
一筆一筆都清楚地標示了
這個客戶他的交易行為如何
他的個人資料、基本資料,然後他是否有違約
具體很多這種過去的資料
就拿這些資料去訓練一個模型
隨便看你要挑什麼樣子的演算法
有一些比較統計 based 的演算法
也有一些像是神經網路的演算法
反正你挑一個演算法,然後就訓練這個模型
那後續你就可以用
這個模型去為新的客戶去進行預測
預測看這個人有沒有違約的機率這樣子
但很明顯地,同一個模型就只會做這件事情
它不能同時也幫你去判斷一封
email 到底是不是釣魚信件
它只會做你訓練資料有丟給它的事情這樣子
所以 classification model 已經是
machine learning
這個圈子當中已經很老的一個詞了
然後也是大家鑽研很久的一個技術
但是 Jev 我覺得可以說就是站在
classification model 的頂端啦
它是一個通用的模型
任何問題,你不用訓練,不用找訓練資料
丟給它,它就會做了這樣子
那當然啦,有一些如果太偏的

來源:transcript.txt

本次執行流程與問題處理

  1. 下達指令

    指令:videonote https://youtu.be/iWltoemXq1w?si=ytSZ-qxyPE50OHE7 --language zh --adopt-source-subtitles

    來源:https://youtu.be/iWltoemXq1w?si=ytSZ-qxyPE50OHE7

    辨識語言:zh | 參數:--language zh --adopt-source-subtitles

  2. 預期流程

    依指令產生的處理順序:

    1. 採用來源字幕(略過語音辨識)
    2. 來源選擇與品質檢查
    3. 文字校正與句子單元
    4. 筆記與發布
    5. 公開網頁發布
  3. 1. 下載與語音辨識

    工具:videonote-transcribe-url(主辨識管線:下載、Whisper 辨識與選稿)

    處理:下載音訊、以 Whisper 辨識並選出最佳逐字稿

    產出:yt_dlp_meta.json(影片元資料)、audio_16k_mono.wav(16kHz 單聲道音訊)、transcript.whisper.json(Whisper 辨識結果)、transcript.json(正式逐字稿)、transcript_selection_report.json(來源選擇報告)

    耗時:678.5 秒

    關係:依序執行

    結果:完成

  4. 2. 全文快速校讀

    工具:videonote_rapid_transcript_review.py

    處理:先速讀完整逐字稿,再修正高可信突兀詞句並列出待確認項目

    產出:rapid_transcript_review_report.json(產出檔案)

    耗時:86.0 秒

    關係:依序執行

    結果:完成

  5. 3. 建立句子單元

    工具:videonote-build-sentence-units

    處理:將逐字稿切成帶時間軸的句子單元

    產出:sentence_units.json(句子單元)

    耗時:1.1 秒

    關係:依序執行

    結果:完成

  6. 4. 時間軸稽核

    工具:videonote_timeline_audit.py

    處理:檢查時間軸與音訊對齊

    產出:timeline_audit_report.json(時間軸稽核)

    耗時:0.1 秒

    關係:依序執行

    結果:完成

  7. 5. 品質檢查

    工具:videonote_controlled_quality.py(檢查時間軸與品質)

    處理:檢查語言、時間軸與可讀性品質

    產出:controlled_quality_report.json(品質報告)、language_sanity_report.json(語言檢查)

    耗時:0.2 秒

    關係:依序執行

    結果:完成

  8. 6. 播放時間軸回填

    工具:videonote_rebase_display_timeline.py

    處理:將網頁播放時間軸回填為校正字幕時間

    產出:display_timeline_rebase_report.json(時間軸回填報告)

    耗時:0.2 秒

    關係:依序執行

    結果:完成

  9. 7. 來源句整理

    工具:videonote_prepare_source_entries.py

    處理:整理來源句子供時間軸與頁面使用

    產出:sentence_units.json(句子單元)

    耗時:0.2 秒

    關係:依序執行

    結果:完成

  10. 8. 生成筆記摘要

    工具:videonote-generate-note(生成筆記摘要)

    處理:生成筆記摘要與重點

    產出:note.md(筆記 Markdown)、note.html(筆記 HTML)

    耗時:276.5 秒

    關係:依序執行

    結果:完成

  11. 9. 建立筆記頁面

    工具:videonote-render-html(產生筆記 HTML)

    處理:產生可閱讀的筆記 HTML 頁面

    產出:note.html(筆記 HTML)

    耗時:0.6 秒

    關係:依序執行

    結果:完成

  12. 10. 發布公開頁面

    工具:videonote-publish(發布公開頁面)

    處理:發布到公開網站與每日列表

    產出:公開筆記網址、result.json(管線結果)

    耗時:0.7 秒

    關係:依序執行

    結果:完成

手動來源字幕

自動來源字幕

Whisper 字幕

Qwen 字幕

Parakeet 字幕

MOSS 字幕

聲學時間證據(PyAnnote / WhisperX)

校正前後逐字稿

目前待解決問題與初步改善方向

進一步精進字幕與筆記
使用 Workbench 上傳校正字幕、中文參考稿或回饋 SRT,重新產生雙語與學習單元。
開啟 Workbench