WEBVTT
Kind: captions
Language: zh-TW

00:00:00.136 --> 00:00:01.771
OpenAI 找自家工程師

00:00:01.771 --> 00:00:03.336
拍了一支九十秒的片

00:00:03.336 --> 00:00:05.807
第一句話是——這是我第一次

00:00:05.807 --> 00:00:07.307
覺得，自己在工作上作弊

00:00:07.666 --> 00:00:09.041
一家公司不會拿作弊兩個

00:00:09.041 --> 00:00:10.362
字形容自己的產品

00:00:10.362 --> 00:00:11.987
除非那個落差大到不講不行

00:00:12.565 --> 00:00:14.506
他講的這個東西叫 Ultrafast

00:00:14.506 --> 00:00:15.631
八月中才開放預覽

00:00:16.200 --> 00:00:18.364
這是我第一次覺得

00:00:18.364 --> 00:00:20.528
自己在工作上作弊

00:00:20.528 --> 00:00:23.237
系統一掛掉就像有人

00:00:23.237 --> 00:00:26.247
按下產線的緊急停止鈕

00:00:26.247 --> 00:00:29.493
我會叫它盯著那個頻道

00:00:29.493 --> 00:00:32.414
當我的眼睛和耳朵去

00:00:32.414 --> 00:00:34.686
查找出根本原因

00:00:34.686 --> 00:00:39.230
順便回答陸續進來的人問的問題

00:00:39.367 --> 00:00:42.029
那句作弊，講的是等待消失了

00:00:42.703 --> 00:00:43.974
以前丟一個問題出去

00:00:43.974 --> 00:00:45.082
要等好幾分鐘

00:00:45.082 --> 00:00:46.927
等的時候人會跑去做別的事

00:00:46.927 --> 00:00:48.552
回來還得重新想剛剛做到哪

00:00:49.031 --> 00:00:50.781
Ultrafast 拿掉的就是這一段

00:00:51.107 --> 00:00:53.076
只是這種快沒有免費送

00:00:53.076 --> 00:00:54.201
帳單記在別的地方

00:00:54.975 --> 00:00:57.063
先講清楚 Ultrafast 是什麼

00:00:57.063 --> 00:00:58.447
它不是一顆新模型

00:00:58.447 --> 00:01:01.109
GPT-5.6 Sol 是 OpenAI

00:01:01.109 --> 00:01:02.797
目前最強的那一支，Ultrafast

00:01:02.797 --> 00:01:03.832
做的事情是讓同一顆 Sol 換

00:01:03.832 --> 00:01:05.582
一種硬體跑，參數一個都沒改

00:01:06.195 --> 00:01:07.195
速度差多少？

00:01:07.350 --> 00:01:09.213
官方給的數字是每秒最多

00:01:09.213 --> 00:01:10.338
七百五十個 token

00:01:10.338 --> 00:01:12.088
最快是原本標準速度的十四倍

00:01:12.613 --> 00:01:14.189
七百五十個 token 大概是

00:01:14.189 --> 00:01:15.689
五百個中文字——它一秒鐘寫

00:01:15.689 --> 00:01:17.564
出來的量，你差不多要讀一分鐘

00:01:18.757 --> 00:01:19.880
這種東西 OpenAI

00:01:19.880 --> 00:01:20.956
叫它服務層級

00:01:20.956 --> 00:01:21.706
同一顆模型

00:01:21.706 --> 00:01:24.085
你可以選它要跑多快，價錢跟著變

00:01:24.812 --> 00:01:26.187
模型選單上那個 Ultra

00:01:26.187 --> 00:01:27.089
就是這一層

00:01:27.308 --> 00:01:28.683
聽起來很陌生，但這條線

00:01:28.683 --> 00:01:30.279
OpenAI 早就在用了——它的

00:01:30.279 --> 00:01:32.053
產品本來就是照這個邏輯排的

00:01:32.866 --> 00:01:34.116
這條線怎麼分，OpenAI

00:01:34.116 --> 00:01:35.807
自己在一場給開發者的

00:01:35.807 --> 00:01:37.097
說明會上講得很清楚

00:01:37.097 --> 00:01:38.097
先聽他們怎麼介紹

00:01:38.097 --> 00:01:39.599
GPT-5.6 這一家人

00:01:39.599 --> 00:01:41.109
三個型號各站在什麼位置

00:01:41.763 --> 00:01:44.315
如果你還不熟，這一家族有

00:01:44.315 --> 00:01:48.956
三個新型號：Sol、Terra 和 Luna

00:01:48.956 --> 00:01:52.233
Sol 是我們的前沿模型

00:01:52.233 --> 00:01:53.871
也是旗艦處理

00:01:53.871 --> 00:01:56.875
最複雜的程式與專業工作

00:01:56.875 --> 00:02:00.038
Terra 是很好用的日常

00:02:00.038 --> 00:02:01.984
主力適合那種智力

00:02:01.984 --> 00:02:05.147
成本和反應時間都要顧的工作

00:02:05.147 --> 00:02:07.424
至於 Luna

00:02:07.424 --> 00:02:10.025
我們很喜歡它回饋

00:02:10.025 --> 00:02:12.627
也很好，適合高流量

00:02:12.627 --> 00:02:15.183
智力要求沒那麼高但很在意

00:02:15.183 --> 00:02:17.313
成本和反應時間的場景

00:02:17.456 --> 00:02:19.633
三個型號站在同一條線上的

00:02:19.633 --> 00:02:21.258
三個位置：Sol 最聰明，Luna

00:02:21.258 --> 00:02:23.660
最便宜、反應最快，Terra 在中間

00:02:24.288 --> 00:02:26.077
Ultrafast 沒有動這一排

00:02:26.077 --> 00:02:27.548
它動的是另外一排——同

00:02:27.548 --> 00:02:29.336
一顆 Sol，要跑多快

00:02:29.336 --> 00:02:30.336
腦沒有換，那速度

00:02:30.336 --> 00:02:31.671
是從哪裡多出來的？

00:02:32.471 --> 00:02:33.771
答案在晶片

00:02:33.771 --> 00:02:35.271
Ultrafast 這一層跑的不是

00:02:35.271 --> 00:02:36.771
一般的繪圖晶片，是一家叫

00:02:36.771 --> 00:02:39.034
Cerebras 的公司做的晶圓級晶片

00:02:39.034 --> 00:02:41.482
一般晶片是從一整片晶圓上

00:02:41.482 --> 00:02:42.982
切出很多顆小的，Cerebras

00:02:42.982 --> 00:02:44.732
反過來，整片晶圓就做成一顆

00:02:45.608 --> 00:02:46.608
為什麼這樣會快？

00:02:46.782 --> 00:02:48.852
模型的參數平常放在記憶體裡

00:02:48.852 --> 00:02:50.002
晶片每算一個字

00:02:50.002 --> 00:02:51.925
都要先把用得到的參數搬進

00:02:51.925 --> 00:02:53.550
運算單元，算完再搬下一批

00:02:53.550 --> 00:02:55.404
真正卡住速度的就是這個搬字

00:02:56.062 --> 00:02:57.768
Cerebras 那顆晶片上直接

00:02:57.768 --> 00:02:59.563
做了四十四 GB 的高速記憶體

00:02:59.563 --> 00:03:01.283
參數就住在上面，不用搬

00:03:02.325 --> 00:03:03.659
這件事的重點在後面

00:03:03.659 --> 00:03:05.089
參數一個都沒有少

00:03:05.089 --> 00:03:07.122
少掉的只是搬運那道手續

00:03:07.122 --> 00:03:08.193
所以官方才敢說

00:03:08.193 --> 00:03:10.006
這一層跟標準的 Sol 一樣聰明

00:03:10.491 --> 00:03:12.491
這句話等一下拿數字檢查，先記著

00:03:12.921 --> 00:03:14.817
機制講完，回到人身上

00:03:14.817 --> 00:03:16.511
快十四倍聽起來很像規格

00:03:16.511 --> 00:03:18.136
表上的數字，真正有意思的是

00:03:18.136 --> 00:03:19.761
它落到工作上會變成什麼樣

00:03:20.140 --> 00:03:21.327
OpenAI 的工程師舉了

00:03:21.327 --> 00:03:22.452
一個很具體的例子

00:03:22.452 --> 00:03:24.327
一件原本要花一到兩小時的工作

00:03:24.878 --> 00:03:26.942
有句老話說，快本身就是

00:03:26.942 --> 00:03:29.418
一種功能——因為一個東西快到

00:03:29.418 --> 00:03:32.307
某個程度做事的方式就會跟著變

00:03:32.307 --> 00:03:34.805
以前光是收資料、整理

00:03:34.805 --> 00:03:37.303
統一格式，再補上脈絡

00:03:37.303 --> 00:03:40.633
做出能幫我和團隊做決策的

00:03:40.633 --> 00:03:43.964
判斷材料，要花一到兩個小時

00:03:43.964 --> 00:03:46.739
現在十到十五分鐘就好

00:03:46.739 --> 00:03:48.508
有時候幾乎是即時的

00:03:48.634 --> 00:03:51.353
一到兩小時變成十到十五分鐘

00:03:51.353 --> 00:03:52.512
這是省時間

00:03:52.512 --> 00:03:54.004
但真正有意思的是後面

00:03:54.642 --> 00:03:56.142
這句——快到某個程度以後

00:03:56.142 --> 00:03:57.392
連做法本身都會換掉

00:03:58.074 --> 00:04:00.247
用 Ultrafast

00:04:00.247 --> 00:04:03.012
我可以同時把所有地方都搜一遍

00:04:03.012 --> 00:04:05.975
而且是平行進行，這真的很不可思議

00:04:05.975 --> 00:04:08.494
而且說實話，Ultrafast

00:04:08.494 --> 00:04:10.474
快到我通常不用分心去做

00:04:10.474 --> 00:04:12.813
別的事也拿得到一樣好的結果

00:04:12.813 --> 00:04:15.137
一旦進入寫程式的心流我覺得

00:04:15.137 --> 00:04:17.103
在同樣的時間裡——時間才是

00:04:17.103 --> 00:04:19.784
真正的限制——我能用到的智力變多了

00:04:19.911 --> 00:04:21.888
這裡有兩件事值得拆開講

00:04:21.888 --> 00:04:23.719
第一件是同時查很多地方

00:04:23.719 --> 00:04:24.844
以前要查一件事故

00:04:24.844 --> 00:04:26.766
你得一個系統一個系統翻過去

00:04:26.766 --> 00:04:28.243
因為每翻一次都要等

00:04:28.243 --> 00:04:29.458
等得起的次數有限

00:04:29.458 --> 00:04:31.458
你就只能挑最可能的那幾個地方找

00:04:31.458 --> 00:04:32.583
快到不用等的時候

00:04:32.583 --> 00:04:33.949
十個地方可以一起查

00:04:33.949 --> 00:04:35.324
找到的機率當然不一樣

00:04:35.696 --> 00:04:36.912
第二件更微妙

00:04:36.912 --> 00:04:38.736
他說快到不用分心——等模型的

00:04:38.736 --> 00:04:41.067
那幾分鐘，你不會坐在那裡

00:04:41.067 --> 00:04:42.317
發呆，你會去回訊息

00:04:42.317 --> 00:04:43.846
去看別的東西，等它跑完回來

00:04:43.846 --> 00:04:45.596
還得把剛剛的脈絡重新撿一遍

00:04:45.994 --> 00:04:47.687
被吃掉的從來不是那幾分鐘

00:04:47.687 --> 00:04:49.050
是回神的那一段

00:04:49.050 --> 00:04:50.425
這就是那句老話的意思

00:04:50.425 --> 00:04:51.820
一個東西快到某個程度

00:04:51.820 --> 00:04:53.304
人做事的方式會跟著變

00:04:54.106 --> 00:04:56.582
講到這裡都是好話，該來檢查一下

00:04:56.582 --> 00:04:58.082
跑這麼快，它有沒有變笨

00:04:58.776 --> 00:05:00.050
目前有兩組數字

00:05:00.050 --> 00:05:01.550
都是 Cerebras 自己測的

00:05:01.726 --> 00:05:04.147
第一組是一份兩千五百題的

00:05:04.147 --> 00:05:05.647
博士級考題，Ultrafast 跑

00:05:05.647 --> 00:05:06.892
完花十一小時十一分

00:05:06.892 --> 00:05:08.642
對照組要七十八小時二十七分

00:05:09.525 --> 00:05:11.815
第二組挑的是有經濟價值的

00:05:11.815 --> 00:05:13.871
知識工作，整件事從頭到尾快

00:05:13.871 --> 00:05:15.496
五點六倍，而且品質沒有掉

00:05:15.496 --> 00:05:16.844
兩組數字都很漂亮

00:05:16.844 --> 00:05:18.094
但都是廠商自己測的

00:05:18.094 --> 00:05:19.337
目前沒有第三方複驗

00:05:19.337 --> 00:05:20.587
聽的時候自己打個折

00:05:21.117 --> 00:05:23.445
快速重構一次程式碼幾乎不花

00:05:23.445 --> 00:05:25.594
什麼錢，而且幾乎是瞬間完成

00:05:25.594 --> 00:05:27.906
這確實讓我們做得更快

00:05:27.906 --> 00:05:31.605
出貨更快而且這股節奏可以撐得更久

00:05:31.605 --> 00:05:32.817
因為它夠快

00:05:32.817 --> 00:05:36.210
夠有效智力的品質不會因此打折

00:05:36.210 --> 00:05:38.090
我們永遠想要最聰明

00:05:38.090 --> 00:05:39.343
又跑得最快的

00:05:39.343 --> 00:05:41.349
有了 5.6 Ultrafast

00:05:41.349 --> 00:05:42.477
這兩件事不用二選一

00:05:42.618 --> 00:05:44.584
官方說不用二選一

00:05:44.584 --> 00:05:45.822
這句話成立

00:05:45.822 --> 00:05:48.341
但它講的是聰明程度不用二選一

00:05:48.341 --> 00:05:49.684
真正被拿去換的

00:05:49.684 --> 00:05:50.684
東西在別的地方

00:05:50.957 --> 00:05:53.015
OpenAI 自己在同一場說明

00:05:53.074 --> 00:05:54.782
會上講過這個道理——先說清楚

00:05:54.782 --> 00:05:56.157
接下來這段講的是 Codex

00:05:56.157 --> 00:05:57.157
裡面的一個開關

00:05:57.157 --> 00:05:58.902
跟今天的 Ultrafast 不是

00:05:58.902 --> 00:06:00.777
同一個東西，不過道理一模一樣

00:06:00.777 --> 00:06:02.646
第二個建議是想想

00:06:02.646 --> 00:06:06.618
什麼時候值得拿 token 換時間

00:06:06.618 --> 00:06:09.168
有不少情況是你就想讓

00:06:09.168 --> 00:06:11.464
它跑快一點願意多花

00:06:11.464 --> 00:06:15.544
一些 token 來省自己的時間

00:06:15.544 --> 00:06:17.135
Fast mode 就是最明顯的例子

00:06:17.135 --> 00:06:19.884
你可以開 Fast mode

00:06:19.884 --> 00:06:22.241
讓輸出用 1.5 倍速跑

00:06:22.241 --> 00:06:25.287
不過額度也會扣得比較快

00:06:25.420 --> 00:06:27.329
Codex 那個開關開下去跑

00:06:27.329 --> 00:06:29.079
一點五倍速，額度扣得比較快

00:06:29.079 --> 00:06:30.454
API 那邊是同一套邏輯

00:06:30.454 --> 00:06:31.536
只是分得更清楚

00:06:31.536 --> 00:06:33.862
一共三層：最上面是標準速度

00:06:33.862 --> 00:06:34.958
中間那層叫 Fast

00:06:34.958 --> 00:06:36.109
大約兩點五倍速

00:06:36.109 --> 00:06:37.416
價錢剛好是兩倍

00:06:37.416 --> 00:06:39.942
最下面那條是 Ultrafast

00:06:39.942 --> 00:06:40.692
最快十四倍

00:06:40.955 --> 00:06:42.349
Ultrafast 的價格呢？

00:06:42.349 --> 00:06:43.702
官方到現在沒有公布

00:06:43.702 --> 00:06:45.077
而且它現在是限量預覽

00:06:45.077 --> 00:06:46.514
只開放給少數 API 客戶

00:06:46.514 --> 00:06:47.420
要填表申請

00:06:47.757 --> 00:06:49.436
講白了，這個開關

00:06:49.436 --> 00:06:51.061
現在打不開——一般人打不開

00:06:51.061 --> 00:06:52.311
大部分公司也打不開

00:06:52.967 --> 00:06:54.795
最後留一個判斷給你

00:06:54.795 --> 00:06:55.952
模型跑得快

00:06:55.952 --> 00:06:58.271
只在你卡在等模型的時候有用

00:06:58.271 --> 00:07:01.620
如果卡住你的是資料調不出來

00:07:01.620 --> 00:07:03.408
權限沒開、或者一件事還沒有人

00:07:03.408 --> 00:07:05.316
拍板，那顆晶片再快也救不了

00:07:05.316 --> 00:07:06.873
看到十四倍這種數字

00:07:06.873 --> 00:07:08.031
先問自己一句

00:07:08.031 --> 00:07:09.746
我平常在等的，真的是它嗎？

00:07:10.441 --> 00:07:12.352
不過那句老話還是成立的

00:07:12.352 --> 00:07:14.714
過去兩年，模型是往更聰明的

00:07:14.714 --> 00:07:16.339
方向走；這一次拿出來賣的

00:07:16.339 --> 00:07:18.142
是同一顆腦跑得更快

00:07:18.142 --> 00:07:19.655
這條線接下來會走

00:07:19.655 --> 00:07:20.655
到哪，值得盯著

00:07:20.823 --> 00:07:22.198
覺得這樣拆一遍有幫助

00:07:22.198 --> 00:07:24.051
記得訂閱可波 AI 白話

00:07:24.051 --> 00:07:24.926
我們下支片見