實際影片長度:7:36.000。原文、繁中、雙語可點擊句子跳轉影片。
0:00.136–0:01.771
OpenAI 找自家工程師
0:01.771–0:03.336
拍了一支九十秒的片
0:03.336–0:05.807
第一句話是——這是我第一次
0:05.807–0:07.307
覺得,自己在工作上作弊
0:07.666–0:09.041
一家公司不會拿作弊兩個
0:09.041–0:10.362
字形容自己的產品
0:10.362–0:11.987
除非那個落差大到不講不行
0:12.565–0:14.506
他講的這個東西叫 Ultrafast
0:14.506–0:15.631
八月中才開放預覽
0:16.200–0:18.364
這是我第一次覺得
0:18.364–0:20.528
自己在工作上作弊
0:20.528–0:23.237
系統一掛掉就像有人
0:23.237–0:26.247
按下產線的緊急停止鈕
0:26.247–0:29.493
我會叫它盯著那個頻道
0:29.493–0:32.414
當我的眼睛和耳朵去
0:32.414–0:34.686
查找出根本原因
0:34.686–0:39.230
順便回答陸續進來的人問的問題
0:39.367–0:42.029
那句作弊,講的是等待消失了
0:42.703–0:43.974
以前丟一個問題出去
0:43.974–0:45.082
要等好幾分鐘
0:45.082–0:46.927
等的時候人會跑去做別的事
0:46.927–0:48.552
回來還得重新想剛剛做到哪
0:49.031–0:50.781
Ultrafast 拿掉的就是這一段
0:51.107–0:53.076
只是這種快沒有免費送
0:53.076–0:54.201
帳單記在別的地方
0:54.975–0:57.063
先講清楚 Ultrafast 是什麼
0:57.063–0:58.447
它不是一顆新模型
0:58.447–1:01.109
GPT-5.6 Sol 是 OpenAI
1:01.109–1:02.797
目前最強的那一支,Ultrafast
1:02.797–1:03.832
做的事情是讓同一顆 Sol 換
1:03.832–1:05.582
一種硬體跑,參數一個都沒改
1:06.195–1:07.195
速度差多少?
1:07.350–1:09.213
官方給的數字是每秒最多
1:09.213–1:10.338
七百五十個 token
1:10.338–1:12.088
最快是原本標準速度的十四倍
1:12.613–1:14.189
七百五十個 token 大概是
1:14.189–1:15.689
五百個中文字——它一秒鐘寫
1:15.689–1:17.564
出來的量,你差不多要讀一分鐘
1:18.757–1:19.880
這種東西 OpenAI
1:19.880–1:20.956
叫它服務層級
1:20.956–1:21.706
同一顆模型
1:21.706–1:24.085
你可以選它要跑多快,價錢跟著變
1:24.812–1:26.187
模型選單上那個 Ultra
1:26.187–1:27.089
就是這一層
1:27.308–1:28.683
聽起來很陌生,但這條線
1:28.683–1:30.279
OpenAI 早就在用了——它的
1:30.279–1:32.053
產品本來就是照這個邏輯排的
1:32.866–1:34.116
這條線怎麼分,OpenAI
1:34.116–1:35.807
自己在一場給開發者的
1:35.807–1:37.097
說明會上講得很清楚
1:37.097–1:38.097
先聽他們怎麼介紹
1:38.097–1:39.599
GPT-5.6 這一家人
1:39.599–1:41.109
三個型號各站在什麼位置
1:41.763–1:44.315
如果你還不熟,這一家族有
1:44.315–1:48.956
三個新型號:Sol、Terra 和 Luna
1:48.956–1:52.233
Sol 是我們的前沿模型
1:52.233–1:53.871
也是旗艦,處理
1:53.871–1:56.875
最複雜的程式與專業工作
1:56.875–2:00.038
Terra 是很好用的日常
2:00.038–2:01.984
主力適合那種智力
2:01.984–2:05.147
成本和反應時間都要顧的工作
2:05.147–2:07.424
至於 Luna
2:07.424–2:10.025
我們很喜歡它回饋
2:10.025–2:12.627
也很好,適合高流量
2:12.627–2:15.183
智力要求沒那麼高但很在意
2:15.183–2:17.313
成本和反應時間的場景
2:17.456–2:19.633
三個型號站在同一條線上的
2:19.633–2:21.258
三個位置:Sol 最聰明,Luna
2:21.258–2:23.660
最便宜、反應最快,Terra 在中間
2:24.288–2:26.077
Ultrafast 沒有動這一排
2:26.077–2:27.548
它動的是另外一排——同
2:27.548–2:29.336
一顆 Sol,要跑多快
2:29.336–2:30.336
腦沒有換,那速度
2:30.336–2:31.671
是從哪裡多出來的?
2:32.471–2:33.771
答案在晶片
2:33.771–2:35.271
Ultrafast 這一層跑的不是
2:35.271–2:36.771
一般的繪圖晶片,是一家叫
2:36.771–2:39.034
Cerebras 的公司做的晶圓級晶片
2:39.034–2:41.482
一般晶片是從一整片晶圓上
2:41.482–2:42.982
切出很多顆小的,Cerebras
2:42.982–2:44.732
反過來,整片晶圓就做成一顆
2:45.608–2:46.608
為什麼這樣會快?
2:46.782–2:48.852
模型的參數平常放在記憶體裡
2:48.852–2:50.002
晶片每算一個字
2:50.002–2:51.925
都要先把用得到的參數搬進
2:51.925–2:53.550
運算單元,算完再搬下一批
2:53.550–2:55.404
真正卡住速度的就是這個搬字
2:56.062–2:57.768
Cerebras 那顆晶片上直接
2:57.768–2:59.563
做了四十四 GB 的高速記憶體
2:59.563–3:01.283
參數就住在上面,不用搬
3:02.325–3:03.659
這件事的重點在後面
3:03.659–3:05.089
參數一個都沒有少
3:05.089–3:07.122
少掉的只是搬運那道手續
3:07.122–3:08.193
所以官方才敢說
3:08.193–3:10.006
這一層跟標準的 Sol 一樣聰明
3:10.491–3:12.491
這句話等一下拿數字檢查,先記著
3:12.921–3:14.817
機制講完,回到人身上
3:14.817–3:16.511
快十四倍聽起來很像規格
3:16.511–3:18.136
表上的數字,真正有意思的是
3:18.136–3:19.761
它落到工作上會變成什麼樣
3:20.140–3:21.327
OpenAI 的工程師舉了
3:21.327–3:22.452
一個很具體的例子
3:22.452–3:24.327
一件原本要花一到兩小時的工作
3:24.878–3:26.942
有句老話說,快本身就是
3:26.942–3:29.418
一種功能——因為一個東西快到
3:29.418–3:32.307
某個程度做事的方式就會跟著變
3:32.307–3:34.805
以前光是收資料、整理
3:34.805–3:37.303
統一格式,再補上脈絡
3:37.303–3:40.633
做出能幫我和團隊做決策的
3:40.633–3:43.964
判斷材料,要花一到兩個小時
3:43.964–3:46.739
現在十到十五分鐘就好
3:46.739–3:48.508
有時候幾乎是即時的
3:48.634–3:51.353
一到兩小時變成十到十五分鐘
3:51.353–3:52.512
這是省時間
3:52.512–3:54.004
但真正有意思的是後面
3:54.642–3:56.142
這句——快到某個程度以後
3:56.142–3:57.392
連做法本身都會換掉
3:58.074–4:00.247
用 Ultrafast
4:00.247–4:03.012
我可以同時把所有地方都搜一遍
4:03.012–4:05.975
而且是平行進行,這真的很不可思議
4:05.975–4:08.494
而且說實話,Ultrafast
4:08.494–4:10.474
快到我通常不用分心去做
4:10.474–4:12.813
別的事也拿得到一樣好的結果
4:12.813–4:15.137
一旦進入寫程式的心流,我覺得
4:15.137–4:17.103
在同樣的時間裡——時間才是
4:17.103–4:19.784
真正的限制——我能用到的智力變多了
4:19.911–4:21.888
這裡有兩件事值得拆開講
4:21.888–4:23.719
第一件是同時查很多地方
4:23.719–4:24.844
以前要查一件事故
4:24.844–4:26.766
你得一個系統一個系統翻過去
4:26.766–4:28.243
因為每翻一次都要等
4:28.243–4:29.458
等得起的次數有限
4:29.458–4:31.458
你就只能挑最可能的那幾個地方找
4:31.458–4:32.583
快到不用等的時候
4:32.583–4:33.949
十個地方可以一起查
4:33.949–4:35.324
找到的機率當然不一樣
4:35.696–4:36.912
第二件更微妙
4:36.912–4:38.736
他說快到不用分心——等模型的
4:38.736–4:41.067
那幾分鐘,你不會坐在那裡
4:41.067–4:42.317
發呆,你會去回訊息
4:42.317–4:43.846
去看別的東西,等它跑完回來
4:43.846–4:45.596
還得把剛剛的脈絡重新撿一遍
4:45.994–4:47.687
被吃掉的從來不是那幾分鐘
4:47.687–4:49.050
是回神的那一段
4:49.050–4:50.425
這就是那句老話的意思
4:50.425–4:51.820
一個東西快到某個程度
4:51.820–4:53.304
人做事的方式會跟著變
4:54.106–4:56.582
講到這裡都是好話,該來檢查一下
4:56.582–4:58.082
跑這麼快,它有沒有變笨
4:58.776–5:00.050
目前有兩組數字
5:00.050–5:01.550
都是 Cerebras 自己測的
5:01.726–5:04.147
第一組是一份兩千五百題的
5:04.147–5:05.647
博士級考題,Ultrafast 跑
5:05.647–5:06.892
完花十一小時十一分
5:06.892–5:08.642
對照組要七十八小時二十七分
5:09.525–5:11.815
第二組挑的是有經濟價值的
5:11.815–5:13.871
知識工作,整件事從頭到尾快
5:13.871–5:15.496
五點六倍,而且品質沒有掉
5:15.496–5:16.844
兩組數字都很漂亮
5:16.844–5:18.094
但都是廠商自己測的
5:18.094–5:19.337
目前沒有第三方複驗
5:19.337–5:20.587
聽的時候自己打個折
5:21.117–5:23.445
快速重構一次程式碼幾乎不花
5:23.445–5:25.594
什麼錢,而且幾乎是瞬間完成
5:25.594–5:27.906
這確實讓我們做得更快
5:27.906–5:31.605
出貨更快而且這股節奏可以撐得更久
5:31.605–5:32.817
因為它夠快
5:32.817–5:36.210
夠有效智力的品質不會因此打折
5:36.210–5:38.090
我們永遠想要最聰明
5:38.090–5:39.343
又跑得最快的
5:39.343–5:41.349
有了 5.6 Ultrafast
5:41.349–5:42.477
這兩件事不用二選一
5:42.618–5:44.584
官方說不用二選一
5:44.584–5:45.822
這句話成立
5:45.822–5:48.341
但它講的是聰明程度不用二選一
5:48.341–5:49.684
真正被拿去換的
5:49.684–5:50.684
東西在別的地方
5:50.957–5:53.015
OpenAI 自己在同一場說明
5:53.074–5:54.782
會上講過這個道理——先說清楚
5:54.782–5:56.157
接下來這段講的是 Codex
5:56.157–5:57.157
裡面的一個開關
5:57.157–5:58.902
跟今天的 Ultrafast 不是
5:58.902–6:00.777
同一個東西,不過道理一模一樣
6:00.777–6:02.646
第二個建議是想想
6:02.646–6:06.618
什麼時候值得拿 token 換時間
6:06.618–6:09.168
有不少情況是你就想讓
6:09.168–6:11.464
它跑快一點願意多花
6:11.464–6:15.544
一些 token 來省自己的時間
6:15.544–6:17.135
Fast mode 就是最明顯的例子
6:17.135–6:19.884
你可以開 Fast mode
6:19.884–6:22.241
讓輸出用 1.5 倍速跑
6:22.241–6:25.287
不過額度也會扣得比較快
6:25.420–6:27.329
Codex 那個開關開下去跑
6:27.329–6:29.079
一點五倍速,額度扣得比較快
6:29.079–6:30.454
API 那邊是同一套邏輯
6:30.454–6:31.536
只是分得更清楚
6:31.536–6:33.862
一共三層:最上面是標準速度
6:33.862–6:34.958
中間那層叫 Fast
6:34.958–6:36.109
大約兩點五倍速
6:36.109–6:37.416
價錢剛好是兩倍
6:37.416–6:39.942
最下面那條是 Ultrafast
6:39.942–6:40.692
最快十四倍
6:40.955–6:42.349
Ultrafast 的價格呢?
6:42.349–6:43.702
官方到現在沒有公布
6:43.702–6:45.077
而且它現在是限量預覽
6:45.077–6:46.514
只開放給少數 API 客戶
6:46.514–6:47.420
要填表申請
6:47.757–6:49.436
講白了,這個開關
6:49.436–6:51.061
現在打不開——一般人打不開
6:51.061–6:52.311
大部分公司也打不開
6:52.967–6:54.795
最後留一個判斷給你
6:54.795–6:55.952
模型跑得快
6:55.952–6:58.271
只在你卡在等模型的時候有用
6:58.271–7:01.620
如果卡住你的是資料調不出來
7:01.620–7:03.408
權限沒開、或者一件事還沒有人
7:03.408–7:05.316
拍板,那顆晶片再快也救不了
7:05.316–7:06.873
看到十四倍這種數字
7:06.873–7:08.031
先問自己一句
7:08.031–7:09.746
我平常在等的,真的是它嗎?
7:10.441–7:12.352
不過那句老話還是成立的
7:12.352–7:14.714
過去兩年,模型是往更聰明的
7:14.714–7:16.339
方向走;這一次拿出來賣的
7:16.339–7:18.142
是同一顆腦跑得更快
7:18.142–7:19.655
這條線接下來會走
7:19.655–7:20.655
到哪,值得盯著
7:20.823–7:22.198
覺得這樣拆一遍有幫助
7:22.198–7:24.051
記得訂閱可波 AI 白話
7:24.051–7:24.926
我們下支片見
0:00.136–0:01.771
OpenAI 找自家工程師
0:01.771–0:03.336
拍了一支九十秒的片
0:03.336–0:05.807
第一句話是——這是我第一次
0:05.807–0:07.307
覺得,自己在工作上作弊
0:07.666–0:09.041
一家公司不會拿作弊兩個
0:09.041–0:10.362
字形容自己的產品
0:10.362–0:11.987
除非那個落差大到不講不行
0:12.565–0:14.506
他講的這個東西叫 Ultrafast
0:14.506–0:15.631
八月中才開放預覽
0:16.200–0:18.364
這是我第一次覺得
0:18.364–0:20.528
自己在工作上作弊
0:20.528–0:23.237
系統一掛掉就像有人
0:23.237–0:26.247
按下產線的緊急停止鈕
0:26.247–0:29.493
我會叫它盯著那個頻道
0:29.493–0:32.414
當我的眼睛和耳朵去
0:32.414–0:34.686
查找出根本原因
0:34.686–0:39.230
順便回答陸續進來的人問的問題
0:39.367–0:42.029
那句作弊,講的是等待消失了
0:42.703–0:43.974
以前丟一個問題出去
0:43.974–0:45.082
要等好幾分鐘
0:45.082–0:46.927
等的時候人會跑去做別的事
0:46.927–0:48.552
回來還得重新想剛剛做到哪
0:49.031–0:50.781
Ultrafast 拿掉的就是這一段
0:51.107–0:53.076
只是這種快沒有免費送
0:53.076–0:54.201
帳單記在別的地方
0:54.975–0:57.063
先講清楚 Ultrafast 是什麼
0:57.063–0:58.447
它不是一顆新模型
0:58.447–1:01.109
GPT-5.6 Sol 是 OpenAI
1:01.109–1:02.797
目前最強的那一支,Ultrafast
1:02.797–1:03.832
做的事情是讓同一顆 Sol 換
1:03.832–1:05.582
一種硬體跑,參數一個都沒改
1:06.195–1:07.195
速度差多少?
1:07.350–1:09.213
官方給的數字是每秒最多
1:09.213–1:10.338
七百五十個 token
1:10.338–1:12.088
最快是原本標準速度的十四倍
1:12.613–1:14.189
七百五十個 token 大概是
1:14.189–1:15.689
五百個中文字——它一秒鐘寫
1:15.689–1:17.564
出來的量,你差不多要讀一分鐘
1:18.757–1:19.880
這種東西 OpenAI
1:19.880–1:20.956
叫它服務層級
1:20.956–1:21.706
同一顆模型
1:21.706–1:24.085
你可以選它要跑多快,價錢跟著變
1:24.812–1:26.187
模型選單上那個 Ultra
1:26.187–1:27.089
就是這一層
1:27.308–1:28.683
聽起來很陌生,但這條線
1:28.683–1:30.279
OpenAI 早就在用了——它的
1:30.279–1:32.053
產品本來就是照這個邏輯排的
1:32.866–1:34.116
這條線怎麼分,OpenAI
1:34.116–1:35.807
自己在一場給開發者的
1:35.807–1:37.097
說明會上講得很清楚
1:37.097–1:38.097
先聽他們怎麼介紹
1:38.097–1:39.599
GPT-5.6 這一家人
1:39.599–1:41.109
三個型號各站在什麼位置
1:41.763–1:44.315
如果你還不熟,這一家族有
1:44.315–1:48.956
三個新型號:Sol、Terra 和 Luna
1:48.956–1:52.233
Sol 是我們的前沿模型
1:52.233–1:53.871
也是旗艦,處理
1:53.871–1:56.875
最複雜的程式與專業工作
1:56.875–2:00.038
Terra 是很好用的日常
2:00.038–2:01.984
主力適合那種智力
2:01.984–2:05.147
成本和反應時間都要顧的工作
2:05.147–2:07.424
至於 Luna
2:07.424–2:10.025
我們很喜歡它回饋
2:10.025–2:12.627
也很好,適合高流量
2:12.627–2:15.183
智力要求沒那麼高但很在意
2:15.183–2:17.313
成本和反應時間的場景
2:17.456–2:19.633
三個型號站在同一條線上的
2:19.633–2:21.258
三個位置:Sol 最聰明,Luna
2:21.258–2:23.660
最便宜、反應最快,Terra 在中間
2:24.288–2:26.077
Ultrafast 沒有動這一排
2:26.077–2:27.548
它動的是另外一排——同
2:27.548–2:29.336
一顆 Sol,要跑多快
2:29.336–2:30.336
腦沒有換,那速度
2:30.336–2:31.671
是從哪裡多出來的?
2:32.471–2:33.771
答案在晶片
2:33.771–2:35.271
Ultrafast 這一層跑的不是
2:35.271–2:36.771
一般的繪圖晶片,是一家叫
2:36.771–2:39.034
Cerebras 的公司做的晶圓級晶片
2:39.034–2:41.482
一般晶片是從一整片晶圓上
2:41.482–2:42.982
切出很多顆小的,Cerebras
2:42.982–2:44.732
反過來,整片晶圓就做成一顆
2:45.608–2:46.608
為什麼這樣會快?
2:46.782–2:48.852
模型的參數平常放在記憶體裡
2:48.852–2:50.002
晶片每算一個字
2:50.002–2:51.925
都要先把用得到的參數搬進
2:51.925–2:53.550
運算單元,算完再搬下一批
2:53.550–2:55.404
真正卡住速度的就是這個搬字
2:56.062–2:57.768
Cerebras 那顆晶片上直接
2:57.768–2:59.563
做了四十四 GB 的高速記憶體
2:59.563–3:01.283
參數就住在上面,不用搬
3:02.325–3:03.659
這件事的重點在後面
3:03.659–3:05.089
參數一個都沒有少
3:05.089–3:07.122
少掉的只是搬運那道手續
3:07.122–3:08.193
所以官方才敢說
3:08.193–3:10.006
這一層跟標準的 Sol 一樣聰明
3:10.491–3:12.491
這句話等一下拿數字檢查,先記著
3:12.921–3:14.817
機制講完,回到人身上
3:14.817–3:16.511
快十四倍聽起來很像規格
3:16.511–3:18.136
表上的數字,真正有意思的是
3:18.136–3:19.761
它落到工作上會變成什麼樣
3:20.140–3:21.327
OpenAI 的工程師舉了
3:21.327–3:22.452
一個很具體的例子
3:22.452–3:24.327
一件原本要花一到兩小時的工作
3:24.878–3:26.942
有句老話說,快本身就是
3:26.942–3:29.418
一種功能——因為一個東西快到
3:29.418–3:32.307
某個程度做事的方式就會跟著變
3:32.307–3:34.805
以前光是收資料、整理
3:34.805–3:37.303
統一格式,再補上脈絡
3:37.303–3:40.633
做出能幫我和團隊做決策的
3:40.633–3:43.964
判斷材料,要花一到兩個小時
3:43.964–3:46.739
現在十到十五分鐘就好
3:46.739–3:48.508
有時候幾乎是即時的
3:48.634–3:51.353
一到兩小時變成十到十五分鐘
3:51.353–3:52.512
這是省時間
3:52.512–3:54.004
但真正有意思的是後面
3:54.642–3:56.142
這句——快到某個程度以後
3:56.142–3:57.392
連做法本身都會換掉
3:58.074–4:00.247
用 Ultrafast
4:00.247–4:03.012
我可以同時把所有地方都搜一遍
4:03.012–4:05.975
而且是平行進行,這真的很不可思議
4:05.975–4:08.494
而且說實話,Ultrafast
4:08.494–4:10.474
快到我通常不用分心去做
4:10.474–4:12.813
別的事也拿得到一樣好的結果
4:12.813–4:15.137
一旦進入寫程式的心流,我覺得
4:15.137–4:17.103
在同樣的時間裡——時間才是
4:17.103–4:19.784
真正的限制——我能用到的智力變多了
4:19.911–4:21.888
這裡有兩件事值得拆開講
4:21.888–4:23.719
第一件是同時查很多地方
4:23.719–4:24.844
以前要查一件事故
4:24.844–4:26.766
你得一個系統一個系統翻過去
4:26.766–4:28.243
因為每翻一次都要等
4:28.243–4:29.458
等得起的次數有限
4:29.458–4:31.458
你就只能挑最可能的那幾個地方找
4:31.458–4:32.583
快到不用等的時候
4:32.583–4:33.949
十個地方可以一起查
4:33.949–4:35.324
找到的機率當然不一樣
4:35.696–4:36.912
第二件更微妙
4:36.912–4:38.736
他說快到不用分心——等模型的
4:38.736–4:41.067
那幾分鐘,你不會坐在那裡
4:41.067–4:42.317
發呆,你會去回訊息
4:42.317–4:43.846
去看別的東西,等它跑完回來
4:43.846–4:45.596
還得把剛剛的脈絡重新撿一遍
4:45.994–4:47.687
被吃掉的從來不是那幾分鐘
4:47.687–4:49.050
是回神的那一段
4:49.050–4:50.425
這就是那句老話的意思
4:50.425–4:51.820
一個東西快到某個程度
4:51.820–4:53.304
人做事的方式會跟著變
4:54.106–4:56.582
講到這裡都是好話,該來檢查一下
4:56.582–4:58.082
跑這麼快,它有沒有變笨
4:58.776–5:00.050
目前有兩組數字
5:00.050–5:01.550
都是 Cerebras 自己測的
5:01.726–5:04.147
第一組是一份兩千五百題的
5:04.147–5:05.647
博士級考題,Ultrafast 跑
5:05.647–5:06.892
完花十一小時十一分
5:06.892–5:08.642
對照組要七十八小時二十七分
5:09.525–5:11.815
第二組挑的是有經濟價值的
5:11.815–5:13.871
知識工作,整件事從頭到尾快
5:13.871–5:15.496
五點六倍,而且品質沒有掉
5:15.496–5:16.844
兩組數字都很漂亮
5:16.844–5:18.094
但都是廠商自己測的
5:18.094–5:19.337
目前沒有第三方複驗
5:19.337–5:20.587
聽的時候自己打個折
5:21.117–5:23.445
快速重構一次程式碼幾乎不花
5:23.445–5:25.594
什麼錢,而且幾乎是瞬間完成
5:25.594–5:27.906
這確實讓我們做得更快
5:27.906–5:31.605
出貨更快而且這股節奏可以撐得更久
5:31.605–5:32.817
因為它夠快
5:32.817–5:36.210
夠有效智力的品質不會因此打折
5:36.210–5:38.090
我們永遠想要最聰明
5:38.090–5:39.343
又跑得最快的
5:39.343–5:41.349
有了 5.6 Ultrafast
5:41.349–5:42.477
這兩件事不用二選一
5:42.618–5:44.584
官方說不用二選一
5:44.584–5:45.822
這句話成立
5:45.822–5:48.341
但它講的是聰明程度不用二選一
5:48.341–5:49.684
真正被拿去換的
5:49.684–5:50.684
東西在別的地方
5:50.957–5:53.015
OpenAI 自己在同一場說明
5:53.074–5:54.782
會上講過這個道理——先說清楚
5:54.782–5:56.157
接下來這段講的是 Codex
5:56.157–5:57.157
裡面的一個開關
5:57.157–5:58.902
跟今天的 Ultrafast 不是
5:58.902–6:00.777
同一個東西,不過道理一模一樣
6:00.777–6:02.646
第二個建議是想想
6:02.646–6:06.618
什麼時候值得拿 token 換時間
6:06.618–6:09.168
有不少情況是你就想讓
6:09.168–6:11.464
它跑快一點願意多花
6:11.464–6:15.544
一些 token 來省自己的時間
6:15.544–6:17.135
Fast mode 就是最明顯的例子
6:17.135–6:19.884
你可以開 Fast mode
6:19.884–6:22.241
讓輸出用 1.5 倍速跑
6:22.241–6:25.287
不過額度也會扣得比較快
6:25.420–6:27.329
Codex 那個開關開下去跑
6:27.329–6:29.079
一點五倍速,額度扣得比較快
6:29.079–6:30.454
API 那邊是同一套邏輯
6:30.454–6:31.536
只是分得更清楚
6:31.536–6:33.862
一共三層:最上面是標準速度
6:33.862–6:34.958
中間那層叫 Fast
6:34.958–6:36.109
大約兩點五倍速
6:36.109–6:37.416
價錢剛好是兩倍
6:37.416–6:39.942
最下面那條是 Ultrafast
6:39.942–6:40.692
最快十四倍
6:40.955–6:42.349
Ultrafast 的價格呢?
6:42.349–6:43.702
官方到現在沒有公布
6:43.702–6:45.077
而且它現在是限量預覽
6:45.077–6:46.514
只開放給少數 API 客戶
6:46.514–6:47.420
要填表申請
6:47.757–6:49.436
講白了,這個開關
6:49.436–6:51.061
現在打不開——一般人打不開
6:51.061–6:52.311
大部分公司也打不開
6:52.967–6:54.795
最後留一個判斷給你
6:54.795–6:55.952
模型跑得快
6:55.952–6:58.271
只在你卡在等模型的時候有用
6:58.271–7:01.620
如果卡住你的是資料調不出來
7:01.620–7:03.408
權限沒開、或者一件事還沒有人
7:03.408–7:05.316
拍板,那顆晶片再快也救不了
7:05.316–7:06.873
看到十四倍這種數字
7:06.873–7:08.031
先問自己一句
7:08.031–7:09.746
我平常在等的,真的是它嗎?
7:10.441–7:12.352
不過那句老話還是成立的
7:12.352–7:14.714
過去兩年,模型是往更聰明的
7:14.714–7:16.339
方向走;這一次拿出來賣的
7:16.339–7:18.142
是同一顆腦跑得更快
7:18.142–7:19.655
這條線接下來會走
7:19.655–7:20.655
到哪,值得盯著
7:20.823–7:22.198
覺得這樣拆一遍有幫助
7:22.198–7:24.051
記得訂閱可波 AI 白話
7:24.051–7:24.926
我們下支片見
0:00.136–0:01.771
OpenAI 找自家工程師
OpenAI 找自家工程師
0:01.771–0:03.336
拍了一支九十秒的片
拍了一支九十秒的片
0:03.336–0:05.807
第一句話是——這是我第一次
第一句話是——這是我第一次
0:05.807–0:07.307
覺得,自己在工作上作弊
覺得,自己在工作上作弊
0:07.666–0:09.041
一家公司不會拿作弊兩個
一家公司不會拿作弊兩個
0:09.041–0:10.362
字形容自己的產品
字形容自己的產品
0:10.362–0:11.987
除非那個落差大到不講不行
除非那個落差大到不講不行
0:12.565–0:14.506
他講的這個東西叫 Ultrafast
他講的這個東西叫 Ultrafast
0:14.506–0:15.631
八月中才開放預覽
八月中才開放預覽
0:16.200–0:18.364
這是我第一次覺得
這是我第一次覺得
0:18.364–0:20.528
自己在工作上作弊
自己在工作上作弊
0:20.528–0:23.237
系統一掛掉就像有人
系統一掛掉就像有人
0:23.237–0:26.247
按下產線的緊急停止鈕
按下產線的緊急停止鈕
0:26.247–0:29.493
我會叫它盯著那個頻道
我會叫它盯著那個頻道
0:29.493–0:32.414
當我的眼睛和耳朵去
當我的眼睛和耳朵去
0:32.414–0:34.686
查找出根本原因
查找出根本原因
0:34.686–0:39.230
順便回答陸續進來的人問的問題
順便回答陸續進來的人問的問題
0:39.367–0:42.029
那句作弊,講的是等待消失了
那句作弊,講的是等待消失了
0:42.703–0:43.974
以前丟一個問題出去
以前丟一個問題出去
0:43.974–0:45.082
要等好幾分鐘
要等好幾分鐘
0:45.082–0:46.927
等的時候人會跑去做別的事
等的時候人會跑去做別的事
0:46.927–0:48.552
回來還得重新想剛剛做到哪
回來還得重新想剛剛做到哪
0:49.031–0:50.781
Ultrafast 拿掉的就是這一段
Ultrafast 拿掉的就是這一段
0:51.107–0:53.076
只是這種快沒有免費送
只是這種快沒有免費送
0:53.076–0:54.201
帳單記在別的地方
帳單記在別的地方
0:54.975–0:57.063
先講清楚 Ultrafast 是什麼
先講清楚 Ultrafast 是什麼
0:57.063–0:58.447
它不是一顆新模型
它不是一顆新模型
0:58.447–1:01.109
GPT-5.6 Sol 是 OpenAI
GPT-5.6 Sol 是 OpenAI
1:01.109–1:02.797
目前最強的那一支,Ultrafast
目前最強的那一支,Ultrafast
1:02.797–1:03.832
做的事情是讓同一顆 Sol 換
做的事情是讓同一顆 Sol 換
1:03.832–1:05.582
一種硬體跑,參數一個都沒改
一種硬體跑,參數一個都沒改
1:06.195–1:07.195
速度差多少?
速度差多少?
1:07.350–1:09.213
官方給的數字是每秒最多
官方給的數字是每秒最多
1:09.213–1:10.338
七百五十個 token
七百五十個 token
1:10.338–1:12.088
最快是原本標準速度的十四倍
最快是原本標準速度的十四倍
1:12.613–1:14.189
七百五十個 token 大概是
七百五十個 token 大概是
1:14.189–1:15.689
五百個中文字——它一秒鐘寫
五百個中文字——它一秒鐘寫
1:15.689–1:17.564
出來的量,你差不多要讀一分鐘
出來的量,你差不多要讀一分鐘
1:18.757–1:19.880
這種東西 OpenAI
這種東西 OpenAI
1:19.880–1:20.956
叫它服務層級
叫它服務層級
1:20.956–1:21.706
同一顆模型
同一顆模型
1:21.706–1:24.085
你可以選它要跑多快,價錢跟著變
你可以選它要跑多快,價錢跟著變
1:24.812–1:26.187
模型選單上那個 Ultra
模型選單上那個 Ultra
1:26.187–1:27.089
就是這一層
就是這一層
1:27.308–1:28.683
聽起來很陌生,但這條線
聽起來很陌生,但這條線
1:28.683–1:30.279
OpenAI 早就在用了——它的
OpenAI 早就在用了——它的
1:30.279–1:32.053
產品本來就是照這個邏輯排的
產品本來就是照這個邏輯排的
1:32.866–1:34.116
這條線怎麼分,OpenAI
這條線怎麼分,OpenAI
1:34.116–1:35.807
自己在一場給開發者的
自己在一場給開發者的
1:35.807–1:37.097
說明會上講得很清楚
說明會上講得很清楚
1:37.097–1:38.097
先聽他們怎麼介紹
先聽他們怎麼介紹
1:38.097–1:39.599
GPT-5.6 這一家人
GPT-5.6 這一家人
1:39.599–1:41.109
三個型號各站在什麼位置
三個型號各站在什麼位置
1:41.763–1:44.315
如果你還不熟,這一家族有
如果你還不熟,這一家族有
1:44.315–1:48.956
三個新型號:Sol、Terra 和 Luna
三個新型號:Sol、Terra 和 Luna
1:48.956–1:52.233
Sol 是我們的前沿模型
Sol 是我們的前沿模型
1:52.233–1:53.871
也是旗艦,處理
也是旗艦,處理
1:53.871–1:56.875
最複雜的程式與專業工作
最複雜的程式與專業工作
1:56.875–2:00.038
Terra 是很好用的日常
Terra 是很好用的日常
2:00.038–2:01.984
主力適合那種智力
主力適合那種智力
2:01.984–2:05.147
成本和反應時間都要顧的工作
成本和反應時間都要顧的工作
2:05.147–2:07.424
至於 Luna
至於 Luna
2:07.424–2:10.025
我們很喜歡它回饋
我們很喜歡它回饋
2:10.025–2:12.627
也很好,適合高流量
也很好,適合高流量
2:12.627–2:15.183
智力要求沒那麼高但很在意
智力要求沒那麼高但很在意
2:15.183–2:17.313
成本和反應時間的場景
成本和反應時間的場景
2:17.456–2:19.633
三個型號站在同一條線上的
三個型號站在同一條線上的
2:19.633–2:21.258
三個位置:Sol 最聰明,Luna
三個位置:Sol 最聰明,Luna
2:21.258–2:23.660
最便宜、反應最快,Terra 在中間
最便宜、反應最快,Terra 在中間
2:24.288–2:26.077
Ultrafast 沒有動這一排
Ultrafast 沒有動這一排
2:26.077–2:27.548
它動的是另外一排——同
它動的是另外一排——同
2:27.548–2:29.336
一顆 Sol,要跑多快
一顆 Sol,要跑多快
2:29.336–2:30.336
腦沒有換,那速度
腦沒有換,那速度
2:30.336–2:31.671
是從哪裡多出來的?
是從哪裡多出來的?
2:32.471–2:33.771
答案在晶片
答案在晶片
2:33.771–2:35.271
Ultrafast 這一層跑的不是
Ultrafast 這一層跑的不是
2:35.271–2:36.771
一般的繪圖晶片,是一家叫
一般的繪圖晶片,是一家叫
2:36.771–2:39.034
Cerebras 的公司做的晶圓級晶片
Cerebras 的公司做的晶圓級晶片
2:39.034–2:41.482
一般晶片是從一整片晶圓上
一般晶片是從一整片晶圓上
2:41.482–2:42.982
切出很多顆小的,Cerebras
切出很多顆小的,Cerebras
2:42.982–2:44.732
反過來,整片晶圓就做成一顆
反過來,整片晶圓就做成一顆
2:45.608–2:46.608
為什麼這樣會快?
為什麼這樣會快?
2:46.782–2:48.852
模型的參數平常放在記憶體裡
模型的參數平常放在記憶體裡
2:48.852–2:50.002
晶片每算一個字
晶片每算一個字
2:50.002–2:51.925
都要先把用得到的參數搬進
都要先把用得到的參數搬進
2:51.925–2:53.550
運算單元,算完再搬下一批
運算單元,算完再搬下一批
2:53.550–2:55.404
真正卡住速度的就是這個搬字
真正卡住速度的就是這個搬字
2:56.062–2:57.768
Cerebras 那顆晶片上直接
Cerebras 那顆晶片上直接
2:57.768–2:59.563
做了四十四 GB 的高速記憶體
做了四十四 GB 的高速記憶體
2:59.563–3:01.283
參數就住在上面,不用搬
參數就住在上面,不用搬
3:02.325–3:03.659
這件事的重點在後面
這件事的重點在後面
3:03.659–3:05.089
參數一個都沒有少
參數一個都沒有少
3:05.089–3:07.122
少掉的只是搬運那道手續
少掉的只是搬運那道手續
3:07.122–3:08.193
所以官方才敢說
所以官方才敢說
3:08.193–3:10.006
這一層跟標準的 Sol 一樣聰明
這一層跟標準的 Sol 一樣聰明
3:10.491–3:12.491
這句話等一下拿數字檢查,先記著
這句話等一下拿數字檢查,先記著
3:12.921–3:14.817
機制講完,回到人身上
機制講完,回到人身上
3:14.817–3:16.511
快十四倍聽起來很像規格
快十四倍聽起來很像規格
3:16.511–3:18.136
表上的數字,真正有意思的是
表上的數字,真正有意思的是
3:18.136–3:19.761
它落到工作上會變成什麼樣
它落到工作上會變成什麼樣
3:20.140–3:21.327
OpenAI 的工程師舉了
OpenAI 的工程師舉了
3:21.327–3:22.452
一個很具體的例子
一個很具體的例子
3:22.452–3:24.327
一件原本要花一到兩小時的工作
一件原本要花一到兩小時的工作
3:24.878–3:26.942
有句老話說,快本身就是
有句老話說,快本身就是
3:26.942–3:29.418
一種功能——因為一個東西快到
一種功能——因為一個東西快到
3:29.418–3:32.307
某個程度做事的方式就會跟著變
某個程度做事的方式就會跟著變
3:32.307–3:34.805
以前光是收資料、整理
以前光是收資料、整理
3:34.805–3:37.303
統一格式,再補上脈絡
統一格式,再補上脈絡
3:37.303–3:40.633
做出能幫我和團隊做決策的
做出能幫我和團隊做決策的
3:40.633–3:43.964
判斷材料,要花一到兩個小時
判斷材料,要花一到兩個小時
3:43.964–3:46.739
現在十到十五分鐘就好
現在十到十五分鐘就好
3:46.739–3:48.508
有時候幾乎是即時的
有時候幾乎是即時的
3:48.634–3:51.353
一到兩小時變成十到十五分鐘
一到兩小時變成十到十五分鐘
3:51.353–3:52.512
這是省時間
這是省時間
3:52.512–3:54.004
但真正有意思的是後面
但真正有意思的是後面
3:54.642–3:56.142
這句——快到某個程度以後
這句——快到某個程度以後
3:56.142–3:57.392
連做法本身都會換掉
連做法本身都會換掉
3:58.074–4:00.247
用 Ultrafast
用 Ultrafast
4:00.247–4:03.012
我可以同時把所有地方都搜一遍
我可以同時把所有地方都搜一遍
4:03.012–4:05.975
而且是平行進行,這真的很不可思議
而且是平行進行,這真的很不可思議
4:05.975–4:08.494
而且說實話,Ultrafast
而且說實話,Ultrafast
4:08.494–4:10.474
快到我通常不用分心去做
快到我通常不用分心去做
4:10.474–4:12.813
別的事也拿得到一樣好的結果
別的事也拿得到一樣好的結果
4:12.813–4:15.137
一旦進入寫程式的心流,我覺得
一旦進入寫程式的心流,我覺得
4:15.137–4:17.103
在同樣的時間裡——時間才是
在同樣的時間裡——時間才是
4:17.103–4:19.784
真正的限制——我能用到的智力變多了
真正的限制——我能用到的智力變多了
4:19.911–4:21.888
這裡有兩件事值得拆開講
這裡有兩件事值得拆開講
4:21.888–4:23.719
第一件是同時查很多地方
第一件是同時查很多地方
4:23.719–4:24.844
以前要查一件事故
以前要查一件事故
4:24.844–4:26.766
你得一個系統一個系統翻過去
你得一個系統一個系統翻過去
4:26.766–4:28.243
因為每翻一次都要等
因為每翻一次都要等
4:28.243–4:29.458
等得起的次數有限
等得起的次數有限
4:29.458–4:31.458
你就只能挑最可能的那幾個地方找
你就只能挑最可能的那幾個地方找
4:31.458–4:32.583
快到不用等的時候
快到不用等的時候
4:32.583–4:33.949
十個地方可以一起查
十個地方可以一起查
4:33.949–4:35.324
找到的機率當然不一樣
找到的機率當然不一樣
4:35.696–4:36.912
第二件更微妙
第二件更微妙
4:36.912–4:38.736
他說快到不用分心——等模型的
他說快到不用分心——等模型的
4:38.736–4:41.067
那幾分鐘,你不會坐在那裡
那幾分鐘,你不會坐在那裡
4:41.067–4:42.317
發呆,你會去回訊息
發呆,你會去回訊息
4:42.317–4:43.846
去看別的東西,等它跑完回來
去看別的東西,等它跑完回來
4:43.846–4:45.596
還得把剛剛的脈絡重新撿一遍
還得把剛剛的脈絡重新撿一遍
4:45.994–4:47.687
被吃掉的從來不是那幾分鐘
被吃掉的從來不是那幾分鐘
4:47.687–4:49.050
是回神的那一段
是回神的那一段
4:49.050–4:50.425
這就是那句老話的意思
這就是那句老話的意思
4:50.425–4:51.820
一個東西快到某個程度
一個東西快到某個程度
4:51.820–4:53.304
人做事的方式會跟著變
人做事的方式會跟著變
4:54.106–4:56.582
講到這裡都是好話,該來檢查一下
講到這裡都是好話,該來檢查一下
4:56.582–4:58.082
跑這麼快,它有沒有變笨
跑這麼快,它有沒有變笨
4:58.776–5:00.050
目前有兩組數字
目前有兩組數字
5:00.050–5:01.550
都是 Cerebras 自己測的
都是 Cerebras 自己測的
5:01.726–5:04.147
第一組是一份兩千五百題的
第一組是一份兩千五百題的
5:04.147–5:05.647
博士級考題,Ultrafast 跑
博士級考題,Ultrafast 跑
5:05.647–5:06.892
完花十一小時十一分
完花十一小時十一分
5:06.892–5:08.642
對照組要七十八小時二十七分
對照組要七十八小時二十七分
5:09.525–5:11.815
第二組挑的是有經濟價值的
第二組挑的是有經濟價值的
5:11.815–5:13.871
知識工作,整件事從頭到尾快
知識工作,整件事從頭到尾快
5:13.871–5:15.496
五點六倍,而且品質沒有掉
五點六倍,而且品質沒有掉
5:15.496–5:16.844
兩組數字都很漂亮
兩組數字都很漂亮
5:16.844–5:18.094
但都是廠商自己測的
但都是廠商自己測的
5:18.094–5:19.337
目前沒有第三方複驗
目前沒有第三方複驗
5:19.337–5:20.587
聽的時候自己打個折
聽的時候自己打個折
5:21.117–5:23.445
快速重構一次程式碼幾乎不花
快速重構一次程式碼幾乎不花
5:23.445–5:25.594
什麼錢,而且幾乎是瞬間完成
什麼錢,而且幾乎是瞬間完成
5:25.594–5:27.906
這確實讓我們做得更快
這確實讓我們做得更快
5:27.906–5:31.605
出貨更快而且這股節奏可以撐得更久
出貨更快而且這股節奏可以撐得更久
5:31.605–5:32.817
因為它夠快
因為它夠快
5:32.817–5:36.210
夠有效智力的品質不會因此打折
夠有效智力的品質不會因此打折
5:36.210–5:38.090
我們永遠想要最聰明
我們永遠想要最聰明
5:38.090–5:39.343
又跑得最快的
又跑得最快的
5:39.343–5:41.349
有了 5.6 Ultrafast
有了 5.6 Ultrafast
5:41.349–5:42.477
這兩件事不用二選一
這兩件事不用二選一
5:42.618–5:44.584
官方說不用二選一
官方說不用二選一
5:44.584–5:45.822
這句話成立
這句話成立
5:45.822–5:48.341
但它講的是聰明程度不用二選一
但它講的是聰明程度不用二選一
5:48.341–5:49.684
真正被拿去換的
真正被拿去換的
5:49.684–5:50.684
東西在別的地方
東西在別的地方
5:50.957–5:53.015
OpenAI 自己在同一場說明
OpenAI 自己在同一場說明
5:53.074–5:54.782
會上講過這個道理——先說清楚
會上講過這個道理——先說清楚
5:54.782–5:56.157
接下來這段講的是 Codex
接下來這段講的是 Codex
5:56.157–5:57.157
裡面的一個開關
裡面的一個開關
5:57.157–5:58.902
跟今天的 Ultrafast 不是
跟今天的 Ultrafast 不是
5:58.902–6:00.777
同一個東西,不過道理一模一樣
同一個東西,不過道理一模一樣
6:00.777–6:02.646
第二個建議是想想
第二個建議是想想
6:02.646–6:06.618
什麼時候值得拿 token 換時間
什麼時候值得拿 token 換時間
6:06.618–6:09.168
有不少情況是你就想讓
有不少情況是你就想讓
6:09.168–6:11.464
它跑快一點願意多花
它跑快一點願意多花
6:11.464–6:15.544
一些 token 來省自己的時間
一些 token 來省自己的時間
6:15.544–6:17.135
Fast mode 就是最明顯的例子
Fast mode 就是最明顯的例子
6:17.135–6:19.884
你可以開 Fast mode
你可以開 Fast mode
6:19.884–6:22.241
讓輸出用 1.5 倍速跑
讓輸出用 1.5 倍速跑
6:22.241–6:25.287
不過額度也會扣得比較快
不過額度也會扣得比較快
6:25.420–6:27.329
Codex 那個開關開下去跑
Codex 那個開關開下去跑
6:27.329–6:29.079
一點五倍速,額度扣得比較快
一點五倍速,額度扣得比較快
6:29.079–6:30.454
API 那邊是同一套邏輯
API 那邊是同一套邏輯
6:30.454–6:31.536
只是分得更清楚
只是分得更清楚
6:31.536–6:33.862
一共三層:最上面是標準速度
一共三層:最上面是標準速度
6:33.862–6:34.958
中間那層叫 Fast
中間那層叫 Fast
6:34.958–6:36.109
大約兩點五倍速
大約兩點五倍速
6:36.109–6:37.416
價錢剛好是兩倍
價錢剛好是兩倍
6:37.416–6:39.942
最下面那條是 Ultrafast
最下面那條是 Ultrafast
6:39.942–6:40.692
最快十四倍
最快十四倍
6:40.955–6:42.349
Ultrafast 的價格呢?
Ultrafast 的價格呢?
6:42.349–6:43.702
官方到現在沒有公布
官方到現在沒有公布
6:43.702–6:45.077
而且它現在是限量預覽
而且它現在是限量預覽
6:45.077–6:46.514
只開放給少數 API 客戶
只開放給少數 API 客戶
6:46.514–6:47.420
要填表申請
要填表申請
6:47.757–6:49.436
講白了,這個開關
講白了,這個開關
6:49.436–6:51.061
現在打不開——一般人打不開
現在打不開——一般人打不開
6:51.061–6:52.311
大部分公司也打不開
大部分公司也打不開
6:52.967–6:54.795
最後留一個判斷給你
最後留一個判斷給你
6:54.795–6:55.952
模型跑得快
模型跑得快
6:55.952–6:58.271
只在你卡在等模型的時候有用
只在你卡在等模型的時候有用
6:58.271–7:01.620
如果卡住你的是資料調不出來
如果卡住你的是資料調不出來
7:01.620–7:03.408
權限沒開、或者一件事還沒有人
權限沒開、或者一件事還沒有人
7:03.408–7:05.316
拍板,那顆晶片再快也救不了
拍板,那顆晶片再快也救不了
7:05.316–7:06.873
看到十四倍這種數字
看到十四倍這種數字
7:06.873–7:08.031
先問自己一句
先問自己一句
7:08.031–7:09.746
我平常在等的,真的是它嗎?
我平常在等的,真的是它嗎?
7:10.441–7:12.352
不過那句老話還是成立的
不過那句老話還是成立的
7:12.352–7:14.714
過去兩年,模型是往更聰明的
過去兩年,模型是往更聰明的
7:14.714–7:16.339
方向走;這一次拿出來賣的
方向走;這一次拿出來賣的
7:16.339–7:18.142
是同一顆腦跑得更快
是同一顆腦跑得更快
7:18.142–7:19.655
這條線接下來會走
這條線接下來會走
7:19.655–7:20.655
到哪,值得盯著
到哪,值得盯著
7:20.823–7:22.198
覺得這樣拆一遍有幫助
覺得這樣拆一遍有幫助
7:22.198–7:24.051
記得訂閱可波 AI 白話
記得訂閱可波 AI 白話
7:24.051–7:24.926
我們下支片見
我們下支片見

影片筆記:這根本是作弊!把 GPT‑5.6 Sol 開到 Ultrafast 會怎樣?|Cerebras 晶圓級晶片、Fast mode 一次看懂

<!-- VIDEONOTE_PUBLICATION_WARNINGS_BEGIN -->

⚠️ 全文快速校讀發現待確認修正

本筆記已完成可閱讀的逐字稿與時間跳轉;下列為待處理問題,建議播放原片確認。

  • 待修正:⚠️ 全文快速校讀:已套用暫定修正,請確認(segment=56 已先套用暫定修正:也是旗艦處理 → 也是旗艦,處理;segment=123 已先套用暫定修正:一旦進入寫程式的心流我覺得 → 一旦進入寫程式的心流,我覺得)

<!-- VIDEONOTE_PUBLICATION_WARNINGS_END -->

一句話總結

OpenAI 推出的「Ultrafast」並非新模型,而是透過 Cerebras 晶圓級晶片硬體加速,讓現有旗艦模型 GPT-5.6 Sol 達到約 14 倍的速度提升,以消耗更多 Token 為代價消除等待時間,從而改變工作流並維持心流,但目前僅限少數 API 客戶申請預覽。

核心重點

  1. Ultrafast 的本質:Ultrafast 不是新的模型架構或參數變更,而是同一個模型(GPT-5.6 Sol)更換硬體運行環境的結果。
  2. 硬體技術核心:利用 Cerebras 的「晶圓級晶片」技術,將整片晶圓做成一顆大晶片並集成 44 GB 高速記憶體,解決參數在記憶體與運算單元間搬運的速度瓶頸。
  3. 速度與成本交換:Ultrafast 提供約 14 倍於標準速度的運算能力(宣稱每秒 750 個 token),但代價是消耗更多的 Token 或額度,即「拿 token 換時間」。
  4. 工作流與心流改變:
  • 消除等待時間(從 1-2 小時縮短至 10-15 分鐘甚至即時),避免使用者在等待時分心導致「回神成本」。
  • 允許平行處理多處查詢(如同時搜尋十個地方),提高找到根本原因的機率。
  • 官方觀點:「快本身就是一種功能」,速度達到臨界點後會改變做事方式。
  1. 獲取與限制:
  • 目前僅開放給少數 API 客戶進行限量預覽,需填表申請,具體價格未公開。
  • 僅在「模型運算速度」是主要瓶頸時有效;若瓶頸在於資料調取、權限或決策未拍板,則無助益。

詳細大綱

一、 Ultrafast 的定義與核心概念

  • 起源與宣傳:OpenAI 工程師拍攝 90 秒影片,形容使用體驗為「第一次覺得自己在工作上作弊」。
  • 核心價值:消除「等待時間」。過去丟出問題需等待幾分鐘,導致中斷與重新建立脈絡的成本;Ultrafast 消除了這段等待。
  • 非新模型:Ultrafast 不是新的模型架構,而是同一顆模型換一種硬體運行,參數未改變。

二、 速度層級與模型家族架構

  • GPT-5.6 家族組成:
  • Sol:前沿模型、旗艦,處理最複雜程式與專業工作。
  • Terra:日常主力,平衡智力成本與反應時間。
  • Luna:高流量、低智力要求但重視成本與反應時間。
  • 速度層級(Speed Tiers):
  • 同一顆模型可選擇不同速度層級,價格隨速度變化。
  • 標準速度:基礎層級。
  • Fast mode:約 2.5 倍速,價格約為標準的 2 倍(提及於 Codex 與 API 說明)。
  • Ultrafast:最快層級,約 14 倍速。

三、 硬體技術原理:Cerebras 晶圓級晶片

  • 硬體供應商:Cerebras 公司。
  • 技術差異:
  • 一般晶片:從整片晶圓切割出多顆小晶片,參數需頻繁在記憶體與運算單元間搬運(搬運參數是速度瓶頸)。
  • Cerebras 晶片:整片晶圓做成一顆大晶片,直接集成 44 GB 高速記憶體。
  • 優勢:參數直接住在記憶體上,無需搬運手續,因此速度大幅提升,但參數數量與智力未減。

四、 工作流改變與實際效益

  • 時間縮減範例:
  • 原需 1-2 小時的工作(收集資料、整理格式、補脈絡、做出決策判斷),現在只需 10-15 分鐘。
  • 部分情況幾乎即時完成。
  • 行為模式改變:
  • 平行處理:過去因等待限制只能挑選少數系統查詢;現在可同時平行搜尋十個地方,提高找到根本原因的機率。
  • 維持心流:過去等待模型時會分心處理其他事務(回訊息等),回來後需重新建立脈絡(「回神」成本);現在速度夠快,無需分心,能維持寫程式或思考的心流,單位時間內調用的智力變多。
  • 官方論點:「快本身就是一種功能」,快到某個程度後,做事方式會改變。

五、 性能驗證與限制

  • 性能測試數據(由 Cerebras 提供,非第三方複驗):
  • 博士級考題:Ultrafast 耗時 11 小時 11 分;對照組耗時 78 小時 27 分。
  • 經濟價值知識工作:整體速度提升 5.6 倍,品質未下降。
  • 成本與獲取方式:
  • 價格:官方尚未公布 Ultrafast 具體價格。
  • 開放狀態:限量預覽,僅開放給少數 API 客戶,需填表申請。
  • 代價:以消耗更多 Token 或額度來換取速度(「拿 token 換時間」)。
  • 適用性判斷:
  • 僅在「等待模型運算」是瓶頸時有用。
  • 若瓶頸在於資料調取、權限問題或決策未拍板,速度提升無助於解決問題。

工具 / 模型 / 名詞整理

  • OpenAI:公司名稱。
  • GPT-5.6 Sol:OpenAI 目前最強的前沿模型/旗艦模型。
  • Ultrafast:OpenAI 提供的服務層級/速度選項,非獨立模型。
  • GPT-5.6 Terra:日常主力模型。
  • GPT-5.6 Luna:高流量、低成本模型。
  • Cerebras:提供晶圓級晶片的公司。
  • Codex:提及其中有一個開關(Fast mode),與 Ultrafast 道理相同但非同一東西。
  • API:應用程式介面,Ultrafast 目前主要開放對象。

操作流程整理

  1. 申請預覽:目前 Ultrafast 僅限少數 API 客戶,需填寫表格申請。
  2. 選擇模型與速度:在 API 調用中,選擇 GPT-5.6 Sol 模型,並啟用 Ultrafast 速度層級。
  3. 執行任務:
  • 進行複雜程式處理或專業工作。
  • 利用高速特性進行平行處理(如同時查詢多個來源)。
  1. 監控成本:注意 Ultrafast 會消耗更多 Token 或額度,需評估「拿 token 換時間」的效益。
  2. 評估瓶頸:確認任務瓶頸確實在於模型運算速度,而非資料調取或決策流程,以確保速度提升有實際幫助。

值得注意的限制或風險

  1. 價格未公開:官方尚未公布 Ultrafast 的具體定價,僅知曉其比標準速度貴(以更多 Token 換取)。
  2. 適用範圍有限:僅限少數 API 客戶,非所有使用者均可直接獲取。
  3. 瓶頸錯配風險:若問題瓶頸不在運算速度(如資料已取得、權限已確認、決策已拍板),使用 Ultrafast 無法解決問題,反而可能浪費 Token。
  4. 數據來源單一:性能測試數據由 Cerebras 提供,非第三方獨立複驗,可能存在宣傳偏差。
  5. 記憶體容量疑點:逐字稿提及 Cerebras 晶片集成「44 GB」高速記憶體,此數值對於晶圓級晶片而言較小,需留意是否為辨識錯誤或特定上下文。

逐字稿辨識疑點

  • GPT-5.6 Sol / Terra / Luna:逐字稿中明確提及此模型名稱系列。然而,OpenAI 目前公開的主流模型系列通常為 GPT-4 或 GPT-4o 系列,「GPT-5.6」及「Sol/Terra/Luna」的命名方式與現有公開資訊可能有出入,或為影片中的特定稱呼/口誤,故保留原樣並標註為需查證。
  • 四百四十 GB 高速記憶體:逐字稿提及「44 GB」,對於晶圓級晶片而言,此數值較小,通常此類晶片記憶體規模較大,但依規則僅記錄逐字稿內容,不進行更正。
  • 每秒七百五十個 token:逐字稿提及此速度數字,對應 14 倍速與標準速度之關係,保留原樣。
  • 博士級考題:未說明具體是哪一種考題(如 GPQA 等),僅以「博士級考題」稱呼,保留原樣。

可延伸追問

  1. Ultrafast 的具體定價策略為何?是否採用計量單位(per token)還是固定訂閱制?
  2. GPT-5.6 Sol 是否為 OpenAI 內部代號或尚未正式命名的模型?其與現有 GPT-4o 系列的具體性能差異為何?
  3. Cerebras 晶圓級晶片在集成 44 GB 記憶體下的具體運算架構與功耗表現如何?
  4. 除了 API 客戶,未來是否會開放給一般 ChatGPT 使用者使用 Ultrafast 功能?
  5. 在「博士級考題」測試中,Ultrafast 與對照組在答案準確率上是否有具體的統計數據對比?

尚未產生學習筆記

請在 Telegram 指令最後加上「學習」,例如:videonote 網址 英文 雙語 學習