實際影片長度:9:12.000。原文、繁中、雙語可點擊句子跳轉影片。
0:00.000–0:04.271
昨天錄了一期關於Deepseek V4.1 Flush發布之後,
0:04.271–0:05.268
如何在AMD、
0:05.268–0:08.400
英伟達以及蘋果三個小主機之間進行選擇的視頻。
0:08.400–0:10.036
但是剛剛發布就被打了臉,
0:10.036–0:14.400
因為Deepseek已經開放了這個V4.1 Flush的這個權重。
0:14.400–0:18.400
那麼它的尺寸已經相比於V4 Flush的話要大大提升。
0:18.400–0:24.900
首先它的總餐從這個V4的284B提升到了748B,就是7480億總餐。
0:24.900–0:29.300
這個是一個非常大的一個模型的,說實話把它叫做Flush都有點誇張了。
0:29.300–0:33.600
這個就再大一點它就破萬億了,就是旗艦模型的配置了。
0:33.600–0:37.716
然後這個模型的權重總體是510G,
0:37.716–0:42.800
其中有306G是MOE以及它的主模型權重。
0:42.800–0:50.400
各個專家加起來是306G。然後還有204G是這個英官支持權重。
0:50.400–0:56.400
就這一塊是可以把它放到SSD中去的,如果說利用小核再來部署的話。
0:56.400–1:01.700
那麼由於這個模型本身的變化,首先AMD的小主機就可以被排除在外了。
1:01.700–1:03.700
它是跑不了V4.1 Flush的。
1:03.700–1:07.700
因為它最大的就是192G內存的AI Max 400。
1:07.700–1:09.221
那麼它就已經出局了。
1:09.221–1:09.721
當然,
1:09.721–1:12.110
AI Max 400像我們上期說的,
1:12.110–1:15.000
它這個在本地跑一跑這個V4 Flush。
1:15.000–1:18.300
這還是能玩一玩的,但是它的體驗也不會好到哪去。
1:18.300–1:23.300
然後就是我們在說蘋果。蘋果它也發生了很大的變化。
1:23.300–1:30.500
就是昨天我跟大家說的黃金尺寸的這麼一個M5 Ultra 256G內存的這麼一個機型。
1:30.500–1:33.600
它就瞬間就不像了。因為它只能跑V4 Flush了。
1:33.600–1:36.673
雖然V4 Flush也補足了這個視覺模塊。
1:36.673–1:37.902
也是個怎麼說呢?
1:37.902–1:39.900
全能的這麼一個六邊形戰士。
1:39.900–1:43.200
就是它用來跑這個V4 Flush的話效果是不錯的。
1:43.200–1:48.400
但是它畢竟未來已經被鎖死了。它跑不了這個什麼V4.1 Flush了。
1:48.400–1:51.000
它以後就沒法升級了,沒法更新了。
1:51.000–1:56.500
當然了,你可以用它來跑這個什麼GLM5.3 Flush之類的300B左右的模型。
1:56.500–1:57.850
這樣也是可以的。
1:57.850–2:00.044
這個DeepSig不搞了,
2:00.044–2:02.237
GLM以後不代表就不搞了。
2:02.237–2:02.744
是吧?
2:02.744–2:05.444
但是它畢竟它不能跑最香的模型了。
2:05.444–2:07.300
它的價值要大打折扣了。
2:07.300–2:08.300
那麼所以說,
2:08.300–2:10.467
你如果是買M5Osh的话,
2:10.467–2:13.300
就一步到位上這個512的這個機型。
2:13.300–2:19.300
它就是目前,低表上你能買到的這個內存最大的就個人的這種消費小主機了。
2:19.300–2:24.900
那它做工也好,還是說它的蘋果生態也好,還是說它普達模型的能力也好。
2:24.900–2:26.033
它都是能拿的,
2:26.033–2:27.167
就非常的不錯。
2:27.167–2:27.814
但是呢,
2:27.814–2:28.948
價格就很貴了。
2:28.948–2:30.729
就看你的腎夠不夠賣了。
2:30.729–2:31.700
你有幾個腎。
2:31.700–2:33.805
當然了,有之前買的一些,
2:33.805–2:36.612
比如說買了96G M5Ocha的,
2:36.612–2:41.700
或者說買了什麼64G的這個M5MAX的這些小主機的朋友們。
2:41.700–2:43.271
你們就可以幸灾樂禍了。
2:43.271–2:44.700
反正你買256G的,
2:44.700–2:46.843
你也跑不了V4.1 Flush。
2:46.843–2:47.343
是吧?
2:47.343–2:50.700
以後DeepSig Flush家族就256G對身,
2:50.700–2:51.700
你就跑不了了。
2:51.700–2:52.857
它只會越來越大,
2:52.857–2:54.015
不會越來越小的。
2:54.015–2:56.040
那麼大家在本地就想跑得舒爽,
2:56.040–2:58.500
就只能跑這個什麼青文3.8 27B。
2:58.500–3:02.500
就青文家族的27B模型。未來可能有3.9、4.0、甚至5.0。
3:02.500–3:03.500
那這個模型,
3:03.500–3:05.667
阿里巴巴肯定會持續升級的。
3:05.667–3:08.500
因為它是本地部署的黃金尺寸的模型。
3:08.500–3:09.272
在這一塊,
3:09.272–3:12.977
你無論是M5MAX64G還是M5Ocha96G,
3:12.977–3:13.749
它都能跑。
3:13.749–3:17.300
當然M5Ocha96G它的體驗肯定要更好一點。
3:17.300–3:19.300
甚至說你同樣是MAX的話,
3:19.300–3:20.685
MAX沒有96G,
3:20.685–3:22.223
MAX只有128G。
3:22.223–3:25.300
128G肯定是要比64G的體驗要更好的。
3:25.300–3:27.300
但是64G的性價比就凸顯了。
3:27.300–3:32.121
因為它畢竟比這個128G版本的MAX要便宜50%。
3:32.121–3:35.207
那你已經做出採購選擇的這些兄弟,
3:35.207–3:36.364
這些朋友們,
3:36.364–3:38.100
你們就可以慶祝了。
3:38.100–3:42.100
就沒有那麼多的遺憾,反正你們256G也跑不了。
3:42.100–3:47.100
所以說這個梁子對於這個開源社區的這個影響還是非常的大的。
3:47.100–3:50.930
但是我們也不得不說DeepSeq的開源確實是路線非常的堅定,
3:50.930–3:51.951
意志非常的堅定,
3:51.951–3:53.100
沒有藏著藏著藏著。
3:53.100–3:59.100
就連Ingram算法,Ingram架構,這麼它的核心機密,是吧?
3:59.100–4:02.100
它在悶了一段時間之後,還是把它全部開放了。
4:02.100–4:05.700
這真的是非常牛逼,加上它最近開源的DeepSeq Harness。
4:05.700–4:09.500
我可以說DeepSeq已經是毫無疑問的當下的開源AI的王者。
4:09.500–4:14.900
這短短的一個月,梁子就通過G-R03的操作奠定了開源王者的地位。
4:14.900–4:17.757
阿里巴巴可以說通過這個本地的切換小模型,
4:17.757–4:19.186
還能跟梁子再標一標,
4:19.186–4:20.900
但是已經基本上是出局了。
4:20.900–4:23.471
就說以後你說開源AI的基礎設施是誰?
4:23.471–4:25.043
那就是DeepSeq。
4:25.043–4:26.900
這個應該是沒有什麼爭論了。
4:26.900–4:30.900
當然我相信目前收益最大的還是老黃這個肩商。
4:30.900–4:36.900
首先說在這個企業市場,大家都知道它的這個什麼NVFPS加上FP吧?
4:36.900–4:40.900
就是DeepSeq、弗拉希家族的這個默認的這個標準模型權重。
4:40.900–4:45.673
就是這個DeepSeq目前雖然採購了大量的這個華為生存機群,
4:45.673–4:47.900
包括950PR和950DT。
4:47.900–4:50.900
950DT據說一次已經買了16萬張。
4:50.900–4:54.900
那它以後肯定是要把這個華為當作主要的生態。
4:54.900–4:57.900
是吧?那麼英伟達無論如何,它作為世界標準,它跟華為是並列的。
4:57.900–5:00.336
DeepSeq不管是發布什麼模型權重,
5:00.336–5:02.900
它肯定能在這個英伟達的這個群群上跑起來。
5:02.900–5:07.900
否則它就失去了作為全世界通用的開源AI基礎設施的意義。
5:07.900–5:09.224
那其他的像AMD、
5:09.224–5:09.812
蘋果啊,
5:09.812–5:13.635
這些你等這個DeepSeq官方把模型權重放出來之後,
5:13.635–5:14.371
社區也好,
5:14.371–5:16.282
還是你們企業去組織人也好,
5:16.282–5:17.900
你們想辦法把它跑起來。
5:17.900–5:19.900
那就不是良子關心的事情了。
5:19.900–5:22.150
以前在這個V4Flash時代,
5:22.150–5:23.200
那麼兩個盒子,
5:23.200–5:26.350
就是兩個128級綠存的拼凑起256級綠存,
5:26.350–5:28.900
那麼就可以跑這個V4Flash了。
5:28.900–5:31.637
現在呢,它由於這個MOE,
5:31.637–5:35.216
這個包括說這個模型的這個核心權重,
5:35.216–5:36.900
一共是306級。
5:36.900–5:39.900
那麼它可能說兩個就不夠了,就需要三個。
5:39.900–5:41.271
哎,加一個之後,
5:41.271–5:45.900
就剛好這個DGX Spark本身就支持三個或者四個互聯。
5:45.900–5:47.853
應該說你不超過四個的情況下,
5:47.853–5:49.667
它還是一個黃金的甜點置存,
5:49.667–5:51.900
就它的互聯的效率不會打什麼折扣。
5:51.900–5:54.900
就總體ITM是不會差的。
5:54.900–5:58.900
然後三個盒子,你一共是384級的統一綠存。
5:58.900–6:02.900
那麼這個384級的這個統一綠存呢,我們來給它簡單分配一下。
6:02.900–6:05.900
就是說你系統本身,因為跑的都是Linux嘛,你占幾個G就夠了。
6:05.900–6:11.900
可能說再加上框架開銷,我們總體上給它扣除24個G吧。
6:11.900–6:12.900
然後你還剩下360個G,是吧。
6:12.900–6:16.900
那麼360個G,你減去這個什麼306G,你還剩下54個G。
6:16.900–6:22.900
這54個G的這個什麼性存,這個統一綠存就足夠你去跑長生雅文多開繪畫了。
6:22.900–6:26.900
因爲什麼?因為這個DBC它這次技術又有了重大的進步。
6:26.900–6:28.762
它這個官方公布的文檔是,
6:28.762–6:32.641
對於這個什麼顯存的需求降低到了以前的什麼六分之一,
6:32.641–6:35.900
對於什麼SSD的需求降低到以前的八分之一。
6:35.900–6:39.900
這個當然我不知道是已經優化過之後,需要這麼多資源。
6:39.900–6:44.900
還是說在現有的這個什麼三台小盒子的資源之下,它能夠深度的優化。
6:44.900–6:47.900
反正肯定是夠的,三個小盒子是夠的。
6:47.900–6:51.200
並且,你以前如果是買了一台DGX Spark,
6:51.200–6:51.700
是吧。
6:51.700–6:53.900
你買兩台就能跑這個V4弗拉奇。
6:53.900–6:55.900
買三台就能跑V4.1弗拉奇。
6:55.900–6:58.900
這是一個平滑過渡的這麼一個流程。
6:58.900–7:02.900
將來如果是有一天,你什麼4.2或者5.0的弗拉奇。
7:02.900–7:04.900
它的尺寸又增加了。那麼你再買一個小盒子。
7:04.900–7:07.900
四個盒子基本上就是,英偉達的這個小肌群的這個極限了。
7:07.900–7:09.900
再高它可能通信效率就不高了。
7:09.900–7:14.900
這麼看來的話,你要想在本地部署AI玩的比較舒爽。
7:14.900–7:17.900
那麼老黃的盒子可以說是當仁不讓了。
7:17.900–7:20.900
而且老黃的盒子是把所有的特性都給它做滿了的。
7:20.900–7:23.900
它不像蘋果,不像這個什麼AMD。
7:23.900–7:28.900
它是自己就是這個原生支持NVFP4,支持FP8推理。
7:28.900–7:30.900
這個是全內路的。
7:30.900–7:34.900
大家呢,我在評論區也看到了一些比較積極的消息。
7:34.900–7:36.900
我上網也查了一下,這些事情呢,有可能是謠言。
7:36.900–7:39.900
但是有更大的可能呢,是說會成為現實。
7:39.900–7:43.900
就是中國有不少企業也在準備出這個AI小盒子。
7:43.900–7:47.900
也傳說什麼華為小米這些企業都在準備搞。
7:47.900–7:50.900
哎,我覺得像阿里巴巴這些企業你都可以搞啊。
7:50.900–7:52.900
像什麼海武G是吧。
7:52.900–7:57.900
你們不要光想著去賣這個服務器去賣給這些企業客戶。
7:57.900–8:00.900
你們也把我們這些個人開發的中小團隊,是吧。
8:00.900–8:03.900
我們這些技術屌絲給這個照顧一下。
8:03.900–8:06.109
你們的小盒子如果真的能跑DipSig,
8:06.109–8:06.807
威斯芙拉吉,
8:06.807–8:08.202
跑起來的這個速度還不錯,
8:08.202–8:08.900
效率還不錯。
8:08.900–8:10.900
是吧。再能偶爾玩一玩這個什麼ComphiUI。
8:10.900–8:13.900
那這個小盒子就非常有性價比,我們是不願意花錢買的。
8:13.900–8:18.900
你說你這個國產的這個硬件生態,你想要這個打開市場,是吧。
8:18.900–8:19.900
想要這個繁榮生態。
8:19.900–8:21.900
你這個時候不下手,那什麼時候下手。
8:21.900–8:23.900
都跟他們AMD和英特爾去學。
8:23.900–8:25.900
是吧。打生態的時候看不到他們。
8:25.900–8:29.900
老黃賺的錢呢,就後著臉皮擠進來,要分一杯跟。
8:29.900–8:31.900
你說你們不被老黃吊打,誰被老黃吊打。
8:31.900–8:32.900
是吧。
8:32.900–8:35.900
我們到現在被老黃這個肩上左一刀右一刀割的。
8:35.900–8:37.900
說白了就是因為你們其他的硬件廠商不爭氣。
8:38.900–8:42.900
你們但凡給老黃增加一點壓力,他都不敢把卡賣的這麼貴。
8:42.900–8:45.900
好吧,有點牢騷多了啊。
8:45.900–8:46.900
這個悠感阿發。
8:46.900–8:49.900
本期視頻就到這裡,有什麼新的消息啊。
8:49.900–8:53.900
包括說我在視頻中有哪些錯誤,大家可以這個激激的指出。
8:53.900–8:55.900
是吧。歡迎你到論壇,發帖跟我交流討論。
8:55.900–8:56.900
打臉也可以。
8:56.900–8:57.900
是不是。
8:57.900–9:00.900
但是一定要奔著討論事情,討論技術,來。
9:00.900–9:01.900
不要陰陽怪氣。
9:01.900–9:04.900
陰陽怪氣,我這個人對你就是上去就是一耳光,知道嗎。
9:04.900–9:07.900
是個山野村父,非常的野蠻,非常的暴力。
9:07.900–9:10.900
好吧,我們下期視頻再見。
0:00.000–0:04.271
昨天錄了一期關於Deepseek V4.1 Flush發布之後,
0:04.271–0:05.268
如何在AMD、
0:05.268–0:08.400
英伟達以及蘋果三個小主機之間進行選擇的視頻。
0:08.400–0:10.036
但是剛剛發布就被打了臉,
0:10.036–0:14.400
因為Deepseek已經開放了這個V4.1 Flush的這個權重。
0:14.400–0:18.400
那麼它的尺寸已經相比於V4 Flush的話要大大提升。
0:18.400–0:24.900
首先它的總餐從這個V4的284B提升到了748B,就是7480億總餐。
0:24.900–0:29.300
這個是一個非常大的一個模型的,說實話把它叫做Flush都有點誇張了。
0:29.300–0:33.600
這個就再大一點它就破萬億了,就是旗艦模型的配置了。
0:33.600–0:37.716
然後這個模型的權重總體是510G,
0:37.716–0:42.800
其中有306G是MOE以及它的主模型權重。
0:42.800–0:50.400
各個專家加起來是306G。然後還有204G是這個英官支持權重。
0:50.400–0:56.400
就這一塊是可以把它放到SSD中去的,如果說利用小核再來部署的話。
0:56.400–1:01.700
那麼由於這個模型本身的變化,首先AMD的小主機就可以被排除在外了。
1:01.700–1:03.700
它是跑不了V4.1 Flush的。
1:03.700–1:07.700
因為它最大的就是192G內存的AI Max 400。
1:07.700–1:09.221
那麼它就已經出局了。
1:09.221–1:09.721
當然,
1:09.721–1:12.110
AI Max 400像我們上期說的,
1:12.110–1:15.000
它這個在本地跑一跑這個V4 Flush。
1:15.000–1:18.300
這還是能玩一玩的,但是它的體驗也不會好到哪去。
1:18.300–1:23.300
然後就是我們在說蘋果。蘋果它也發生了很大的變化。
1:23.300–1:30.500
就是昨天我跟大家說的黃金尺寸的這麼一個M5 Ultra 256G內存的這麼一個機型。
1:30.500–1:33.600
它就瞬間就不像了。因為它只能跑V4 Flush了。
1:33.600–1:36.673
雖然V4 Flush也補足了這個視覺模塊。
1:36.673–1:37.902
也是個怎麼說呢?
1:37.902–1:39.900
全能的這麼一個六邊形戰士。
1:39.900–1:43.200
就是它用來跑這個V4 Flush的話效果是不錯的。
1:43.200–1:48.400
但是它畢竟未來已經被鎖死了。它跑不了這個什麼V4.1 Flush了。
1:48.400–1:51.000
它以後就沒法升級了,沒法更新了。
1:51.000–1:56.500
當然了,你可以用它來跑這個什麼GLM5.3 Flush之類的300B左右的模型。
1:56.500–1:57.850
這樣也是可以的。
1:57.850–2:00.044
這個DeepSig不搞了,
2:00.044–2:02.237
GLM以後不代表就不搞了。
2:02.237–2:02.744
是吧?
2:02.744–2:05.444
但是它畢竟它不能跑最香的模型了。
2:05.444–2:07.300
它的價值要大打折扣了。
2:07.300–2:08.300
那麼所以說,
2:08.300–2:10.467
你如果是買M5Osh的话,
2:10.467–2:13.300
就一步到位上這個512的這個機型。
2:13.300–2:19.300
它就是目前,低表上你能買到的這個內存最大的就個人的這種消費小主機了。
2:19.300–2:24.900
那它做工也好,還是說它的蘋果生態也好,還是說它普達模型的能力也好。
2:24.900–2:26.033
它都是能拿的,
2:26.033–2:27.167
就非常的不錯。
2:27.167–2:27.814
但是呢,
2:27.814–2:28.948
價格就很貴了。
2:28.948–2:30.729
就看你的腎夠不夠賣了。
2:30.729–2:31.700
你有幾個腎。
2:31.700–2:33.805
當然了,有之前買的一些,
2:33.805–2:36.612
比如說買了96G M5Ocha的,
2:36.612–2:41.700
或者說買了什麼64G的這個M5MAX的這些小主機的朋友們。
2:41.700–2:43.271
你們就可以幸灾樂禍了。
2:43.271–2:44.700
反正你買256G的,
2:44.700–2:46.843
你也跑不了V4.1 Flush。
2:46.843–2:47.343
是吧?
2:47.343–2:50.700
以後DeepSig Flush家族就256G對身,
2:50.700–2:51.700
你就跑不了了。
2:51.700–2:52.857
它只會越來越大,
2:52.857–2:54.015
不會越來越小的。
2:54.015–2:56.040
那麼大家在本地就想跑得舒爽,
2:56.040–2:58.500
就只能跑這個什麼青文3.8 27B。
2:58.500–3:02.500
就青文家族的27B模型。未來可能有3.9、4.0、甚至5.0。
3:02.500–3:03.500
那這個模型,
3:03.500–3:05.667
阿里巴巴肯定會持續升級的。
3:05.667–3:08.500
因為它是本地部署的黃金尺寸的模型。
3:08.500–3:09.272
在這一塊,
3:09.272–3:12.977
你無論是M5MAX64G還是M5Ocha96G,
3:12.977–3:13.749
它都能跑。
3:13.749–3:17.300
當然M5Ocha96G它的體驗肯定要更好一點。
3:17.300–3:19.300
甚至說你同樣是MAX的話,
3:19.300–3:20.685
MAX沒有96G,
3:20.685–3:22.223
MAX只有128G。
3:22.223–3:25.300
128G肯定是要比64G的體驗要更好的。
3:25.300–3:27.300
但是64G的性價比就凸顯了。
3:27.300–3:32.121
因為它畢竟比這個128G版本的MAX要便宜50%。
3:32.121–3:35.207
那你已經做出採購選擇的這些兄弟,
3:35.207–3:36.364
這些朋友們,
3:36.364–3:38.100
你們就可以慶祝了。
3:38.100–3:42.100
就沒有那麼多的遺憾,反正你們256G也跑不了。
3:42.100–3:47.100
所以說這個梁子對於這個開源社區的這個影響還是非常的大的。
3:47.100–3:50.930
但是我們也不得不說DeepSeq的開源確實是路線非常的堅定,
3:50.930–3:51.951
意志非常的堅定,
3:51.951–3:53.100
沒有藏著藏著藏著。
3:53.100–3:59.100
就連Ingram算法,Ingram架構,這麼它的核心機密,是吧?
3:59.100–4:02.100
它在悶了一段時間之後,還是把它全部開放了。
4:02.100–4:05.700
這真的是非常牛逼,加上它最近開源的DeepSeq Harness。
4:05.700–4:09.500
我可以說DeepSeq已經是毫無疑問的當下的開源AI的王者。
4:09.500–4:14.900
這短短的一個月,梁子就通過G-R03的操作奠定了開源王者的地位。
4:14.900–4:17.757
阿里巴巴可以說通過這個本地的切換小模型,
4:17.757–4:19.186
還能跟梁子再標一標,
4:19.186–4:20.900
但是已經基本上是出局了。
4:20.900–4:23.471
就說以後你說開源AI的基礎設施是誰?
4:23.471–4:25.043
那就是DeepSeq。
4:25.043–4:26.900
這個應該是沒有什麼爭論了。
4:26.900–4:30.900
當然我相信目前收益最大的還是老黃這個肩商。
4:30.900–4:36.900
首先說在這個企業市場,大家都知道它的這個什麼NVFPS加上FP吧?
4:36.900–4:40.900
就是DeepSeq、弗拉希家族的這個默認的這個標準模型權重。
4:40.900–4:45.673
就是這個DeepSeq目前雖然採購了大量的這個華為生存機群,
4:45.673–4:47.900
包括950PR和950DT。
4:47.900–4:50.900
950DT據說一次已經買了16萬張。
4:50.900–4:54.900
那它以後肯定是要把這個華為當作主要的生態。
4:54.900–4:57.900
是吧?那麼英伟達無論如何,它作為世界標準,它跟華為是並列的。
4:57.900–5:00.336
DeepSeq不管是發布什麼模型權重,
5:00.336–5:02.900
它肯定能在這個英伟達的這個群群上跑起來。
5:02.900–5:07.900
否則它就失去了作為全世界通用的開源AI基礎設施的意義。
5:07.900–5:09.224
那其他的像AMD、
5:09.224–5:09.812
蘋果啊,
5:09.812–5:13.635
這些你等這個DeepSeq官方把模型權重放出來之後,
5:13.635–5:14.371
社區也好,
5:14.371–5:16.282
還是你們企業去組織人也好,
5:16.282–5:17.900
你們想辦法把它跑起來。
5:17.900–5:19.900
那就不是良子關心的事情了。
5:19.900–5:22.150
以前在這個V4Flash時代,
5:22.150–5:23.200
那麼兩個盒子,
5:23.200–5:26.350
就是兩個128級綠存的拼凑起256級綠存,
5:26.350–5:28.900
那麼就可以跑這個V4Flash了。
5:28.900–5:31.637
現在呢,它由於這個MOE,
5:31.637–5:35.216
這個包括說這個模型的這個核心權重,
5:35.216–5:36.900
一共是306級。
5:36.900–5:39.900
那麼它可能說兩個就不夠了,就需要三個。
5:39.900–5:41.271
哎,加一個之後,
5:41.271–5:45.900
就剛好這個DGX Spark本身就支持三個或者四個互聯。
5:45.900–5:47.853
應該說你不超過四個的情況下,
5:47.853–5:49.667
它還是一個黃金的甜點置存,
5:49.667–5:51.900
就它的互聯的效率不會打什麼折扣。
5:51.900–5:54.900
就總體ITM是不會差的。
5:54.900–5:58.900
然後三個盒子,你一共是384級的統一綠存。
5:58.900–6:02.900
那麼這個384級的這個統一綠存呢,我們來給它簡單分配一下。
6:02.900–6:05.900
就是說你系統本身,因為跑的都是Linux嘛,你占幾個G就夠了。
6:05.900–6:11.900
可能說再加上框架開銷,我們總體上給它扣除24個G吧。
6:11.900–6:12.900
然後你還剩下360個G,是吧。
6:12.900–6:16.900
那麼360個G,你減去這個什麼306G,你還剩下54個G。
6:16.900–6:22.900
這54個G的這個什麼性存,這個統一綠存就足夠你去跑長生雅文多開繪畫了。
6:22.900–6:26.900
因爲什麼?因為這個DBC它這次技術又有了重大的進步。
6:26.900–6:28.762
它這個官方公布的文檔是,
6:28.762–6:32.641
對於這個什麼顯存的需求降低到了以前的什麼六分之一,
6:32.641–6:35.900
對於什麼SSD的需求降低到以前的八分之一。
6:35.900–6:39.900
這個當然我不知道是已經優化過之後,需要這麼多資源。
6:39.900–6:44.900
還是說在現有的這個什麼三台小盒子的資源之下,它能夠深度的優化。
6:44.900–6:47.900
反正肯定是夠的,三個小盒子是夠的。
6:47.900–6:51.200
並且,你以前如果是買了一台DGX Spark,
6:51.200–6:51.700
是吧。
6:51.700–6:53.900
你買兩台就能跑這個V4弗拉奇。
6:53.900–6:55.900
買三台就能跑V4.1弗拉奇。
6:55.900–6:58.900
這是一個平滑過渡的這麼一個流程。
6:58.900–7:02.900
將來如果是有一天,你什麼4.2或者5.0的弗拉奇。
7:02.900–7:04.900
它的尺寸又增加了。那麼你再買一個小盒子。
7:04.900–7:07.900
四個盒子基本上就是,英偉達的這個小肌群的這個極限了。
7:07.900–7:09.900
再高它可能通信效率就不高了。
7:09.900–7:14.900
這麼看來的話,你要想在本地部署AI玩的比較舒爽。
7:14.900–7:17.900
那麼老黃的盒子可以說是當仁不讓了。
7:17.900–7:20.900
而且老黃的盒子是把所有的特性都給它做滿了的。
7:20.900–7:23.900
它不像蘋果,不像這個什麼AMD。
7:23.900–7:28.900
它是自己就是這個原生支持NVFP4,支持FP8推理。
7:28.900–7:30.900
這個是全內路的。
7:30.900–7:34.900
大家呢,我在評論區也看到了一些比較積極的消息。
7:34.900–7:36.900
我上網也查了一下,這些事情呢,有可能是謠言。
7:36.900–7:39.900
但是有更大的可能呢,是說會成為現實。
7:39.900–7:43.900
就是中國有不少企業也在準備出這個AI小盒子。
7:43.900–7:47.900
也傳說什麼華為小米這些企業都在準備搞。
7:47.900–7:50.900
哎,我覺得像阿里巴巴這些企業你都可以搞啊。
7:50.900–7:52.900
像什麼海武G是吧。
7:52.900–7:57.900
你們不要光想著去賣這個服務器去賣給這些企業客戶。
7:57.900–8:00.900
你們也把我們這些個人開發的中小團隊,是吧。
8:00.900–8:03.900
我們這些技術屌絲給這個照顧一下。
8:03.900–8:06.109
你們的小盒子如果真的能跑DipSig,
8:06.109–8:06.807
威斯芙拉吉,
8:06.807–8:08.202
跑起來的這個速度還不錯,
8:08.202–8:08.900
效率還不錯。
8:08.900–8:10.900
是吧。再能偶爾玩一玩這個什麼ComphiUI。
8:10.900–8:13.900
那這個小盒子就非常有性價比,我們是不願意花錢買的。
8:13.900–8:18.900
你說你這個國產的這個硬件生態,你想要這個打開市場,是吧。
8:18.900–8:19.900
想要這個繁榮生態。
8:19.900–8:21.900
你這個時候不下手,那什麼時候下手。
8:21.900–8:23.900
都跟他們AMD和英特爾去學。
8:23.900–8:25.900
是吧。打生態的時候看不到他們。
8:25.900–8:29.900
老黃賺的錢呢,就後著臉皮擠進來,要分一杯跟。
8:29.900–8:31.900
你說你們不被老黃吊打,誰被老黃吊打。
8:31.900–8:32.900
是吧。
8:32.900–8:35.900
我們到現在被老黃這個肩上左一刀右一刀割的。
8:35.900–8:37.900
說白了就是因為你們其他的硬件廠商不爭氣。
8:38.900–8:42.900
你們但凡給老黃增加一點壓力,他都不敢把卡賣的這麼貴。
8:42.900–8:45.900
好吧,有點牢騷多了啊。
8:45.900–8:46.900
這個悠感阿發。
8:46.900–8:49.900
本期視頻就到這裡,有什麼新的消息啊。
8:49.900–8:53.900
包括說我在視頻中有哪些錯誤,大家可以這個激激的指出。
8:53.900–8:55.900
是吧。歡迎你到論壇,發帖跟我交流討論。
8:55.900–8:56.900
打臉也可以。
8:56.900–8:57.900
是不是。
8:57.900–9:00.900
但是一定要奔著討論事情,討論技術,來。
9:00.900–9:01.900
不要陰陽怪氣。
9:01.900–9:04.900
陰陽怪氣,我這個人對你就是上去就是一耳光,知道嗎。
9:04.900–9:07.900
是個山野村父,非常的野蠻,非常的暴力。
9:07.900–9:10.900
好吧,我們下期視頻再見。
0:00.000–0:04.271
昨天錄了一期關於Deepseek V4.1 Flush發布之後,
昨天錄了一期關於Deepseek V4.1 Flush發布之後,
0:04.271–0:05.268
如何在AMD、
如何在AMD、
0:05.268–0:08.400
英伟達以及蘋果三個小主機之間進行選擇的視頻。
英伟達以及蘋果三個小主機之間進行選擇的視頻。
0:08.400–0:10.036
但是剛剛發布就被打了臉,
但是剛剛發布就被打了臉,
0:10.036–0:14.400
因為Deepseek已經開放了這個V4.1 Flush的這個權重。
因為Deepseek已經開放了這個V4.1 Flush的這個權重。
0:14.400–0:18.400
那麼它的尺寸已經相比於V4 Flush的話要大大提升。
那麼它的尺寸已經相比於V4 Flush的話要大大提升。
0:18.400–0:24.900
首先它的總餐從這個V4的284B提升到了748B,就是7480億總餐。
首先它的總餐從這個V4的284B提升到了748B,就是7480億總餐。
0:24.900–0:29.300
這個是一個非常大的一個模型的,說實話把它叫做Flush都有點誇張了。
這個是一個非常大的一個模型的,說實話把它叫做Flush都有點誇張了。
0:29.300–0:33.600
這個就再大一點它就破萬億了,就是旗艦模型的配置了。
這個就再大一點它就破萬億了,就是旗艦模型的配置了。
0:33.600–0:37.716
然後這個模型的權重總體是510G,
然後這個模型的權重總體是510G,
0:37.716–0:42.800
其中有306G是MOE以及它的主模型權重。
其中有306G是MOE以及它的主模型權重。
0:42.800–0:50.400
各個專家加起來是306G。然後還有204G是這個英官支持權重。
各個專家加起來是306G。然後還有204G是這個英官支持權重。
0:50.400–0:56.400
就這一塊是可以把它放到SSD中去的,如果說利用小核再來部署的話。
就這一塊是可以把它放到SSD中去的,如果說利用小核再來部署的話。
0:56.400–1:01.700
那麼由於這個模型本身的變化,首先AMD的小主機就可以被排除在外了。
那麼由於這個模型本身的變化,首先AMD的小主機就可以被排除在外了。
1:01.700–1:03.700
它是跑不了V4.1 Flush的。
它是跑不了V4.1 Flush的。
1:03.700–1:07.700
因為它最大的就是192G內存的AI Max 400。
因為它最大的就是192G內存的AI Max 400。
1:07.700–1:09.221
那麼它就已經出局了。
那麼它就已經出局了。
1:09.221–1:09.721
當然,
當然,
1:09.721–1:12.110
AI Max 400像我們上期說的,
AI Max 400像我們上期說的,
1:12.110–1:15.000
它這個在本地跑一跑這個V4 Flush。
它這個在本地跑一跑這個V4 Flush。
1:15.000–1:18.300
這還是能玩一玩的,但是它的體驗也不會好到哪去。
這還是能玩一玩的,但是它的體驗也不會好到哪去。
1:18.300–1:23.300
然後就是我們在說蘋果。蘋果它也發生了很大的變化。
然後就是我們在說蘋果。蘋果它也發生了很大的變化。
1:23.300–1:30.500
就是昨天我跟大家說的黃金尺寸的這麼一個M5 Ultra 256G內存的這麼一個機型。
就是昨天我跟大家說的黃金尺寸的這麼一個M5 Ultra 256G內存的這麼一個機型。
1:30.500–1:33.600
它就瞬間就不像了。因為它只能跑V4 Flush了。
它就瞬間就不像了。因為它只能跑V4 Flush了。
1:33.600–1:36.673
雖然V4 Flush也補足了這個視覺模塊。
雖然V4 Flush也補足了這個視覺模塊。
1:36.673–1:37.902
也是個怎麼說呢?
也是個怎麼說呢?
1:37.902–1:39.900
全能的這麼一個六邊形戰士。
全能的這麼一個六邊形戰士。
1:39.900–1:43.200
就是它用來跑這個V4 Flush的話效果是不錯的。
就是它用來跑這個V4 Flush的話效果是不錯的。
1:43.200–1:48.400
但是它畢竟未來已經被鎖死了。它跑不了這個什麼V4.1 Flush了。
但是它畢竟未來已經被鎖死了。它跑不了這個什麼V4.1 Flush了。
1:48.400–1:51.000
它以後就沒法升級了,沒法更新了。
它以後就沒法升級了,沒法更新了。
1:51.000–1:56.500
當然了,你可以用它來跑這個什麼GLM5.3 Flush之類的300B左右的模型。
當然了,你可以用它來跑這個什麼GLM5.3 Flush之類的300B左右的模型。
1:56.500–1:57.850
這樣也是可以的。
這樣也是可以的。
1:57.850–2:00.044
這個DeepSig不搞了,
這個DeepSig不搞了,
2:00.044–2:02.237
GLM以後不代表就不搞了。
GLM以後不代表就不搞了。
2:02.237–2:02.744
是吧?
是吧?
2:02.744–2:05.444
但是它畢竟它不能跑最香的模型了。
但是它畢竟它不能跑最香的模型了。
2:05.444–2:07.300
它的價值要大打折扣了。
它的價值要大打折扣了。
2:07.300–2:08.300
那麼所以說,
那麼所以說,
2:08.300–2:10.467
你如果是買M5Osh的话,
你如果是買M5Osh的话,
2:10.467–2:13.300
就一步到位上這個512的這個機型。
就一步到位上這個512的這個機型。
2:13.300–2:19.300
它就是目前,低表上你能買到的這個內存最大的就個人的這種消費小主機了。
它就是目前,低表上你能買到的這個內存最大的就個人的這種消費小主機了。
2:19.300–2:24.900
那它做工也好,還是說它的蘋果生態也好,還是說它普達模型的能力也好。
那它做工也好,還是說它的蘋果生態也好,還是說它普達模型的能力也好。
2:24.900–2:26.033
它都是能拿的,
它都是能拿的,
2:26.033–2:27.167
就非常的不錯。
就非常的不錯。
2:27.167–2:27.814
但是呢,
但是呢,
2:27.814–2:28.948
價格就很貴了。
價格就很貴了。
2:28.948–2:30.729
就看你的腎夠不夠賣了。
就看你的腎夠不夠賣了。
2:30.729–2:31.700
你有幾個腎。
你有幾個腎。
2:31.700–2:33.805
當然了,有之前買的一些,
當然了,有之前買的一些,
2:33.805–2:36.612
比如說買了96G M5Ocha的,
比如說買了96G M5Ocha的,
2:36.612–2:41.700
或者說買了什麼64G的這個M5MAX的這些小主機的朋友們。
或者說買了什麼64G的這個M5MAX的這些小主機的朋友們。
2:41.700–2:43.271
你們就可以幸灾樂禍了。
你們就可以幸灾樂禍了。
2:43.271–2:44.700
反正你買256G的,
反正你買256G的,
2:44.700–2:46.843
你也跑不了V4.1 Flush。
你也跑不了V4.1 Flush。
2:46.843–2:47.343
是吧?
是吧?
2:47.343–2:50.700
以後DeepSig Flush家族就256G對身,
以後DeepSig Flush家族就256G對身,
2:50.700–2:51.700
你就跑不了了。
你就跑不了了。
2:51.700–2:52.857
它只會越來越大,
它只會越來越大,
2:52.857–2:54.015
不會越來越小的。
不會越來越小的。
2:54.015–2:56.040
那麼大家在本地就想跑得舒爽,
那麼大家在本地就想跑得舒爽,
2:56.040–2:58.500
就只能跑這個什麼青文3.8 27B。
就只能跑這個什麼青文3.8 27B。
2:58.500–3:02.500
就青文家族的27B模型。未來可能有3.9、4.0、甚至5.0。
就青文家族的27B模型。未來可能有3.9、4.0、甚至5.0。
3:02.500–3:03.500
那這個模型,
那這個模型,
3:03.500–3:05.667
阿里巴巴肯定會持續升級的。
阿里巴巴肯定會持續升級的。
3:05.667–3:08.500
因為它是本地部署的黃金尺寸的模型。
因為它是本地部署的黃金尺寸的模型。
3:08.500–3:09.272
在這一塊,
在這一塊,
3:09.272–3:12.977
你無論是M5MAX64G還是M5Ocha96G,
你無論是M5MAX64G還是M5Ocha96G,
3:12.977–3:13.749
它都能跑。
它都能跑。
3:13.749–3:17.300
當然M5Ocha96G它的體驗肯定要更好一點。
當然M5Ocha96G它的體驗肯定要更好一點。
3:17.300–3:19.300
甚至說你同樣是MAX的話,
甚至說你同樣是MAX的話,
3:19.300–3:20.685
MAX沒有96G,
MAX沒有96G,
3:20.685–3:22.223
MAX只有128G。
MAX只有128G。
3:22.223–3:25.300
128G肯定是要比64G的體驗要更好的。
128G肯定是要比64G的體驗要更好的。
3:25.300–3:27.300
但是64G的性價比就凸顯了。
但是64G的性價比就凸顯了。
3:27.300–3:32.121
因為它畢竟比這個128G版本的MAX要便宜50%。
因為它畢竟比這個128G版本的MAX要便宜50%。
3:32.121–3:35.207
那你已經做出採購選擇的這些兄弟,
那你已經做出採購選擇的這些兄弟,
3:35.207–3:36.364
這些朋友們,
這些朋友們,
3:36.364–3:38.100
你們就可以慶祝了。
你們就可以慶祝了。
3:38.100–3:42.100
就沒有那麼多的遺憾,反正你們256G也跑不了。
就沒有那麼多的遺憾,反正你們256G也跑不了。
3:42.100–3:47.100
所以說這個梁子對於這個開源社區的這個影響還是非常的大的。
所以說這個梁子對於這個開源社區的這個影響還是非常的大的。
3:47.100–3:50.930
但是我們也不得不說DeepSeq的開源確實是路線非常的堅定,
但是我們也不得不說DeepSeq的開源確實是路線非常的堅定,
3:50.930–3:51.951
意志非常的堅定,
意志非常的堅定,
3:51.951–3:53.100
沒有藏著藏著藏著。
沒有藏著藏著藏著。
3:53.100–3:59.100
就連Ingram算法,Ingram架構,這麼它的核心機密,是吧?
就連Ingram算法,Ingram架構,這麼它的核心機密,是吧?
3:59.100–4:02.100
它在悶了一段時間之後,還是把它全部開放了。
它在悶了一段時間之後,還是把它全部開放了。
4:02.100–4:05.700
這真的是非常牛逼,加上它最近開源的DeepSeq Harness。
這真的是非常牛逼,加上它最近開源的DeepSeq Harness。
4:05.700–4:09.500
我可以說DeepSeq已經是毫無疑問的當下的開源AI的王者。
我可以說DeepSeq已經是毫無疑問的當下的開源AI的王者。
4:09.500–4:14.900
這短短的一個月,梁子就通過G-R03的操作奠定了開源王者的地位。
這短短的一個月,梁子就通過G-R03的操作奠定了開源王者的地位。
4:14.900–4:17.757
阿里巴巴可以說通過這個本地的切換小模型,
阿里巴巴可以說通過這個本地的切換小模型,
4:17.757–4:19.186
還能跟梁子再標一標,
還能跟梁子再標一標,
4:19.186–4:20.900
但是已經基本上是出局了。
但是已經基本上是出局了。
4:20.900–4:23.471
就說以後你說開源AI的基礎設施是誰?
就說以後你說開源AI的基礎設施是誰?
4:23.471–4:25.043
那就是DeepSeq。
那就是DeepSeq。
4:25.043–4:26.900
這個應該是沒有什麼爭論了。
這個應該是沒有什麼爭論了。
4:26.900–4:30.900
當然我相信目前收益最大的還是老黃這個肩商。
當然我相信目前收益最大的還是老黃這個肩商。
4:30.900–4:36.900
首先說在這個企業市場,大家都知道它的這個什麼NVFPS加上FP吧?
首先說在這個企業市場,大家都知道它的這個什麼NVFPS加上FP吧?
4:36.900–4:40.900
就是DeepSeq、弗拉希家族的這個默認的這個標準模型權重。
就是DeepSeq、弗拉希家族的這個默認的這個標準模型權重。
4:40.900–4:45.673
就是這個DeepSeq目前雖然採購了大量的這個華為生存機群,
就是這個DeepSeq目前雖然採購了大量的這個華為生存機群,
4:45.673–4:47.900
包括950PR和950DT。
包括950PR和950DT。
4:47.900–4:50.900
950DT據說一次已經買了16萬張。
950DT據說一次已經買了16萬張。
4:50.900–4:54.900
那它以後肯定是要把這個華為當作主要的生態。
那它以後肯定是要把這個華為當作主要的生態。
4:54.900–4:57.900
是吧?那麼英伟達無論如何,它作為世界標準,它跟華為是並列的。
是吧?那麼英伟達無論如何,它作為世界標準,它跟華為是並列的。
4:57.900–5:00.336
DeepSeq不管是發布什麼模型權重,
DeepSeq不管是發布什麼模型權重,
5:00.336–5:02.900
它肯定能在這個英伟達的這個群群上跑起來。
它肯定能在這個英伟達的這個群群上跑起來。
5:02.900–5:07.900
否則它就失去了作為全世界通用的開源AI基礎設施的意義。
否則它就失去了作為全世界通用的開源AI基礎設施的意義。
5:07.900–5:09.224
那其他的像AMD、
那其他的像AMD、
5:09.224–5:09.812
蘋果啊,
蘋果啊,
5:09.812–5:13.635
這些你等這個DeepSeq官方把模型權重放出來之後,
這些你等這個DeepSeq官方把模型權重放出來之後,
5:13.635–5:14.371
社區也好,
社區也好,
5:14.371–5:16.282
還是你們企業去組織人也好,
還是你們企業去組織人也好,
5:16.282–5:17.900
你們想辦法把它跑起來。
你們想辦法把它跑起來。
5:17.900–5:19.900
那就不是良子關心的事情了。
那就不是良子關心的事情了。
5:19.900–5:22.150
以前在這個V4Flash時代,
以前在這個V4Flash時代,
5:22.150–5:23.200
那麼兩個盒子,
那麼兩個盒子,
5:23.200–5:26.350
就是兩個128級綠存的拼凑起256級綠存,
就是兩個128級綠存的拼凑起256級綠存,
5:26.350–5:28.900
那麼就可以跑這個V4Flash了。
那麼就可以跑這個V4Flash了。
5:28.900–5:31.637
現在呢,它由於這個MOE,
現在呢,它由於這個MOE,
5:31.637–5:35.216
這個包括說這個模型的這個核心權重,
這個包括說這個模型的這個核心權重,
5:35.216–5:36.900
一共是306級。
一共是306級。
5:36.900–5:39.900
那麼它可能說兩個就不夠了,就需要三個。
那麼它可能說兩個就不夠了,就需要三個。
5:39.900–5:41.271
哎,加一個之後,
哎,加一個之後,
5:41.271–5:45.900
就剛好這個DGX Spark本身就支持三個或者四個互聯。
就剛好這個DGX Spark本身就支持三個或者四個互聯。
5:45.900–5:47.853
應該說你不超過四個的情況下,
應該說你不超過四個的情況下,
5:47.853–5:49.667
它還是一個黃金的甜點置存,
它還是一個黃金的甜點置存,
5:49.667–5:51.900
就它的互聯的效率不會打什麼折扣。
就它的互聯的效率不會打什麼折扣。
5:51.900–5:54.900
就總體ITM是不會差的。
就總體ITM是不會差的。
5:54.900–5:58.900
然後三個盒子,你一共是384級的統一綠存。
然後三個盒子,你一共是384級的統一綠存。
5:58.900–6:02.900
那麼這個384級的這個統一綠存呢,我們來給它簡單分配一下。
那麼這個384級的這個統一綠存呢,我們來給它簡單分配一下。
6:02.900–6:05.900
就是說你系統本身,因為跑的都是Linux嘛,你占幾個G就夠了。
就是說你系統本身,因為跑的都是Linux嘛,你占幾個G就夠了。
6:05.900–6:11.900
可能說再加上框架開銷,我們總體上給它扣除24個G吧。
可能說再加上框架開銷,我們總體上給它扣除24個G吧。
6:11.900–6:12.900
然後你還剩下360個G,是吧。
然後你還剩下360個G,是吧。
6:12.900–6:16.900
那麼360個G,你減去這個什麼306G,你還剩下54個G。
那麼360個G,你減去這個什麼306G,你還剩下54個G。
6:16.900–6:22.900
這54個G的這個什麼性存,這個統一綠存就足夠你去跑長生雅文多開繪畫了。
這54個G的這個什麼性存,這個統一綠存就足夠你去跑長生雅文多開繪畫了。
6:22.900–6:26.900
因爲什麼?因為這個DBC它這次技術又有了重大的進步。
因爲什麼?因為這個DBC它這次技術又有了重大的進步。
6:26.900–6:28.762
它這個官方公布的文檔是,
它這個官方公布的文檔是,
6:28.762–6:32.641
對於這個什麼顯存的需求降低到了以前的什麼六分之一,
對於這個什麼顯存的需求降低到了以前的什麼六分之一,
6:32.641–6:35.900
對於什麼SSD的需求降低到以前的八分之一。
對於什麼SSD的需求降低到以前的八分之一。
6:35.900–6:39.900
這個當然我不知道是已經優化過之後,需要這麼多資源。
這個當然我不知道是已經優化過之後,需要這麼多資源。
6:39.900–6:44.900
還是說在現有的這個什麼三台小盒子的資源之下,它能夠深度的優化。
還是說在現有的這個什麼三台小盒子的資源之下,它能夠深度的優化。
6:44.900–6:47.900
反正肯定是夠的,三個小盒子是夠的。
反正肯定是夠的,三個小盒子是夠的。
6:47.900–6:51.200
並且,你以前如果是買了一台DGX Spark,
並且,你以前如果是買了一台DGX Spark,
6:51.200–6:51.700
是吧。
是吧。
6:51.700–6:53.900
你買兩台就能跑這個V4弗拉奇。
你買兩台就能跑這個V4弗拉奇。
6:53.900–6:55.900
買三台就能跑V4.1弗拉奇。
買三台就能跑V4.1弗拉奇。
6:55.900–6:58.900
這是一個平滑過渡的這麼一個流程。
這是一個平滑過渡的這麼一個流程。
6:58.900–7:02.900
將來如果是有一天,你什麼4.2或者5.0的弗拉奇。
將來如果是有一天,你什麼4.2或者5.0的弗拉奇。
7:02.900–7:04.900
它的尺寸又增加了。那麼你再買一個小盒子。
它的尺寸又增加了。那麼你再買一個小盒子。
7:04.900–7:07.900
四個盒子基本上就是,英偉達的這個小肌群的這個極限了。
四個盒子基本上就是,英偉達的這個小肌群的這個極限了。
7:07.900–7:09.900
再高它可能通信效率就不高了。
再高它可能通信效率就不高了。
7:09.900–7:14.900
這麼看來的話,你要想在本地部署AI玩的比較舒爽。
這麼看來的話,你要想在本地部署AI玩的比較舒爽。
7:14.900–7:17.900
那麼老黃的盒子可以說是當仁不讓了。
那麼老黃的盒子可以說是當仁不讓了。
7:17.900–7:20.900
而且老黃的盒子是把所有的特性都給它做滿了的。
而且老黃的盒子是把所有的特性都給它做滿了的。
7:20.900–7:23.900
它不像蘋果,不像這個什麼AMD。
它不像蘋果,不像這個什麼AMD。
7:23.900–7:28.900
它是自己就是這個原生支持NVFP4,支持FP8推理。
它是自己就是這個原生支持NVFP4,支持FP8推理。
7:28.900–7:30.900
這個是全內路的。
這個是全內路的。
7:30.900–7:34.900
大家呢,我在評論區也看到了一些比較積極的消息。
大家呢,我在評論區也看到了一些比較積極的消息。
7:34.900–7:36.900
我上網也查了一下,這些事情呢,有可能是謠言。
我上網也查了一下,這些事情呢,有可能是謠言。
7:36.900–7:39.900
但是有更大的可能呢,是說會成為現實。
但是有更大的可能呢,是說會成為現實。
7:39.900–7:43.900
就是中國有不少企業也在準備出這個AI小盒子。
就是中國有不少企業也在準備出這個AI小盒子。
7:43.900–7:47.900
也傳說什麼華為小米這些企業都在準備搞。
也傳說什麼華為小米這些企業都在準備搞。
7:47.900–7:50.900
哎,我覺得像阿里巴巴這些企業你都可以搞啊。
哎,我覺得像阿里巴巴這些企業你都可以搞啊。
7:50.900–7:52.900
像什麼海武G是吧。
像什麼海武G是吧。
7:52.900–7:57.900
你們不要光想著去賣這個服務器去賣給這些企業客戶。
你們不要光想著去賣這個服務器去賣給這些企業客戶。
7:57.900–8:00.900
你們也把我們這些個人開發的中小團隊,是吧。
你們也把我們這些個人開發的中小團隊,是吧。
8:00.900–8:03.900
我們這些技術屌絲給這個照顧一下。
我們這些技術屌絲給這個照顧一下。
8:03.900–8:06.109
你們的小盒子如果真的能跑DipSig,
你們的小盒子如果真的能跑DipSig,
8:06.109–8:06.807
威斯芙拉吉,
威斯芙拉吉,
8:06.807–8:08.202
跑起來的這個速度還不錯,
跑起來的這個速度還不錯,
8:08.202–8:08.900
效率還不錯。
效率還不錯。
8:08.900–8:10.900
是吧。再能偶爾玩一玩這個什麼ComphiUI。
是吧。再能偶爾玩一玩這個什麼ComphiUI。
8:10.900–8:13.900
那這個小盒子就非常有性價比,我們是不願意花錢買的。
那這個小盒子就非常有性價比,我們是不願意花錢買的。
8:13.900–8:18.900
你說你這個國產的這個硬件生態,你想要這個打開市場,是吧。
你說你這個國產的這個硬件生態,你想要這個打開市場,是吧。
8:18.900–8:19.900
想要這個繁榮生態。
想要這個繁榮生態。
8:19.900–8:21.900
你這個時候不下手,那什麼時候下手。
你這個時候不下手,那什麼時候下手。
8:21.900–8:23.900
都跟他們AMD和英特爾去學。
都跟他們AMD和英特爾去學。
8:23.900–8:25.900
是吧。打生態的時候看不到他們。
是吧。打生態的時候看不到他們。
8:25.900–8:29.900
老黃賺的錢呢,就後著臉皮擠進來,要分一杯跟。
老黃賺的錢呢,就後著臉皮擠進來,要分一杯跟。
8:29.900–8:31.900
你說你們不被老黃吊打,誰被老黃吊打。
你說你們不被老黃吊打,誰被老黃吊打。
8:31.900–8:32.900
是吧。
是吧。
8:32.900–8:35.900
我們到現在被老黃這個肩上左一刀右一刀割的。
我們到現在被老黃這個肩上左一刀右一刀割的。
8:35.900–8:37.900
說白了就是因為你們其他的硬件廠商不爭氣。
說白了就是因為你們其他的硬件廠商不爭氣。
8:38.900–8:42.900
你們但凡給老黃增加一點壓力,他都不敢把卡賣的這麼貴。
你們但凡給老黃增加一點壓力,他都不敢把卡賣的這麼貴。
8:42.900–8:45.900
好吧,有點牢騷多了啊。
好吧,有點牢騷多了啊。
8:45.900–8:46.900
這個悠感阿發。
這個悠感阿發。
8:46.900–8:49.900
本期視頻就到這裡,有什麼新的消息啊。
本期視頻就到這裡,有什麼新的消息啊。
8:49.900–8:53.900
包括說我在視頻中有哪些錯誤,大家可以這個激激的指出。
包括說我在視頻中有哪些錯誤,大家可以這個激激的指出。
8:53.900–8:55.900
是吧。歡迎你到論壇,發帖跟我交流討論。
是吧。歡迎你到論壇,發帖跟我交流討論。
8:55.900–8:56.900
打臉也可以。
打臉也可以。
8:56.900–8:57.900
是不是。
是不是。
8:57.900–9:00.900
但是一定要奔著討論事情,討論技術,來。
但是一定要奔著討論事情,討論技術,來。
9:00.900–9:01.900
不要陰陽怪氣。
不要陰陽怪氣。
9:01.900–9:04.900
陰陽怪氣,我這個人對你就是上去就是一耳光,知道嗎。
陰陽怪氣,我這個人對你就是上去就是一耳光,知道嗎。
9:04.900–9:07.900
是個山野村父,非常的野蠻,非常的暴力。
是個山野村父,非常的野蠻,非常的暴力。
9:07.900–9:10.900
好吧,我們下期視頻再見。
好吧,我們下期視頻再見。

影片筆記:DeepSeek V4.1 Flash 552B权重翻倍,DGX Spark 3台可以装下权重,AMD小主机彻底出局,苹果M5 Ultra 512G成唯一幸存者!

<!-- VIDEONOTE_PUBLICATION_WARNINGS_BEGIN -->

⚠️ 可先使用,仍有待修正項目

本筆記已完成可閱讀的逐字稿與時間跳轉;下列為待處理問題,建議播放原片確認。

  • 待修正:逐字稿全文快速校讀未完成(已保留自動字幕/原始逐字稿並繼續生成筆記。;未完成的全文速讀項目可在精進模式回聽確認。)
  • 待修正:逐字稿可先使用,但有待校正清單(segment=1 unnatural_sentence_boundary: 標點出現在句首或停在逗號位置,斷句可能不符合文法/口語;segment=105 unnatural_sentence_boundary: 標點出現在句首或停在逗號位置,斷句可能不符合文法/口語)

<!-- VIDEONOTE_PUBLICATION_WARNINGS_END -->

一句話總結

DeepSeek V4.1 Flash 發布後,因參數與權重規模大幅增長,導致 AMD 小主機因記憶體不足出局,Apple 256G 機型無法運行,唯有 Apple M5 Ultra 512G 或組合多台 NVIDIA DGX Spark 成為可行的本地部署方案。

核心重點

  • DeepSeek V4.1 Flash 規格變更:總參數從 V4 的 284B 激增至 748B,權重總體達 510G(其中 MOE 及主模型 306G,英官支持權重 204G)。
  • AMD 平台出局:AMD AI Max 400 最大記憶體僅 192G,無法運行 V4.1 Flash,僅能勉強運行 V4 Flash。
  • Apple 平台選擇:
  • M5 Ultra 256G 無法運行 V4.1 Flash,價值大打折扣。
  • M5 Osh 512G 是目前個人消費級小主機中記憶體最大的選擇,建議一步到位購買,但價格高昂。
  • 現有 64G/96G 用戶適合運行青文(Qwen)3.8 27B 等本地模型。
  • NVIDIA 平台優勢:
  • 透過三台 DGX Spark 組合(總統一記憶體 384G),可運行 V4.1 Flash(佔用 306G),並預留資源進行多任務處理。
  • 原生支援 NVFP4、FP8 推理,具備企業市場標準地位。
  • 開源生態格局:DeepSeek 被視為開源 AI 王者,其堅定開源路線確立了基礎設施地位;阿里巴巴通過青文系列小模型在本地部署市場保持競爭力。

詳細大綱

一、 DeepSeek V4.1 Flash 規格變更與影響

  • 參數大幅提升:
  • V4 總參數:284B。
  • V4.1 Flash 總參數:748B(7480億),接近旗艦模型配置。
  • 權重總體大小:510G。
  • MOE 及主模型權重:306G。
  • 英官支持權重:204G(可放置於 SSD,利用小核部署)。
  • 對硬體選擇的直接衝擊:
  • 模型變大導致記憶體需求激增,改變了之前的硬體推薦邏輯。

二、 各平台硬體評估與建議

  • AMD 平台:
  • 結論:直接出局。
  • 原因:AI Max 400 最大記憶體僅 192G,無法運行 V4.1 Flash。
  • 現狀:僅能勉強運行 V4 Flash,體驗不佳。
  • Apple 平台:
  • 256G 記憶體機型(M5 Ultra):
  • 無法運行 V4.1 Flash,未來無法升級該家族模型。
  • 價值大打折扣,僅適合運行 V4 Flash 或 GLM5.3 Flash(300B 左右模型)。
  • 512G 記憶體機型(M5 Osh):
  • 建議:若購買蘋果小主機,應一步到位選擇 512G 版本。
  • 優勢:目前個人消費級小主機中記憶體最大,做工、生態、大模型能力俱佳。
  • 劣勢:價格極高(「看腎夠不夠賣」)。
  • 現有用戶(64G/96G):
  • 無需悲觀,因 256G 也跑不了 V4.1 Flash。
  • 適合運行青文(Qwen)3.8 27B 等本地黃金尺寸模型。
  • M5 Ocha 96G 體驗優於 M5 Max 64G;M5 Max 128G 體驗優於 64G,但 64G 性價比高(比 128G 便宜 50%)。
  • NVIDIA(英偉達)平台:
  • DGX Spark 組合方案:
  • V4 Flash 時代:兩台 128G 拼湊 256G 即可運行。
  • V4.1 Flash 需求:需三台 DGX Spark。
  • 資源分配:
  • 總統一記憶體:384G(三台合計)。
  • 系統與框架開銷:約 24G。
  • 剩餘可用:360G。
  • 模型佔用:306G。
  • 剩餘資源:54G(用於長生雅文多開、繪畫等)。
  • 擴展性:
  • 三台為黃金甜點配置,互聯效率不打折。
  • 未來若需運行 4.2 或 5.0 Flash,可擴充至四台(DGX Spark 極限),超過四台通信效率下降。
  • 平滑過渡流程:兩台跑 V4,三台跑 V4.1,四台跑未來版本。
  • 技術優勢:
  • 原生支援 NVFP4、FP8 推理,全內路支援。
  • 企業市場標準(NVFP4 + FP),與華為並列世界標準。

三、 開源 AI 生態格局分析

  • DeepSeek 的地位:
  • 被稱為「當下的開源 AI 王者」。
  • 通過 G-R03 操作及短短一個月的時間奠定地位。
  • 路線堅定:完整開放 MoE 架構、核心機密及權重(包括 DeepSeq Harness)。
  • 基礎設施意義:確保權重能在 NVIDIA 集群運行,維持全球通用性。
  • 阿里巴巴(青文 Qwen)的角色:
  • 通過本地切換小模型(如青文 3.8 27B)與 DeepSeek 競爭。
  • 在本地部署市場仍具競爭力,但基礎設施層面已「基本出局」。
  • 硬體廠商的反思:
  • 現狀:AMD、Intel 在生態建設期缺席,導致 NVIDIA 壟斷並高價銷售。
  • 建議:中國企業(如華為、小米、阿里巴巴、海武 G 等)應推出支援 DeepSeek 的小盒子產品。
  • 市場機會:若能支援 DeepSeek 推理及 ComphiUI 等應用,將極具性價比,打開個人開發者及中小團隊市場。

工具 / 模型 / 名詞整理

  • 模型/技術名稱:
  • DeepSeek V4 Flash
  • DeepSeek V4.1 Flash
  • DeepSeq(逐字稿提及,疑為 DeepSeek 之誤或特定稱呼)
  • DeepSeq Harness
  • MoE(Mixture of Experts)
  • GLM5.3 Flash
  • 青文 3.8 27B(Qwen 3.8 27B)
  • 青文家族(Qwen Family)
  • NVFP4
  • FP8 推理
  • DBC(逐字稿提及,疑指 DeepSeek 技術或特定優化技術)
  • ComphiUI(疑為 ComfyUI 之誤)
  • 長生雅文(疑為特定應用或模型名稱,需查證)
  • 繪畫(應用場景)
  • 硬體/產品名稱:
  • AMD AI Max 400
  • Apple M5 Ultra 256G
  • Apple M5 Osh 512G(疑為 Mac Studio 或類似機型代號)
  • Apple M5 Ocha 96G
  • Apple M5 Max 64G
  • Apple M5 Max 128G
  • NVIDIA DGX Spark
  • 華為 950PR
  • 華為 950DT
  • 小主機(Mini PC / Small Host)
  • SSD
  • 統一綠存(疑為統一記憶體 Unified Memory 之誤或特定稱呼)
  • 其他專有名詞:
  • 總餐(疑為總參數 Total Parameters 之誤)
  • 英官支持權重(疑為英偉達支持權重 NVIDIA Support Weights 之誤)
  • 小核(CPU 小核心)
  • Linux
  • G-R03(疑為特定操作或版本代號)
  • 老黃(NVIDIA CEO 黃仁勳的暱稱)
  • 肩商(疑為 NVIDIA 或特定稱呼之誤)
  • 梁子(疑為 DeepSeek 或相關團隊暱稱)
  • 英特爾(Intel)
  • 海武 G(疑為海光 Hygon 或其他廠商)

操作流程整理

  1. 評估硬體需求:根據 DeepSeek V4.1 Flash 的權重總體大小(510G)及 MOE 主模型權重(306G),計算所需記憶體。
  2. 選擇硬體平台:
  • AMD 用戶:確認 AI Max 400 記憶體僅 192G,判定為無法運行,建議出局或僅運行 V4 Flash。
  • Apple 用戶:
  • 若為 256G(M5 Ultra),確認無法運行 V4.1 Flash,僅適合舊版或小型模型。
  • 若需運行 V4.1 Flash,建議購買 512G 記憶體機型(M5 Osh)。
  • 若為 64G/96G 用戶,建議運行青文 3.8 27B 等本地模型。
  • NVIDIA 用戶:
  • 購買三台 DGX Spark。
  • 組建統一記憶體環境(總計 384G)。
  • 分配資源:系統與框架開銷約 24G,模型佔用 306G,剩餘 54G 用於多任務(如長生雅文多開、繪畫)。
  1. 部署與擴展:
  • 三台 DGX Spark 為黃金甜點配置,互聯效率不打折。
  • 未來若需運行更大版本(如 4.2 或 5.0 Flash),可擴充至四台 DGX Spark。
  • 利用 NVFP4、FP8 原生支援進行推理。

值得注意的限制或風險

  • 硬體記憶體限制:AMD AI Max 400 最大記憶體僅 192G,無法運行 V4.1 Flash。
  • Apple 256G 機型兼容性:M5 Ultra 256G 無法運行 V4.1 Flash,未來無法升級該家族模型。
  • Apple 512G 機型價格:M5 Osh 512G 價格極高,可能超出個人消費者預算。
  • NVIDIA 擴展限制:DGX Spark 超過四台後通信效率下降,四台為極限。
  • 生態建設缺席:AMD、Intel 在生態建設期缺席,導致 NVIDIA 壟斷並高價銷售。

逐字稿辨識疑點

  • Deepseek V4.1 Flush:Flush 一詞在模型命名中較不常見,通常為 "Flash" 或特定版本號,但逐字稿多次提及,保留原樣。
  • 總餐 / 7480億總餐:應為「總參數」,逐字稿聽寫為「總餐」。
  • 英官支持權重:應為「英偉達支持權重」或類似含義,「英官」疑為聽寫錯誤。
  • DeepSig / DeepSeq:逐字稿中交替出現 DeepSig 和 DeepSeq,應均指代 DeepSeek,但需查證是否為特定分支或誤聽。
  • M5Osh / M5Ocha:Apple 機型命名不常見,疑為 M5 Max / M5 Ultra 等型號的誤聽或特定內部代號。
  • 青文 3.8 27B:應為「Qwen 3.8 27B」(通義千問),逐字稿聽寫為「青文」。
  • 長生雅文:不明確的應用或模型名稱,疑為「長文本」或其他技術術語的誤聽。
  • DGX Spark:NVIDIA 產品線中常見 DGX Station 或 DGX Spark(若為新產品),需查證是否存在此型號。
  • 統一綠存:應為「統一記憶體」(Unified Memory),「綠存」疑為聽寫錯誤。
  • 肩商:應為「NVIDIA」或「英偉達」,「肩商」疑為聽寫錯誤。
  • 梁子:指代不明,疑為 DeepSeek 團隊或相關人物的暱稱。
  • ComphiUI:應為「ComfyUI」,逐字稿聽寫為「ComphiUI」。
  • 海武 G:應為「海光 Hygon」或其他國產晶片廠商,「海武」疑為聽寫錯誤。
  • G-R03:不明確的操作或版本代號,需查證。
  • DBC:逐字稿提及「因為這個 DBC 它這次技術又有了重大的進步」,指代不明,疑為 DeepSeek 技術縮寫或特定優化技術。

可延伸追問

  • DeepSeek V4.1 Flash 的具體技術架構與 V4 相比有哪些重大改進?
  • NVIDIA DGX Spark 的具體規格與市場售價為何?
  • Apple M5 Osh 512G 的確切型號與購買渠道為何?
  • 青文(Qwen)3.8 27B 在本地部署的具體性能表現如何?
  • 華為 950PR 與 950DT 在支援 DeepSeek 方面的具體能力為何?

尚未產生學習筆記

請在 Telegram 指令最後加上「學習」,例如:videonote 網址 英文 雙語 學習