start	end	text
0	12000	今天這期視頻我們再談一談AI小盒子。就是AMD的AIMAX 395-400、英偉達的DGX Spark。然後蘋果的M5 Max和Ultra。
12000	26000	為什麼呢?因為最近Deepseek V4.1 Flash這個重磅模型發布了。這個模型可以說是相當的牛逼。經過我這兩天的實測,我一開始認為它可能說能夠勉強替代Deepseek V4 Pro。
26000	30460	但是深度使用之后我发现它是完全可以替代DeepSig V4 Pro
30460	34320	并且有这个论坛有人发帖子
34320	36720	就是比较权威的这些机构他们测评之后
36720	39120	认为这个什么DeepSig V4.1 Flush
39120	43200	在很多任务场景中都能够跟这个什么GPT-6 Astra
43200	46320	跟这个Cloud 5.1这样的顶级旗舰模型
46320	49260	做到相当稍微落后的一点水平
49260	51960	它的成本就要低上一两个档次
51960	55940	那么这个模型它刚好就能够在小盒子上跑起来
55940	59480	在这种情况下就不得不讲它了
59480	62720	就把这个小盒子在这个提一下
62720	65240	虽然我本地都是跑这个7.820GB
65240	67840	我一直主张大家去买这个独立的显卡
67840	70200	比如说4090 48G 7900 XTX
70200	72860	或者说是什么RTX Pro 4500 5000 6000
72860	73620	是吧
73620	76260	因为他们能够在本地跑大模型的同时
76260	78060	也能够跑这个什么MiliMax H3
78060	80340	跑这个LTX 2.3这样的视频模型
80340	81460	跑Confi UI生态
81460	83260	生产力是非常不错的
83260	85740	是吧
85740	87140	但是毕竟他们是跑不了
87140	89400	Deep Seek 威斯福拉奇这样的
89400	92740	可以说是目前性价比最高的这个模型
92740	95720	那么我们首先从这个AMD谈起
95720	97220	就是AMD这家公司呢
97220	99700	它的这个什么AI Max 395跟这个400
99700	101520	它现在陆续的发布了
101520	104140	395好像是128级的这个内存
104140	106700	400好像是可以支持到192级了
106700	108880	但是呢我就有点没搞清楚
108880	111340	你说它为什么不搞256级版本的呢
111340	112640	我还去问了一下AI
112640	114440	就这家公司它骂得非常的脑残
114440	114840	知道吗
114840	116140	它在设计这个芯片的时候
116140	118780	它的硬件规格就只能跑到192G
118780	120520	就支持不到256G
120520	123140	你说这个硬件设计是得有多脑残
123140	123900	才能够想得出来
123900	127320	而且它这个395
127320	129220	在这个市场反响
129220	131160	比较一般的情况下
131160	132240	你这个400出来
132240	134380	就算说你这个核心部分
134380	135320	你不去改
135320	138080	你起码把395的一些大的毛病
138080	138500	给它修改
138500	140460	比如说它两台小盒子之间
140460	141680	没有高速的互联方案
141680	142700	不像英伟达
142700	144040	英伟达有这个高速的互联方案
144040	146220	可以两台128G的盒子合到一起
146220	148240	形成256G的统一
148240	149640	显存尺 瑞存尺
149640	150840	AMD不能
150840	153320	那么如果说你买395的话
153320	155420	你就只能跑什么轻吻3.8Flash
155420	157100	或者轻吻3.820Gb
157100	159560	这两个模型在小盒子上跑都是非常的慢
159560	161880	就响应速度很慢
161880	163620	这个3.8Flash
163620	165180	它不要说本地的小盒子跑
165180	167600	它就是你用什么RTX
167600	168560	跑到5000
168560	170160	6000来跑它也慢
170160	172300	就这个模型本身有问题
172300	176120	然后这个轻微3.827币
176120	177520	由于是稠密模型
177520	181060	它同时激活这个270亿赛数
181060	183700	比跑里这个什么DeepSick威斯福拉西的时候
183700	185820	激活13币
185820	188300	这个算力负担更大
188300	191280	对于算力跟带宽的要求就更高
191280	193520	那么IMD的小盒子跑起来
193520	196740	就算是你把这个什么SG浪给它部署到位了
196740	199540	它这个体验也是不怎么样的
199540	201380	就你加入什么DeepFush2呀
201380	203500	投机尖码是吧
203500	205160	它的响应其实也都一般
205160	211040	如果说你升级到这个什么AI Max 400
211040	212740	能够买这个新的版本
212740	214340	买这个190二级的路线版本
214340	215400	那里也很尴尬
215400	218200	因为这个Deep Seek V4 Flash
218200	219240	它这个家族
219240	222580	它是这个什么NVFP4跟这个FP8的混合模型
222580	225300	它这个模型本身的这个尺寸
225300	227220	大概是140几左右
227220	228120	140多几
228120	231000	你放上去之后再扣除系统开销
231000	232660	扣除这个框架开销
232660	235680	那里剩下来的就只能跑
235680	237820	单个绘画长生下文
237820	239340	你想多开难度很高
239340	242680	就你很难理解
242680	244220	这家公司为什么会这么老残
244220	247940	就他这么多年来被这个什么
247940	249760	英伟达吊打是有原因的
249760	250980	就是他设计产品的时候
250980	252560	非常的粗暴
252560	253320	非常的粗放
253320	255020	完全不考虑市场需求
255020	256660	可能他们的设计师
256660	258080	也用英伟达的显卡
258080	259220	他可能不用自家的显卡
259220	263140	你比如说他跟什么英塔去搞这个什么
263140	265040	芯片竞争的时候
265040	267660	我们都认为他渗出市场之后
267660	268640	会回馈我们玩家
268640	270480	把这个什么CPU的价格做下来
270480	271220	结果并不是
271220	272580	他非常的邪恶
272580	274700	跟英塔长期联手
274700	275480	是吧
275480	277660	推高这个CPU的这个入门价格
277660	279940	我们一点便宜都没占到
279940	281880	再比如说他搞显卡的时候
281880	283020	他非常的鸡贼
283020	284920	就他知道自家的这个显卡
284920	287080	性能生态没有这个英伟达好
287080	289100	好比说英伟达的显卡卖5000是吧
289100	290560	那我扣除生态是吧
290560	291540	我就卖4000
291540	293920	你虽然看起来
293920	295180	你买他的卡同样的贵格
295180	296140	你省了1000块钱
296140	297140	但是这1000块钱
297140	298720	你付出的这个体验差距
298720	301100	这就是你支付的价格
301100	303120	你实际上一毛钱便宜都没赚到
303120	305280	相反你还有可能亏的更多
305280	306460	给AMD做了小白鼠
306460	308120	这么多年来
308120	309440	一些游戏行业的创新
309440	311460	但并不是每一项游戏创新都是好的
311460	313300	基本上都是英伟达搞的
313300	315100	比如说这个什么光追
315100	317640	再比如什么这个插针
317640	319840	就是DLSS
319840	321060	就是插针的AI插针
321060	323920	AMD搞了个叫什么FSR
323920	324200	是吧
324200	326460	就是永远是老黄做什么作业
326460	327580	他在后面抄什么作业
327580	329180	关键每次抄的都不彻底
329180	329840	抄的都不好
329840	333500	然后又不愿意真正给玩家上力
333500	334620	就非常的鸡贼
334620	336280	比如说前一阵子
336280	337860	我这个推荐他的显卡
337860	339060	就是什么7900XDX
339060	340800	AI Pro R9700是吧
340800	342240	那你这个时候
342240	344220	你不应该多推出一点类似的产品吗
344220	344780	是不是
344780	346400	就市场中像我们这些屌丝
346400	349980	都被这个老黄的刀法割得有点疼了
349980	351900	你这个时候推出一些好的产品
351900	355120	最起码说你能跟什么4080S30RG
355120	357780	跟什么409048G摩托卡给干一干
357780	360420	你都不要去比什么RTX Pro5600了
360420	361480	你推出这样的卡
361480	362620	卖的便宜一点
362620	364880	让利下玩家的生态不就起来了吗
364880	365820	并不会
365820	368060	他只要出新的产品
368060	368860	他就贵得很
368860	370460	价格就对标老黄
370460	371480	他给你让的利
371480	373460	永远是你在生态上面吃的亏
373460	375000	就是你吃多少亏
375000	375720	他给你让多少利
375720	378340	就它的小盒子你就不要碰了
378340	380140	但如果说你现在就已经买了
380140	381980	我就建议你认真去研究一下
381980	382860	这个SG浪
382860	383960	研究一下这个D-Flash
383960	384920	D-Spark这些技术
384920	386360	它能够缓解你的痛苦
386360	388660	把千万3.820GB给剖好就行了
388660	390160	其他的就不要多想了
390160	392160	你也不要买它的盒子
392160	393480	来跑这个Dipsick V-Flash
393480	394700	因为那样子很傻
394700	399160	下面就说这个英伟达的小盒子
399160	402180	DGX Spark两台能够跑这个V-Flash
402180	404620	这个是经过社区的多轮实测
404620	405660	然后我们这个论坛
405660	408140	也有不少帖子是实测跑起来的
408140	409880	体验是非常不错的
409880	411040	有真实的帖子
411040	413600	你们可以到论坛去
413600	415120	跟这些大神交流
415120	417600	跟实际跑起来的人交流
417600	419160	看看他们是怎么配置的
419160	421380	这一块你就不用犹豫了
421380	423640	如果说你刚好有这么七八万块钱
423640	424120	预算在
424120	426660	你想在本地跑这个什么
426660	428780	Deepseek vs.Flug
428780	431360	哪怕说你也想跑这个轻微3.8都可以
431360	433980	甚至他跑轻微3.8Flug
433980	435260	也比AMD的积极快
435260	439100	如果说你还想兼容一下这个什么
439100	440060	Confi UI
440060	442520	它的这个Confi UI确实跑起来是慢了
442520	443520	跑Milimax H3
443520	446340	跑这个什么LTXR.3
446340	447480	都慢的跟污涵一样
447480	449300	但是你毕竟是买了两个盒子嘛
449300	450140	你同时跑嘛
450140	451840	它毕竟还是能跑的嘛
451840	455380	就买老黄的东西就是没有什么压力
455380	456440	是吧
456440	457900	它两台盒子高速互联
457900	458840	这个互联呢
458840	460340	贷款达到了200几每秒
460340	461240	是非常夸张的
461240	462520	你可以对比一下嘛
462520	463220	这个雷电5
463220	464120	就苹果现在
464120	465720	如果说零两代核子互联的话
465720	467440	它是零零五零零五是八世纪
467440	470280	这个八世纪里面并不是所有东西都可以拿出来的
470280	472220	它只有六十几左右可以用来通信
472220	474860	你就可以想一想一想
474860	476500	老黄的这个互联方案也好
476500	477340	还是这个小盒子
477340	478900	它本身这个价值也好
478900	481440	我认为它未来有很长一段时间的可玩性
491239	492499	满大满算是吧
492499	493959	你也就能够用上了
493959	495699	那这个模型比起这个什么
495699	497779	当下这个威斯夫拉奇牛逼在哪里
497779	500659	第一是它的跑分应该会高出一截
500659	502199	第二就是做任务的这个能力很强
502199	503839	第三它是原生的多魔态
503839	508299	这个可能说到时候又会有一些新的玩法出来
508299	510139	况且就算是现在你用这个什么
510139	512019	威斯夫拉奇的这个视觉版本
512019	515579	它本身就能够非常好的干活了
515579	516679	性价比就非常高了
516679	520199	就这个核子是值得长期持有的
520199	521559	未来有可能还会再涨价
521559	523439	甚至我们可以关注一下
523439	525279	搞不好老黄这个比较技贼的奸商
525279	527239	他也有可能会发布下一代的产品
527239	531619	但是那可能要很长的时间了
531619	533399	因为他刚刚发布了这个什么
533399	534419	RTX SPARC是吧
534419	534959	这个笔记本
534959	536519	也是引用了相同的架构
536519	538639	我觉得怎么也得等明年了
538639	540419	再上量这个时间
540419	543039	我觉得如果说你有钱的话
543039	544459	要马上生产
544459	545639	那我觉得就不要等了
545639	547279	就这个小盒子
547279	549399	他未来的保值率一定是非常不错的
549399	551039	当然我们要接受
551039	552199	它是ARM的生态
552199	553239	它这个什么
553239	555299	没有奇差机用的Windows
555299	556259	有了Windows之后
556259	558039	它的生态也跟标准的X86Windows
558039	559059	也是有差距的
559059	560059	这是它明显不如
560059	562659	AI Max 395 400的一个地方
562659	564659	但是相信你买来是跑AI的
564659	564899	是吧
564899	567159	也不是用它来这个办公的
567159	568719	这个体验差距
568719	569979	我认为是可以接受的
569979	572199	甚至即便是你办公
572199	573839	你想办法把这个ARM Windows
573839	574539	给它装上去
574539	577379	它也体验也差不多哪去
577379	579039	轻度的办公都能用
579039	580859	那最后呢就是讲一讲苹果
580859	583639	苹果呢就是说M5MAX本身就能打
583639	586479	就它用来跑这个什么轻温3.8RG
586479	588259	是这三个盒子中
588259	589339	应该说表现最好的
589339	591759	因为它是640G的带宽
591759	593539	然后
593539	596879	它如果是这个什么M5Ultra的话
596879	598519	它是两个MAX并联在一起
598519	600539	它芯片价的互联带宽高达几个T
600539	603239	就这个总体的这个什么
603239	604679	显存带宽好像是1.2T
604679	605999	将近1.3T
605999	607899	这个是非常能打的一个数字了
607899	611719	就如果说你这个预算比较低
611719	614159	那么你就买这个什么M5max
614159	615959	买这个128G版本的
615959	618599	用在本地跑这个什么轻微3.8G
618599	620499	或者说是Flash
620499	623779	它同时还能够有大量的这个绿村余量
623779	625559	用来办公用来编程
625559	627939	苹果的操作系统体验还是非常棒
627939	628879	非常的稳定的
628879	631219	你也可以把A进的就跑在这一个盒子上
631219	633359	它的可玩性还是非常不错的
633359	636879	但是必须要说它跑不了这个Konfi UI
636879	638779	苹果是这三个盒子中
638779	639979	破CONFUI最差的
639979	642299	因为它的这个生态借容性不好
642299	643919	而且苹果的所有芯片
643919	645059	包括M5在内
645059	646479	它这个叫什么
646479	649839	FP3SAR的原始卷积算力是最低的
649839	650979	这一块是天生残疾
650979	652479	苹果设计的时候
652479	653719	就没有为这个场景考虑
653719	657179	就算是你勉强把这个CONFUI跑起来
657179	658339	它速度也是慢的很
658339	659079	当然了
659079	660279	它画图是没问题的
660279	661499	破音频是没问题的
661499	663059	视频这一块就可以洗碎了
663059	664199	你能接受这个缺点
664199	665399	苹果的芯片
665399	667959	苹果的小盒子性价比是非常高的
667959	670619	然后如果说你要买Ultra 256G的
670619	672879	它是肯定可以把DeepSeek和VS-Flug
672879	673719	给跑起来的
673719	675919	当然你需要知道它有一些硬性的缺点
675919	678599	就是它本身没有什么FP4 FP8
678599	679879	是吧
679879	681099	它这个退理的时候
681099	682519	只能返回BF16来退理
682519	684659	当然这个也不是问题了
684659	686239	因为毕竟这么大的带宽在这里
686239	686559	是吧
686559	689239	它还有一个你必须面对的现实
689239	689939	就是它的生态
689939	693179	远远不如AMD跟这个什么英伟达
693179	695739	就是什么呢
695739	697379	最主要的一个表现SG浪
697379	699019	就SG浪
699019	701479	你当下如果要火Agent的话
701479	701879	我跟你讲
701879	702939	你部署Lambati CPP
702939	705079	部署这个什么VLM
705079	706419	他们单会话可能说还可以
706419	707979	一旦多会话长生下文
707979	709779	你必须要上SG浪
709779	712059	因为RATX缓存数
712059	713019	我强调过多少次
713019	714799	你们一定要去论坛
714799	715839	去认真学习一下
715839	716759	这些基础的概念
716759	718839	RATX缓存数是非常重要的
718839	721119	它能够对这个什么新的请求
721119	723059	只做增量部分的这个prefill
723059	725339	不用每次prefile一大段
725339	728319	这个可以大大降低显卡的负载压力
728319	729099	在小盒子上
729099	733459	它降低的压力带来的意义就尤为重要
733459	736539	但是我们也不用感到悲观
736539	737939	因为我也去研究了一下
737939	739859	社区现在已经有版本
739859	740959	它不是主干版本
740959	742479	不是SG浪官方的主干版本
742479	744539	可以支持这个Radix换存数
744539	746879	但是有副作用
746879	747619	也有一些bug
747619	751059	我相信现在即便它不能支持
751059	754179	你用这个什么原始的这个prefill方式
754179	755159	它也能玩
755159	756039	DeepSick with Flaji
756039	757239	肯定是能够跑起来的
757239	758159	体验是不会差的
758159	760419	你只要是买了M5 Ultra 256G
760419	761379	是肯定够的
761379	763759	未来的就是RedX缓存数
763759	765919	一定会被官方给它加入到
765919	768219	这个苹果的MLX生态中去的
768219	772319	因为SG浪官方已经支持了MLX后端
772319	774859	只不过暂时还没有把这个RedX缓存数
774859	776159	给它加入进来
776159	777559	这个是迟早的事情
777559	778519	社区跑完之后
778519	779759	肯定会有很多人
779759	782359	向这个SG量的这个官方主板们提交请求
782359	784719	一旦成熟了会被主板们合并
784719	788499	到那个时候你跑这个什么Deepseek V4.1 Flush
788499	790899	或者说那个时候可能都已经4.2 Flush了
790899	793719	是吧那这体验是不会差的
793719	795519	最后总结一下就是
795519	798019	如果说你现在一定要买小盒子
798019	799159	AMD的小盒子便宜
799159	800319	但是我必须跟你讲
800319	801759	这小盒子也是最垃圾的
801759	804239	就是你不能对他有太高的期望
804239	806019	他抛起来的体验是最差的
806019	807879	然后英伟达的小盒子表现是最好的
807879	809019	最有性价比的
809019	811179	也是最有这个保值空间的
811179	813239	将来甚至有可能有甚至空间
813239	815919	如果说这个算力荒持续的话
815919	816839	硬件荒持续的话
816839	818199	对了
818199	819879	英伟达的小盒子送你四个TB
819879	821159	四个DP
821159	823059	每个小盒子送你四个TB的存储空间
823059	824619	这个当下来说也是一个价值
824619	826579	就这两个小盒子
826579	828499	能够为你在本地搭进你私有的一个Math
828499	829599	体验
829599	831259	这是附带的
831259	831499	是吧
831499	833079	它本身跑这个什么
833079	833639	Comphe UI
833639	834379	跑这个什么
834379	836239	Deep Seek Vist Flash
836239	838479	它体验都是非常不错的
838479	840179	是吧
840179	840659	画图啊
840659	841119	音频啊
841119	842259	当然视频可能要慢一点
842259	844419	那个是小盒子的印商
844419	845379	这是通用的印商
845379	848959	然后如果是买苹果的话
848959	851079	就是你像我一样
851079	852719	平时在这个苹果的机器上面
852719	854859	在上面比如说办公编程
854859	855599	是吧
855599	856879	同时你希望能跑个什么
856879	857719	Deep Seek with Flush
857719	859059	或者说跑个什么
859059	860479	轻吻3.8 20GB
860479	862639	那都可以的
862639	863519	它都能做得到
863519	868559	当然它8万多的价格
868559	870459	也是这三个方案中最贵的
870459	870959	单击啊
870959	871859	单击就8万
871859	873599	这个就是见仁见智的
873599	874199	看你怎么想
874199	879299	如果说你有这个相关疑问
879299	880479	相关的话题想要讨论
880479	881679	就欢迎到论坛中
881679	883439	去看看大神们是怎么测的
883439	885219	他们已经有的正式设备
885219	886119	测试出来的数据
886119	888639	这个比我在这里逼比较更有价值
888639	889379	是吧
889379	891779	我也这个让AI整理了我们论坛的帖子
891779	893559	把他们这个官方的
893559	895459	硬件规格数据都整理到了
895459	897099	这个硬件的这个专业中去
897099	899939	也把我们论坛中相关测试的帖子
899939	900879	给附带进去了
900879	902379	链接都加到这些专业中去了
902379	905359	你们这个点点鼠标就能看得到
905359	905699	是吧
905699	908039	或者在手机上滑一滑屏幕就能看得到
908039	910579	好吧
910579	911399	本期视频就到这里
911399	912099	我们下期再见