0:00.000–0:06.000
zh本期視頻聊一下英特、蘋果、AMD、英偉達GPU的AI能力和生態
0:06.000–0:07.000
zh純經驗之談
0:07.000–0:10.000
zh我們先從一個具體的場景開始
0:10.000–0:13.000
zh我的烏半途服務器上安裝了VoxCPM
0:13.000–0:15.000
zh這是一個AI TTS程序
0:15.000–0:16.000
zh就是音頻程序
0:16.000–0:18.000
zh那麼我也安裝了ConfiUI
0:18.000–0:21.000
zh下面我就以簡單的VoxCPM為例
0:21.000–0:24.000
zh因為我昨天運行的時候剛好想到了這個話題就截圖了
0:24.000–0:26.000
zh那麼跑ConfiUI流程是一樣的
0:26.000–0:30.000
zhVoxCPM也有作為ConfiUI節點的版本
0:30.000–0:33.000
zh我們看一下這是同一份程序
0:33.000–0:36.000
zh那麼下面有英偉達跟AMD的腳本
0:36.000–0:37.000
zh默認是AMD的
0:37.000–0:39.000
zh因為我的7900XTX是線滿
0:39.000–0:41.000
zh那麼另外一個是英偉達的腳本
0:41.000–0:44.000
zh我打開放到屏幕上對比一下
0:44.000–0:47.000
zh僅僅是驅動參數有所不同
0:47.000–0:50.000
zh那麼其他的生產腳本一個字都不用改
0:50.000–0:53.000
zh它既能選擇使用7900XTX來運行
0:53.000–0:55.000
zh也能使用4090來運行
0:55.000–0:59.000
zh也就是説AMD的驅動在歐版圖上做到了跟英偉達基本兼容
0:59.000–1:02.000
zh而且在更加複雜的ConfiUI程序中
1:02.000–1:04.000
zh也就是LTX2.0 2.3
1:04.000–1:06.000
zh這樣複雜的節點中
1:06.000–1:08.000
zh它也是兼容的
1:08.000–1:10.000
zh可以生成視頻效率還不錯
1:10.000–1:11.000
zh那麼一行代碼都不用改
1:11.000–1:14.000
zh只要你配置了這個A卡跟這個N卡的V1N位環境
1:14.000–1:15.000
zh設置好腳本
1:15.000–1:17.000
zh它就能夠流暢的拋起來
1:17.000–1:22.000
zh那麼我是在這個M4上運行過這個VoxCPM
1:22.000–1:23.000
zh這是截圖
1:23.000–1:25.000
zh但是由於這個速度攤滿
1:25.000–1:26.000
zh後來我就一直沒有怎麼用
1:26.000–1:27.000
zh不過留下了記錄
1:27.000–1:30.000
zh總體上M4的處理速度大概是2-3T每秒
1:30.000–1:34.000
zh那麼4060Ti在Windows下的整合包大概是4T每秒
1:34.000–1:36.000
zh在WSLR
1:36.000–1:40.000
zh7900XTX在原生的Ubuntu服務器上大概是21T每秒
1:40.000–1:41.000
zh也差不多20T每秒
1:41.000–1:44.000
zh那麼4090在這個WSLR下大概是20T每秒
1:44.000–1:48.000
zh7900XTX在原生的Ubuntu服務器上大概是21T每秒
1:48.000–1:49.000
zh也差不多20T每秒吧
1:49.000–1:53.000
zh那麼4090在這個原生的Ubuntu服務器上大概是40T每秒
1:53.000–1:55.000
zh也就是XTX的兩倍
1:55.000–1:58.000
zh所以這個N卡加上Ninux加上大顯存
1:58.000–1:59.000
zh才是AI的王道
1:59.000–2:02.000
zh無論跑這個通用大模型還是音視頻程序都是如此
2:02.000–2:03.000
zh它就是行業的標杆
2:03.000–2:06.000
zh那麼Windows適合用來跑整合包
2:06.000–2:08.000
zh但是Ubuntu往往是很差
2:08.000–2:10.000
zhWindows自身其實沒有那麼差
2:10.000–2:12.000
zh但是這個列室被整合包給放大了
2:12.000–2:13.000
zh因為整合包的程序
2:13.000–2:16.000
zh他們的作者可能往往就是考慮自己的應用場景
2:16.000–2:17.000
zh他不會考慮通用場景
2:17.000–2:19.000
zh他們做出來的包
2:19.000–2:21.000
zh這個通用性是有這個限制的
2:21.000–2:24.000
zh這個話題我會在單獨的視頻裏面再詳細的聊
2:24.000–2:26.000
zh我呢是沒有英塔爾的設備
2:26.000–2:27.000
zh其他的設備我都有
2:27.000–2:28.000
zh而且都是多個型號的
2:28.000–2:30.000
zh那麼英塔爾我只能雲一下
2:30.000–2:31.000
zh所以我們就從英塔爾開始
2:31.000–2:33.000
zh他最近利退的Arc B60
2:33.000–2:34.000
zhB70 B80雙星
2:34.000–2:35.000
zh我都不建議買
2:35.000–2:37.000
zh他們具體的參數個個
2:37.000–2:38.000
zh大家可以去問一下AI
2:38.000–2:40.000
enFP32
2:40.000–2:41.000
enBF16
2:41.000–2:42.000
zh他們的算力如何
2:42.000–2:43.000
zh跟這個A卡和N卡的對比
2:43.000–2:46.000
zh這些是當下個人跑AI最重要的指標
2:46.000–2:49.000
zh它明顯是不如AMD跟金偉大通檔自行卡的
2:49.000–2:51.000
zh而且它的生態是非常的爛
2:51.000–2:53.000
zh跑很多AI程序需要修改代碼才能跑起來
2:53.000–2:55.000
zh完全不值得浪費時間
2:55.000–2:56.000
zh我這樣的貼口之段
2:56.000–2:58.000
zh可能會讓英塔爾的粉絲十分難受
2:58.000–3:00.000
zh如果有英塔爾粉絲的話
3:00.000–3:02.000
zh但是我連進一步解釋的興趣都沒有
3:02.000–3:05.000
zh如果你們願意可以自己繼續研究
3:05.000–3:07.000
zh那麼英塔爾從PCBud
3:07.000–3:08.000
zh淪落到今天
3:08.000–3:09.000
zh它其實是有原因的
3:09.000–3:11.000
zh它本身並不具備研發AI顯卡的實力
3:11.000–3:14.000
zh僅僅是看到AMD跟金偉大賺了大錢
3:14.000–3:15.000
zh自己眼紅也過來湊熱鬧
3:15.000–3:16.000
zh自家的產品
3:16.000–3:18.000
zh基本的可用性都做不好
3:18.000–3:19.000
zh驅動更是爛到不行
3:19.000–3:20.000
zh而且有這個躺平的心態
3:20.000–3:22.000
zh先賣卡先騙錢
3:22.000–3:23.000
zh然後再改驅動
3:23.000–3:24.000
zh改不好就裝死
3:24.000–3:26.000
zh網絡社區裏英塔爾的受害者
3:26.000–3:27.000
zh可以説不乏其人
3:27.000–3:29.000
zh感興趣的大家可以自己多搜一下
3:29.000–3:31.000
zh這個蘋果我用的是M4的普通版
3:31.000–3:34.000
zh它的安裝體驗和我在Ninux上並無區別
3:34.000–3:37.000
zh它也是有這個標準的Posex終端命令
3:37.000–3:38.000
zh和這個Ninux是一模一樣的
3:38.000–3:41.000
zh因為它是基於BS的UNIX的變種
3:41.000–3:45.000
zh這個Ninux也是基於UNIX的這種社區開源版
3:45.000–3:48.000
zh也是當時是仿造的UNIX來開發的
3:48.000–3:51.000
zh那麼蘋果的這個開發資源可以説是非常的豐富
3:51.000–3:53.000
zh而且社區的更新是非常的積極
3:53.000–3:55.000
zh它的生態可以説吊打英塔
3:55.000–3:56.000
zh玩家眾多
3:56.000–3:59.000
zh但是蘋果的設備是為這個低供貨場景設計的
3:59.000–4:03.000
zh它跑這個AI受限於帶寬和算力體驗並不是特別的好
4:03.000–4:05.000
zh最起碼比起AMD跟英偉達來説
4:05.000–4:07.000
zh它們這個差距還是蠻大的
4:07.000–4:11.000
zh跑這個MOE大模型是它的強項極致安靜
4:11.000–4:14.000
zh但是如果跑這個本地的這種稠密的小模型
4:14.000–4:17.000
zh比如27比30比左右的這種稠密模型
4:17.000–4:19.000
zh比如千萬3D5 20Gb
4:19.000–4:21.000
zh這個GEMMA4 31比稠密
4:21.000–4:23.000
zh那麼它的速度就會比較慢
4:23.000–4:25.000
zhM5是有明顯的改善的
4:25.000–4:27.000
zh但是我沒有M5的設備
4:27.000–4:28.000
zh據社區反饋
4:28.000–4:30.000
zh這個prefail和土字速度都有很大的提升
4:30.000–4:31.000
zh尤其是這個prefail
4:31.000–4:33.000
zh那麼長上下文還是蘋果的劣勢
4:33.000–4:35.000
zh因為那需要考驗帶寬跟這個算力
4:35.000–4:37.000
zh考驗的是這個滿力
4:37.000–4:43.000
zh即便是M5max在這個A卡和這個N卡的這個高端芯片面前
4:43.000–4:45.000
zh還是完全沒有一戰之力
4:45.000–4:48.000
zh那麼顯存只是能夠解決蘋果能夠放得下模型的問題
4:48.000–4:51.000
zh但是放得下不代表你算得快算得好
4:51.000–4:53.000
zh至於説這個畫圖銀視頻
4:53.000–4:54.000
zh那麼蘋果的差距就更大了
4:54.000–4:57.000
zh跟這個A卡和N卡是完全不能相比的
4:57.000–4:59.000
zh即便到今天蘋果的MLX推理架構
4:59.000–5:02.000
zh對於這個Config UI的生態介紹也比AMD差很多
5:02.000–5:04.000
zh跟這個英偉達就更不能比了
5:04.000–5:05.000
zh完全沒有必要去碰瓷
5:05.000–5:08.000
zh跑銀視頻是需要BF16 FP3上
5:08.000–5:09.000
zh比平這個卷機算力
5:09.000–5:11.000
zh這一塊還得看這個英偉達跟AMD
5:11.000–5:13.000
zh那麼接下來我們談這個A卡
5:13.000–5:16.000
zh我從這個Windows的4060Ti整合包開始
5:16.000–5:19.000
zh向這個WSLR這個Ubuntu虛擬機開始遷移
5:19.000–5:21.000
zh拿到了7900X提查之後
5:21.000–5:24.000
zh我把這套東西又從這個虛擬機跟Windows整合包上
5:24.000–5:26.000
zh遷移到了原生的Ubuntu Linux服務器上
5:26.000–5:28.000
zh我是花了兩天的時間
5:28.000–5:30.000
zh還有一天是修改量產的腳本
5:30.000–5:33.000
zh因為我的主力工作並不是研究AI技術
5:33.000–5:34.000
zhAI是我的生產工具
5:34.000–5:36.000
zh用來做這個圖片核心視頻
5:36.000–5:37.000
zh而且我都是量產
5:37.000–5:39.000
zh一次都要批量出這個幾十個圖片
5:39.000–5:40.000
zh幾十個片段
5:40.000–5:43.000
zh所以我更加關注它的量產穩定性和這個生產效率
5:43.000–5:45.000
zh我可以稍微折騰一下軟件
5:45.000–5:47.000
zh但是我絕對沒有時間來折騰硬件
5:47.000–5:50.000
zh所以我對AMD的顯卡評價是
5:50.000–5:53.000
zh買新的或者京東自營的二手有這個保修
5:53.000–5:55.000
zh系統環境稍微折騰一點
5:55.000–5:56.000
zh但是完全對得起它的價格
5:56.000–5:57.000
zh那麼7900X就會了
5:57.000–5:59.000
zh那麼7900XTX和3090價格差不多
5:59.000–6:00.000
zh而且它是新卡
6:00.000–6:01.000
zh做工非常的好
6:01.000–6:05.000
zh可以買到南寶石訓景的一線大廠的這樣的這個新卡
6:05.000–6:06.000
zh帶三連保修
6:06.000–6:08.000
zh那麼3090就是二手無能卡
6:08.000–6:10.000
zhXTX的算力更強
6:10.000–6:11.000
zh但是被這個生態拖累
6:11.000–6:13.000
zh跑起來跟3090是差不多的
6:13.000–6:14.000
zh3090的生態更好
6:14.000–6:15.000
zh但是這個硬件有風險
6:15.000–6:16.000
zh它默認就是礦卡
6:16.000–6:18.000
zh我認為怎麼選都可以
6:18.000–6:20.000
zh但是你要麼選擇折騰硬件
6:20.000–6:22.000
zh要麼選擇折騰軟件
6:22.000–6:23.000
zh你不能兩個都折騰
6:23.000–6:25.000
zh兩個都折騰你絕對會崩潰的
6:25.000–6:28.000
zh那麼AMD的AI Pro R9700 32G
6:28.000–6:29.000
zh11000塊錢
6:29.000–6:30.000
zh性價比就很高
6:30.000–6:31.000
zh沃倫卡我朋友也買了
6:31.000–6:32.000
zh據説體驗很好
6:32.000–6:33.000
zh噪音還可以接受
6:33.000–6:35.000
zh我本來想去他家裏測試一下的
6:35.000–6:37.000
zh但是既然有了4090 48G
6:37.000–6:38.000
zh我最近又損失了三個頻道
6:38.000–6:40.000
zh可以説是身心俱疲
6:40.000–6:41.000
zh我就不去了
6:41.000–6:44.000
zh總之這個AI卡同價位算力更強
6:44.000–6:45.000
zh同算力價格更加便宜
6:45.000–6:47.000
zh同價位算力相當的話
6:47.000–6:48.000
zh那麼它可以買到新卡
6:48.000–6:50.000
zh唯一的缺點就是你要懂Linux
6:50.000–6:52.000
zh自己會配置腳本
6:52.000–6:53.000
zh你會遇到一些問題
6:53.000–6:54.000
zh但是這些問題
6:54.000–6:56.000
zh在AI的幫助下都是不難解決的
6:57.000–6:59.000
zh最後我們還是談一下這個N卡
6:59.000–7:00.000
zh那麼B演入
7:00.000–7:01.000
zh前提是你的錢包夠
7:01.000–7:03.000
zh有多少錢買什麼樣的卡
7:03.000–7:04.000
zh同代相比的話
7:04.000–7:05.000
zh它卻是算力最強
7:05.000–7:06.000
zh加上身代的優勢
7:06.000–7:07.000
zh它可以説是吊打i卡
7:07.000–7:10.000
zh所以説7900 XTX跟4090是同代
7:10.000–7:11.000
zh但是XTX只要6000出頭
7:11.000–7:12.000
zh4090就要2萬
7:12.000–7:14.000
zh48G版本要小3萬
7:14.000–7:15.000
zh這是有原因的
7:15.000–7:17.000
zh這不是隨便亂定價的
7:17.000–7:19.000
zh你在京東上買到的任何東西
7:19.000–7:21.000
zh你不要覺得自己買虧了買賺了
7:21.000–7:24.000
zh商家給你的價格都是經過精密計算的
7:24.000–7:27.000
zh都是沿用了老黃的精準刀法
7:27.000–7:28.000
zh你是不可能佔到任何便宜的
7:28.000–7:30.000
zh當然也不可能吃大虧
7:30.000–7:33.000
zh4060TX 5060TX 16G版本入門
7:33.000–7:35.000
zh3080 20G摩蓋卡可以小玩玩
7:35.000–7:37.000
zh3090全場景舒適
7:37.000–7:39.000
zh4090 5090 24G更加舒適
7:39.000–7:41.000
zh但相比於3090RM
7:41.000–7:42.000
zh只是快了一些
7:42.000–7:44.000
zh並不能帶來實質性的提升
7:44.000–7:46.000
zh很多時候還是要看大行存
7:46.000–7:48.000
zh所以説5090 32G是土豪選擇
7:48.000–7:50.000
zh算力是非常暴力
7:50.000–7:51.000
zh相當的誇張
7:51.000–7:53.000
zh但它的功耗也高
7:53.000–7:54.000
zh而且有燒接口的風險
7:54.000–7:55.000
zh它也是最貴的
7:55.000–7:57.000
zh沒有什麼短板
7:57.000–7:59.000
zh基本上在所有的場景下
7:59.000–8:00.000
zh體驗是非常好的
8:00.000–8:03.000
zh只是在於某些高行存的場景
8:03.000–8:05.000
zh遜色於4090的48G摩蓋
8:05.000–8:08.000
zh比如説有的時候跑LTX 2.0 2.3
8:08.000–8:09.000
zh跑同期萬象
8:09.000–8:12.000
zh就是萬2.1 2.2
8:12.000–8:14.000
zh這些開源的視頻模型
8:14.000–8:16.000
zh它可能説在這一塊它會差一點
8:16.000–8:18.000
zh如果説你的AI大模型
8:18.000–8:19.000
zh比如説你要跑70B的
8:19.000–8:21.000
zh那麼5090可能跑不起來
8:21.000–8:23.000
zh但是目前70B的大模型
8:23.000–8:24.000
zh基本都是垃圾
8:24.000–8:25.000
zh所以跑大模型這一塊
8:25.000–8:26.000
zh你就必然
8:26.000–8:27.000
zh買這個5090 32G就對了
8:27.000–8:28.000
zh它不會吃虧的
8:28.000–8:30.000
zh跑視頻的話就要考慮4090 48G
8:30.000–8:34.000
zh我從收到4090到這個插到工作站上
8:34.000–8:36.000
zh完成環境安裝以及腳本的批量傾移
8:36.000–8:39.000
zh一共是花了幾個小時的時間
8:39.000–8:41.000
zh那種絲滑的體驗是AMD不能相比的
8:41.000–8:43.000
zh但是畢竟前裏花了好幾倍
8:43.000–8:44.000
zh算力只是快了一倍
8:44.000–8:45.000
zh噪音還大
8:45.000–8:46.000
zh如此阿姨
8:46.000–8:48.000
zh怎麼選擇就看你自己
8:48.000–8:50.000
zh我那錄視頻都是非常隨意的
8:50.000–8:52.000
zh用搭江的pocket三
8:52.000–8:54.000
zh連接的是二代的麥克風
8:54.000–8:56.000
zh那麼從這個儲物箱裏翻出來的
8:56.000–9:00.000
zh以前是旅遊的時候買了就是隨便拍視頻的
9:00.000–9:02.000
zh現在就用來錄節目
9:02.000–9:04.000
zh我也沒去搞什麼專業的相機
9:04.000–9:05.000
zh以前家裏有個專業的相機老了
9:05.000–9:06.000
zh我就不用了
9:06.000–9:09.000
zh有的時候我是用老的iPhone進行復盤
9:09.000–9:12.000
zh有網友提醒我説我的嘴唇乾裂
9:12.000–9:13.000
zh黑眼圈比較重
9:13.000–9:15.000
zh搞技術的人其實只要熬夜大多數如此
9:15.000–9:18.000
zh這幾天因為我有幾個頻道損失了
9:18.000–9:19.000
zh因為我拿個賬號
9:19.000–9:22.000
zh不知怎麼被AI判定為有風險
9:22.000–9:24.000
zh其中就是有一個頻道出了問題
9:24.000–9:27.000
zh它是給了我一定的整改期限
9:27.000–9:29.000
zh讓我5月18號再次申請
9:29.000–9:30.000
zh但是我就不敢冒險了
9:30.000–9:32.000
zh所以説我把那個頻道
9:32.000–9:34.000
zh還有另外一個即將過YPP的頻道
9:34.000–9:35.000
zh以及一個正在盈利的頻道
9:35.000–9:37.000
zh我把它全部放棄了
9:37.000–9:38.000
zh這個損失還是比較大的
9:38.000–9:41.000
zh所以説我是想盡快把輪垂者這個頻道給做起來
9:41.000–9:43.000
zh彌補一下我的損失
9:43.000–9:44.000
zh因為怎麼説呢
9:44.000–9:45.000
zh行百里者辦90
9:45.000–9:48.000
zh大多數人就是差這個最後一步就能成功
9:48.000–9:51.000
zh但是在那個時候放棄了懈怠了
9:51.000–9:54.000
zh所以説我這個時候就是要努力一點
9:54.000–9:55.000
zh每天多更一點視頻
9:55.000–9:56.000
zh那麼絕不能懈怠
9:56.000–9:58.000
zh因為一旦這口氣泄了
9:58.000–10:01.000
zh那麼可能説後來我就沒有這個激情了
10:01.000–10:02.000
zh過年之後兩個月
10:02.000–10:04.000
zh我一直在為重新擁有一箇中文頻道
10:04.000–10:05.000
zh努力
10:05.000–10:07.000
zh因為我現在賺錢主要是靠這個英語頻道
10:07.000–10:08.000
zh我的兩個英語頻道
10:08.000–10:09.000
zhAI含量都太高
10:09.000–10:10.000
zh我要這個位於超謀
10:10.000–10:12.000
zh多備份一個收入來源
10:12.000–10:13.000
zh那麼下半年開始了
10:13.000–10:15.000
zh我有這個項目要解
10:15.000–10:16.000
zh要寫程序
10:16.000–10:18.000
zh這是朋友過年前的時候就已經説好的
10:18.000–10:19.000
zh提前做好的
10:19.000–10:20.000
zh這是沒有辦法推透的
10:20.000–10:21.000
zh這個是人情戰
10:21.000–10:24.000
zh那麼7月份之前過APP是最好的
10:24.000–10:25.000
zh7月下旬開始
10:25.000–10:27.000
zh我能對這個頻道的投入時間就會變少
10:27.000–10:30.000
zh到時候我也可以選擇砍掉一個英語頻道
10:30.000–10:34.000
zh但是我還是希望就是説自己能把這個中文頻道做起來
10:34.000–10:36.000
zh再進行這樣的操作
10:36.000–10:38.000
zh要不然放棄正在賺錢的頻道是挺可惜的
10:38.000–10:40.000
zh因為拍這個中文視頻是不怎麼累的
10:40.000–10:42.000
zh做這個英文視頻生產效率是比較低的
10:42.000–10:45.000
zh我的英語水平講實話只能説夠用
10:45.000–10:46.000
zh並不是特別的好
10:46.000–10:49.000
zh雖然這個做英語頻道的收入也挺高
10:49.000–10:52.000
zh但是我想還是做中文要輕鬆一點
10:52.000–10:54.000
zh人生不如意十之八九
10:54.000–10:55.000
zh比起這個低谷時期
10:55.000–10:57.000
zh比起生意失敗的時候
10:57.000–10:59.000
zh剛開始那段難以接受的時期
10:59.000–11:00.000
zh現在是好多了
11:00.000–11:02.000
zh我呢並非是刻意敢進度
11:02.000–11:03.000
zh就是能搶救一下的時候
11:03.000–11:04.000
zh我還是這個努力一把
11:04.000–11:06.000
zh但是總體上呢我是一個比較豁達的人
11:06.000–11:07.000
zh偶爾吃點苦
11:07.000–11:08.000
zh理所當然
11:08.000–11:09.000
zh與助軍共勉吧
11:09.000–11:11.000
zh好的本期視頻就到這裏
11:11.000–11:12.000
zh我們下期再見
0:00.000–0:06.000
本期視頻聊一下英特、蘋果、AMD、英偉達GPU的AI能力和生態
0:06.000–0:07.000
純經驗之談
0:07.000–0:10.000
我們先從一個具體的場景開始
0:10.000–0:13.000
我的烏半途服務器上安裝了VoxCPM
0:13.000–0:15.000
這是一個AI TTS程序
0:15.000–0:16.000
就是音頻程序
0:16.000–0:18.000
那麼我也安裝了ConfiUI
0:18.000–0:21.000
下面我就以簡單的VoxCPM為例
0:21.000–0:24.000
因為我昨天運行的時候剛好想到了這個話題就截圖了
0:24.000–0:26.000
那麼跑ConfiUI流程是一樣的
0:26.000–0:30.000
VoxCPM也有作為ConfiUI節點的版本
0:30.000–0:33.000
我們看一下這是同一份程序
0:33.000–0:36.000
那麼下面有英偉達跟AMD的腳本
0:36.000–0:37.000
默認是AMD的
0:37.000–0:39.000
因為我的7900XTX是線滿
0:39.000–0:41.000
那麼另外一個是英偉達的腳本
0:41.000–0:44.000
我打開放到屏幕上對比一下
0:44.000–0:47.000
僅僅是驅動參數有所不同
0:47.000–0:50.000
那麼其他的生產腳本一個字都不用改
0:50.000–0:53.000
它既能選擇使用7900XTX來運行
0:53.000–0:55.000
也能使用4090來運行
0:55.000–0:59.000
也就是説AMD的驅動在歐版圖上做到了跟英偉達基本兼容
0:59.000–1:02.000
而且在更加複雜的ConfiUI程序中
1:02.000–1:04.000
也就是LTX2.0 2.3
1:04.000–1:06.000
這樣複雜的節點中
1:06.000–1:08.000
它也是兼容的
1:08.000–1:10.000
可以生成視頻效率還不錯
1:10.000–1:11.000
那麼一行代碼都不用改
1:11.000–1:14.000
只要你配置了這個A卡跟這個N卡的V1N位環境
1:14.000–1:15.000
設置好腳本
1:15.000–1:17.000
它就能夠流暢的拋起來
1:17.000–1:22.000
那麼我是在這個M4上運行過這個VoxCPM
1:22.000–1:23.000
這是截圖
1:23.000–1:25.000
但是由於這個速度攤滿
1:25.000–1:26.000
後來我就一直沒有怎麼用
1:26.000–1:27.000
不過留下了記錄
1:27.000–1:30.000
總體上M4的處理速度大概是2-3T每秒
1:30.000–1:34.000
那麼4060Ti在Windows下的整合包大概是4T每秒
1:34.000–1:36.000
在WSLR
1:36.000–1:40.000
7900XTX在原生的Ubuntu服務器上大概是21T每秒
1:40.000–1:41.000
也差不多20T每秒
1:41.000–1:44.000
那麼4090在這個WSLR下大概是20T每秒
1:44.000–1:48.000
7900XTX在原生的Ubuntu服務器上大概是21T每秒
1:48.000–1:49.000
也差不多20T每秒吧
1:49.000–1:53.000
那麼4090在這個原生的Ubuntu服務器上大概是40T每秒
1:53.000–1:55.000
也就是XTX的兩倍
1:55.000–1:58.000
所以這個N卡加上Ninux加上大顯存
1:58.000–1:59.000
才是AI的王道
1:59.000–2:02.000
無論跑這個通用大模型還是音視頻程序都是如此
2:02.000–2:03.000
它就是行業的標杆
2:03.000–2:06.000
那麼Windows適合用來跑整合包
2:06.000–2:08.000
但是Ubuntu往往是很差
2:08.000–2:10.000
Windows自身其實沒有那麼差
2:10.000–2:12.000
但是這個列室被整合包給放大了
2:12.000–2:13.000
因為整合包的程序
2:13.000–2:16.000
他們的作者可能往往就是考慮自己的應用場景
2:16.000–2:17.000
他不會考慮通用場景
2:17.000–2:19.000
他們做出來的包
2:19.000–2:21.000
這個通用性是有這個限制的
2:21.000–2:24.000
這個話題我會在單獨的視頻裏面再詳細的聊
2:24.000–2:26.000
我呢是沒有英塔爾的設備
2:26.000–2:27.000
其他的設備我都有
2:27.000–2:28.000
而且都是多個型號的
2:28.000–2:30.000
那麼英塔爾我只能雲一下
2:30.000–2:31.000
所以我們就從英塔爾開始
2:31.000–2:33.000
他最近利退的Arc B60
2:33.000–2:34.000
B70 B80雙星
2:34.000–2:35.000
我都不建議買
2:35.000–2:37.000
他們具體的參數個個
2:37.000–2:38.000
大家可以去問一下AI
2:38.000–2:40.000
FP32
2:40.000–2:41.000
BF16
2:41.000–2:42.000
他們的算力如何
2:42.000–2:43.000
跟這個A卡和N卡的對比
2:43.000–2:46.000
這些是當下個人跑AI最重要的指標
2:46.000–2:49.000
它明顯是不如AMD跟金偉大通檔自行卡的
2:49.000–2:51.000
而且它的生態是非常的爛
2:51.000–2:53.000
跑很多AI程序需要修改代碼才能跑起來
2:53.000–2:55.000
完全不值得浪費時間
2:55.000–2:56.000
我這樣的貼口之段
2:56.000–2:58.000
可能會讓英塔爾的粉絲十分難受
2:58.000–3:00.000
如果有英塔爾粉絲的話
3:00.000–3:02.000
但是我連進一步解釋的興趣都沒有
3:02.000–3:05.000
如果你們願意可以自己繼續研究
3:05.000–3:07.000
那麼英塔爾從PCBud
3:07.000–3:08.000
淪落到今天
3:08.000–3:09.000
它其實是有原因的
3:09.000–3:11.000
它本身並不具備研發AI顯卡的實力
3:11.000–3:14.000
僅僅是看到AMD跟金偉大賺了大錢
3:14.000–3:15.000
自己眼紅也過來湊熱鬧
3:15.000–3:16.000
自家的產品
3:16.000–3:18.000
基本的可用性都做不好
3:18.000–3:19.000
驅動更是爛到不行
3:19.000–3:20.000
而且有這個躺平的心態
3:20.000–3:22.000
先賣卡先騙錢
3:22.000–3:23.000
然後再改驅動
3:23.000–3:24.000
改不好就裝死
3:24.000–3:26.000
網絡社區裏英塔爾的受害者
3:26.000–3:27.000
可以説不乏其人
3:27.000–3:29.000
感興趣的大家可以自己多搜一下
3:29.000–3:31.000
這個蘋果我用的是M4的普通版
3:31.000–3:34.000
它的安裝體驗和我在Ninux上並無區別
3:34.000–3:37.000
它也是有這個標準的Posex終端命令
3:37.000–3:38.000
和這個Ninux是一模一樣的
3:38.000–3:41.000
因為它是基於BS的UNIX的變種
3:41.000–3:45.000
這個Ninux也是基於UNIX的這種社區開源版
3:45.000–3:48.000
也是當時是仿造的UNIX來開發的
3:48.000–3:51.000
那麼蘋果的這個開發資源可以説是非常的豐富
3:51.000–3:53.000
而且社區的更新是非常的積極
3:53.000–3:55.000
它的生態可以説吊打英塔
3:55.000–3:56.000
玩家眾多
3:56.000–3:59.000
但是蘋果的設備是為這個低供貨場景設計的
3:59.000–4:03.000
它跑這個AI受限於帶寬和算力體驗並不是特別的好
4:03.000–4:05.000
最起碼比起AMD跟英偉達來説
4:05.000–4:07.000
它們這個差距還是蠻大的
4:07.000–4:11.000
跑這個MOE大模型是它的強項極致安靜
4:11.000–4:14.000
但是如果跑這個本地的這種稠密的小模型
4:14.000–4:17.000
比如27比30比左右的這種稠密模型
4:17.000–4:19.000
比如千萬3D5 20Gb
4:19.000–4:21.000
這個GEMMA4 31比稠密
4:21.000–4:23.000
那麼它的速度就會比較慢
4:23.000–4:25.000
M5是有明顯的改善的
4:25.000–4:27.000
但是我沒有M5的設備
4:27.000–4:28.000
據社區反饋
4:28.000–4:30.000
這個prefail和土字速度都有很大的提升
4:30.000–4:31.000
尤其是這個prefail
4:31.000–4:33.000
那麼長上下文還是蘋果的劣勢
4:33.000–4:35.000
因為那需要考驗帶寬跟這個算力
4:35.000–4:37.000
考驗的是這個滿力
4:37.000–4:43.000
即便是M5max在這個A卡和這個N卡的這個高端芯片面前
4:43.000–4:45.000
還是完全沒有一戰之力
4:45.000–4:48.000
那麼顯存只是能夠解決蘋果能夠放得下模型的問題
4:48.000–4:51.000
但是放得下不代表你算得快算得好
4:51.000–4:53.000
至於説這個畫圖銀視頻
4:53.000–4:54.000
那麼蘋果的差距就更大了
4:54.000–4:57.000
跟這個A卡和N卡是完全不能相比的
4:57.000–4:59.000
即便到今天蘋果的MLX推理架構
4:59.000–5:02.000
對於這個Config UI的生態介紹也比AMD差很多
5:02.000–5:04.000
跟這個英偉達就更不能比了
5:04.000–5:05.000
完全沒有必要去碰瓷
5:05.000–5:08.000
跑銀視頻是需要BF16 FP3上
5:08.000–5:09.000
比平這個卷機算力
5:09.000–5:11.000
這一塊還得看這個英偉達跟AMD
5:11.000–5:13.000
那麼接下來我們談這個A卡
5:13.000–5:16.000
我從這個Windows的4060Ti整合包開始
5:16.000–5:19.000
向這個WSLR這個Ubuntu虛擬機開始遷移
5:19.000–5:21.000
拿到了7900X提查之後
5:21.000–5:24.000
我把這套東西又從這個虛擬機跟Windows整合包上
5:24.000–5:26.000
遷移到了原生的Ubuntu Linux服務器上
5:26.000–5:28.000
我是花了兩天的時間
5:28.000–5:30.000
還有一天是修改量產的腳本
5:30.000–5:33.000
因為我的主力工作並不是研究AI技術
5:33.000–5:34.000
AI是我的生產工具
5:34.000–5:36.000
用來做這個圖片核心視頻
5:36.000–5:37.000
而且我都是量產
5:37.000–5:39.000
一次都要批量出這個幾十個圖片
5:39.000–5:40.000
幾十個片段
5:40.000–5:43.000
所以我更加關注它的量產穩定性和這個生產效率
5:43.000–5:45.000
我可以稍微折騰一下軟件
5:45.000–5:47.000
但是我絕對沒有時間來折騰硬件
5:47.000–5:50.000
所以我對AMD的顯卡評價是
5:50.000–5:53.000
買新的或者京東自營的二手有這個保修
5:53.000–5:55.000
系統環境稍微折騰一點
5:55.000–5:56.000
但是完全對得起它的價格
5:56.000–5:57.000
那麼7900X就會了
5:57.000–5:59.000
那麼7900XTX和3090價格差不多
5:59.000–6:00.000
而且它是新卡
6:00.000–6:01.000
做工非常的好
6:01.000–6:05.000
可以買到南寶石訓景的一線大廠的這樣的這個新卡
6:05.000–6:06.000
帶三連保修
6:06.000–6:08.000
那麼3090就是二手無能卡
6:08.000–6:10.000
XTX的算力更強
6:10.000–6:11.000
但是被這個生態拖累
6:11.000–6:13.000
跑起來跟3090是差不多的
6:13.000–6:14.000
3090的生態更好
6:14.000–6:15.000
但是這個硬件有風險
6:15.000–6:16.000
它默認就是礦卡
6:16.000–6:18.000
我認為怎麼選都可以
6:18.000–6:20.000
但是你要麼選擇折騰硬件
6:20.000–6:22.000
要麼選擇折騰軟件
6:22.000–6:23.000
你不能兩個都折騰
6:23.000–6:25.000
兩個都折騰你絕對會崩潰的
6:25.000–6:28.000
那麼AMD的AI Pro R9700 32G
6:28.000–6:29.000
11000塊錢
6:29.000–6:30.000
性價比就很高
6:30.000–6:31.000
沃倫卡我朋友也買了
6:31.000–6:32.000
據説體驗很好
6:32.000–6:33.000
噪音還可以接受
6:33.000–6:35.000
我本來想去他家裏測試一下的
6:35.000–6:37.000
但是既然有了4090 48G
6:37.000–6:38.000
我最近又損失了三個頻道
6:38.000–6:40.000
可以説是身心俱疲
6:40.000–6:41.000
我就不去了
6:41.000–6:44.000
總之這個AI卡同價位算力更強
6:44.000–6:45.000
同算力價格更加便宜
6:45.000–6:47.000
同價位算力相當的話
6:47.000–6:48.000
那麼它可以買到新卡
6:48.000–6:50.000
唯一的缺點就是你要懂Linux
6:50.000–6:52.000
自己會配置腳本
6:52.000–6:53.000
你會遇到一些問題
6:53.000–6:54.000
但是這些問題
6:54.000–6:56.000
在AI的幫助下都是不難解決的
6:57.000–6:59.000
最後我們還是談一下這個N卡
6:59.000–7:00.000
那麼B演入
7:00.000–7:01.000
前提是你的錢包夠
7:01.000–7:03.000
有多少錢買什麼樣的卡
7:03.000–7:04.000
同代相比的話
7:04.000–7:05.000
它卻是算力最強
7:05.000–7:06.000
加上身代的優勢
7:06.000–7:07.000
它可以説是吊打i卡
7:07.000–7:10.000
所以説7900 XTX跟4090是同代
7:10.000–7:11.000
但是XTX只要6000出頭
7:11.000–7:12.000
4090就要2萬
7:12.000–7:14.000
48G版本要小3萬
7:14.000–7:15.000
這是有原因的
7:15.000–7:17.000
這不是隨便亂定價的
7:17.000–7:19.000
你在京東上買到的任何東西
7:19.000–7:21.000
你不要覺得自己買虧了買賺了
7:21.000–7:24.000
商家給你的價格都是經過精密計算的
7:24.000–7:27.000
都是沿用了老黃的精準刀法
7:27.000–7:28.000
你是不可能佔到任何便宜的
7:28.000–7:30.000
當然也不可能吃大虧
7:30.000–7:33.000
4060TX 5060TX 16G版本入門
7:33.000–7:35.000
3080 20G摩蓋卡可以小玩玩
7:35.000–7:37.000
3090全場景舒適
7:37.000–7:39.000
4090 5090 24G更加舒適
7:39.000–7:41.000
但相比於3090RM
7:41.000–7:42.000
只是快了一些
7:42.000–7:44.000
並不能帶來實質性的提升
7:44.000–7:46.000
很多時候還是要看大行存
7:46.000–7:48.000
所以説5090 32G是土豪選擇
7:48.000–7:50.000
算力是非常暴力
7:50.000–7:51.000
相當的誇張
7:51.000–7:53.000
但它的功耗也高
7:53.000–7:54.000
而且有燒接口的風險
7:54.000–7:55.000
它也是最貴的
7:55.000–7:57.000
沒有什麼短板
7:57.000–7:59.000
基本上在所有的場景下
7:59.000–8:00.000
體驗是非常好的
8:00.000–8:03.000
只是在於某些高行存的場景
8:03.000–8:05.000
遜色於4090的48G摩蓋
8:05.000–8:08.000
比如説有的時候跑LTX 2.0 2.3
8:08.000–8:09.000
跑同期萬象
8:09.000–8:12.000
就是萬2.1 2.2
8:12.000–8:14.000
這些開源的視頻模型
8:14.000–8:16.000
它可能説在這一塊它會差一點
8:16.000–8:18.000
如果説你的AI大模型
8:18.000–8:19.000
比如説你要跑70B的
8:19.000–8:21.000
那麼5090可能跑不起來
8:21.000–8:23.000
但是目前70B的大模型
8:23.000–8:24.000
基本都是垃圾
8:24.000–8:25.000
所以跑大模型這一塊
8:25.000–8:26.000
你就必然
8:26.000–8:27.000
買這個5090 32G就對了
8:27.000–8:28.000
它不會吃虧的
8:28.000–8:30.000
跑視頻的話就要考慮4090 48G
8:30.000–8:34.000
我從收到4090到這個插到工作站上
8:34.000–8:36.000
完成環境安裝以及腳本的批量傾移
8:36.000–8:39.000
一共是花了幾個小時的時間
8:39.000–8:41.000
那種絲滑的體驗是AMD不能相比的
8:41.000–8:43.000
但是畢竟前裏花了好幾倍
8:43.000–8:44.000
算力只是快了一倍
8:44.000–8:45.000
噪音還大
8:45.000–8:46.000
如此阿姨
8:46.000–8:48.000
怎麼選擇就看你自己
8:48.000–8:50.000
我那錄視頻都是非常隨意的
8:50.000–8:52.000
用搭江的pocket三
8:52.000–8:54.000
連接的是二代的麥克風
8:54.000–8:56.000
那麼從這個儲物箱裏翻出來的
8:56.000–9:00.000
以前是旅遊的時候買了就是隨便拍視頻的
9:00.000–9:02.000
現在就用來錄節目
9:02.000–9:04.000
我也沒去搞什麼專業的相機
9:04.000–9:05.000
以前家裏有個專業的相機老了
9:05.000–9:06.000
我就不用了
9:06.000–9:09.000
有的時候我是用老的iPhone進行復盤
9:09.000–9:12.000
有網友提醒我説我的嘴唇乾裂
9:12.000–9:13.000
黑眼圈比較重
9:13.000–9:15.000
搞技術的人其實只要熬夜大多數如此
9:15.000–9:18.000
這幾天因為我有幾個頻道損失了
9:18.000–9:19.000
因為我拿個賬號
9:19.000–9:22.000
不知怎麼被AI判定為有風險
9:22.000–9:24.000
其中就是有一個頻道出了問題
9:24.000–9:27.000
它是給了我一定的整改期限
9:27.000–9:29.000
讓我5月18號再次申請
9:29.000–9:30.000
但是我就不敢冒險了
9:30.000–9:32.000
所以説我把那個頻道
9:32.000–9:34.000
還有另外一個即將過YPP的頻道
9:34.000–9:35.000
以及一個正在盈利的頻道
9:35.000–9:37.000
我把它全部放棄了
9:37.000–9:38.000
這個損失還是比較大的
9:38.000–9:41.000
所以説我是想盡快把輪垂者這個頻道給做起來
9:41.000–9:43.000
彌補一下我的損失
9:43.000–9:44.000
因為怎麼説呢
9:44.000–9:45.000
行百里者辦90
9:45.000–9:48.000
大多數人就是差這個最後一步就能成功
9:48.000–9:51.000
但是在那個時候放棄了懈怠了
9:51.000–9:54.000
所以説我這個時候就是要努力一點
9:54.000–9:55.000
每天多更一點視頻
9:55.000–9:56.000
那麼絕不能懈怠
9:56.000–9:58.000
因為一旦這口氣泄了
9:58.000–10:01.000
那麼可能説後來我就沒有這個激情了
10:01.000–10:02.000
過年之後兩個月
10:02.000–10:04.000
我一直在為重新擁有一箇中文頻道
10:04.000–10:05.000
努力
10:05.000–10:07.000
因為我現在賺錢主要是靠這個英語頻道
10:07.000–10:08.000
我的兩個英語頻道
10:08.000–10:09.000
AI含量都太高
10:09.000–10:10.000
我要這個位於超謀
10:10.000–10:12.000
多備份一個收入來源
10:12.000–10:13.000
那麼下半年開始了
10:13.000–10:15.000
我有這個項目要解
10:15.000–10:16.000
要寫程序
10:16.000–10:18.000
這是朋友過年前的時候就已經説好的
10:18.000–10:19.000
提前做好的
10:19.000–10:20.000
這是沒有辦法推透的
10:20.000–10:21.000
這個是人情戰
10:21.000–10:24.000
那麼7月份之前過APP是最好的
10:24.000–10:25.000
7月下旬開始
10:25.000–10:27.000
我能對這個頻道的投入時間就會變少
10:27.000–10:30.000
到時候我也可以選擇砍掉一個英語頻道
10:30.000–10:34.000
但是我還是希望就是説自己能把這個中文頻道做起來
10:34.000–10:36.000
再進行這樣的操作
10:36.000–10:38.000
要不然放棄正在賺錢的頻道是挺可惜的
10:38.000–10:40.000
因為拍這個中文視頻是不怎麼累的
10:40.000–10:42.000
做這個英文視頻生產效率是比較低的
10:42.000–10:45.000
我的英語水平講實話只能説夠用
10:45.000–10:46.000
並不是特別的好
10:46.000–10:49.000
雖然這個做英語頻道的收入也挺高
10:49.000–10:52.000
但是我想還是做中文要輕鬆一點
10:52.000–10:54.000
人生不如意十之八九
10:54.000–10:55.000
比起這個低谷時期
10:55.000–10:57.000
比起生意失敗的時候
10:57.000–10:59.000
剛開始那段難以接受的時期
10:59.000–11:00.000
現在是好多了
11:00.000–11:02.000
我呢並非是刻意敢進度
11:02.000–11:03.000
就是能搶救一下的時候
11:03.000–11:04.000
我還是這個努力一把
11:04.000–11:06.000
但是總體上呢我是一個比較豁達的人
11:06.000–11:07.000
偶爾吃點苦
11:07.000–11:08.000
理所當然
11:08.000–11:09.000
與助軍共勉吧
11:09.000–11:11.000
好的本期視頻就到這裏
11:11.000–11:12.000
我們下期再見
0:00.000–0:06.000
zh本期視頻聊一下英特、蘋果、AMD、英偉達GPU的AI能力和生態
本期視頻聊一下英特、蘋果、AMD、英偉達GPU的AI能力和生態
0:06.000–0:07.000
zh純經驗之談
純經驗之談
0:07.000–0:10.000
zh我們先從一個具體的場景開始
我們先從一個具體的場景開始
0:10.000–0:13.000
zh我的烏半途服務器上安裝了VoxCPM
我的烏半途服務器上安裝了VoxCPM
0:13.000–0:15.000
zh這是一個AI TTS程序
這是一個AI TTS程序
0:15.000–0:16.000
zh就是音頻程序
就是音頻程序
0:16.000–0:18.000
zh那麼我也安裝了ConfiUI
那麼我也安裝了ConfiUI
0:18.000–0:21.000
zh下面我就以簡單的VoxCPM為例
下面我就以簡單的VoxCPM為例
0:21.000–0:24.000
zh因為我昨天運行的時候剛好想到了這個話題就截圖了
因為我昨天運行的時候剛好想到了這個話題就截圖了
0:24.000–0:26.000
zh那麼跑ConfiUI流程是一樣的
那麼跑ConfiUI流程是一樣的
0:26.000–0:30.000
zhVoxCPM也有作為ConfiUI節點的版本
VoxCPM也有作為ConfiUI節點的版本
0:30.000–0:33.000
zh我們看一下這是同一份程序
我們看一下這是同一份程序
0:33.000–0:36.000
zh那麼下面有英偉達跟AMD的腳本
那麼下面有英偉達跟AMD的腳本
0:36.000–0:37.000
zh默認是AMD的
默認是AMD的
0:37.000–0:39.000
zh因為我的7900XTX是線滿
因為我的7900XTX是線滿
0:39.000–0:41.000
zh那麼另外一個是英偉達的腳本
那麼另外一個是英偉達的腳本
0:41.000–0:44.000
zh我打開放到屏幕上對比一下
我打開放到屏幕上對比一下
0:44.000–0:47.000
zh僅僅是驅動參數有所不同
僅僅是驅動參數有所不同
0:47.000–0:50.000
zh那麼其他的生產腳本一個字都不用改
那麼其他的生產腳本一個字都不用改
0:50.000–0:53.000
zh它既能選擇使用7900XTX來運行
它既能選擇使用7900XTX來運行
0:53.000–0:55.000
zh也能使用4090來運行
也能使用4090來運行
0:55.000–0:59.000
zh也就是説AMD的驅動在歐版圖上做到了跟英偉達基本兼容
也就是説AMD的驅動在歐版圖上做到了跟英偉達基本兼容
0:59.000–1:02.000
zh而且在更加複雜的ConfiUI程序中
而且在更加複雜的ConfiUI程序中
1:02.000–1:04.000
zh也就是LTX2.0 2.3
也就是LTX2.0 2.3
1:04.000–1:06.000
zh這樣複雜的節點中
這樣複雜的節點中
1:06.000–1:08.000
zh它也是兼容的
它也是兼容的
1:08.000–1:10.000
zh可以生成視頻效率還不錯
可以生成視頻效率還不錯
1:10.000–1:11.000
zh那麼一行代碼都不用改
那麼一行代碼都不用改
1:11.000–1:14.000
zh只要你配置了這個A卡跟這個N卡的V1N位環境
只要你配置了這個A卡跟這個N卡的V1N位環境
1:14.000–1:15.000
zh設置好腳本
設置好腳本
1:15.000–1:17.000
zh它就能夠流暢的拋起來
它就能夠流暢的拋起來
1:17.000–1:22.000
zh那麼我是在這個M4上運行過這個VoxCPM
那麼我是在這個M4上運行過這個VoxCPM
1:22.000–1:23.000
zh這是截圖
這是截圖
1:23.000–1:25.000
zh但是由於這個速度攤滿
但是由於這個速度攤滿
1:25.000–1:26.000
zh後來我就一直沒有怎麼用
後來我就一直沒有怎麼用
1:26.000–1:27.000
zh不過留下了記錄
不過留下了記錄
1:27.000–1:30.000
zh總體上M4的處理速度大概是2-3T每秒
總體上M4的處理速度大概是2-3T每秒
1:30.000–1:34.000
zh那麼4060Ti在Windows下的整合包大概是4T每秒
那麼4060Ti在Windows下的整合包大概是4T每秒
1:34.000–1:36.000
zh在WSLR
在WSLR
1:36.000–1:40.000
zh7900XTX在原生的Ubuntu服務器上大概是21T每秒
7900XTX在原生的Ubuntu服務器上大概是21T每秒
1:40.000–1:41.000
zh也差不多20T每秒
也差不多20T每秒
1:41.000–1:44.000
zh那麼4090在這個WSLR下大概是20T每秒
那麼4090在這個WSLR下大概是20T每秒
1:44.000–1:48.000
zh7900XTX在原生的Ubuntu服務器上大概是21T每秒
7900XTX在原生的Ubuntu服務器上大概是21T每秒
1:48.000–1:49.000
zh也差不多20T每秒吧
也差不多20T每秒吧
1:49.000–1:53.000
zh那麼4090在這個原生的Ubuntu服務器上大概是40T每秒
那麼4090在這個原生的Ubuntu服務器上大概是40T每秒
1:53.000–1:55.000
zh也就是XTX的兩倍
也就是XTX的兩倍
1:55.000–1:58.000
zh所以這個N卡加上Ninux加上大顯存
所以這個N卡加上Ninux加上大顯存
1:58.000–1:59.000
zh才是AI的王道
才是AI的王道
1:59.000–2:02.000
zh無論跑這個通用大模型還是音視頻程序都是如此
無論跑這個通用大模型還是音視頻程序都是如此
2:02.000–2:03.000
zh它就是行業的標杆
它就是行業的標杆
2:03.000–2:06.000
zh那麼Windows適合用來跑整合包
那麼Windows適合用來跑整合包
2:06.000–2:08.000
zh但是Ubuntu往往是很差
但是Ubuntu往往是很差
2:08.000–2:10.000
zhWindows自身其實沒有那麼差
Windows自身其實沒有那麼差
2:10.000–2:12.000
zh但是這個列室被整合包給放大了
但是這個列室被整合包給放大了
2:12.000–2:13.000
zh因為整合包的程序
因為整合包的程序
2:13.000–2:16.000
zh他們的作者可能往往就是考慮自己的應用場景
他們的作者可能往往就是考慮自己的應用場景
2:16.000–2:17.000
zh他不會考慮通用場景
他不會考慮通用場景
2:17.000–2:19.000
zh他們做出來的包
他們做出來的包
2:19.000–2:21.000
zh這個通用性是有這個限制的
這個通用性是有這個限制的
2:21.000–2:24.000
zh這個話題我會在單獨的視頻裏面再詳細的聊
這個話題我會在單獨的視頻裏面再詳細的聊
2:24.000–2:26.000
zh我呢是沒有英塔爾的設備
我呢是沒有英塔爾的設備
2:26.000–2:27.000
zh其他的設備我都有
其他的設備我都有
2:27.000–2:28.000
zh而且都是多個型號的
而且都是多個型號的
2:28.000–2:30.000
zh那麼英塔爾我只能雲一下
那麼英塔爾我只能雲一下
2:30.000–2:31.000
zh所以我們就從英塔爾開始
所以我們就從英塔爾開始
2:31.000–2:33.000
zh他最近利退的Arc B60
他最近利退的Arc B60
2:33.000–2:34.000
zhB70 B80雙星
B70 B80雙星
2:34.000–2:35.000
zh我都不建議買
我都不建議買
2:35.000–2:37.000
zh他們具體的參數個個
他們具體的參數個個
2:37.000–2:38.000
zh大家可以去問一下AI
大家可以去問一下AI
2:38.000–2:40.000
enFP32
FP32
2:40.000–2:41.000
enBF16
BF16
2:41.000–2:42.000
zh他們的算力如何
他們的算力如何
2:42.000–2:43.000
zh跟這個A卡和N卡的對比
跟這個A卡和N卡的對比
2:43.000–2:46.000
zh這些是當下個人跑AI最重要的指標
這些是當下個人跑AI最重要的指標
2:46.000–2:49.000
zh它明顯是不如AMD跟金偉大通檔自行卡的
它明顯是不如AMD跟金偉大通檔自行卡的
2:49.000–2:51.000
zh而且它的生態是非常的爛
而且它的生態是非常的爛
2:51.000–2:53.000
zh跑很多AI程序需要修改代碼才能跑起來
跑很多AI程序需要修改代碼才能跑起來
2:53.000–2:55.000
zh完全不值得浪費時間
完全不值得浪費時間
2:55.000–2:56.000
zh我這樣的貼口之段
我這樣的貼口之段
2:56.000–2:58.000
zh可能會讓英塔爾的粉絲十分難受
可能會讓英塔爾的粉絲十分難受
2:58.000–3:00.000
zh如果有英塔爾粉絲的話
如果有英塔爾粉絲的話
3:00.000–3:02.000
zh但是我連進一步解釋的興趣都沒有
但是我連進一步解釋的興趣都沒有
3:02.000–3:05.000
zh如果你們願意可以自己繼續研究
如果你們願意可以自己繼續研究
3:05.000–3:07.000
zh那麼英塔爾從PCBud
那麼英塔爾從PCBud
3:07.000–3:08.000
zh淪落到今天
淪落到今天
3:08.000–3:09.000
zh它其實是有原因的
它其實是有原因的
3:09.000–3:11.000
zh它本身並不具備研發AI顯卡的實力
它本身並不具備研發AI顯卡的實力
3:11.000–3:14.000
zh僅僅是看到AMD跟金偉大賺了大錢
僅僅是看到AMD跟金偉大賺了大錢
3:14.000–3:15.000
zh自己眼紅也過來湊熱鬧
自己眼紅也過來湊熱鬧
3:15.000–3:16.000
zh自家的產品
自家的產品
3:16.000–3:18.000
zh基本的可用性都做不好
基本的可用性都做不好
3:18.000–3:19.000
zh驅動更是爛到不行
驅動更是爛到不行
3:19.000–3:20.000
zh而且有這個躺平的心態
而且有這個躺平的心態
3:20.000–3:22.000
zh先賣卡先騙錢
先賣卡先騙錢
3:22.000–3:23.000
zh然後再改驅動
然後再改驅動
3:23.000–3:24.000
zh改不好就裝死
改不好就裝死
3:24.000–3:26.000
zh網絡社區裏英塔爾的受害者
網絡社區裏英塔爾的受害者
3:26.000–3:27.000
zh可以説不乏其人
可以説不乏其人
3:27.000–3:29.000
zh感興趣的大家可以自己多搜一下
感興趣的大家可以自己多搜一下
3:29.000–3:31.000
zh這個蘋果我用的是M4的普通版
這個蘋果我用的是M4的普通版
3:31.000–3:34.000
zh它的安裝體驗和我在Ninux上並無區別
它的安裝體驗和我在Ninux上並無區別
3:34.000–3:37.000
zh它也是有這個標準的Posex終端命令
它也是有這個標準的Posex終端命令
3:37.000–3:38.000
zh和這個Ninux是一模一樣的
和這個Ninux是一模一樣的
3:38.000–3:41.000
zh因為它是基於BS的UNIX的變種
因為它是基於BS的UNIX的變種
3:41.000–3:45.000
zh這個Ninux也是基於UNIX的這種社區開源版
這個Ninux也是基於UNIX的這種社區開源版
3:45.000–3:48.000
zh也是當時是仿造的UNIX來開發的
也是當時是仿造的UNIX來開發的
3:48.000–3:51.000
zh那麼蘋果的這個開發資源可以説是非常的豐富
那麼蘋果的這個開發資源可以説是非常的豐富
3:51.000–3:53.000
zh而且社區的更新是非常的積極
而且社區的更新是非常的積極
3:53.000–3:55.000
zh它的生態可以説吊打英塔
它的生態可以説吊打英塔
3:55.000–3:56.000
zh玩家眾多
玩家眾多
3:56.000–3:59.000
zh但是蘋果的設備是為這個低供貨場景設計的
但是蘋果的設備是為這個低供貨場景設計的
3:59.000–4:03.000
zh它跑這個AI受限於帶寬和算力體驗並不是特別的好
它跑這個AI受限於帶寬和算力體驗並不是特別的好
4:03.000–4:05.000
zh最起碼比起AMD跟英偉達來説
最起碼比起AMD跟英偉達來説
4:05.000–4:07.000
zh它們這個差距還是蠻大的
它們這個差距還是蠻大的
4:07.000–4:11.000
zh跑這個MOE大模型是它的強項極致安靜
跑這個MOE大模型是它的強項極致安靜
4:11.000–4:14.000
zh但是如果跑這個本地的這種稠密的小模型
但是如果跑這個本地的這種稠密的小模型
4:14.000–4:17.000
zh比如27比30比左右的這種稠密模型
比如27比30比左右的這種稠密模型
4:17.000–4:19.000
zh比如千萬3D5 20Gb
比如千萬3D5 20Gb
4:19.000–4:21.000
zh這個GEMMA4 31比稠密
這個GEMMA4 31比稠密
4:21.000–4:23.000
zh那麼它的速度就會比較慢
那麼它的速度就會比較慢
4:23.000–4:25.000
zhM5是有明顯的改善的
M5是有明顯的改善的
4:25.000–4:27.000
zh但是我沒有M5的設備
但是我沒有M5的設備
4:27.000–4:28.000
zh據社區反饋
據社區反饋
4:28.000–4:30.000
zh這個prefail和土字速度都有很大的提升
這個prefail和土字速度都有很大的提升
4:30.000–4:31.000
zh尤其是這個prefail
尤其是這個prefail
4:31.000–4:33.000
zh那麼長上下文還是蘋果的劣勢
那麼長上下文還是蘋果的劣勢
4:33.000–4:35.000
zh因為那需要考驗帶寬跟這個算力
因為那需要考驗帶寬跟這個算力
4:35.000–4:37.000
zh考驗的是這個滿力
考驗的是這個滿力
4:37.000–4:43.000
zh即便是M5max在這個A卡和這個N卡的這個高端芯片面前
即便是M5max在這個A卡和這個N卡的這個高端芯片面前
4:43.000–4:45.000
zh還是完全沒有一戰之力
還是完全沒有一戰之力
4:45.000–4:48.000
zh那麼顯存只是能夠解決蘋果能夠放得下模型的問題
那麼顯存只是能夠解決蘋果能夠放得下模型的問題
4:48.000–4:51.000
zh但是放得下不代表你算得快算得好
但是放得下不代表你算得快算得好
4:51.000–4:53.000
zh至於説這個畫圖銀視頻
至於説這個畫圖銀視頻
4:53.000–4:54.000
zh那麼蘋果的差距就更大了
那麼蘋果的差距就更大了
4:54.000–4:57.000
zh跟這個A卡和N卡是完全不能相比的
跟這個A卡和N卡是完全不能相比的
4:57.000–4:59.000
zh即便到今天蘋果的MLX推理架構
即便到今天蘋果的MLX推理架構
4:59.000–5:02.000
zh對於這個Config UI的生態介紹也比AMD差很多
對於這個Config UI的生態介紹也比AMD差很多
5:02.000–5:04.000
zh跟這個英偉達就更不能比了
跟這個英偉達就更不能比了
5:04.000–5:05.000
zh完全沒有必要去碰瓷
完全沒有必要去碰瓷
5:05.000–5:08.000
zh跑銀視頻是需要BF16 FP3上
跑銀視頻是需要BF16 FP3上
5:08.000–5:09.000
zh比平這個卷機算力
比平這個卷機算力
5:09.000–5:11.000
zh這一塊還得看這個英偉達跟AMD
這一塊還得看這個英偉達跟AMD
5:11.000–5:13.000
zh那麼接下來我們談這個A卡
那麼接下來我們談這個A卡
5:13.000–5:16.000
zh我從這個Windows的4060Ti整合包開始
我從這個Windows的4060Ti整合包開始
5:16.000–5:19.000
zh向這個WSLR這個Ubuntu虛擬機開始遷移
向這個WSLR這個Ubuntu虛擬機開始遷移
5:19.000–5:21.000
zh拿到了7900X提查之後
拿到了7900X提查之後
5:21.000–5:24.000
zh我把這套東西又從這個虛擬機跟Windows整合包上
我把這套東西又從這個虛擬機跟Windows整合包上
5:24.000–5:26.000
zh遷移到了原生的Ubuntu Linux服務器上
遷移到了原生的Ubuntu Linux服務器上
5:26.000–5:28.000
zh我是花了兩天的時間
我是花了兩天的時間
5:28.000–5:30.000
zh還有一天是修改量產的腳本
還有一天是修改量產的腳本
5:30.000–5:33.000
zh因為我的主力工作並不是研究AI技術
因為我的主力工作並不是研究AI技術
5:33.000–5:34.000
zhAI是我的生產工具
AI是我的生產工具
5:34.000–5:36.000
zh用來做這個圖片核心視頻
用來做這個圖片核心視頻
5:36.000–5:37.000
zh而且我都是量產
而且我都是量產
5:37.000–5:39.000
zh一次都要批量出這個幾十個圖片
一次都要批量出這個幾十個圖片
5:39.000–5:40.000
zh幾十個片段
幾十個片段
5:40.000–5:43.000
zh所以我更加關注它的量產穩定性和這個生產效率
所以我更加關注它的量產穩定性和這個生產效率
5:43.000–5:45.000
zh我可以稍微折騰一下軟件
我可以稍微折騰一下軟件
5:45.000–5:47.000
zh但是我絕對沒有時間來折騰硬件
但是我絕對沒有時間來折騰硬件
5:47.000–5:50.000
zh所以我對AMD的顯卡評價是
所以我對AMD的顯卡評價是
5:50.000–5:53.000
zh買新的或者京東自營的二手有這個保修
買新的或者京東自營的二手有這個保修
5:53.000–5:55.000
zh系統環境稍微折騰一點
系統環境稍微折騰一點
5:55.000–5:56.000
zh但是完全對得起它的價格
但是完全對得起它的價格
5:56.000–5:57.000
zh那麼7900X就會了
那麼7900X就會了
5:57.000–5:59.000
zh那麼7900XTX和3090價格差不多
那麼7900XTX和3090價格差不多
5:59.000–6:00.000
zh而且它是新卡
而且它是新卡
6:00.000–6:01.000
zh做工非常的好
做工非常的好
6:01.000–6:05.000
zh可以買到南寶石訓景的一線大廠的這樣的這個新卡
可以買到南寶石訓景的一線大廠的這樣的這個新卡
6:05.000–6:06.000
zh帶三連保修
帶三連保修
6:06.000–6:08.000
zh那麼3090就是二手無能卡
那麼3090就是二手無能卡
6:08.000–6:10.000
zhXTX的算力更強
XTX的算力更強
6:10.000–6:11.000
zh但是被這個生態拖累
但是被這個生態拖累
6:11.000–6:13.000
zh跑起來跟3090是差不多的
跑起來跟3090是差不多的
6:13.000–6:14.000
zh3090的生態更好
3090的生態更好
6:14.000–6:15.000
zh但是這個硬件有風險
但是這個硬件有風險
6:15.000–6:16.000
zh它默認就是礦卡
它默認就是礦卡
6:16.000–6:18.000
zh我認為怎麼選都可以
我認為怎麼選都可以
6:18.000–6:20.000
zh但是你要麼選擇折騰硬件
但是你要麼選擇折騰硬件
6:20.000–6:22.000
zh要麼選擇折騰軟件
要麼選擇折騰軟件
6:22.000–6:23.000
zh你不能兩個都折騰
你不能兩個都折騰
6:23.000–6:25.000
zh兩個都折騰你絕對會崩潰的
兩個都折騰你絕對會崩潰的
6:25.000–6:28.000
zh那麼AMD的AI Pro R9700 32G
那麼AMD的AI Pro R9700 32G
6:28.000–6:29.000
zh11000塊錢
11000塊錢
6:29.000–6:30.000
zh性價比就很高
性價比就很高
6:30.000–6:31.000
zh沃倫卡我朋友也買了
沃倫卡我朋友也買了
6:31.000–6:32.000
zh據説體驗很好
據説體驗很好
6:32.000–6:33.000
zh噪音還可以接受
噪音還可以接受
6:33.000–6:35.000
zh我本來想去他家裏測試一下的
我本來想去他家裏測試一下的
6:35.000–6:37.000
zh但是既然有了4090 48G
但是既然有了4090 48G
6:37.000–6:38.000
zh我最近又損失了三個頻道
我最近又損失了三個頻道
6:38.000–6:40.000
zh可以説是身心俱疲
可以説是身心俱疲
6:40.000–6:41.000
zh我就不去了
我就不去了
6:41.000–6:44.000
zh總之這個AI卡同價位算力更強
總之這個AI卡同價位算力更強
6:44.000–6:45.000
zh同算力價格更加便宜
同算力價格更加便宜
6:45.000–6:47.000
zh同價位算力相當的話
同價位算力相當的話
6:47.000–6:48.000
zh那麼它可以買到新卡
那麼它可以買到新卡
6:48.000–6:50.000
zh唯一的缺點就是你要懂Linux
唯一的缺點就是你要懂Linux
6:50.000–6:52.000
zh自己會配置腳本
自己會配置腳本
6:52.000–6:53.000
zh你會遇到一些問題
你會遇到一些問題
6:53.000–6:54.000
zh但是這些問題
但是這些問題
6:54.000–6:56.000
zh在AI的幫助下都是不難解決的
在AI的幫助下都是不難解決的
6:57.000–6:59.000
zh最後我們還是談一下這個N卡
最後我們還是談一下這個N卡
6:59.000–7:00.000
zh那麼B演入
那麼B演入
7:00.000–7:01.000
zh前提是你的錢包夠
前提是你的錢包夠
7:01.000–7:03.000
zh有多少錢買什麼樣的卡
有多少錢買什麼樣的卡
7:03.000–7:04.000
zh同代相比的話
同代相比的話
7:04.000–7:05.000
zh它卻是算力最強
它卻是算力最強
7:05.000–7:06.000
zh加上身代的優勢
加上身代的優勢
7:06.000–7:07.000
zh它可以説是吊打i卡
它可以説是吊打i卡
7:07.000–7:10.000
zh所以説7900 XTX跟4090是同代
所以説7900 XTX跟4090是同代
7:10.000–7:11.000
zh但是XTX只要6000出頭
但是XTX只要6000出頭
7:11.000–7:12.000
zh4090就要2萬
4090就要2萬
7:12.000–7:14.000
zh48G版本要小3萬
48G版本要小3萬
7:14.000–7:15.000
zh這是有原因的
這是有原因的
7:15.000–7:17.000
zh這不是隨便亂定價的
這不是隨便亂定價的
7:17.000–7:19.000
zh你在京東上買到的任何東西
你在京東上買到的任何東西
7:19.000–7:21.000
zh你不要覺得自己買虧了買賺了
你不要覺得自己買虧了買賺了
7:21.000–7:24.000
zh商家給你的價格都是經過精密計算的
商家給你的價格都是經過精密計算的
7:24.000–7:27.000
zh都是沿用了老黃的精準刀法
都是沿用了老黃的精準刀法
7:27.000–7:28.000
zh你是不可能佔到任何便宜的
你是不可能佔到任何便宜的
7:28.000–7:30.000
zh當然也不可能吃大虧
當然也不可能吃大虧
7:30.000–7:33.000
zh4060TX 5060TX 16G版本入門
4060TX 5060TX 16G版本入門
7:33.000–7:35.000
zh3080 20G摩蓋卡可以小玩玩
3080 20G摩蓋卡可以小玩玩
7:35.000–7:37.000
zh3090全場景舒適
3090全場景舒適
7:37.000–7:39.000
zh4090 5090 24G更加舒適
4090 5090 24G更加舒適
7:39.000–7:41.000
zh但相比於3090RM
但相比於3090RM
7:41.000–7:42.000
zh只是快了一些
只是快了一些
7:42.000–7:44.000
zh並不能帶來實質性的提升
並不能帶來實質性的提升
7:44.000–7:46.000
zh很多時候還是要看大行存
很多時候還是要看大行存
7:46.000–7:48.000
zh所以説5090 32G是土豪選擇
所以説5090 32G是土豪選擇
7:48.000–7:50.000
zh算力是非常暴力
算力是非常暴力
7:50.000–7:51.000
zh相當的誇張
相當的誇張
7:51.000–7:53.000
zh但它的功耗也高
但它的功耗也高
7:53.000–7:54.000
zh而且有燒接口的風險
而且有燒接口的風險
7:54.000–7:55.000
zh它也是最貴的
它也是最貴的
7:55.000–7:57.000
zh沒有什麼短板
沒有什麼短板
7:57.000–7:59.000
zh基本上在所有的場景下
基本上在所有的場景下
7:59.000–8:00.000
zh體驗是非常好的
體驗是非常好的
8:00.000–8:03.000
zh只是在於某些高行存的場景
只是在於某些高行存的場景
8:03.000–8:05.000
zh遜色於4090的48G摩蓋
遜色於4090的48G摩蓋
8:05.000–8:08.000
zh比如説有的時候跑LTX 2.0 2.3
比如説有的時候跑LTX 2.0 2.3
8:08.000–8:09.000
zh跑同期萬象
跑同期萬象
8:09.000–8:12.000
zh就是萬2.1 2.2
就是萬2.1 2.2
8:12.000–8:14.000
zh這些開源的視頻模型
這些開源的視頻模型
8:14.000–8:16.000
zh它可能説在這一塊它會差一點
它可能説在這一塊它會差一點
8:16.000–8:18.000
zh如果説你的AI大模型
如果説你的AI大模型
8:18.000–8:19.000
zh比如説你要跑70B的
比如説你要跑70B的
8:19.000–8:21.000
zh那麼5090可能跑不起來
那麼5090可能跑不起來
8:21.000–8:23.000
zh但是目前70B的大模型
但是目前70B的大模型
8:23.000–8:24.000
zh基本都是垃圾
基本都是垃圾
8:24.000–8:25.000
zh所以跑大模型這一塊
所以跑大模型這一塊
8:25.000–8:26.000
zh你就必然
你就必然
8:26.000–8:27.000
zh買這個5090 32G就對了
買這個5090 32G就對了
8:27.000–8:28.000
zh它不會吃虧的
它不會吃虧的
8:28.000–8:30.000
zh跑視頻的話就要考慮4090 48G
跑視頻的話就要考慮4090 48G
8:30.000–8:34.000
zh我從收到4090到這個插到工作站上
我從收到4090到這個插到工作站上
8:34.000–8:36.000
zh完成環境安裝以及腳本的批量傾移
完成環境安裝以及腳本的批量傾移
8:36.000–8:39.000
zh一共是花了幾個小時的時間
一共是花了幾個小時的時間
8:39.000–8:41.000
zh那種絲滑的體驗是AMD不能相比的
那種絲滑的體驗是AMD不能相比的
8:41.000–8:43.000
zh但是畢竟前裏花了好幾倍
但是畢竟前裏花了好幾倍
8:43.000–8:44.000
zh算力只是快了一倍
算力只是快了一倍
8:44.000–8:45.000
zh噪音還大
噪音還大
8:45.000–8:46.000
zh如此阿姨
如此阿姨
8:46.000–8:48.000
zh怎麼選擇就看你自己
怎麼選擇就看你自己
8:48.000–8:50.000
zh我那錄視頻都是非常隨意的
我那錄視頻都是非常隨意的
8:50.000–8:52.000
zh用搭江的pocket三
用搭江的pocket三
8:52.000–8:54.000
zh連接的是二代的麥克風
連接的是二代的麥克風
8:54.000–8:56.000
zh那麼從這個儲物箱裏翻出來的
那麼從這個儲物箱裏翻出來的
8:56.000–9:00.000
zh以前是旅遊的時候買了就是隨便拍視頻的
以前是旅遊的時候買了就是隨便拍視頻的
9:00.000–9:02.000
zh現在就用來錄節目
現在就用來錄節目
9:02.000–9:04.000
zh我也沒去搞什麼專業的相機
我也沒去搞什麼專業的相機
9:04.000–9:05.000
zh以前家裏有個專業的相機老了
以前家裏有個專業的相機老了
9:05.000–9:06.000
zh我就不用了
我就不用了
9:06.000–9:09.000
zh有的時候我是用老的iPhone進行復盤
有的時候我是用老的iPhone進行復盤
9:09.000–9:12.000
zh有網友提醒我説我的嘴唇乾裂
有網友提醒我説我的嘴唇乾裂
9:12.000–9:13.000
zh黑眼圈比較重
黑眼圈比較重
9:13.000–9:15.000
zh搞技術的人其實只要熬夜大多數如此
搞技術的人其實只要熬夜大多數如此
9:15.000–9:18.000
zh這幾天因為我有幾個頻道損失了
這幾天因為我有幾個頻道損失了
9:18.000–9:19.000
zh因為我拿個賬號
因為我拿個賬號
9:19.000–9:22.000
zh不知怎麼被AI判定為有風險
不知怎麼被AI判定為有風險
9:22.000–9:24.000
zh其中就是有一個頻道出了問題
其中就是有一個頻道出了問題
9:24.000–9:27.000
zh它是給了我一定的整改期限
它是給了我一定的整改期限
9:27.000–9:29.000
zh讓我5月18號再次申請
讓我5月18號再次申請
9:29.000–9:30.000
zh但是我就不敢冒險了
但是我就不敢冒險了
9:30.000–9:32.000
zh所以説我把那個頻道
所以説我把那個頻道
9:32.000–9:34.000
zh還有另外一個即將過YPP的頻道
還有另外一個即將過YPP的頻道
9:34.000–9:35.000
zh以及一個正在盈利的頻道
以及一個正在盈利的頻道
9:35.000–9:37.000
zh我把它全部放棄了
我把它全部放棄了
9:37.000–9:38.000
zh這個損失還是比較大的
這個損失還是比較大的
9:38.000–9:41.000
zh所以説我是想盡快把輪垂者這個頻道給做起來
所以説我是想盡快把輪垂者這個頻道給做起來
9:41.000–9:43.000
zh彌補一下我的損失
彌補一下我的損失
9:43.000–9:44.000
zh因為怎麼説呢
因為怎麼説呢
9:44.000–9:45.000
zh行百里者辦90
行百里者辦90
9:45.000–9:48.000
zh大多數人就是差這個最後一步就能成功
大多數人就是差這個最後一步就能成功
9:48.000–9:51.000
zh但是在那個時候放棄了懈怠了
但是在那個時候放棄了懈怠了
9:51.000–9:54.000
zh所以説我這個時候就是要努力一點
所以説我這個時候就是要努力一點
9:54.000–9:55.000
zh每天多更一點視頻
每天多更一點視頻
9:55.000–9:56.000
zh那麼絕不能懈怠
那麼絕不能懈怠
9:56.000–9:58.000
zh因為一旦這口氣泄了
因為一旦這口氣泄了
9:58.000–10:01.000
zh那麼可能説後來我就沒有這個激情了
那麼可能説後來我就沒有這個激情了
10:01.000–10:02.000
zh過年之後兩個月
過年之後兩個月
10:02.000–10:04.000
zh我一直在為重新擁有一箇中文頻道
我一直在為重新擁有一箇中文頻道
10:04.000–10:05.000
zh努力
努力
10:05.000–10:07.000
zh因為我現在賺錢主要是靠這個英語頻道
因為我現在賺錢主要是靠這個英語頻道
10:07.000–10:08.000
zh我的兩個英語頻道
我的兩個英語頻道
10:08.000–10:09.000
zhAI含量都太高
AI含量都太高
10:09.000–10:10.000
zh我要這個位於超謀
我要這個位於超謀
10:10.000–10:12.000
zh多備份一個收入來源
多備份一個收入來源
10:12.000–10:13.000
zh那麼下半年開始了
那麼下半年開始了
10:13.000–10:15.000
zh我有這個項目要解
我有這個項目要解
10:15.000–10:16.000
zh要寫程序
要寫程序
10:16.000–10:18.000
zh這是朋友過年前的時候就已經説好的
這是朋友過年前的時候就已經説好的
10:18.000–10:19.000
zh提前做好的
提前做好的
10:19.000–10:20.000
zh這是沒有辦法推透的
這是沒有辦法推透的
10:20.000–10:21.000
zh這個是人情戰
這個是人情戰
10:21.000–10:24.000
zh那麼7月份之前過APP是最好的
那麼7月份之前過APP是最好的
10:24.000–10:25.000
zh7月下旬開始
7月下旬開始
10:25.000–10:27.000
zh我能對這個頻道的投入時間就會變少
我能對這個頻道的投入時間就會變少
10:27.000–10:30.000
zh到時候我也可以選擇砍掉一個英語頻道
到時候我也可以選擇砍掉一個英語頻道
10:30.000–10:34.000
zh但是我還是希望就是説自己能把這個中文頻道做起來
但是我還是希望就是説自己能把這個中文頻道做起來
10:34.000–10:36.000
zh再進行這樣的操作
再進行這樣的操作
10:36.000–10:38.000
zh要不然放棄正在賺錢的頻道是挺可惜的
要不然放棄正在賺錢的頻道是挺可惜的
10:38.000–10:40.000
zh因為拍這個中文視頻是不怎麼累的
因為拍這個中文視頻是不怎麼累的
10:40.000–10:42.000
zh做這個英文視頻生產效率是比較低的
做這個英文視頻生產效率是比較低的
10:42.000–10:45.000
zh我的英語水平講實話只能説夠用
我的英語水平講實話只能説夠用
10:45.000–10:46.000
zh並不是特別的好
並不是特別的好
10:46.000–10:49.000
zh雖然這個做英語頻道的收入也挺高
雖然這個做英語頻道的收入也挺高
10:49.000–10:52.000
zh但是我想還是做中文要輕鬆一點
但是我想還是做中文要輕鬆一點
10:52.000–10:54.000
zh人生不如意十之八九
人生不如意十之八九
10:54.000–10:55.000
zh比起這個低谷時期
比起這個低谷時期
10:55.000–10:57.000
zh比起生意失敗的時候
比起生意失敗的時候
10:57.000–10:59.000
zh剛開始那段難以接受的時期
剛開始那段難以接受的時期
10:59.000–11:00.000
zh現在是好多了
現在是好多了
11:00.000–11:02.000
zh我呢並非是刻意敢進度
我呢並非是刻意敢進度
11:02.000–11:03.000
zh就是能搶救一下的時候
就是能搶救一下的時候
11:03.000–11:04.000
zh我還是這個努力一把
我還是這個努力一把
11:04.000–11:06.000
zh但是總體上呢我是一個比較豁達的人
但是總體上呢我是一個比較豁達的人
11:06.000–11:07.000
zh偶爾吃點苦
偶爾吃點苦
11:07.000–11:08.000
zh理所當然
理所當然
11:08.000–11:09.000
zh與助軍共勉吧
與助軍共勉吧
11:09.000–11:11.000
zh好的本期視頻就到這裏
好的本期視頻就到這裏
11:11.000–11:12.000
zh我們下期再見
我們下期再見
影片筆記:Mac A卡 N卡 I卡 AI项目实战对比,苹果适合跑MOE,AMD追赶Nvidia,大模型和ComfyUI都挺好用,英特尔摆烂生态极差!但老黄的CUDA生态支配了一切!
一句話總結
影片通過實戰對比 NVIDIA、AMD、Apple Silicon 及 Intel 在 AI 領域的表現,結論認為 NVIDIA 搭配 Linux 與大顯存是當前 AI 運行的「王道」與行業標杆;AMD 性價比高但需具備 Linux 配置能力;Apple Silicon 適合 MOE 大模型但不適合稠密小模型及視頻生成;Intel 生態差、驅動爛、算力不足,不建議購買。
核心重點
- NVIDIA(N卡):同代算力最強,生態最好,體驗最絲滑。環境安裝與腳本批量遷移速度快。高顯存(如 4090 48G)在視頻生成場景優勢明顯。價格經過精密計算,遵循「老黃的精準刀法」,無便宜可佔。
- AMD(A卡):驅動在 Linux 下與 NVIDIA 基本兼容,腳本通用性高(僅驅動參數不同,生產腳本無需修改)。同價位算力更強,同算力價格更便宜。需具備 Linux 配置腳本能力,但問題可通過 AI 輔助解決。建議購買新卡或帶保修的二手,避免無保修礦卡風險。
- Apple Silicon(Mac):基於 UNIX 變種,終端命令與 Linux 相似,生態豐富且社區活躍。跑 MOE 大模型極致安靜;M5 相比 M4 在 Prefill 和 Token 速度上有提升。但受限於帶寬與算力,速度遠慢於 AMD 與 NVIDIA。跑稠密小模型(如 7B-30B,如 Gemma 4 31B)速度慢。長上下文處理能力弱。畫圖與視頻生成差距大,MLX 推理架構對 ConfUI 生態支持不如 AMD 與 NVIDIA。大顯存僅解決「放得下模型」問題,不代表「算得快」。
- Intel(I卡):不建議購買 Arc B60、B70、B80 系列。算力(FP32、BF16)不如 AMD 與 NVIDIA。生態極差,跑 AI 程序常需修改代碼。驅動問題多,存在「先賣卡騙錢,再改驅動,改不好裝死」的心態。缺乏研發 AI 顯卡的實力,僅為跟風。
- 個人現狀:頻道因 AI 判定風險損失三個頻道(含一個即將過 YPP 及一個盈利頻道),整改期限至 5 月 18 日。目標是盡快做起來中文頻道,彌補損失,分散收入風險(目前主要靠英語頻道,AI 含量高)。
詳細大綱
一、 測試場景與環境設定
- 測試對象:VoxCPM(AI TTS 程序)、ConfUI(界面)、LTX2.0 2.3(視頻生成模型)。
- 環境對比:
- Windows 整合包 vs. Ubuntu 原生服務器。
- AMD 驅動腳本與 NVIDIA 驅動腳本的兼容性:僅驅動參數不同,生產腳本無需修改。
- 結論:配置好 V1N 位環境後,AMD 與 NVIDIA 均可流暢運行。
二、 各品牌 GPU 表現分析
1. Intel(英特/英塔爾)
- 推薦建議:不建議購買 Arc B60、B70、B80 系列。
- 缺點:
- 算力(FP32、BF16)不如 AMD 與 NVIDIA。
- 生態極差,跑 AI 程序常需修改代碼。
- 驅動問題多,存在「先賣卡騙錢,再改驅動,改不好裝死」的心態。
- 缺乏研發 AI 顯卡的實力,僅為跟風。
2. Apple Silicon(蘋果 M4/M5)
- 系統環境:基於 UNIX 變種,終端命令與 Linux 相似,生態豐富且社區活躍。
- 性能表現:
- 優勢:跑 MOE 大模型極致安靜;M5 相比 M4 在 Prefill 和 Token 速度上有提升。
- 劣勢:
- 受限於帶寬與算力,速度遠慢於 AMD 與 NVIDIA。
- 跑稠密小模型(如 7B-30B,如 Gemma 4 31B)速度慢。
- 長上下文處理能力弱(考驗帶寬與算力)。
- 畫圖與視頻生成差距大,MLX 推理架構對 ConfUI 生態支持不如 AMD 與 NVIDIA。
- 顯存誤區:大顯存僅解決「放得下模型」問題,不代表「算得快」。
3. AMD(A卡)
- 代表型號:7900XTX、7900XTX、AI Pro R9700 32G。
- 性能數據:
- M4 運行 VoxCPM:約 2-3T/每秒(註:原文單位可能為 token/s 或類似指標,原文記錄為 T)。
- 4060Ti (Windows 整合包):約 4T/每秒。
- 7900XTX (Ubuntu 原生):約 21T/每秒。
- 4090 (Ubuntu 原生):約 40T/每秒(約為 XTX 兩倍)。
- 評價:
- 同價位算力更強,同算力價格更便宜。
- 需具備 Linux 配置腳本能力,但問題可通過 AI 輔助解決。
- 建議購買新卡或帶保修的二手,避免無保修礦卡風險。
4. NVIDIA(N卡)
- 代表型號:4060Ti、3080、3090、4090、5090。
- 性能與生態:
- 同代算力最強,生態最好,體驗最絲滑。
- 環境安裝與腳本批量遷移速度快。
- 型號建議:
- 入門/小玩:4060Ti、5060Ti 16G 版本;3080 20G 魔改卡。
- 全場景舒適:3090(生態好但硬件有風險,默認為礦卡)。
- 高端舒適:4090、5090 24G(功耗高、有燒接口風險、最貴)。
- 土豪/大模型選擇:5090 32G(算力暴力,但高顯存場景遜色於 4090 48G)。
- 視頻生成選擇:4090 48G(在跑 LTX 2.0/2.3、萬象 2.1/2.2 等開源視頻模型時,高顯存優勢明顯)。
- 定價邏輯:價格經過精密計算,遵循「老黃的精準刀法」,無便宜可佔。
三、 個人現狀與未來規劃
- 頻道損失:因 AI 判定風險,損失三個頻道(含一個即將過 YPP 及一個盈利頻道),整改期限至 5 月 18 日。
- 復盤與規劃:
- 目標:盡快做起來中文頻道,彌補損失,分散收入風險(目前主要靠英語頻道,AI 含量高)。
- 時間表:7 月前過 YPP 為佳;7 月下旬後投入時間變少,可能砍掉一個英語頻道。
- 心態:豁達,接受苦難,努力搶救。
- 硬體設備:使用 Pocket 3、二代麥克風、舊 iPhone 錄製,非專業相機。
工具 / 模型 / 名詞整理
- GPU/顯卡型號:
- NVIDIA: 4090, 4060Ti, 5060Ti, 3080, 3090, 5090 (24G/32G版本)
- AMD: 7900XTX, 7900X提(疑點), AI Pro R9700 32G
- Apple: M4 (普通版), M5, M5max
- Intel: Arc B60, B70, B80
- 軟件/框架/工具:
- VoxCPM (AI TTS 程序)
- ConfUI (界面/節點)
- LTX2.0 2.3 (視頻生成模型)
- MLX (蘋果推理架構)
- MOE 大模型
- GEMMA4 31B (稠密模型)
- 萬象 2.1, 2.2 (開源視頻模型)
- YPP (YouTube Partner Program 縮寫,疑點)
- Linux, Ubuntu, Windows, WSLR (疑點,可能指 WSL 或特定環境)
- Pocket 3 (相機)
- 術語/概念:
- FP32, BF16 (算力指標)
- Prefill, Token 速度
- 稠密模型 (Dense Model)
- 大顯存/高顯存
- 老黃的精準刀法
操作流程整理
- 環境準備:
- 對比 Windows 整合包與 Ubuntu 原生服務器環境。
- 配置 V1N 位環境(疑點),確保 AMD 與 NVIDIA 驅動腳本兼容(僅修改驅動參數,生產腳本通用)。
- 模型部署與測試:
- 部署 VoxCPM(AI TTS)、ConfUI、LTX2.0 2.3 等模型。
- 在不同 GPU(Intel, Apple, AMD, NVIDIA)上運行測試,記錄性能數據(如 T/每秒)。
- 性能評估與選擇:
- 根據算力、顯存、生態兼容性評估各品牌 GPU。
- 針對不同需求(入門、全場景、高端、視頻生成)選擇對應 NVIDIA 型號。
- 針對預算與 Linux 配置能力選擇 AMD 型號。
- 針對 MOE 大模型靜音需求選擇 Apple Silicon。
- 頻道運營與風險管理:
- 應對 AI 判定風險,處理頻道損失。
- 規劃中文頻道與英語頻道的發展時間表,分散收入風險。
值得注意的限制或風險
- Intel 顯卡:生態極差,驅動問題多,算力不足,不建議購買。
- Apple Silicon:受限於帶寬與算力,速度遠慢於 AMD 與 NVIDIA;不適合稠密小模型及視頻生成;MLX 對 ConfUI 生態支持不如 AMD 與 NVIDIA;大顯存不等於算得快。
- AMD 顯卡:需具備 Linux 配置腳本能力;建議購買新卡或帶保修的二手,避免無保修礦卡風險。
- NVIDIA 顯卡:
- 3090:生態好但硬件有風險,默認為礦卡。
- 4090/5090 24G:功耗高、有燒接口風險、最貴。
- 5090 32G:高顯存場景遜色於 4090 48G。
- 定價經過精密計算,遵循「老黃的精準刀法」,無便宜可佔。
- 頻道運營:面臨 AI 判定風險,可能導致頻道損失,需分散收入風險。
逐字稿辨識疑點
- 英特/英塔爾:逐字稿中交替出現「英特」與「英塔爾」,應指 Intel。
- 金偉大:應指 NVIDIA(英偉達),聽寫錯誤。
- 歐版圖:語境不明,疑為「歐洲版」或特定版本名稱聽誤。
- V1N 位環境:疑為「Linux 環境」或「Win/Linux 環境」的聽誤。
- T 每秒:速度單位「T」在 AI 推理中較少見,可能為「Token/s」或特定計量單位的聽誤。
- 7900X提:顯卡型號疑為「7900XT」或「7900XTX」的聽誤。
- WSLR:疑為「WSL」(Windows Subsystem for Linux) 或特定 Linux 發行版的聽誤。
- 摩蓋卡:疑為「魔改卡」的聽誤。
- 過APP:疑為「過YPP」(YouTube Partner Program) 的聽誤。
- 超謀:語境不明,疑為「超募」或特定術語聽誤。
- 人情人情戰:語境不明,疑為「人情債」或類似詞彙。
- 行百里者辦90:成語疑為「行百里者半九十」。
可延伸追問
- 為什麼 AMD 驅動腳本與 NVIDIA 驅動腳本僅參數不同,生產腳本就無需修改?具體的兼容性機制是什麼?
- Apple Silicon 的帶寬限制具體是多少?與 AMD/NVIDIA 的帶寬差距對 MOE 模型推理的影響有多大?
- Intel Arc B60/B70/B80 系列的具體算力數據(FP32/BF16)是多少?與 AMD/NVIDIA 的具體差距是多少?
- 「老黃的精準刀法」具體體現在哪些型號的顯存和算力配置上?
- 如何通過 AI 輔助解決 AMD 在 Linux 下的配置問題?有哪些具體的工具或腳本推薦?
- 頻道損失的具體原因是什麼?AI 判定風險的具體標準是什麼?
尚未產生學習筆記
請在 Telegram 指令最後加上「學習」,例如:videonote 網址 英文 雙語 學習