本期視頻聊一下英特、蘋果、AMD、英偉達GPU的AI能力和生態 純經驗之談 我們先從一個具體的場景開始 我的烏半途服務器上安裝了VoxCPM 這是一個AI TTS程序 就是音頻程序 那麼我也安裝了ConfiUI 下面我就以簡單的VoxCPM為例 因為我昨天運行的時候剛好想到了這個話題就截圖了 那麼跑ConfiUI流程是一樣的 VoxCPM也有作為ConfiUI節點的版本 我們看一下這是同一份程序 那麼下面有英偉達跟AMD的腳本 默認是AMD的 因為我的7900XTX是線滿 那麼另外一個是英偉達的腳本 我打開放到屏幕上對比一下 僅僅是驅動參數有所不同 那麼其他的生產腳本一個字都不用改 它既能選擇使用7900XTX來運行 也能使用4090來運行 也就是説AMD的驅動在歐版圖上做到了跟英偉達基本兼容 而且在更加複雜的ConfiUI程序中 也就是LTX2.0 2.3 這樣複雜的節點中 它也是兼容的 可以生成視頻效率還不錯 那麼一行代碼都不用改 只要你配置了這個A卡跟這個N卡的V1N位環境 設置好腳本 它就能夠流暢的拋起來 那麼我是在這個M4上運行過這個VoxCPM 這是截圖 但是由於這個速度攤滿 後來我就一直沒有怎麼用 不過留下了記錄 總體上M4的處理速度大概是2-3T每秒 那麼4060Ti在Windows下的整合包大概是4T每秒 在WSLR 7900XTX在原生的Ubuntu服務器上大概是21T每秒 也差不多20T每秒 那麼4090在這個WSLR下大概是20T每秒 7900XTX在原生的Ubuntu服務器上大概是21T每秒 也差不多20T每秒吧 那麼4090在這個原生的Ubuntu服務器上大概是40T每秒 也就是XTX的兩倍 所以這個N卡加上Ninux加上大顯存 才是AI的王道 無論跑這個通用大模型還是音視頻程序都是如此 它就是行業的標杆 那麼Windows適合用來跑整合包 但是Ubuntu往往是很差 Windows自身其實沒有那麼差 但是這個列室被整合包給放大了 因為整合包的程序 他們的作者可能往往就是考慮自己的應用場景 他不會考慮通用場景 他們做出來的包 這個通用性是有這個限制的 這個話題我會在單獨的視頻裏面再詳細的聊 我呢是沒有英塔爾的設備 其他的設備我都有 而且都是多個型號的 那麼英塔爾我只能雲一下 所以我們就從英塔爾開始 他最近利退的Arc B60 B70 B80雙星 我都不建議買 他們具體的參數個個 大家可以去問一下AI FP32 BF16 他們的算力如何 跟這個A卡和N卡的對比 這些是當下個人跑AI最重要的指標 它明顯是不如AMD跟金偉大通檔自行卡的 而且它的生態是非常的爛 跑很多AI程序需要修改代碼才能跑起來 完全不值得浪費時間 我這樣的貼口之段 可能會讓英塔爾的粉絲十分難受 如果有英塔爾粉絲的話 但是我連進一步解釋的興趣都沒有 如果你們願意可以自己繼續研究 那麼英塔爾從PCBud 淪落到今天 它其實是有原因的 它本身並不具備研發AI顯卡的實力 僅僅是看到AMD跟金偉大賺了大錢 自己眼紅也過來湊熱鬧 自家的產品 基本的可用性都做不好 驅動更是爛到不行 而且有這個躺平的心態 先賣卡先騙錢 然後再改驅動 改不好就裝死 網絡社區裏英塔爾的受害者 可以説不乏其人 感興趣的大家可以自己多搜一下 這個蘋果我用的是M4的普通版 它的安裝體驗和我在Ninux上並無區別 它也是有這個標準的Posex終端命令 和這個Ninux是一模一樣的 因為它是基於BS的UNIX的變種 這個Ninux也是基於UNIX的這種社區開源版 也是當時是仿造的UNIX來開發的 那麼蘋果的這個開發資源可以説是非常的豐富 而且社區的更新是非常的積極 它的生態可以説吊打英塔 玩家眾多 但是蘋果的設備是為這個低供貨場景設計的 它跑這個AI受限於帶寬和算力體驗並不是特別的好 最起碼比起AMD跟英偉達來説 它們這個差距還是蠻大的 跑這個MOE大模型是它的強項極致安靜 但是如果跑這個本地的這種稠密的小模型 比如27比30比左右的這種稠密模型 比如千萬3D5 20Gb 這個GEMMA4 31比稠密 那麼它的速度就會比較慢 M5是有明顯的改善的 但是我沒有M5的設備 據社區反饋 這個prefail和土字速度都有很大的提升 尤其是這個prefail 那麼長上下文還是蘋果的劣勢 因為那需要考驗帶寬跟這個算力 考驗的是這個滿力 即便是M5max在這個A卡和這個N卡的這個高端芯片面前 還是完全沒有一戰之力 那麼顯存只是能夠解決蘋果能夠放得下模型的問題 但是放得下不代表你算得快算得好 至於説這個畫圖銀視頻 那麼蘋果的差距就更大了 跟這個A卡和N卡是完全不能相比的 即便到今天蘋果的MLX推理架構 對於這個Config UI的生態介紹也比AMD差很多 跟這個英偉達就更不能比了 完全沒有必要去碰瓷 跑銀視頻是需要BF16 FP3上 比平這個卷機算力 這一塊還得看這個英偉達跟AMD 那麼接下來我們談這個A卡 我從這個Windows的4060Ti整合包開始 向這個WSLR這個Ubuntu虛擬機開始遷移 拿到了7900X提查之後 我把這套東西又從這個虛擬機跟Windows整合包上 遷移到了原生的Ubuntu Linux服務器上 我是花了兩天的時間 還有一天是修改量產的腳本 因為我的主力工作並不是研究AI技術 AI是我的生產工具 用來做這個圖片核心視頻 而且我都是量產 一次都要批量出這個幾十個圖片 幾十個片段 所以我更加關注它的量產穩定性和這個生產效率 我可以稍微折騰一下軟件 但是我絕對沒有時間來折騰硬件 所以我對AMD的顯卡評價是 買新的或者京東自營的二手有這個保修 系統環境稍微折騰一點 但是完全對得起它的價格 那麼7900X就會了 那麼7900XTX和3090價格差不多 而且它是新卡 做工非常的好 可以買到南寶石訓景的一線大廠的這樣的這個新卡 帶三連保修 那麼3090就是二手無能卡 XTX的算力更強 但是被這個生態拖累 跑起來跟3090是差不多的 3090的生態更好 但是這個硬件有風險 它默認就是礦卡 我認為怎麼選都可以 但是你要麼選擇折騰硬件 要麼選擇折騰軟件 你不能兩個都折騰 兩個都折騰你絕對會崩潰的 那麼AMD的AI Pro R9700 32G 11000塊錢 性價比就很高 沃倫卡我朋友也買了 據説體驗很好 噪音還可以接受 我本來想去他家裏測試一下的 但是既然有了4090 48G 我最近又損失了三個頻道 可以説是身心俱疲 我就不去了 總之這個AI卡同價位算力更強 同算力價格更加便宜 同價位算力相當的話 那麼它可以買到新卡 唯一的缺點就是你要懂Linux 自己會配置腳本 你會遇到一些問題 但是這些問題 在AI的幫助下都是不難解決的 最後我們還是談一下這個N卡 那麼B演入 前提是你的錢包夠 有多少錢買什麼樣的卡 同代相比的話 它卻是算力最強 加上身代的優勢 它可以説是吊打i卡 所以説7900 XTX跟4090是同代 但是XTX只要6000出頭 4090就要2萬 48G版本要小3萬 這是有原因的 這不是隨便亂定價的 你在京東上買到的任何東西 你不要覺得自己買虧了買賺了 商家給你的價格都是經過精密計算的 都是沿用了老黃的精準刀法 你是不可能佔到任何便宜的 當然也不可能吃大虧 4060TX 5060TX 16G版本入門 3080 20G摩蓋卡可以小玩玩 3090全場景舒適 4090 5090 24G更加舒適 但相比於3090RM 只是快了一些 並不能帶來實質性的提升 很多時候還是要看大行存 所以説5090 32G是土豪選擇 算力是非常暴力 相當的誇張 但它的功耗也高 而且有燒接口的風險 它也是最貴的 沒有什麼短板 基本上在所有的場景下 體驗是非常好的 只是在於某些高行存的場景 遜色於4090的48G摩蓋 比如説有的時候跑LTX 2.0 2.3 跑同期萬象 就是萬2.1 2.2 這些開源的視頻模型 它可能説在這一塊它會差一點 如果説你的AI大模型 比如説你要跑70B的 那麼5090可能跑不起來 但是目前70B的大模型 基本都是垃圾 所以跑大模型這一塊 你就必然 買這個5090 32G就對了 它不會吃虧的 跑視頻的話就要考慮4090 48G 我從收到4090到這個插到工作站上 完成環境安裝以及腳本的批量傾移 一共是花了幾個小時的時間 那種絲滑的體驗是AMD不能相比的 但是畢竟前裏花了好幾倍 算力只是快了一倍 噪音還大 如此阿姨 怎麼選擇就看你自己 我那錄視頻都是非常隨意的 用搭江的pocket三 連接的是二代的麥克風 那麼從這個儲物箱裏翻出來的 以前是旅遊的時候買了就是隨便拍視頻的 現在就用來錄節目 我也沒去搞什麼專業的相機 以前家裏有個專業的相機老了 我就不用了 有的時候我是用老的iPhone進行復盤 有網友提醒我説我的嘴唇乾裂 黑眼圈比較重 搞技術的人其實只要熬夜大多數如此 這幾天因為我有幾個頻道損失了 因為我拿個賬號 不知怎麼被AI判定為有風險 其中就是有一個頻道出了問題 它是給了我一定的整改期限 讓我5月18號再次申請 但是我就不敢冒險了 所以説我把那個頻道 還有另外一個即將過YPP的頻道 以及一個正在盈利的頻道 我把它全部放棄了 這個損失還是比較大的 所以説我是想盡快把輪垂者這個頻道給做起來 彌補一下我的損失 因為怎麼説呢 行百里者辦90 大多數人就是差這個最後一步就能成功 但是在那個時候放棄了懈怠了 所以説我這個時候就是要努力一點 每天多更一點視頻 那麼絕不能懈怠 因為一旦這口氣泄了 那麼可能説後來我就沒有這個激情了 過年之後兩個月 我一直在為重新擁有一箇中文頻道 努力 因為我現在賺錢主要是靠這個英語頻道 我的兩個英語頻道 AI含量都太高 我要這個位於超謀 多備份一個收入來源 那麼下半年開始了 我有這個項目要解 要寫程序 這是朋友過年前的時候就已經説好的 提前做好的 這是沒有辦法推透的 這個是人情戰 那麼7月份之前過APP是最好的 7月下旬開始 我能對這個頻道的投入時間就會變少 到時候我也可以選擇砍掉一個英語頻道 但是我還是希望就是説自己能把這個中文頻道做起來 再進行這樣的操作 要不然放棄正在賺錢的頻道是挺可惜的 因為拍這個中文視頻是不怎麼累的 做這個英文視頻生產效率是比較低的 我的英語水平講實話只能説夠用 並不是特別的好 雖然這個做英語頻道的收入也挺高 但是我想還是做中文要輕鬆一點 人生不如意十之八九 比起這個低谷時期 比起生意失敗的時候 剛開始那段難以接受的時期 現在是好多了 我呢並非是刻意敢進度 就是能搶救一下的時候 我還是這個努力一把 但是總體上呢我是一個比較豁達的人 偶爾吃點苦 理所當然 與助軍共勉吧 好的本期視頻就到這裏 我們下期再見