# 影片筆記:【免费】M5 Pro 64GB本地AI全能实测!一台电脑全部搞定 ## ⚠️ 可先使用,仍有待修正項目 本筆記已完成可閱讀的逐字稿與時間跳轉;下列為待處理問題,建議播放原片確認。 - 待修正:逐字稿全文快速校讀未完成(已保留自動字幕/原始逐字稿並繼續生成筆記。;未完成的全文速讀項目可在精進模式回聽確認。) - 待修正:部分時間軸可能不精確(unit 119: 6 chars owns 11.040s (max 8.000s)) - 待修正:逐字稿可先使用,但有待校正清單(segment=7 unnatural_sentence_boundary: 標點出現在句首或停在逗號位置,斷句可能不符合文法/口語;segment=8 unnatural_sentence_boundary: 標點出現在句首或停在逗號位置,斷句可能不符合文法/口語) ## 一句話總結 影片針對 MacBook Pro M5 Pro (64GB) 進行五維度本地 AI 能力實測,涵蓋 LLM 文字處理、TTS 語音合成、圖片生成、視頻生成及視覺理解,結論認為該硬體在小參數模型部署上具備速度與噪音控制優勢,但在複雜場景理解與一致性上仍有邊界。 ## 核心重點 * **硬體優勢**:MacBook Pro M5 Pro 在本地 AI 部署中,噪音控制表現「驚艷」,適合家庭小空間使用;內存帶寬與速度優勢明顯。 * **LLM 文字處理**:GAM4 系列與 Queen 3.6 系列模型推理速度可用,但本地模型在邊界內容生成上較易出錯,且存在生成誤判內容的風險。 * **TTS 語音合成**:支援 MLX/METAL 加速的架構速度快但無聲音克隆功能;使用原版模型進行聲音克隆效果極佳(聽不出區別),但速度較慢。 * **圖片生成**:Fluzy1 模型生成風景與人像效果尚可,但真人克隆成功率約六成,存在手部多指等幻覺問題,且人脸一致性基本不可用。 * **視頻生成**:對比蒸餾模式與兩階段模式,後者速度極慢但細節較好;模型傾向於在風景中加入人物,且在身份保持與動作理解上存在缺陷。 * **視覺理解**:Vision 7B 模型在代碼、圖表識別上表現準確,但在複雜場景識別上仍有誤判。 ## 詳細大綱 ### I. 測試背景與硬體環境 * **測試對象**:MacBook Pro M5 Pro。 * **測試目的**:釐清 MacBook 在本地 AI 部署的優勢與能力邊界。 * **硬體優勢分析**: * 價格、推理速度、減存使用。 * 內存(疑點:原文為「內昏」)、帶寬、記憶體(疑點:原文為「美麗」)。 * 噪音控制:MacBook Pro 噪音控制被評價為「確實驚艷」,適合家庭小空間使用。 * **參考資源**:作者官網及公眾號有詳細數據文章。 ### II. 維度一:LLM 文字處理能力 * **使用模型**: * GAM4 系列(含 E4B 模型)。 * Queen 3.6 系列(含 35B MOE 模型,疑點:原文為「千萬三」)。 * **性能觀察**: * 推理速度可用,特別是 GAM4 的 E4B 模型與 35B MOE 模型。 * E4B 雖為稀疏結構(疑點:原文為「重蜜結構」),但每次激活參數約 4B,故速度仍快。 * GAMMA 模型(疑點:原文為「GAM4」或「GAMMA」)的圖形夜能力(疑點:語意不明,可能指圖形渲染或特定能力)比 Queen 3.6 高。 * **邊界測試(BrokerJag)**: * 測試生成易造成誤判或踩在邊界上的內容。 * 本地生成比在線模型更容易生成此類內容。 * 使用 Cloud 生成測試題目,進行全自動測試。 * **任務表現**: * 能完成預定效果:分數計算、函數數學題、寫代碼、修復 Bug、真假話推理、解釋話語、執行能力判斷。 * 詳細答案將整理至模型測試頁面。 ### III. 維度二:TTS 語音合成能力 * **架構對比**: 1. **原生支持 MLX/METAL 加速架構**: * 速度較快。 * 無聲音克隆功能,僅支援文字描述聲音(Voice Design)。 * 使用原版「千萬三」Base 模型(疑點:指代不明)。 2. **原生格式(不支持 METAL 加速)**: * 速度稍慢。 * 支援聲音克隆。 * **速度發現**: * 直接使用 Voice Design(描述生成音頻)的速度反而比聲音克隆慢,原因可能是處理架構差異。 * **技術細節與 Bug**: * 截取參考參數需匹配,若內容過多或兩者不匹配,會生成亂碼或真人錄音。 * **克隆效果測試**: * 測試音頻內容:「裝算赤,副算黑」(疑點:語意不明,可能為音譯或特定測試詞)。 * 結果:克隆聲音「簡直是一家論真」(疑點:應為「一傢俱真」或「極度逼真」之聽誤),聽不出區別。 * 結論:TTS 語音合成功能相當強大。 ### IV. 維度三:圖片生成能力 * **使用模型**:Fluzy1 的 DVE 模型(疑點:可能指 Flux 或其他模型)。 * **生成方式**: 1. 直接生成圖片。 2. 使用 Laura(疑點:應為 LoRA)進行訓練/生成。 * **速度分析**: * 風景圖片生成最慢(需冷啟動、注入參數)。 * 穩定後,1024x1024 分辨率圖片生成時間約 71 分到 11 分(疑點:時間單位或數值可能有誤,或指不同場景)。 * 使用 Laura 進行真人圖片克隆,速度與上述相近。 * **生成結果評估**: * **風景**:細節不錯,賽博朋克風格、專業商務人像、抽象液態金屬、產品設計光影效果良好。 * **人像克隆**: * 訓練數據:60 多張照片,多角度、場景、服裝。 * 觸發詞:使用生僻詞觸發人像。 * 參數:Scale 等 1.0。 * 效果:能捕捉細節(如送眉習慣),但存在幻覺問題(手出現多個、胸口提示詞伸透出來)。 * 成功率:約六成可用,四成需刪除。 * 結論:成功率可用,但需抽卡,人脸一致性基本不可用。 ### V. 維度四:視頻生成能力 * **模型**:LTX 模型(疑點:可能指 Luma 或其他)。 * **模式對比**: 1. **蒸餾模式**:速度快。 2. **2C 兩階段模式**:速度慢,速度相差約 45 倍。 * **測試案例與結果**: * **城市街道**: * 蒸餾版:生成室內景(車庫、白色人物),與提示偏離。 * 兩階段版:街道提升,有人群與建築物,但時間理解有誤(夜間警官?)。 * **科技實驗室**: * 蒸餾版:聲唱令利母女人(疑點:語意不明,可能指人物要素缺失),手、鍵盤、燈光等要素未體現。 * 兩階段版:生成類似科技人員,像保安或快遞,有手臂與屏幕,接近描述,但核心動作與感覺缺失。 * **模型傾向**:fts 模型(疑點:指代 LTX 或特定模型)傾向於在純風景或建築物中加入人物。 * **解決方案**:使用無聲視頻方式給圖片讓其發揮,效果較好。 * **圖片說話測試**: * 測試對象:隨機圖庫中的狗(誤將人識別為狗)。 * 結果:狗勉強動嘴,若為真人則幾秒後變形。 * 兩階段版本動作更活躍,臉部雀斑與表情較像真人,效果不錯。 * **綜合評價**: * 速度相對慢。 * T14 理解(疑點:指 Time 或特定理解能力)稍顯差。 * 身份保持不行。 * 建議:使用視頻中的步驟或原型展示,直接生成效果差。 ### VI. 維度五:世界理解(視覺理解) * **使用模型**:Vision 7B 一般模型(帶 V)。 * **測試內容**: 1. 代碼識別。 2. 圖表識別。 3. 界面識別(模擬計算機編程界面)。 4. 圖片識別(哈布狗,疑點:哈士奇)。 * **識別結果**: * **誤判案例**:本應識別人,卻輸出只有一隻哈布狗;雙圖對比時,將天鵝與安風景誤判為與咖啡館有關。 * **準確案例**: * 描述場景、主體、大樓、毛树人物(疑點:可能指具體人物特徵)。 * 識別出只有一隻哈布狗。 * 分析圖表:給出具體年月日、最高值、平均值等統計數字。 * 代碼理解:理解貝波那奇數列(疑點:斐波那契數列)、數東西、數彩的花椒(疑點:語意不明)。 * 分析相同點與不同點:包括哈維胡(疑點:語意不明)。 * **結論**: * 實時對話非常可用,流暢且準確。 * 視覺理解很棒,能準確識別數字與圖柄(疑點:圖表)。 * 外界問題不大。 ### VII. 綜合評價與結論 * **硬體優勢**:MacBook Pro M5 64G 配置下,小而快的模型較有價值。 * **能力總結**: * 聲音克隆:完美。 * 圖像生成:速度稍慢,克隆震靈(疑點:指克隆效果)提升,但視覺模型差距大,只能生成基本內容,人脸一致性不可用。 * 視頻生成:速度與理解力有待提升。 * **未來展望**:相信隨著蘋果架構與相關配置環境的完善,本地 AI 能力會迅速提升。 ## 工具 / 模型 / 名詞整理 * **硬體**:MacBook Pro M5 Pro, M5 64G 配置。 * **模型/技術名稱**: * LLM 相關:GAM4, E4B, Queen 3.6, 35B MOE, GAMMA, 千萬三(疑點:可能指 Qwen 或其他模型), Base 模型。 * 語音相關:MLX, METAL, Voice Design, TTS。 * 圖像相關:Fluzy1, DVE, Laura(疑點:LoRA), Scale 1.0。 * 視頻相關:LTX 模型, 蒸餾模式, 2C 兩階段模式, fts 模型(疑點:指代不明)。 * 視覺相關:Vision 7B。 * **其他術語**:LLM, LLM 的文字處理, TTS 語音合成, 聲音克隆, 邊界測試 (BrokerJag), 冷啟動, 觸發詞, 幻覺, 實時對話。 ## 操作流程整理 1. **LLM 測試流程**: * 選擇 GAM4 或 Queen 3.6 模型。 * 進行邊界測試(BrokerJag),使用 Cloud 生成測試題目。 * 執行分數計算、函數數學題、寫代碼、修復 Bug、真假話推理等任務。 2. **TTS 測試流程**: * 對比 MLX/METAL 加速架構與原生格式。 * 測試 Voice Design(文字描述聲音)與聲音克隆的速度與效果。 * 檢查參數匹配,避免生成亂碼。 3. **圖片生成流程**: * 使用 Fluzy1 模型直接生成或使用 Laura 訓練。 * 進行風景與人像克隆測試(60+ 張照片訓練)。 * 設定觸發詞與 Scale 參數,評估生成結果的成功率與幻覺問題。 4. **視頻生成流程**: * 對比蒸餾模式與 2C 兩階段模式的速度與細節。 * 測試城市街道、科技實驗室等場景。 * 進行圖片說話測試,觀察動作活躍度與臉部細節。 5. **視覺理解流程**: * 使用 Vision 7B 模型進行代碼、圖表、界面及圖片識別。 * 評估誤判案例與準確案例,確認實時對話的流暢度與準確性。 ## 值得注意的限制或風險 * **LLM 邊界風險**:本地模型在生成邊界內容時較易出錯,可能生成誤判內容。 * **TTS 速度與功能取捨**:快速架構無聲音克隆功能;高品質克隆速度慢。 * **圖片生成一致性**:真人克隆成功率僅約六成,人脸一致性基本不可用,存在手部多指等幻覺。 * **視頻生成效率與理解**:高質量模式速度極慢(相差 45 倍),且存在身份保持與動作理解缺陷,模型傾向於在風景中加入人物。 * **視覺理解誤判**:在複雜場景識別上仍有誤判,如將人誤認為動物或誤判場景關聯。 ## 逐字稿辨識疑點 * **segment 7: unnatural_sentence_boundary** — 標點出現在句首或停在逗號位置,斷句可能不符合文法/口語 * **segment 8: unnatural_sentence_boundary** — 標點出現在句首或停在逗號位置,斷句可能不符合文法/口語 * **segment 10: unnatural_sentence_boundary** — 標點出現在句首或停在逗號位置,斷句可能不符合文法/口語 * **segment 11: unnatural_sentence_boundary** — 標點出現在句首或停在逗號位置,斷句可能不符合文法/口語 * **內昏**:原文提及「包括內昏」,疑為「內存」之聽誤。 * **美麗**:原文提及「帶寬、美麗進行了分析」,疑為「記憶體」或「顯存」之聽誤。 * **噪音/分貝**:原文「這個噪音其實挺重要的...這個分貝的噪音其實挺繁人的」,語意稍顯重複或口誤。 * **GAM4 / GAMMA**:原文交替使用「GAM4」與「GAMMA」,疑為同一模型名稱之聽寫不一致。 * **千萬三 / Queen 3.6**:原文提及「兩個 Queen 3.6... 尤其是... 千萬三的 35B MOE 模型」,「千萬三」疑為特定模型名稱之聽誤(可能指 Qwen 系列)。 * **重蜜結構**:原文「也就是重蜜結構的模型」,疑為「稀疏結構」或「混合專家結構」之聽誤。 * **圖形的夜能力**:原文「GAMMA 模型它的圖形的夜能力」,語意不明,疑為聽誤。 * **BrokerJag**:原文「所謂的月域能力,也就是 BrokerJag 的能力」,疑為特定測試名稱或聽誤。 * **裝算赤,副算黑**:原文測試音頻內容,疑為音譯詞或特定測試語句。 * **一家論真**:原文「這個克隆的聲音簡直是一家論真」,疑為「一傢俱真」或「極度逼真」之聽誤。 * **Fluzy1**:原文「Fluzy1 的 DVE 的模型」,疑為特定模型名稱之聽誤。 * **Laura**:原文「使用 Laura」,在 AI 繪圖語境下通常指「LoRA」,但依規則保留原文。 * **71 分到 11 分**:原文「每一幅的圖片大概是用到的 71 分到 11 分」,時間單位或數值邏輯存疑。 * **送眉**:原文「是我本人可能有這個送眉的習慣」,疑為「濃眉」或特定詞彙之聽誤。 * **伸透出來**:原文「胸口... 就伸透出來了」,疑為「顯現出來」或「穿透出來」之聽誤。 * **抽抽卡**:原文「可能稍微抽抽卡」,疑為「抽卡」之口誤。 * **蒸油版**:原文「城市街道這個是蒸油版生成的」,疑為「蒸餾版」之聽誤。 * **夜間警官**:原文「但是這是夜間警官」,疑為「夜間場景」或特定詞彙之聽誤。 * **聲唱令利母女人**:原文「這個聲唱令利母女人剩下完全的要素」,語意不明,疑為聽誤。 * **fts 模型**:原文「fts 模型對於生成純風景...」,疑為特定模型縮寫或聽誤。 * **哈布狗 / 哈維胡**:原文多次出現「