影片筆記：48GB 夠嗎？我用 M5 Pro 跑了 5 個本地 AI 模型

<!-- VIDEONOTE_PUBLICATION_WARNINGS_BEGIN -->

⚠️ 全文快速校讀發現待確認修正

本筆記已完成可閱讀的逐字稿與時間跳轉；下列為待處理問題，建議播放原片確認。

• 待修正：⚠️ 全文快速校讀：已套用暫定修正，請確認（segment=11 已先套用暫定修正：在开始扎根它的性能之前 → 在开始测试它的性能之前；segment=17 已先套用暫定修正：颜值我真的觉得甩了好几条鸡 → 颜值我真的觉得甩了好几条街）
• 待修正：逐字稿可先使用，但有待校正清單（segment=98 rapid_semantic_review: 上下文無其他線索，且非知名模型；segment=99 rapid_semantic_review: 上下文無其他線索，且非知名模型）

<!-- VIDEONOTE_PUBLICATION_WARNINGS_END -->

一句話總結

講者透過購買 M5 Pro 筆記本進行 48GB 記憶體壓力測試與五個本地大模型的橫向跑分，證實 48GB 記憶體足以應付高負載日常使用與運行中等規模模型，並呼籲開發者推出更輕量化的模型版本。

核心重點

1. 硬體效能驗證：M5 Pro 筆記本配備 48GB 記憶體，在同時運行編程、剪輯、瀏覽等多個高負載軟體時，峰值記憶體消耗約為 44-45GB，系統操作依然流暢無卡頓。
2. 模型跑分結果：使用「阿努比斯」軟體對五個本地模型進行測試，Gemma 4 26B 在推理、編碼、創造力、知識掌握及執行力五個維度均表現最佳，位居第一；GPT-OSS 20B 與 Qwen 3.6 35B 分別為第二、第三名。
3. 本地運行限制：由於 DeepSeek V4、Kimi 2.6 及 Mini Max 2.7 等最新模型體積過大（數百 GB 至 1TB），無法在本地下載運行，因此僅測試了體積較小的 DeepSeek R1 32B。
4. 市場呼籲：講者建議模型廠商應開發如 Gemma 4 般體積較小的量化版本，以降低個人用戶的使用門檻。

詳細大綱

1. 前言與硬體介紹

• 購買動機：訂閱 AI 服務費用高昂，因此決定購買 M5 Pro 筆記本以支援本地 AI 運行。
• 外觀評價：黑色外觀、鍵盤設計漂亮，講者認為其顏值超越 M1 Pro。

2. 測試項目一：多壓力任務測試（日常場景模擬）

• 測試目的：觀察同時運行多個軟體時，48GB 記憶體的剩餘空間與穩定性。
• 運行軟體清單：編程軟體、剪輯軟體、音樂軟體、修圖軟體、瀏覽器。
• 測試結果：
• 常態消耗：記憶體消耗通常不到 40GB。
• 峰值消耗：運行編程軟體時，記憶體飆升至 44GB - 45GB。
• 使用體驗：即便記憶體高佔用，軟體操作仍不卡頓，體驗良好。

3. 測試項目二：模型橫向對比測試

• 測試工具：阿努比斯（Anubis，用於大模型跑評比的軟體）。
• 測試模型清單：

1. Gemma 4 26B
2. GPT-OSS 20B
3. Qwen 3.6 35B
4. A3B MX FB8
5. DeepSeek R1 32B
6. JRM 4.7 Flash Q8（量化版本）

• 評估維度：推理能力、編碼能力、創造力、知識掌握能力、執行力。
• 測試結果排名：
• 第一名：Gemma 4（在推理、編碼、創造力、知識、執行力五項均領先）。
• 第二名：GPT-OSS 20B。
• 第三名：Qwen 3.6。
• 備註說明：
• 測試 DeepSeek R1 時風扇狂轉。
• 未測試模型：DeepSeek V4、Kimi 2.6、Mini Max 2.7。
• 未測試原因：上述模型體積過大（幾百G到1T），無法下載至本地運行。
• 測試範圍：僅基於可下載且可承受的參數大小進行。

4. 結論與展望

• 廠商呼籲：希望模型廠商能推出如 Gemma 4 般體積較小的量化版本，對個人用戶更友好。
• 結語：AI 已普及，鼓勵大家利用 AI 做感興趣的事。

工具 / 模型 / 名詞整理

• 硬體產品：
• M5 Pro 筆記本
• M1 Pro 筆記本
• 軟體/工具：
• 活動監視器
• 阿努比斯（Anubis，大模型對比跑分軟體）
• AI 模型：
• Gemma 4 26B
• GPT-OSS 20B
• Qwen 3.6 35B
• A3B MX FB8
• DeepSeek R1 32B
• JRM 4.7 Flash Q8
• DeepSeek V4（提及未測試）
• Kimi 2.6（提及未測試）
• Mini Max 2.7（提及未測試）

操作流程整理

1. 購買硬體：購買 M5 Pro 筆記本以替代高昂的 AI 訂閱費用。
2. 日常壓力測試：

• 同時開啟編程、剪輯、音樂、修圖、瀏覽器等軟體。
• 透過活動監視器觀察記憶體消耗，確認峰值約 44-45GB 且系統不卡頓。

1. 模型跑分測試：

• 安裝並開啟「阿努比斯」軟體。
• 載入五個本地模型（Gemma 4, GPT-OSS, Qwen, A3B, DeepSeek R1 等）。
• 執行包含推理、編碼、創造力、知識、執行力的綜合評分。
• 記錄並比較各模型的分數排名。

1. 結果分析：

• 確認 Gemma 4 為最佳表現者。
• 分析未測試模型（V4, Kimi, Mini Max）因體積過大無法本地運行的原因。

1. 結論輸出：提出對模型廠商開發輕量化版本的建議。

值得注意的限制或風險

• 模型體積限制：最新版本的模型（如 DeepSeek V4, Kimi 2.6）體積達數百 GB 至 1TB，超出個人筆記本儲存與運行能力，導致無法進行本地測試。
• 硬體負載：運行大型模型（如 DeepSeek R1 32B）時會導致風扇狂轉，顯示高負載下的散熱與功耗問題。
• 記憶體極限：雖然 48GB 記憶體表現良好，但在運行編程軟體時已逼近 45GB 峰值，顯示記憶體配置已接近極限，若同時運行更多高負載應用可能面臨瓶頸。

逐字稿辨識疑點

• 警告：根據可讀性檢核，以下片段在上下文無其他線索且非知名模型，可能存在辨識錯誤，請謹慎參考：
• segment 98: rapid_semantic_review
• segment 99: rapid_semantic_review
• segment 101: rapid_semantic_review

• 模型名稱疑點：
• A3B MX FB8：逐字稿中出現此名稱，結構特殊，疑似為聽寫錯誤或特定變體，需查證。
• JRM 4.7 Flash：逐字稿中出現此模型名稱，不常見，疑似為聽寫錯誤（例如可能為 Llama 或其他模型），需查證。
• GPT-OSS 20B：逐字稿中多次出現，此名稱組合較不常見，需查證是否為特定模型或聽寫錯誤。
• Qwen 3.6：逐字稿中出現此版本號，需查證是否有此版本。
• Gemma 4：逐字稿中多次提及，需查證是否有此版本號（通常為 Gemma 2 等）。
• M5 Pro：逐字稿中提及「M5 Pro 的筆記本」，需查證 Apple 筆記本是否有此型號命名。

可延伸追問

1. 講者提到的「阿努比斯」軟體具體功能為何？是否有開源或免費版本可供個人用戶使用？
2. 針對未測試的 DeepSeek V4、Kimi 2.6 等模型，是否有透過雲端 API 或伺服器運行來繞過本地硬體限制的替代方案？
3. 講者建議的「輕量化版本」具體技術標準為何？例如 GGUF 格式或其他量化技術對精確度的影響評估？
4. M5 Pro 筆記本在運行這些模型時的具體溫度與噪音數據為何？是否有長期運行的穩定性數據？