# 影片筆記：48GB 夠嗎？我用 M5 Pro 跑了 5 個本地 AI 模型


<!-- VIDEONOTE_PUBLICATION_WARNINGS_BEGIN -->
## ⚠️ 全文快速校讀發現待確認修正

本筆記已完成可閱讀的逐字稿與時間跳轉；下列為待處理問題，建議播放原片確認。

- 待修正：⚠️ 全文快速校讀：已套用暫定修正，請確認（segment=11 已先套用暫定修正：在开始扎根它的性能之前 → 在开始测试它的性能之前；segment=17 已先套用暫定修正：颜值我真的觉得甩了好几条鸡 → 颜值我真的觉得甩了好几条街）
- 待修正：逐字稿可先使用，但有待校正清單（segment=98 rapid_semantic_review: 上下文無其他線索，且非知名模型；segment=99 rapid_semantic_review: 上下文無其他線索，且非知名模型）

<!-- VIDEONOTE_PUBLICATION_WARNINGS_END -->

## 一句話總結
講者透過購買 M5 Pro 筆記本進行 48GB 記憶體壓力測試與五個本地大模型的橫向跑分，證實 48GB 記憶體足以應付高負載日常使用與運行中等規模模型，並呼籲開發者推出更輕量化的模型版本。

## 核心重點
1.  **硬體效能驗證**：M5 Pro 筆記本配備 48GB 記憶體，在同時運行編程、剪輯、瀏覽等多個高負載軟體時，峰值記憶體消耗約為 44-45GB，系統操作依然流暢無卡頓。
2.  **模型跑分結果**：使用「阿努比斯」軟體對五個本地模型進行測試，Gemma 4 26B 在推理、編碼、創造力、知識掌握及執行力五個維度均表現最佳，位居第一；GPT-OSS 20B 與 Qwen 3.6 35B 分別為第二、第三名。
3.  **本地運行限制**：由於 DeepSeek V4、Kimi 2.6 及 Mini Max 2.7 等最新模型體積過大（數百 GB 至 1TB），無法在本地下載運行，因此僅測試了體積較小的 DeepSeek R1 32B。
4.  **市場呼籲**：講者建議模型廠商應開發如 Gemma 4 般體積較小的量化版本，以降低個人用戶的使用門檻。

## 詳細大綱

### 1. 前言與硬體介紹
*   **購買動機**：訂閱 AI 服務費用高昂，因此決定購買 M5 Pro 筆記本以支援本地 AI 運行。
*   **外觀評價**：黑色外觀、鍵盤設計漂亮，講者認為其顏值超越 M1 Pro。

### 2. 測試項目一：多壓力任務測試（日常場景模擬）
*   **測試目的**：觀察同時運行多個軟體時，48GB 記憶體的剩餘空間與穩定性。
*   **運行軟體清單**：編程軟體、剪輯軟體、音樂軟體、修圖軟體、瀏覽器。
*   **測試結果**：
    *   **常態消耗**：記憶體消耗通常不到 40GB。
    *   **峰值消耗**：運行編程軟體時，記憶體飆升至 44GB - 45GB。
    *   **使用體驗**：即便記憶體高佔用，軟體操作仍不卡頓，體驗良好。

### 3. 測試項目二：模型橫向對比測試
*   **測試工具**：阿努比斯（Anubis，用於大模型跑評比的軟體）。
*   **測試模型清單**：
    1.  Gemma 4 26B
    2.  GPT-OSS 20B
    3.  Qwen 3.6 35B
    4.  A3B MX FB8
    5.  DeepSeek R1 32B
    6.  JRM 4.7 Flash Q8（量化版本）
*   **評估維度**：推理能力、編碼能力、創造力、知識掌握能力、執行力。
*   **測試結果排名**：
    *   **第一名**：Gemma 4（在推理、編碼、創造力、知識、執行力五項均領先）。
    *   **第二名**：GPT-OSS 20B。
    *   **第三名**：Qwen 3.6。
*   **備註說明**：
    *   測試 DeepSeek R1 時風扇狂轉。
    *   **未測試模型**：DeepSeek V4、Kimi 2.6、Mini Max 2.7。
    *   **未測試原因**：上述模型體積過大（幾百G到1T），無法下載至本地運行。
    *   **測試範圍**：僅基於可下載且可承受的參數大小進行。

### 4. 結論與展望
*   **廠商呼籲**：希望模型廠商能推出如 Gemma 4 般體積較小的量化版本，對個人用戶更友好。
*   **結語**：AI 已普及，鼓勵大家利用 AI 做感興趣的事。

## 工具 / 模型 / 名詞整理
*   **硬體產品**：
    *   M5 Pro 筆記本
    *   M1 Pro 筆記本
*   **軟體/工具**：
    *   活動監視器
    *   阿努比斯（Anubis，大模型對比跑分軟體）
*   **AI 模型**：
    *   Gemma 4 26B
    *   GPT-OSS 20B
    *   Qwen 3.6 35B
    *   A3B MX FB8
    *   DeepSeek R1 32B
    *   JRM 4.7 Flash Q8
    *   DeepSeek V4（提及未測試）
    *   Kimi 2.6（提及未測試）
    *   Mini Max 2.7（提及未測試）

## 操作流程整理
1.  **購買硬體**：購買 M5 Pro 筆記本以替代高昂的 AI 訂閱費用。
2.  **日常壓力測試**：
    *   同時開啟編程、剪輯、音樂、修圖、瀏覽器等軟體。
    *   透過活動監視器觀察記憶體消耗，確認峰值約 44-45GB 且系統不卡頓。
3.  **模型跑分測試**：
    *   安裝並開啟「阿努比斯」軟體。
    *   載入五個本地模型（Gemma 4, GPT-OSS, Qwen, A3B, DeepSeek R1 等）。
    *   執行包含推理、編碼、創造力、知識、執行力的綜合評分。
    *   記錄並比較各模型的分數排名。
4.  **結果分析**：
    *   確認 Gemma 4 為最佳表現者。
    *   分析未測試模型（V4, Kimi, Mini Max）因體積過大無法本地運行的原因。
5.  **結論輸出**：提出對模型廠商開發輕量化版本的建議。

## 值得注意的限制或風險
*   **模型體積限制**：最新版本的模型（如 DeepSeek V4, Kimi 2.6）體積達數百 GB 至 1TB，超出個人筆記本儲存與運行能力，導致無法進行本地測試。
*   **硬體負載**：運行大型模型（如 DeepSeek R1 32B）時會導致風扇狂轉，顯示高負載下的散熱與功耗問題。
*   **記憶體極限**：雖然 48GB 記憶體表現良好，但在運行編程軟體時已逼近 45GB 峰值，顯示記憶體配置已接近極限，若同時運行更多高負載應用可能面臨瓶頸。

## 逐字稿辨識疑點
*   **警告**：根據可讀性檢核，以下片段在上下文無其他線索且非知名模型，可能存在辨識錯誤，請謹慎參考：
    *   `segment 98: rapid_semantic_review`
    *   `segment 99: rapid_semantic_review`
    *   `segment 101: rapid_semantic_review`

*   **模型名稱疑點**：
    *   **A3B MX FB8**：逐字稿中出現此名稱，結構特殊，疑似為聽寫錯誤或特定變體，需查證。
    *   **JRM 4.7 Flash**：逐字稿中出現此模型名稱，不常見，疑似為聽寫錯誤（例如可能為 Llama 或其他模型），需查證。
    *   **GPT-OSS 20B**：逐字稿中多次出現，此名稱組合較不常見，需查證是否為特定模型或聽寫錯誤。
    *   **Qwen 3.6**：逐字稿中出現此版本號，需查證是否有此版本。
    *   **Gemma 4**：逐字稿中多次提及，需查證是否有此版本號（通常為 Gemma 2 等）。
    *   **M5 Pro**：逐字稿中提及「M5 Pro 的筆記本」，需查證 Apple 筆記本是否有此型號命名。

## 可延伸追問
1.  講者提到的「阿努比斯」軟體具體功能為何？是否有開源或免費版本可供個人用戶使用？
2.  針對未測試的 DeepSeek V4、Kimi 2.6 等模型，是否有透過雲端 API 或伺服器運行來繞過本地硬體限制的替代方案？
3.  講者建議的「輕量化版本」具體技術標準為何？例如 GGUF 格式或其他量化技術對精確度的影響評估？
4.  M5 Pro 筆記本在運行這些模型時的具體溫度與噪音數據為何？是否有長期運行的穩定性數據？