影片筆記：Mac能150tokens每秒？本地大模型干长活！一句话做出GTA风游戏，免费模型一键下载，速度翻了好几倍

<!-- VIDEONOTE_PUBLICATION_WARNINGS_BEGIN -->

⚠️ 可先使用，仍有待修正項目

本筆記已完成可閱讀的逐字稿與時間跳轉；下列為待處理問題，建議播放原片確認。

• 待修正：逐字稿來源選擇未完全通過，仍先生成筆記（no_trustworthy_transcript_source；原始逐字稿保留；請進入精進模式確認來源。）
• 待修正：逐字稿全文快速校讀未完成（已保留自動字幕/原始逐字稿並繼續生成筆記。；未完成的全文速讀項目可在精進模式回聽確認。）
• 待修正：逐字稿品質檢核未完全通過（{'stage': 'canonical_transcript_quality', 'action': 'published_with_warning', 'signals': ['transcript_selection_not_resolved']}）

<!-- VIDEONOTE_PUBLICATION_WARNINGS_END -->

一句話總結

影片展示了在 Mac (M5 Pro 64G) 上利用 Splash Engine 與 D Flash II 技術優化，實現本地大模型（如 27B/35B 參數量級）高達 150 tokens/秒 的生成速度，並透過單一提示詞（One-shot prompt）快速生成多種風格的遊戲 Demo（如 GTA 風格、貪吃蛇等），強調了常任務處理能力與 Token 生成速度的技術突破。

核心重點

1. 單一提示詞生成多樣遊戲 Demo：

• 演示了基於「一次提示詞」生成的多種遊戲原型，包括逃生遊戲、模擬機械臂界面、交通統計軟件、時間專注艙、經典貪吃蛇、彈球遊戲等。
• 部分 Demo 展現了 GTA 風格，包含夜晚變化、行人、敵人追趕、逐步顯現的地圖等細緻畫面與世界風格。
• 演講者指出這些 Demo 雖不完美，但展現了潛在突破。

1. 兩大技術突破：

• 常任務處理能力提升：模型在處理常規任務上的能力有所突破。
• Token 生成速度成倍增長：在特定設備與引擎優化下，Token 生成速度大幅提升。

1. 性能數據與技術組合：

• 測試環境：M5 Pro 64G 設備。
• 速度數據（中位數）：
• 1027B 稠密模型：均速 27 磁元每秒。
• 35B A3B 模型：54 磁元每秒。
• 27B 和 35B 模型在高速運行下可能提升至 50 到 100 左右。
• 歷史對比：過去測試一般最多達到 230（註：語境中提及此數字，但隨後說 27B 可能過不了 10 位數，語意略顯矛盾或需查證），27B 模型過去可能無法達到 10 位數。
• 技術組合：
• Splash Engine：基於蘋果芯片優化的最新引擎，對千萬 3.635B 和千萬 3.827B 模型做了特殊優化。
• D Flash II：成熟的加速方案，與 Splash Engine 整合。

詳細大綱

1. Demo 展示與風格描述

• 遊戲類型多樣：
• 逃生遊戲。
• 模仿 GTA 風格。
• 模擬機械臂界面。
• 交通統計軟件。
• 時間專注艙。
• 經典貪吃蛇。
• 彈球遊戲。
• 視覺與環境特徵：
• 有夜晚變化。
• 有行人、敵人追趕。
• 逐步顯現的地圖。
• 畫面細緻、世界風格。
• 生成方式：所有項目均由「一次提示詞」完成。
• 現狀評估：Demo 尚不盡完美，但展現了潛在突破。

2. 技術突破概述

• 突破一：常任務的突破。
• 突破二：Token 速度的成倍提升。

3. 性能數據與技術細節

• 測試環境：M5 Pro 64G 設備。
• 速度數據（中位數）：
• 1027B 稠密模型：均速 27 磁元每秒。
• 35B A3B 模型：54 磁元每秒。
• 27B 和 35B 模型在高速運行下可能提升至 50 到 100 左右。
• 歷史對比：
• 過去測試一般最多達到 230（註：語境中提及此數字，但隨後說 27B 可能過不了 10 位數，語意略顯矛盾或需查證）。
• 27B 模型過去可能無法達到 10 位數。
• 技術組合：
• Splash Engine：基於蘋果芯片優化的最新引擎，對千萬 3.635B 和千萬 3.827B 模型做了特殊優化。
• D Flash II：成熟的加速方案，與 Splash Engine 整合。

工具 / 模型 / 名詞整理

• 設備/硬體：
• M5 Pro 64G
• 模型參數/名稱：
• 1027B 稠密模型
• 35B A3B 模型
• 27B 模型
• 千萬 3.635B
• 千萬 3.827B
• 軟體/引擎/技術：
• Splash Engine
• D Flash II
• 常任務（提及為突破點）
• Token 速度（提及為突破點）
• 磁元（速度單位，疑點見下）

操作流程整理

1. 準備環境：使用 M5 Pro 64G 設備。
2. 整合技術：結合 Splash Engine（基於蘋果芯片優化）與 D Flash II（加速方案）。
3. 輸入提示詞：針對目標遊戲類型（如 GTA 風格、貪吃蛇等）輸入單一提示詞（One-shot prompt）。
4. 生成與優化：模型在 Splash Engine 優化下運行，生成遊戲 Demo。
5. 性能監控：監控 Token 生成速度（磁元每秒），對比不同參數量模型（如 1027B, 35B A3B, 27B）的表現。

值得注意的限制或風險

• Demo 完成度：演講者指出 Demo 尚不盡完美，可能僅為原型或概念驗證，實際遊戲體驗可能與演示有差距。
• 數據一致性疑點：關於速度數據的描述存在邏輯矛盾或表述不清（如「230」與「10 位數」的對比，以及「磁元」單位的定義），可能影響對實際性能的理解。
• 模型名稱準確性：提及的模型參數（如 1027B, 35B A3B, 千萬 3.635B）與常見模型命名規範不符，可能存在識別錯誤或特定內部版本，需謹慎對待其真實性能。
• 硬體依賴性：所有性能數據基於 M5 Pro 64G 設備，其他設備可能無法達到相同速度。

逐字稿辨識疑點

• 尼火城：逐字稿中出現「尼火城」，疑似為遊戲名稱、地名或聽寫錯誤，需查證。
• 碰刷：逐字稿中出現「有碰刷」，疑似為「碰撞」或特定遊戲機制名稱的聽寫錯誤，需查證。
• 磁元：逐字稿中速度單位為「磁元每秒」，疑似為「Token」或特定計量單位的聽寫錯誤，需查證。
• 1027B：模型參數「1027B」較為特殊，需查證是否為特定模型名稱或聽寫錯誤（如 70B, 170B 等）。
• 35B A3B：模型名稱「35B A3B」結構存疑，需查證是否為特定模型變體或聽寫錯誤。
• 千萬 3.635B / 千萬 3.827B：「千萬」作為前綴形容模型參數（3.635B/3.827B）語意不明，疑似聽寫錯誤，需查證。
• 230 與 10 位數的對比：逐字稿提到「一般最多也就達到 230」，隨後又說「27B 可能基本都過不了 10 位數」，兩者之間的邏輯關係或數值單位（230 是指速度還是其他指標？）需查證。
• 重複語句：逐字稿後半段大量重複「我們先來」，疑似錄音或轉錄錯誤，實際內容可能為演示過程中的口語重複或技術故障。

可延伸追問

1. 「磁元」作為速度單位，是否為「Token」的特定翻譯或誤聽？其與標準 Token 的換算關係為何？
2. 「1027B」、「35B A3B」、「千萬 3.635B」等模型名稱的具體指代對象是什麼？是否有公開的文檔或論文支持這些參數配置？
3. Splash Engine 與 D Flash II 的具體技術原理是什麼？它們如何實現對蘋果芯片的優化？
4. 演示中的 GTA 風格遊戲 Demo，其「常任務處理能力」具體體現在哪些方面？與傳統遊戲開發流程有何不同？
5. 為何 27B 模型過去可能無法達到 10 位數的速度，而現在可以？技術突破的關鍵點是什麼？