# 影片筆記:Mac能150tokens每秒?本地大模型干长活!一句话做出GTA风游戏,免费模型一键下载,速度翻了好几倍 ## ⚠️ 可先使用,仍有待修正項目 本筆記已完成可閱讀的逐字稿與時間跳轉;下列為待處理問題,建議播放原片確認。 - 待修正:逐字稿來源選擇未完全通過,仍先生成筆記(no_trustworthy_transcript_source;原始逐字稿保留;請進入精進模式確認來源。) - 待修正:逐字稿全文快速校讀未完成(已保留自動字幕/原始逐字稿並繼續生成筆記。;未完成的全文速讀項目可在精進模式回聽確認。) - 待修正:逐字稿品質檢核未完全通過({'stage': 'canonical_transcript_quality', 'action': 'published_with_warning', 'signals': ['transcript_selection_not_resolved']}) ## 一句話總結 影片展示了在 Mac (M5 Pro 64G) 上利用 Splash Engine 與 D Flash II 技術優化,實現本地大模型(如 27B/35B 參數量級)高達 150 tokens/秒 的生成速度,並透過單一提示詞(One-shot prompt)快速生成多種風格的遊戲 Demo(如 GTA 風格、貪吃蛇等),強調了常任務處理能力與 Token 生成速度的技術突破。 ## 核心重點 1. **單一提示詞生成多樣遊戲 Demo**: * 演示了基於「一次提示詞」生成的多種遊戲原型,包括逃生遊戲、模擬機械臂界面、交通統計軟件、時間專注艙、經典貪吃蛇、彈球遊戲等。 * 部分 Demo 展現了 GTA 風格,包含夜晚變化、行人、敵人追趕、逐步顯現的地圖等細緻畫面與世界風格。 * 演講者指出這些 Demo 雖不完美,但展現了潛在突破。 2. **兩大技術突破**: * **常任務處理能力提升**:模型在處理常規任務上的能力有所突破。 * **Token 生成速度成倍增長**:在特定設備與引擎優化下,Token 生成速度大幅提升。 3. **性能數據與技術組合**: * **測試環境**:M5 Pro 64G 設備。 * **速度數據(中位數)**: * 1027B 稠密模型:均速 27 磁元每秒。 * 35B A3B 模型:54 磁元每秒。 * 27B 和 35B 模型在高速運行下可能提升至 50 到 100 左右。 * **歷史對比**:過去測試一般最多達到 230(註:語境中提及此數字,但隨後說 27B 可能過不了 10 位數,語意略顯矛盾或需查證),27B 模型過去可能無法達到 10 位數。 * **技術組合**: * **Splash Engine**:基於蘋果芯片優化的最新引擎,對千萬 3.635B 和千萬 3.827B 模型做了特殊優化。 * **D Flash II**:成熟的加速方案,與 Splash Engine 整合。 ## 詳細大綱 ### 1. Demo 展示與風格描述 * **遊戲類型多樣**: * 逃生遊戲。 * 模仿 GTA 風格。 * 模擬機械臂界面。 * 交通統計軟件。 * 時間專注艙。 * 經典貪吃蛇。 * 彈球遊戲。 * **視覺與環境特徵**: * 有夜晚變化。 * 有行人、敵人追趕。 * 逐步顯現的地圖。 * 畫面細緻、世界風格。 * **生成方式**:所有項目均由「一次提示詞」完成。 * **現狀評估**:Demo 尚不盡完美,但展現了潛在突破。 ### 2. 技術突破概述 * **突破一**:常任務的突破。 * **突破二**:Token 速度的成倍提升。 ### 3. 性能數據與技術細節 * **測試環境**:M5 Pro 64G 設備。 * **速度數據(中位數)**: * 1027B 稠密模型:均速 27 磁元每秒。 * 35B A3B 模型:54 磁元每秒。 * 27B 和 35B 模型在高速運行下可能提升至 50 到 100 左右。 * **歷史對比**: * 過去測試一般最多達到 230(註:語境中提及此數字,但隨後說 27B 可能過不了 10 位數,語意略顯矛盾或需查證)。 * 27B 模型過去可能無法達到 10 位數。 * **技術組合**: * **Splash Engine**:基於蘋果芯片優化的最新引擎,對千萬 3.635B 和千萬 3.827B 模型做了特殊優化。 * **D Flash II**:成熟的加速方案,與 Splash Engine 整合。 ## 工具 / 模型 / 名詞整理 * **設備/硬體**: * M5 Pro 64G * **模型參數/名稱**: * 1027B 稠密模型 * 35B A3B 模型 * 27B 模型 * 千萬 3.635B * 千萬 3.827B * **軟體/引擎/技術**: * Splash Engine * D Flash II * 常任務(提及為突破點) * Token 速度(提及為突破點) * 磁元(速度單位,疑點見下) ## 操作流程整理 1. **準備環境**:使用 M5 Pro 64G 設備。 2. **整合技術**:結合 Splash Engine(基於蘋果芯片優化)與 D Flash II(加速方案)。 3. **輸入提示詞**:針對目標遊戲類型(如 GTA 風格、貪吃蛇等)輸入單一提示詞(One-shot prompt)。 4. **生成與優化**:模型在 Splash Engine 優化下運行,生成遊戲 Demo。 5. **性能監控**:監控 Token 生成速度(磁元每秒),對比不同參數量模型(如 1027B, 35B A3B, 27B)的表現。 ## 值得注意的限制或風險 * **Demo 完成度**:演講者指出 Demo 尚不盡完美,可能僅為原型或概念驗證,實際遊戲體驗可能與演示有差距。 * **數據一致性疑點**:關於速度數據的描述存在邏輯矛盾或表述不清(如「230」與「10 位數」的對比,以及「磁元」單位的定義),可能影響對實際性能的理解。 * **模型名稱準確性**:提及的模型參數(如 1027B, 35B A3B, 千萬 3.635B)與常見模型命名規範不符,可能存在識別錯誤或特定內部版本,需謹慎對待其真實性能。 * **硬體依賴性**:所有性能數據基於 M5 Pro 64G 設備,其他設備可能無法達到相同速度。 ## 逐字稿辨識疑點 * **尼火城**:逐字稿中出現「尼火城」,疑似為遊戲名稱、地名或聽寫錯誤,需查證。 * **碰刷**:逐字稿中出現「有碰刷」,疑似為「碰撞」或特定遊戲機制名稱的聽寫錯誤,需查證。 * **磁元**:逐字稿中速度單位為「磁元每秒」,疑似為「Token」或特定計量單位的聽寫錯誤,需查證。 * **1027B**:模型參數「1027B」較為特殊,需查證是否為特定模型名稱或聽寫錯誤(如 70B, 170B 等)。 * **35B A3B**:模型名稱「35B A3B」結構存疑,需查證是否為特定模型變體或聽寫錯誤。 * **千萬 3.635B / 千萬 3.827B**:「千萬」作為前綴形容模型參數(3.635B/3.827B)語意不明,疑似聽寫錯誤,需查證。 * **230 與 10 位數的對比**:逐字稿提到「一般最多也就達到 230」,隨後又說「27B 可能基本都過不了 10 位數」,兩者之間的邏輯關係或數值單位(230 是指速度還是其他指標?)需查證。 * **重複語句**:逐字稿後半段大量重複「我們先來」,疑似錄音或轉錄錯誤,實際內容可能為演示過程中的口語重複或技術故障。 ## 可延伸追問 1. 「磁元」作為速度單位,是否為「Token」的特定翻譯或誤聽?其與標準 Token 的換算關係為何? 2. 「1027B」、「35B A3B」、「千萬 3.635B」等模型名稱的具體指代對象是什麼?是否有公開的文檔或論文支持這些參數配置? 3. Splash Engine 與 D Flash II 的具體技術原理是什麼?它們如何實現對蘋果芯片的優化? 4. 演示中的 GTA 風格遊戲 Demo,其「常任務處理能力」具體體現在哪些方面?與傳統遊戲開發流程有何不同? 5. 為何 27B 模型過去可能無法達到 10 位數的速度,而現在可以?技術突破的關鍵點是什麼?