# 影片筆記：宣稱媲美Opus 4.8還全部MIT開源，Ornith-1.5敢這樣喊？｜AI 散步日記每日 AI 新聞彙整 0821


<!-- VIDEONOTE_PUBLICATION_WARNINGS_BEGIN -->
## ⚠️ 全文快速校讀發現待確認修正

本筆記已完成可閱讀的逐字稿與時間跳轉；下列為待處理問題，建議播放原片確認。

- 待修正：⚠️ 全文快速校讀：已套用暫定修正，請確認（segment=30 已先套用暫定修正：還能把 tokens 丟回 tokenizer 轉回 MID → 還能把 tokens 丟回 tokenizer 轉回 MIDI 驗證。；segment=42 已先套用暫定修正：也可以 tokenizer.push_to_hub 丟到 H → 也可以 tokenizer.push_to_hub 丟到 Hugging Face 分享。）
- 待修正：逐字稿可先使用，但有待校正清單（segment=7 unnatural_sentence_boundary: 標點出現在句首或停在逗號位置，斷句可能不符合文法/口語；segment=11 unnatural_sentence_boundary: 標點出現在句首或停在逗號位置，斷句可能不符合文法/口語）

<!-- VIDEONOTE_PUBLICATION_WARNINGS_END -->

## 一句話總結
本期影片涵蓋四則 AI 新聞：手機端離線音樂創作模型 RollTab 的技術實作與社群爭議、開源模型 Ornith-1.5 宣稱媲美 Opus 4.8 的自我改進機制與部署細節、Loop Method 迴圈法提示詞技巧，以及職場 AI 使用倫理「別貼 AI」的原則；最後補充保險公司排除 AI 責任的風險與個人保單健檢建議。

## 核心重點

1.  **手機端 AI 音樂創作 (RollTab)**：
    *   獨立開發者 simedw 開發僅需 1.25 億參數的 Transformer 模型，可在 iPhone 離線運行，速度達每秒 108 個音符。
    *   技術核心為 MIDI 格式輸入，透過 `miditok` 與 `symusic` 進行分詞與偏好訓練 (DPO)。
    *   社群反應兩極：正面肯定其創意與端上手機的潛力，負面質疑其為馬可夫模型變體或剝奪創作樂趣。

2.  **開源模型 Ornith-1.5 與自我改進爭議**：
    *   Ornith 家族提供 90 億至 3970 億參數版本，宣稱推理、Agentic 與寫程式能力媲美 Claude Opus 4.8，且為 MIT 授權。
    *   爭議點在於「端到端自我改進」機制：模型自行提出任務、產生鷹架、使用強化學習 (RL) 解答並學習。社群質疑這僅是訓練流程，非推理時的自我迭代，且可能僅針對 Benchmark 優化基底模型 (如 Qwen 或 Gemma)。
    *   提供多種部署方式，包括 Ollama、llama.cpp、Transformers、vLLM 與 SGLang。

3.  **Loop Method 迴圈法提示詞技巧**：
    *   由 The Rundown 網站提出，旨在解決重複性工作流程（寫作、剪輯、產圖）品質不穩的問題。
    *   透過組建「子代理小組」進行三輪對抗式審查（品質、流程、領域專家）。
    *   核心規則：只改最小必要部分、保留舊版、三輪後停止、先訂完成定義 (Definition of Done)。

4.  **職場 AI 使用倫理「別貼 AI」**：
    *   源自 Hacker News 熱門網站「Don't Paste the AI」，主張直接複製 AI 答案給他人是沒禮貌且缺乏價值的行為。
    *   提倡將 AI 產出作為草稿，僅擷取核心一句並補充個人三句話意見，或明確標註出處，以維持人際信任。

5.  **AI 保險與合約健檢**：
    *   Gartner 指出許多企業保單包含「AI 排除條款」，導致 AI 風險未被覆蓋。
    *   新產品「AI 保險」涵蓋幻覺損失、演算法歧視、侵權求償、效能未達標及代理人失誤等項目。
    *   建議個人遮擋個資後，利用 AI 檢查保單缺口與重複投保情況。

## 詳細大綱

### 第一則：手機上的 AI 音樂自動補全 (RollTab)
*   **技術核心**：
    *   模型規模：1.25 億參數，Transformer 架構。
    *   運行環境：完全離線，於 iPhone 上運行，速度達每秒 108 個音符。
    *   開發者：獨立開發者 simedw，歷經 14 次實驗。
*   **實作細節**：
    *   輸入格式：MIDI 檔（記錄音高、時間、力度），非錄音檔。
    *   工具套件：`miditok`、`symusic`。
    *   處理流程：
        *   使用 `REMI` 與 `TokenizerConfig` 進行分詞。
        *   設定 `num_velocities=16`（力度分 16 格）。
        *   開啟 `use_chords` 與 `use_programs`。
        *   自訂詞彙表訓練：`tokenizer.train(vocab_size=30000)`。
        *   分享機制：`tokenizer.push_to_hub` 至 Hugging Face。
    *   偏好訓練 (DPO)：
        *   使用 `trl` 套件中的 `DPOTrainer`。
        *   基底模型指定為 `Qwen 二點五 的零點五 B 指令版`。
        *   訓練數據集：`trl-lib` 的 `ultrafeedback binarized`。
        *   記憶體優化：縮小批次大小、使用梯度累積。
*   **社群反應**：
    *   正面：Hacker News 用戶稱讚其潛力與創意；pil0u 感到驚艷；noman-land 認為是首個有潛力產出優美旋律的作品。
    *   負面：bubblegumcrisis 認為助長不學樂器；ghm2199 認為剝奪即興樂趣；rajivayyangar 質疑效果僅如馬可夫模型。
*   **結論**：價值在於將「一人、十四次實驗、端上手機」的路徑公開，象徵 AI 不再依賴雲端。

### 第二則：Ornith-1.5 開源模型與自我改進爭議
*   **模型介紹**：
    *   家族規模：90 億參數（密集）、350 億參數（MoE）、3970 億參數（MoE）。
    *   授權：MIT 授權，商業用途不受限。
    *   宣稱表現：推理、Agentic（自主執行任務）、寫程式能力媲美 Claude Opus 4.8。
    *   支援格式與框架：FP8、GGUF、MLX、NVFP4 量化；支援 vLLM、Ollama。
*   **自我改進機制 (End-to-End Self-Improvement)**：
    *   流程：模型自行提出任務 -> 產生任務鷹架 (Task Scaffolding) -> 使用強化學習 (RL) 跑出解答 -> 從解答中學習。
    *   強化學習原理：透過獎勵訊號評分，做對給糖、做錯沒糖，反覆練習。
    *   爭議：simonw 指出這只是訓練流程，非推理時的自我迭代；社群質疑是否僅針對 Benchmark 優化基底模型 (如 Qwen 或 Gemma)。
*   **部署方式**：
    *   懶惰法：終端機執行 `ollama run` 指定 90 億參數版本。
    *   服務架設：
        *   `llama.cpp`：執行 `llama-server`，指定 GGUF 版本，連接埠 8080。
        *   `Transformers` (Python)：使用 `AutoProcessor` 與 `AutoModelForMultimodalLM`，`device_map` 設 auto。
        *   `vLLM`：執行 `vllm serve`，設定 `max-model-len=262144`、`gpu-memory-utilization=0.90` 等參數。
        *   `SGLang`：執行 `launch_server`，設定 `context-length` 與 `mem-fraction-static`。
    *   API 呼叫：使用 OpenAI SDK 指向本機位址，`api_key` 填 `EMPTY`。
*   **結論**：MIT 授權與本機可運行性比 Benchmark 數字更重要；開源降低價格天花板，閉源提供可靠度。

### 第三則：Loop Method 迴圈法提示詞技巧
*   **來源**：The Rundown 網站，2026 年 8 月 19 日發布。
*   **核心概念**：專治重複性工作流程（寫作、剪輯、產圖）品質不穩的問題。
*   **具體做法**：
    *   組建 `sub-agent panel`（子代理小組）。
    *   進行三輪「對抗式審查」(Adversarial Review)。
    *   三個審查角色：
        1.  成果或品質審查員 (`outcome` 或 `quality` reviewer)。
        2.  流程與提示詞審查員 (`workflow` 和 `prompt` reviewer)。
        3.  有相關領域知識的 reviewer。
    *   循環規則：
        *   檢視現狀 -> 找出最大失敗點 -> 只改動最小必要部分 (Prompt/腳本/檢查表/流程)。
        *   保留舊版本 (`preserve earlier versions`)。
        *   三輪後停止 (`stop after loop three`)。
    *   前置準備：
        *   簡報格式：包含流程、測試輸入、目前結果、問題、需保留檔案。
        *   目標模板：寫明目標 (`Goal`) 與三條完成定義 (`definition of done`)。
        *   確認步驟：AI 需先與使用者確認目標與檢查項 (`confirm the goal and checks with me`)。
    *   模糊處理：若結果暴露模糊之處，需更新流程並精確要求。
    *   穩定度測試：用更新後的流程測試第二個輸入，保留審查過的指令與完成定義，另存結果。
*   **結論**：價值在於將「只改最小部分」、「保留舊版」、「三輪停止」、「先訂完成定義」寫死為可照抄的指令；人的價值在於制定「完成定義」與判斷「哪些人工判斷該變成規則」。

### 第四則：職場 AI 使用倫理「別貼 AI」
*   **來源**：網站「Don't Paste the AI」，在 Hacker News 獲得 717 讚與 355 則留言。
*   **核心論點**：
    *   對方詢問的是「你的想法」，而非任何人都能問到的制式回答。
    *   直接複製貼上 AI 原文是將理解負擔轉嫁給別人，侵蝕人際信任。
*   **建議做法**：
    *   **加工原則**：讓 AI 生草稿 -> 讀者自行閱讀 -> 僅擷取回答問題的核心一句 -> 補充意見控制在三句話以內。
    *   **引用範本**：若 AI 內容有價值，應標明出處，如「我詢問了 Claude，這段很有道理」。
    *   **無意見回應**：若無特別意見，直接回覆英文 `No strong opinion here`。
    *   **實戰招數**：
        *   對同事：分享標準版連結 `dontpastetheai.com`。
        *   對熟人：分享嗆版連結 `dontpastetheai.com/angry/`。
*   **社群觀點**：
    *   正面：認為貼 AI 原文是沒禮貌、缺乏專業與見解。
    *   反面：質疑一味反 AI 是愚蠢的，問題在於是否附加價值；有人認為對用過 AI 的人失去尊重是反應過度。
*   **結論**：重點是反「零加工轉貼」，而非反 AI 工具本身；職場稀缺的是讀完後的「三句自己的話」。

### 第五則：AI 保險與合約健檢
*   **背景**：Gartner 分析師指出許多企業現有保單包含「AI 排除條款」，導致 AI 風險未被覆蓋。
*   **新產品「AI 保險」保障項目**：
    1.  AI 幻覺造成的財務損失。
    2.  演算法歧視（招募或放貸偏袒）。
    3.  使用受著作權保護資料訓練或生成的侵權求償。
    4.  模型效能未達標的退費保固。
    5.  AI 代理人 (Autonomous Agents) 操作失誤造成的實體財產損失。
*   **市場動態**：
    *   大型保險公司 (AIG, Great American, WR Berkley) 尋求監管許可以排除 AI 責任。
    *   少數案例：ElevenLabs 購買首創的 AI 代理人責任保單。
    *   Gartner 預測：2030 年嚴格的 AI 風險控管將成為承保必要條件。
*   **個人行動建議 (AI 健檢保單)**：
    1.  遮掉姓名、身分證、保單號碼後上傳給 AI。
    2.  請 AI 整理成表格（險種、保障內容、保額、繳費年期、保費），並用白話解釋。
    3.  請 AI 分析醫療實支實付、失能、意外、壽險的缺口或重複投保。
    4.  請 AI 擬定問題清單（如實支實付額度、副本理賠、癌症險類型），以便詢問業務員。

## 工具 / 模型 / 名詞整理

*   **模型名稱**：
    *   `Qwen 二點五 的零點五 B 指令版` (Qwen 2.5 0.5B Instruct)
    *   `Ornith-1.5` (包含 90 億、350 億、3970 億參數版本)
    *   `Ornith-1.0` (3970 億參數版本)
    *   `Claude Opus 4.8` (宣稱被比擬的模型)
    *   `Qwen` (基底模型提及)
    *   `Gemma` (基底模型提及)
    *   `DeepReinforce AI` (Ornith 1.0 的帳號或相關提及)

*   **軟體與框架**：
    *   `RollTab` (免費 App，鋼琴自動補全)
    *   `miditok` (MIDI 轉 Token 套件)
    *   `symusic` (MIDI 處理套件)
    *   `REMI` (MIDI 編碼格式)
    *   `TokenizerConfig` (Tokenizer 配置類)
    *   `Score` (MIDI 讀取類)
    *   `trl` (Transformer Reinforcement Learning 套件)
    *   `DPOTrainer` (DPO 訓練器)
    *   `datasets` (Hugging Face 數據集套件)
    *   `ultrafeedback binarized` (訓練數據集名稱)
    *   `trl-lib` (數據集來源庫)
    *   `vLLM` (推理框架)
    *   `Ollama` (推理框架)
    *   `llama.cpp` (C++ 推理庫)
    *   `Transformers` (Hugging Face 模型庫)
    *   `AutoProcessor` (處理器類)
    *   `AutoModelForMultimodalLM` (多模態語言模型類)
    *   `SGLang` (伺服器啟動框架)
    *   `OpenAI SDK` (API 呼叫套件)
    *   `Hugging Face` (模型分享平台)
    *   `ChatGPT` (對話模型)
    *   `Claude` (對話模型)
    *   `Slack` (通訊軟體)
    *   `PR review` (程式碼審查工具/流程)

*   **網站與平台**：
    *   `Hacker News` (科技論壇)
    *   `The Rundown` (AI 工具教學網站)
    *   `Don't Paste the AI` (網站，dontpastetheai.com)
    *   `Gartner` (分析機構)
    *   `ElevenLabs` (AI 聲音技術公司)
    *   `AIG` (保險公司)
    *   `Great American` (保險公司)
    *   `WR Berkley` (保險公司)

*   **格式與協議**：
    *   `MIDI` (音樂數字介面格式)
    *   `MIT` (授權協議)
    *   `FP8`, `GGUF`, `MLX`, `NVFP4` (模型量化格式)
    *   `MoE` (混合專家架構)
    *   `DPO` (直接偏好優化)
    *   `RL` (強化學習)

## 操作流程整理

### RollTab 音樂模型訓練流程
1.  **數據準備**：使用 MIDI 檔，透過 `miditok` 與 `symusic` 處理。
2.  **分詞配置**：
    *   使用 `REMI` 格式與 `TokenizerConfig`。
    *   設定 `num_velocities=16`。
    *   開啟 `use_chords` 與 `use_programs`。
    *   訓練詞彙表：`tokenizer.train(vocab_size=30000)`。
    *   上傳至 Hugging Face：`tokenizer.push_to_hub`。
3.  **偏好訓練 (DPO)**：
    *   載入基底模型：`Qwen 二點五 的零點五 B 指令版`。
    *   使用 `trl` 套件中的 `DPOTrainer`。
    *   載入數據集：`trl-lib` 的 `ultrafeedback binarized`。
    *   調整參數：縮小批次大小、使用梯度累積以優化記憶體。

### Ornith-1.5 部署流程
1.  **本地運行 (Ollama)**：
    *   執行 `ollama run`