NVIDIA 免費開源一個工具，叫你別再租雲端，把家裡舊電腦串起來自己跑 #Shorts

AI 101 首頁 每日列表 原始影片
實際影片長度：1:12.000。原文、繁中、雙語可點擊句子跳轉影片。
0:00.000–0:04.280
NVIDIA丟出一個免費工具,叫你別再付錢租雲端。
0:04.280–0:07.100
把家裡放著生灰的舊電腦串起來自己跑。
0:07.100–0:10.100
裝好之後,PAIR自己掃過你家的網路。
0:10.100–0:14.480
桌機裡的RTX顯卡,DGX Spark,連Mac都會被抓進來。
0:14.480–0:18.920
對外只露一個網址,Ollama相容,OpenAI相容。
0:18.920–0:22.020
原本的AI App跟Agent一行都不用改。
0:22.020–0:26.360
NVIDIA自己的示範是開5個Subagent一起整理家裡的信箱。
0:26.360–0:30.260
單一台DGX Spark筆電平均要跑18分鐘。
0:30.260–0:33.460
三台串起來之後,8分48秒跑完。
0:33.460–0:36.000
機器開機,關機,離開網路。
0:36.000–0:37.580
PAIR自己重排。
0:37.580–0:39.780
授權寫Apache2.0。
0:39.780–0:41.680
Github上直接下載。
0:41.680–0:45.480
RTX20系列以上或M4以上的Mac都能加入。
0:45.480–0:49.080
不過PAIR不會把兩張顯卡變成一張大的。
0:49.080–0:50.420
記憶體也不會加起來。
0:50.420–0:53.660
一台塞不下的模型,串10台還是塞不下。
0:53.660–0:58.560
已經有測試者把葡萄牙的Mac接上愛爾蘭的DGX Spark真的通了。
0:58.560–1:02.440
代價是PAIR順手刪掉它手寫的設定檔。
1:02.440–1:04.340
靠賣顯卡賺錢的公司。
1:04.340–1:08.640
寫了一個讓你舊顯卡不用退休的工具,然後免費送出去。
1:08.640–1:12.000
追蹤AI101,不錯過AI圈的最新消息。
0:00.000–0:04.280
NVIDIA丟出一個免費工具,叫你別再付錢租雲端。
0:04.280–0:07.100
把家裡放著生灰的舊電腦串起來自己跑。
0:07.100–0:10.100
裝好之後,PAIR自己掃過你家的網路。
0:10.100–0:14.480
桌機裡的RTX顯卡,DGX Spark,連Mac都會被抓進來。
0:14.480–0:18.920
對外只露一個網址,Ollama相容,OpenAI相容。
0:18.920–0:22.020
原本的AI App跟Agent一行都不用改。
0:22.020–0:26.360
NVIDIA自己的示範是開5個Subagent一起整理家裡的信箱。
0:26.360–0:30.260
單一台DGX Spark筆電平均要跑18分鐘。
0:30.260–0:33.460
三台串起來之後,8分48秒跑完。
0:33.460–0:36.000
機器開機,關機,離開網路。
0:36.000–0:37.580
PAIR自己重排。
0:37.580–0:39.780
授權寫Apache2.0。
0:39.780–0:41.680
Github上直接下載。
0:41.680–0:45.480
RTX20系列以上或M4以上的Mac都能加入。
0:45.480–0:49.080
不過PAIR不會把兩張顯卡變成一張大的。
0:49.080–0:50.420
記憶體也不會加起來。
0:50.420–0:53.660
一台塞不下的模型,串10台還是塞不下。
0:53.660–0:58.560
已經有測試者把葡萄牙的Mac接上愛爾蘭的DGX Spark真的通了。
0:58.560–1:02.440
代價是PAIR順手刪掉它手寫的設定檔。
1:02.440–1:04.340
靠賣顯卡賺錢的公司。
1:04.340–1:08.640
寫了一個讓你舊顯卡不用退休的工具,然後免費送出去。
1:08.640–1:12.000
追蹤AI101,不錯過AI圈的最新消息。
0:00.000–0:04.280
NVIDIA丟出一個免費工具,叫你別再付錢租雲端。
NVIDIA丟出一個免費工具,叫你別再付錢租雲端。
0:04.280–0:07.100
把家裡放著生灰的舊電腦串起來自己跑。
把家裡放著生灰的舊電腦串起來自己跑。
0:07.100–0:10.100
裝好之後,PAIR自己掃過你家的網路。
裝好之後,PAIR自己掃過你家的網路。
0:10.100–0:14.480
桌機裡的RTX顯卡,DGX Spark,連Mac都會被抓進來。
桌機裡的RTX顯卡,DGX Spark,連Mac都會被抓進來。
0:14.480–0:18.920
對外只露一個網址,Ollama相容,OpenAI相容。
對外只露一個網址,Ollama相容,OpenAI相容。
0:18.920–0:22.020
原本的AI App跟Agent一行都不用改。
原本的AI App跟Agent一行都不用改。
0:22.020–0:26.360
NVIDIA自己的示範是開5個Subagent一起整理家裡的信箱。
NVIDIA自己的示範是開5個Subagent一起整理家裡的信箱。
0:26.360–0:30.260
單一台DGX Spark筆電平均要跑18分鐘。
單一台DGX Spark筆電平均要跑18分鐘。
0:30.260–0:33.460
三台串起來之後,8分48秒跑完。
三台串起來之後,8分48秒跑完。
0:33.460–0:36.000
機器開機,關機,離開網路。
機器開機,關機,離開網路。
0:36.000–0:37.580
PAIR自己重排。
PAIR自己重排。
0:37.580–0:39.780
授權寫Apache2.0。
授權寫Apache2.0。
0:39.780–0:41.680
Github上直接下載。
Github上直接下載。
0:41.680–0:45.480
RTX20系列以上或M4以上的Mac都能加入。
RTX20系列以上或M4以上的Mac都能加入。
0:45.480–0:49.080
不過PAIR不會把兩張顯卡變成一張大的。
不過PAIR不會把兩張顯卡變成一張大的。
0:49.080–0:50.420
記憶體也不會加起來。
記憶體也不會加起來。
0:50.420–0:53.660
一台塞不下的模型,串10台還是塞不下。
一台塞不下的模型,串10台還是塞不下。
0:53.660–0:58.560
已經有測試者把葡萄牙的Mac接上愛爾蘭的DGX Spark真的通了。
已經有測試者把葡萄牙的Mac接上愛爾蘭的DGX Spark真的通了。
0:58.560–1:02.440
代價是PAIR順手刪掉它手寫的設定檔。
代價是PAIR順手刪掉它手寫的設定檔。
1:02.440–1:04.340
靠賣顯卡賺錢的公司。
靠賣顯卡賺錢的公司。
1:04.340–1:08.640
寫了一個讓你舊顯卡不用退休的工具,然後免費送出去。
寫了一個讓你舊顯卡不用退休的工具,然後免費送出去。
1:08.640–1:12.000
追蹤AI101,不錯過AI圈的最新消息。
追蹤AI101,不錯過AI圈的最新消息。

影片筆記：NVIDIA 免費開源一個工具，叫你別再租雲端，把家裡舊電腦串起來自己跑 #Shorts

<!-- VIDEONOTE_PUBLICATION_WARNINGS_BEGIN -->

⚠️ 全文快速校讀發現待確認修正

本筆記已完成可閱讀的逐字稿與時間跳轉；下列為待處理問題，建議播放原片確認。

  • 待修正：⚠️ 全文快速校讀：已套用暫定修正，請確認（segment=2 已先套用暫定修正：裝好之後,配R自己掃過你家的網路。 → 裝好之後,PAIR自己掃過你家的網路。；segment=4 已先套用暫定修正：對外只漏一個網址,Olama相容,OpenAI相容。 → 對外只露一個網址,Ollama相容,OpenAI相容。）
  • 待修正：逐字稿可先使用，但有待校正清單（segment=7 rapid_semantic_review: 全文速讀上下文判斷；尚未回聽或交叉比對）

<!-- VIDEONOTE_PUBLICATION_WARNINGS_END -->

一句話總結

NVIDIA 免費開源 PAIR 工具，讓用戶能自動掃描並串聯家中閒置的舊電腦（如 RTX 顯卡、DGX Spark、Mac），組建本地 AI 運算叢集，以縮短運算時間並避免租賃雲端服務，但串聯僅分散任務，不合併顯存與記憶體容量。

核心重點

  • 工具名稱：PAIR（NVIDIA 發布的免費開源工具）。
  • 核心功能：自動掃描家庭網路設備，將多台閒置電腦串聯為本地 AI 運算叢集。
  • 相容性：提供單一網址介面，相容 Ollama 與 OpenAI 介面，原有 AI App 或 Agent 程式碼無需修改即可使用。
  • 效能提升：透過多台設備串聯分散任務，顯著縮短運算時間（例如從 18 分鐘縮至 8 分 48 秒）。
  • 資源管理：具備自動重排任務、自動開關機管理及離線狀態處理功能。
  • 硬體支援：支援桌機 RTX 顯卡（20 系列以上）、DGX Spark、Mac（M4 以上）。
  • 授權方式：採用 Apache 2.0 授權，於 GitHub 免費下載。
  • 技術限制：串聯不會合併顯卡容量，也不會累加記憶體；單台無法運算的模型，串聯多台仍無法運算。

詳細大綱

  1. 工具發布與背景
  • NVIDIA 推出免費工具，鼓勵用戶停止租賃雲端服務。
  • 目標是利用家中閒置硬體自行進行 AI 運算。
  1. PAIR 運作機制
  • 自動發現：自動掃描家庭網路中的設備。
  • 介面相容：提供單一網址介面，支援 Ollama 與 OpenAI 協議。
  • 無縫接軌：使用者原有的 AI App 與 Agent 程式碼不需要修改即可接入。
  • 自動化資源管理：自動處理機器的開機、關機與離線狀態，並自動重排任務。
  1. 效能表現與測試案例
  • 單機效能：單台 DGX Spark 筆電平均運算時間為 18 分鐘。
  • 串聯效能：三台設備串聯後，運算時間縮短至 8 分 48 秒。
  • 跨國測試：測試者成功將葡萄牙的 Mac 與愛爾蘭的 DGX Spark 串聯，並確認連線成功。
  • 技術限制說明：
  • 串聯不會將兩張顯卡合併為一張大顯卡。
  • 記憶體不會累加。
  • 若單台設備無法運算某個模型，串聯多台設備後依然無法運算該模型。
  1. 授權與獲取
  • 授權條款為 Apache 2.0。
  • 使用者可直接從 GitHub 下載。
  1. 潛在問題與評論觀點
  • 設定檔問題：測試案例中出現 PAIR 刪除使用者手寫設定檔的情況。
  • 商業觀點：評論指出，靠賣顯卡賺錢的公司，寫了一個讓舊顯卡不用退休的工具並免費釋出，引發討論。

工具 / 模型 / 名詞整理

  • NVIDIA：發布 PAIR 工具的公司。
  • PAIR：NVIDIA 發布的免費開源工具，用於串聯本地設備。
  • RTX 顯卡：支援的硬體類型，需為 20 系列以上。
  • DGX Spark：支援的硬體設備，逐字稿中提及為「筆電」形態。
  • Mac：支援的硬體設備，需為 M4 以上。
  • Ollama：PAIR 工具相容的介面協議之一。
  • OpenAI：PAIR 工具相容的介面協議之一。
  • Subagent：逐字稿提及「開 5 個 Subagent」，指涉子代理程式或特定功能模組。
  • Apache 2.0：PAIR 工具使用的授權條款。
  • GitHub：PAIR 工具的下載來源平台。
  • AI101：逐字稿中出現的名詞，具體指涉不明。

操作流程整理

  1. 下載與安裝：從 GitHub 下載 PAIR 工具（Apache 2.0 授權）。
  2. 網路掃描：啟動 PAIR，自動掃描家庭網路中的支援設備（RTX 20+、DGX Spark、M4+ Mac）。
  3. 建立叢集：將發現的設備串聯，系統自動處理開關機與離線狀態管理。
  4. 接入應用：透過單一網址介面，將原有的 AI App 或 Agent 程式碼接入（無需修改程式碼，相容 Ollama/OpenAI）。
  5. 執行運算：提交任務，系統自動重排任務至多台設備執行，以縮短總運算時間。

值得注意的限制或風險

  • 資源不合併：串聯多台設備僅用於分散任務以縮短時間，不會合併顯卡容量，也不會累加記憶體容量。
  • 模型運算限制：如果單台設備無法運算某個模型，即使串聯多台設備，依然無法運算該模型。
  • 設定檔管理：測試案例中觀察到 PAIR 可能刪除使用者手寫的設定檔，需留意資料保存風險。
  • 硬體相容性門檻：僅支援 RTX 20 系列以上顯卡及 M4 以上 Mac，舊款硬體可能無法使用。

逐字稿辨識疑點

  • DGX Spark 筆電：逐字稿稱 DGX Spark 為「筆電」，但 DGX 通常為伺服器機型，需查證 DGX Spark 是否確實存在筆電形態或為口誤。
  • PAIR 自動刪除設定檔：逐字稿提到「PAIR 順手刪掉它手寫的設定檔」，此行為在自動化工具中較少見，需查證是否為特定測試情境或已知 Bug。
  • Subagent：逐字稿提及「開 5 個 Subagent」，需確認此為 PAIR 工具內的特定功能模組名稱，還是泛指子代理程式。
  • 葡萄牙的 Mac 接上愛爾蘭的 DGX Spark：跨國串聯的延遲與網路穩定性在逐字稿中被描述為「真的通了」，需查證具體測試環境細節及網路條件。
  • AI101：逐字稿中出現此名詞，但未明確說明其指涉內容，需確認是否為特定模型、工具或誤聽。

可延伸追問

  • PAIR 工具在實際使用中，對於網路頻寬和延遲的要求為何？
  • 如何確保使用者手寫設定檔不被 PAIR 自動刪除？是否有備份機制？
  • 除了 RTX 20 系列和 M4 Mac，未來是否會支援更多型號的硬體？
  • PAIR 的自動重排任務演算法具體是如何運作的？
  • 跨國串聯的實際效能損耗與網路穩定性如何評估？

尚未產生學習筆記

請在 Telegram 指令最後加上「學習」，例如：videonote 網址 英文 雙語 學習