實際影片長度:3:15.999。原文、繁中、雙語可點擊句子跳轉影片。
0:00.000–0:03.715
zh大家好,最近一個名為Dark Bloom的項目,
0:03.715–0:04.523
zh熱度驟增。
0:04.523–0:08.238
zh它可以把許多閒置的Mac設備連成一個算力網絡。
0:08.238–0:13.892
zh有人就把一台M5Mac 128GB內存的Mac進入了Dark Bloom,
0:13.892–0:16.799
zh24小時內處理了13000多個請求,
0:16.799–0:18.414
zh賺到了4.11美元,
0:18.414–0:19.545
zh並且體現成功。
0:19.545–0:20.353
zh至於電費,
0:20.353–0:23.906
zh大約賺到收入的5%以及磨損其實都構不成問題。
0:23.906–0:24.714
zh也就是說,
0:24.714–0:26.976
zh在你桌上的Mac不用的時候,
0:26.976–0:28.591
zh它可以替別人跑AI,
0:28.591–0:29.560
zh順帶賺點錢。
0:29.560–0:31.504
zh至少前沿模型的訂閱費就有了。
0:31.504–0:34.838
zh這個由Icon Labs推出的分布式AI推理網絡,
0:34.838–0:36.088
zh機制大概有這幾步。
0:36.088–0:36.588
zh首先,
0:36.588–0:37.616
zh開發者發起請求,
0:37.616–0:41.227
zhDark Bloom的調度中心負責挑一台合適的Mac,
0:41.227–0:42.754
zh把這個請求加密發過去。
0:42.754–0:44.977
zhMac本地用MLX運行開運模型,
0:44.977–0:46.227
zh再將結果加密返回。
0:46.227–0:49.143
zh這個項目疊加了Secure Enclave,
0:49.143–0:50.671
enSecure Boot,
0:50.671–0:51.643
zh還有設備認證,
0:51.643–0:52.338
zh簽名程序,
0:52.338–0:54.560
zh內存隔離等Apple的安全機制。
0:54.560–0:55.430
zh嚴格來說,
0:55.430–0:58.212
zh雖然中央調度方仍然存在信任邊界,
0:58.212–1:00.125
zh不是絕對的端了端加密,
1:00.125–1:02.560
zh但它比一般重包算力認真的多。
1:02.560–1:04.829
zhDark Bloom的成長速度非常快,
1:04.829–1:05.711
zh今年4月上線,
1:05.711–1:07.602
zh6月介入OpenRouter,
1:07.602–1:09.619
zh7月初單日Token突破10億,
1:09.619–1:14.031
zh7月底重購MLX的連續Batching Prefail速度提升3-4倍,
1:14.031–1:17.560
zh到8月成為了OpenRouter的付費Provider。
1:17.560–1:19.083
zh今天最新數據顯示,
1:19.083–1:22.637
zhDark Bloom已經介入1380台機器,
1:22.637–1:25.006
zh網絡聚合內存123.2TB,
1:25.006–1:27.375
zhAR2大約是22.2萬美元,
1:27.375–1:28.560
zh實現一周翻倍。
1:28.560–1:30.851
zh當然它的提升空間還是很大的,
1:30.851–1:32.815
zh比如峰值利用率為15%,
1:32.815–1:35.105
zh說明願意賣算力的機器比較多,
1:35.105–1:37.560
zh而真實付費需求還沒有完全跟上。
1:37.560–1:39.560
zh另外,收益分佈其實並不均勻,
1:39.560–1:41.560
zh比如前面說的那台M5Max,
1:41.560–1:43.417
zh它一天是賺了4.11美元,
1:43.417–1:45.989
zh同時還有另一台M324GB的Mac,
1:45.989–1:48.560
zh是在8個小時內一個任務都沒有接到的。
1:48.560–1:52.560
zh所以也許調度它更偏向高內存,認證狀態好的機器。
1:52.560–1:58.560
zh再者,它的延遲、穩定性還有知識模型數量等,勢必會繼續完善。
1:58.560–2:00.079
zh上周末,剛看到這個項目的時候,
2:00.079–2:01.598
zh想起幾年前有研究過分佈式計算,
2:01.598–2:03.725
enDistributed Computing,
2:03.725–2:06.560
zh而YouTuber Matthew Burman就這樣找到,
2:06.560–2:09.560
zhDart Bloom稱為數據中心殺手。
2:09.560–2:10.560
zh他說,
2:10.560–2:11.816
enJust imagine we have a
2:11.816–2:13.560
enmillion of these nodes set up,
2:13.560–2:14.989
enThat is major inference
2:14.989–2:16.346
enpower that anybody can
2:16.346–2:17.631
entap into at a fraction
2:17.631–2:18.989
enof the price of going to
2:18.989–2:20.560
enan open AI or an anthropic,
2:20.560–2:22.493
enand it's completely distributed,
2:22.493–2:24.827
enit's completely built by regular people。
2:24.827–2:25.823
zh當推理需求暴漲,
2:25.823–2:26.771
zh而開源模型、
2:26.771–2:28.349
zhMOE和電話技術等,
2:28.349–2:30.876
zh又正好把一部分能力壓到了Mac、
2:30.876–2:33.560
zh工作站還有AIPC這類邊緣設備上,
2:33.560–2:39.560
zh那麼原本散落在千家萬戶的沉睡算力,就有了被組織成公共基礎設施的可能。
2:39.560–2:42.576
zh數據中心仍會守住訓練和高并發推理,
2:42.576–2:46.657
zh但那些隱私敏感突發的常委的成本敏感的推理需求,
2:46.657–2:50.560
zh完全可以流向一張有可驗證邊緣設備組成的網路。
2:50.560–2:54.329
zh最後介紹一下DarkGloom的核心開發者Gajesh,
2:54.329–2:55.541
zh他7歲開始寫代碼,
2:55.541–2:57.560
zh10歲給創業公司做聊天機器人,
2:57.560–3:01.507
zh13歲創建了一個基於區塊鏈的加密貨幣理財管理工具,
3:01.507–3:04.192
zh資產管理規模一度達到700萬美元,
3:04.192–3:06.560
zh15歲加入EigenLabs,
3:06.560–3:11.560
zh今年Gajesh干滿18歲,致力於打造開放網絡,加速開放智能。
3:11.560–3:13.560
zh這期節目就到這裡,Thanks for listening!
3:13.560–3:15.560
zh我是Kyoli,Thanks for listening!
0:00.000–0:03.715
大家好,最近一個名為Dark Bloom的項目,
0:03.715–0:04.523
熱度驟增。
0:04.523–0:08.238
它可以把許多閒置的Mac設備連成一個算力網絡。
0:08.238–0:13.892
有人就把一台M5Mac 128GB內存的Mac進入了Dark Bloom,
0:13.892–0:16.799
24小時內處理了13000多個請求,
0:16.799–0:18.414
賺到了4.11美元,
0:18.414–0:19.545
並且體現成功。
0:19.545–0:20.353
至於電費,
0:20.353–0:23.906
大約賺到收入的5%以及磨損其實都構不成問題。
0:23.906–0:24.714
也就是說,
0:24.714–0:26.976
在你桌上的Mac不用的時候,
0:26.976–0:28.591
它可以替別人跑AI,
0:28.591–0:29.560
順帶賺點錢。
0:29.560–0:31.504
至少前沿模型的訂閱費就有了。
0:31.504–0:34.838
這個由Icon Labs推出的分布式AI推理網絡,
0:34.838–0:36.088
機制大概有這幾步。
0:36.088–0:36.588
首先,
0:36.588–0:37.616
開發者發起請求,
0:37.616–0:41.227
Dark Bloom的調度中心負責挑一台合適的Mac,
0:41.227–0:42.754
把這個請求加密發過去。
0:42.754–0:44.977
Mac本地用MLX運行開運模型,
0:44.977–0:46.227
再將結果加密返回。
0:46.227–0:49.143
這個項目疊加了Secure Enclave,
0:49.143–0:50.671
Secure Boot,
0:50.671–0:51.643
還有設備認證,
0:51.643–0:52.338
簽名程序,
0:52.338–0:54.560
內存隔離等Apple的安全機制。
0:54.560–0:55.430
嚴格來說,
0:55.430–0:58.212
雖然中央調度方仍然存在信任邊界,
0:58.212–1:00.125
不是絕對的端了端加密,
1:00.125–1:02.560
但它比一般重包算力認真的多。
1:02.560–1:04.829
Dark Bloom的成長速度非常快,
1:04.829–1:05.711
今年4月上線,
1:05.711–1:07.602
6月介入OpenRouter,
1:07.602–1:09.619
7月初單日Token突破10億,
1:09.619–1:14.031
7月底重購MLX的連續Batching Prefail速度提升3-4倍,
1:14.031–1:17.560
到8月成為了OpenRouter的付費Provider。
1:17.560–1:19.083
今天最新數據顯示,
1:19.083–1:22.637
Dark Bloom已經介入1380台機器,
1:22.637–1:25.006
網絡聚合內存123.2TB,
1:25.006–1:27.375
AR2大約是22.2萬美元,
1:27.375–1:28.560
實現一周翻倍。
1:28.560–1:30.851
當然它的提升空間還是很大的,
1:30.851–1:32.815
比如峰值利用率為15%,
1:32.815–1:35.105
說明願意賣算力的機器比較多,
1:35.105–1:37.560
而真實付費需求還沒有完全跟上。
1:37.560–1:39.560
另外,收益分佈其實並不均勻,
1:39.560–1:41.560
比如前面說的那台M5Max,
1:41.560–1:43.417
它一天是賺了4.11美元,
1:43.417–1:45.989
同時還有另一台M324GB的Mac,
1:45.989–1:48.560
是在8個小時內一個任務都沒有接到的。
1:48.560–1:52.560
所以也許調度它更偏向高內存,認證狀態好的機器。
1:52.560–1:58.560
再者,它的延遲、穩定性還有知識模型數量等,勢必會繼續完善。
1:58.560–2:00.079
上周末,剛看到這個項目的時候,
2:00.079–2:01.598
想起幾年前有研究過分佈式計算,
2:01.598–2:03.725
Distributed Computing,
2:03.725–2:06.560
而YouTuber Matthew Burman就這樣找到,
2:06.560–2:09.560
Dart Bloom稱為數據中心殺手。
2:09.560–2:10.560
他說,
2:10.560–2:11.816
Just imagine we have a
2:11.816–2:13.560
million of these nodes set up,
2:13.560–2:14.989
That is major inference
2:14.989–2:16.346
power that anybody can
2:16.346–2:17.631
tap into at a fraction
2:17.631–2:18.989
of the price of going to
2:18.989–2:20.560
an open AI or an anthropic,
2:20.560–2:22.493
and it's completely distributed,
2:22.493–2:24.827
it's completely built by regular people。
2:24.827–2:25.823
當推理需求暴漲,
2:25.823–2:26.771
而開源模型、
2:26.771–2:28.349
MOE和電話技術等,
2:28.349–2:30.876
又正好把一部分能力壓到了Mac、
2:30.876–2:33.560
工作站還有AIPC這類邊緣設備上,
2:33.560–2:39.560
那麼原本散落在千家萬戶的沉睡算力,就有了被組織成公共基礎設施的可能。
2:39.560–2:42.576
數據中心仍會守住訓練和高并發推理,
2:42.576–2:46.657
但那些隱私敏感突發的常委的成本敏感的推理需求,
2:46.657–2:50.560
完全可以流向一張有可驗證邊緣設備組成的網路。
2:50.560–2:54.329
最後介紹一下DarkGloom的核心開發者Gajesh,
2:54.329–2:55.541
他7歲開始寫代碼,
2:55.541–2:57.560
10歲給創業公司做聊天機器人,
2:57.560–3:01.507
13歲創建了一個基於區塊鏈的加密貨幣理財管理工具,
3:01.507–3:04.192
資產管理規模一度達到700萬美元,
3:04.192–3:06.560
15歲加入EigenLabs,
3:06.560–3:11.560
今年Gajesh干滿18歲,致力於打造開放網絡,加速開放智能。
3:11.560–3:13.560
這期節目就到這裡,Thanks for listening!
3:13.560–3:15.560
我是Kyoli,Thanks for listening!
0:00.000–0:03.715
zh大家好,最近一個名為Dark Bloom的項目,
大家好,最近一個名為Dark Bloom的項目,
0:03.715–0:04.523
zh熱度驟增。
熱度驟增。
0:04.523–0:08.238
zh它可以把許多閒置的Mac設備連成一個算力網絡。
它可以把許多閒置的Mac設備連成一個算力網絡。
0:08.238–0:13.892
zh有人就把一台M5Mac 128GB內存的Mac進入了Dark Bloom,
有人就把一台M5Mac 128GB內存的Mac進入了Dark Bloom,
0:13.892–0:16.799
zh24小時內處理了13000多個請求,
24小時內處理了13000多個請求,
0:16.799–0:18.414
zh賺到了4.11美元,
賺到了4.11美元,
0:18.414–0:19.545
zh並且體現成功。
並且體現成功。
0:19.545–0:20.353
zh至於電費,
至於電費,
0:20.353–0:23.906
zh大約賺到收入的5%以及磨損其實都構不成問題。
大約賺到收入的5%以及磨損其實都構不成問題。
0:23.906–0:24.714
zh也就是說,
也就是說,
0:24.714–0:26.976
zh在你桌上的Mac不用的時候,
在你桌上的Mac不用的時候,
0:26.976–0:28.591
zh它可以替別人跑AI,
它可以替別人跑AI,
0:28.591–0:29.560
zh順帶賺點錢。
順帶賺點錢。
0:29.560–0:31.504
zh至少前沿模型的訂閱費就有了。
至少前沿模型的訂閱費就有了。
0:31.504–0:34.838
zh這個由Icon Labs推出的分布式AI推理網絡,
這個由Icon Labs推出的分布式AI推理網絡,
0:34.838–0:36.088
zh機制大概有這幾步。
機制大概有這幾步。
0:36.088–0:36.588
zh首先,
首先,
0:36.588–0:37.616
zh開發者發起請求,
開發者發起請求,
0:37.616–0:41.227
zhDark Bloom的調度中心負責挑一台合適的Mac,
Dark Bloom的調度中心負責挑一台合適的Mac,
0:41.227–0:42.754
zh把這個請求加密發過去。
把這個請求加密發過去。
0:42.754–0:44.977
zhMac本地用MLX運行開運模型,
Mac本地用MLX運行開運模型,
0:44.977–0:46.227
zh再將結果加密返回。
再將結果加密返回。
0:46.227–0:49.143
zh這個項目疊加了Secure Enclave,
這個項目疊加了Secure Enclave,
0:49.143–0:50.671
enSecure Boot,
Secure Boot,
0:50.671–0:51.643
zh還有設備認證,
還有設備認證,
0:51.643–0:52.338
zh簽名程序,
簽名程序,
0:52.338–0:54.560
zh內存隔離等Apple的安全機制。
內存隔離等Apple的安全機制。
0:54.560–0:55.430
zh嚴格來說,
嚴格來說,
0:55.430–0:58.212
zh雖然中央調度方仍然存在信任邊界,
雖然中央調度方仍然存在信任邊界,
0:58.212–1:00.125
zh不是絕對的端了端加密,
不是絕對的端了端加密,
1:00.125–1:02.560
zh但它比一般重包算力認真的多。
但它比一般重包算力認真的多。
1:02.560–1:04.829
zhDark Bloom的成長速度非常快,
Dark Bloom的成長速度非常快,
1:04.829–1:05.711
zh今年4月上線,
今年4月上線,
1:05.711–1:07.602
zh6月介入OpenRouter,
6月介入OpenRouter,
1:07.602–1:09.619
zh7月初單日Token突破10億,
7月初單日Token突破10億,
1:09.619–1:14.031
zh7月底重購MLX的連續Batching Prefail速度提升3-4倍,
7月底重購MLX的連續Batching Prefail速度提升3-4倍,
1:14.031–1:17.560
zh到8月成為了OpenRouter的付費Provider。
到8月成為了OpenRouter的付費Provider。
1:17.560–1:19.083
zh今天最新數據顯示,
今天最新數據顯示,
1:19.083–1:22.637
zhDark Bloom已經介入1380台機器,
Dark Bloom已經介入1380台機器,
1:22.637–1:25.006
zh網絡聚合內存123.2TB,
網絡聚合內存123.2TB,
1:25.006–1:27.375
zhAR2大約是22.2萬美元,
AR2大約是22.2萬美元,
1:27.375–1:28.560
zh實現一周翻倍。
實現一周翻倍。
1:28.560–1:30.851
zh當然它的提升空間還是很大的,
當然它的提升空間還是很大的,
1:30.851–1:32.815
zh比如峰值利用率為15%,
比如峰值利用率為15%,
1:32.815–1:35.105
zh說明願意賣算力的機器比較多,
說明願意賣算力的機器比較多,
1:35.105–1:37.560
zh而真實付費需求還沒有完全跟上。
而真實付費需求還沒有完全跟上。
1:37.560–1:39.560
zh另外,收益分佈其實並不均勻,
另外,收益分佈其實並不均勻,
1:39.560–1:41.560
zh比如前面說的那台M5Max,
比如前面說的那台M5Max,
1:41.560–1:43.417
zh它一天是賺了4.11美元,
它一天是賺了4.11美元,
1:43.417–1:45.989
zh同時還有另一台M324GB的Mac,
同時還有另一台M324GB的Mac,
1:45.989–1:48.560
zh是在8個小時內一個任務都沒有接到的。
是在8個小時內一個任務都沒有接到的。
1:48.560–1:52.560
zh所以也許調度它更偏向高內存,認證狀態好的機器。
所以也許調度它更偏向高內存,認證狀態好的機器。
1:52.560–1:58.560
zh再者,它的延遲、穩定性還有知識模型數量等,勢必會繼續完善。
再者,它的延遲、穩定性還有知識模型數量等,勢必會繼續完善。
1:58.560–2:00.079
zh上周末,剛看到這個項目的時候,
上周末,剛看到這個項目的時候,
2:00.079–2:01.598
zh想起幾年前有研究過分佈式計算,
想起幾年前有研究過分佈式計算,
2:01.598–2:03.725
enDistributed Computing,
Distributed Computing,
2:03.725–2:06.560
zh而YouTuber Matthew Burman就這樣找到,
而YouTuber Matthew Burman就這樣找到,
2:06.560–2:09.560
zhDart Bloom稱為數據中心殺手。
Dart Bloom稱為數據中心殺手。
2:09.560–2:10.560
zh他說,
他說,
2:10.560–2:11.816
enJust imagine we have a
Just imagine we have a
2:11.816–2:13.560
enmillion of these nodes set up,
million of these nodes set up,
2:13.560–2:14.989
enThat is major inference
That is major inference
2:14.989–2:16.346
enpower that anybody can
power that anybody can
2:16.346–2:17.631
entap into at a fraction
tap into at a fraction
2:17.631–2:18.989
enof the price of going to
of the price of going to
2:18.989–2:20.560
enan open AI or an anthropic,
an open AI or an anthropic,
2:20.560–2:22.493
enand it's completely distributed,
and it's completely distributed,
2:22.493–2:24.827
enit's completely built by regular people。
it's completely built by regular people。
2:24.827–2:25.823
zh當推理需求暴漲,
當推理需求暴漲,
2:25.823–2:26.771
zh而開源模型、
而開源模型、
2:26.771–2:28.349
zhMOE和電話技術等,
MOE和電話技術等,
2:28.349–2:30.876
zh又正好把一部分能力壓到了Mac、
又正好把一部分能力壓到了Mac、
2:30.876–2:33.560
zh工作站還有AIPC這類邊緣設備上,
工作站還有AIPC這類邊緣設備上,
2:33.560–2:39.560
zh那麼原本散落在千家萬戶的沉睡算力,就有了被組織成公共基礎設施的可能。
那麼原本散落在千家萬戶的沉睡算力,就有了被組織成公共基礎設施的可能。
2:39.560–2:42.576
zh數據中心仍會守住訓練和高并發推理,
數據中心仍會守住訓練和高并發推理,
2:42.576–2:46.657
zh但那些隱私敏感突發的常委的成本敏感的推理需求,
但那些隱私敏感突發的常委的成本敏感的推理需求,
2:46.657–2:50.560
zh完全可以流向一張有可驗證邊緣設備組成的網路。
完全可以流向一張有可驗證邊緣設備組成的網路。
2:50.560–2:54.329
zh最後介紹一下DarkGloom的核心開發者Gajesh,
最後介紹一下DarkGloom的核心開發者Gajesh,
2:54.329–2:55.541
zh他7歲開始寫代碼,
他7歲開始寫代碼,
2:55.541–2:57.560
zh10歲給創業公司做聊天機器人,
10歲給創業公司做聊天機器人,
2:57.560–3:01.507
zh13歲創建了一個基於區塊鏈的加密貨幣理財管理工具,
13歲創建了一個基於區塊鏈的加密貨幣理財管理工具,
3:01.507–3:04.192
zh資產管理規模一度達到700萬美元,
資產管理規模一度達到700萬美元,
3:04.192–3:06.560
zh15歲加入EigenLabs,
15歲加入EigenLabs,
3:06.560–3:11.560
zh今年Gajesh干滿18歲,致力於打造開放網絡,加速開放智能。
今年Gajesh干滿18歲,致力於打造開放網絡,加速開放智能。
3:11.560–3:13.560
zh這期節目就到這裡,Thanks for listening!
這期節目就到這裡,Thanks for listening!
3:13.560–3:15.560
zh我是Kyoli,Thanks for listening!
我是Kyoli,Thanks for listening!

影片筆記:闲置Mac别吃灰:接入Darkbloom 月入800元

<!-- VIDEONOTE_PUBLICATION_WARNINGS_BEGIN -->

⚠️ 可先使用,仍有待修正項目

本筆記已完成可閱讀的逐字稿與時間跳轉;下列為待處理問題,建議播放原片確認。

  • 待修正:逐字稿全文快速校讀未完成(已保留自動字幕/原始逐字稿並繼續生成筆記。;未完成的全文速讀項目可在精進模式回聽確認。)
  • 待修正:逐字稿可先使用,但有待校正清單(segment=69 unnatural_sentence_boundary: 標點出現在句首或停在逗號位置,斷句可能不符合文法/口語;segment=71 unnatural_sentence_boundary: 標點出現在句首或停在逗號位置,斷句可能不符合文法/口語)

<!-- VIDEONOTE_PUBLICATION_WARNINGS_END -->

一句話總結

本影片介紹由 Icon Labs 推出的分布式 AI 推理網絡 Dark Bloom,該項目利用閒置的 Mac 設備(如 M3/M5)運行開源模型提供算力,開發者 Gajesh 年少成名,目前網絡已接入 OpenRouter,但面臨利用率低與收益不均的挑戰。

核心重點

  • 項目概念:Dark Bloom 旨在將閒置的 Mac 設備連接成算力網絡,讓用戶在閒置時運行 AI 模型並賺取收益。
  • 運作機制:開發者發起請求,由 Dark Bloom 調度中心分配至合適的 Mac 設備,利用本地 MLX 運行開源模型,並透過加密返回結果。
  • 安全性:疊加 Apple 的 Secure Enclave、Secure Boot、設備認證、簽名程序及內存隔離等安全機制。
  • 發展數據:
  • 4月上線,6月介入 OpenRouter,7月單日 Token 突破 10億,8月成為 OpenRouter 付費 Provider。
  • 目前接入 1380 台機器,聚合內存 123.2TB,AR2 約 22.2 萬美元。
  • 現狀與挑戰:
  • 峰值利用率僅 15%,顯示算力供給大於需求。
  • 收益分佈不均:高內存設備(如 M5 128GB)有任務,低內存設備(如 M3 24GB)可能長時間無任務。
  • 開發者背景:核心開發者 Gajesh,年少成名,18歲致力於打造開放網絡。

詳細大綱

1. Dark Bloom 項目介紹

  • 概念:將閒置 Mac 連成算力網絡。
  • 案例:M5 Mac 128GB 內存,24小時處理 13000+ 請求,賺取 4.11 美元。
  • 成本效益:電費與磨損成本低,可覆蓋前沿模型訂閱費。

2. 技術架構與流程

  • 發起方:開發者發起請求。
  • 調度:Dark Bloom 調度中心挑選合適 Mac。
  • 執行:Mac 本地使用 MLX 運行開源模型。
  • 安全:加密請求與返回,疊加 Apple 安全機制(Secure Enclave, Secure Boot 等)。
  • 評價:雖有中央調度信任邊界,但比一般重包算力更認真。

3. 發展歷程與數據表現

  • 時間線:
  • 4月:上線。
  • 6月:介入 OpenRouter。
  • 7月初:單日 Token 突破 10億。
  • 7月底:重購 MLX 連續 Batching Prefail 速度提升 3-4 倍。
  • 8月:成為 OpenRouter 付費 Provider。
  • 最新數據:
  • 接入機器:1380 台。
  • 網絡聚合內存:123.2TB。
  • AR2:約 22.2 萬美元(實現一周翻倍)。

4. 市場分析與問題

  • 利用率:峰值利用率 15%,說明賣算力機器多,付費需求未完全跟上。
  • 收益分佈不均:
  • 案例 A:M5 Mac 128GB,24小時賺 4.11 美元。
  • 案例 B:M3 24GB Mac,8小時內無任務。
  • 推測:調度偏向高內存、認證狀態好的機器。
  • 待完善:延遲、穩定性、知識模型數量。

5. 行業背景與展望

  • 觀點引用:YouTuber Matthew Burman 稱其為「數據中心殺手」。
  • 核心邏輯:
  • 推理需求暴漲。
  • 開源模型、MOE、電話技術(疑點)將能力壓至 Mac、工作站、AIPC 等邊緣設備。
  • 沉睡算力可組織成公共基礎設施。
  • 市場定位:
  • 數據中心:守住訓練和高併發推理。
  • Dark Bloom:服務隱私敏感、突發、成本敏感的推理需求。

6. 核心開發者介紹

  • 姓名:Gajesh。
  • 經歷:
  • 7歲寫代碼。
  • 10歲為創業公司做聊天機器人。
  • 13歲創建區塊鏈加密貨幣理財管理工具,資產管理規模達 700 萬美元。
  • 15歲加入 EigenLabs。
  • 今年滿 18 歲,致力於打造開放網絡,加速開放智能。

工具 / 模型 / 名詞整理

  • Dark Bloom:分布式 AI 推理網絡項目名稱。
  • Mac:設備類型。
  • M5 Mac:特定型號 Mac。
  • M3:特定型號 Mac。
  • MLX:Mac 本地運行的模型框架/工具。
  • OpenRouter:介入的平台/市場。
  • Open AI:提及的對比對象(原文拼寫)。
  • Anthropic:提及的對比對象。
  • Icon Labs:Dark Bloom 的推出方。
  • Secure Enclave:Apple 安全機制。
  • Secure Boot:Apple 安全機制。
  • Distributed Computing:分布式計算。
  • YouTuber Matthew Burman:提及的 YouTuber。
  • Dart Bloom:疑似 Dark Bloom 的聽寫錯誤。
  • MOE:模型相關技術縮寫。
  • AIPC:設備類型。
  • DarkGloom:疑似 Dark Bloom 的口誤或聽寫錯誤。
  • Gajesh:核心開發者姓名。
  • EigenLabs:開發者曾加入的公司。

操作流程整理

  1. 設備準備:用戶擁有閒置的 Mac 設備(建議高內存型號如 M5 128GB)。
  2. 接入網絡:將 Mac 接入 Dark Bloom 網絡。
  3. 任務調度:Dark Bloom 調度中心根據請求挑選合適的 Mac。
  4. 模型運行:Mac 本地使用 MLX 運行開源模型。
  5. 結果返回:透過加密機制返回計算結果。
  6. 收益獲取:根據處理的請求量獲取收益(如 M5 Mac 24小時約 4.11 美元)。

值得注意的限制或風險

  • 利用率低:峰值利用率僅 15%,顯示算力供給大於需求,可能影響長期收益預期。
  • 收益不均:調度可能偏向高內存、認證狀態好的機器,低配置設備(如 M3 24GB)可能長時間無任務。
  • 信任邊界:雖有中央調度,但仍存在信任邊界問題。
  • 技術待完善:延遲、穩定性、知識模型數量仍有待完善。

逐字稿辨識疑點

  • M5Mac:原文連寫,疑為「M5 Mac」。
  • 進入了Dark Bloom:語意不通,疑為「接入了 Dark Bloom」或類似含義。
  • 體現成功:語意不明,疑為「提现成功」或「體現成功」之誤。
  • 開運模型:疑為「開源模型」之聽寫錯誤。
  • 重購 MLX:疑為「重構 MLX」或「重構」之聽寫錯誤。
  • 連續Batching Prefail:技術術語存疑,疑為「Continuous Batching Prefill」或類似技術名詞。
  • 介入OpenRouter:疑為「接入 OpenRouter」或「介入」之特定用法。
  • 電話技術:在「開源模型、MOE和電話技術等」語境中,疑為「量化技術」或「特定技術」之聽寫錯誤。
  • 常委的成本敏感:語意不通,疑為「常態的成本敏感」或「常規」之聽寫錯誤。
  • Dart Bloom:疑為「Dark Bloom」之聽寫錯誤。
  • DarkGloom:疑為「Dark Bloom」的口誤或聽寫錯誤。
  • 干滿18歲:疑為「剛滿18歲」之聽寫錯誤。

可延伸追問

  • Dark Bloom 的調度算法具體如何決定將任務分配給哪台 Mac?
  • 對於普通用戶而言,接入 Dark Bloom 的技術門檻和維護成本為何?
  • 隨著 OpenRouter 成為付費 Provider,Dark Bloom 的商業模式將如何演變?
  • 「電話技術」在該語境下究竟指代何種技術?

尚未產生學習筆記

請在 Telegram 指令最後加上「學習」,例如:videonote 網址 英文 雙語 學習