# 影片筆記:73K Star 开源项目:竟然复刻了五角大楼级百亿美元情报系统|普通电脑即可运行 ## 一句話總結 影片深度拆解了 GitHub 上獲得高關注度的開源專案 **World Monitor**,該專案由 Eliher Big 創立,透過極致的邊緣計算架構、靜態化數據存儲、WebGL 高性能渲染以及多層反爬策略,在無需龐大後端集群的情況下,實現了類似 Palantir 的全球態勢感知能力,並透過 MCP 協議與 AGPL 3.0 協議結合的商業模式進行變現與防禦。 ## 核心重點 1. **極端邊緣計算架構**: * 不依賴傳統中心化關係型資料庫,後端完全由 30 多個 Edge Functions 組成。 * 封裝 19 個 API 路由域,背後對應 65 家外部數據源。 * 採用「萬物皆客邊緣計算」理念,消除網絡 IO 延遲。 2. **極致靜態化數據存儲**: * 將全球實體坐標、基礎設施、軍事基地、AI 數據中心等海量數據硬編碼進 TypeScript 文件(ConfigFits TS)。 * 單一文件體積約 98KB,包含 500+ Fits,涵蓋海底電纜、油氣管線、軍事基地等詳細拓撲數據。 * 實現「單一事實來源」,Edge Function 啟動僅幾十毫秒,讀取內存上下文靜態數組耗時幾乎為零。 3. **前端高性能渲染與降級機制**: * 使用 WebGL 3D 地球模型,結合 DeckGL 重型圖層與 Supercluster 空間索引實現高性能渲染。 * 針對移動端具備優雅降級(Fallback)機制:檢測到移動端或低電量時,切斷 WebGL 管線,回滾至 D3JS + SVG 渲染器以省電和穩定。 4. **數據處理與 AI 推理優化**: * 通過 WebSocket 流式數據追蹤,結合垃圾回收(GC)與電路斷路器(Circuit Breaker)防止崩盤。 * 引入「焦點(Focal Point)」抽象概念,僅對高置信度焦點調用 Grok Lava 3.18B 大模型生成摘要。 * 瀏覽器端內置 TensorFlow JS T5 模型作為純文本兜底。 5. **強大的數據獲取與反爬策略**: * 總結了 19 種反爬與接口繞過技巧,包括使用 QR 逃避指紋、住宅代理 IP、指數退避、Redis 髒標記、Telegram 防重疊啟動、H3 六邊形網格算法、雙軌解析器等。 6. **商業模式與協議防禦**: * 通過 MCP Server(Model Context Protocol)開放工具清單,採用「免費開放 API 形狀 + 收費開放 API 數據」的雙層模型。 * 代碼庫採用 AGPL 3.0 協議作為防禦壁壘,防止大廠白嫖,強制購買專用許可證或公開源碼。 ## 詳細大綱 ### I. 專案概覽與背景 * **專案名稱**:World Monitor * **成就**:GitHub 獲得高 Star 數(註:標題提及 73K,筆記提及 6.6K/66K 等說法,需查證),擁有大量 Forks 和活躍社區。 * **創始人**:Eliher Big(尼巴嫩極客,Angami 音樂流媒體平台創始人兼 CEO)。 * **定位**:被戲稱為「開源免費版 Palantir」,提供全球態勢感知系統,上帝視角。 * **技術棧核心**:不靠資本驅動,無龐大後端集群,依靠極致工程實踐。 ### II. 後端架構:極端邊緣計算 * **架構理念**:萬物皆客邊緣計算(Edge Functions)。 * **組成**: * 30 多個 Edge Functions。 * 19 個 API 路由域。 * 每個 API 對應 65 家外部數據源。 * 56 種地圖圖層類型(如 OpenSky ADS-B, NASA FIRMS 衛星火點)。 * **數據存儲策略**: * 無中心化關係型資料庫。 * **靜態化(Static化)**:將海量靜態基礎信息硬編碼進 TypeScript 文件。 * **ConfigFits TS**:單一文件體積 98KB,1211 行,包含 500+ Fits。 * **內容涵蓋**: * 86 個海底電纜矢量坐標點。 * 88 條油氣管線全鏈路拓撲數據。 * 62 個戰略港口錨點。 * 111 座機場五大區域劃分。 * 226 座軍事基地及雷達反射截面參數。 * 313 個 AI Data Centers(APAC AI 數據集)。 * 66 個實體定義。 * 1480 個希伯來語翻譯條目。 * 120 個威脅關鍵詞。 * **優勢**:Edge Function 啟動僅幾十毫秒,讀取同內存上下文靜態數組耗時幾乎為零,無網絡 IO 延遲。 ### III. 前端渲染:WebGL 與降級機制 * **渲染技術**:WebGL 3D 地球模型,瀏覽器內運行。 * **核心庫與組件**: * **DeckGL**:引入 Georgias Layer, ScatterPlat Layer 等 6 種重型圖層。 * **Mapbox Overlay**:與 Map Libre 相機系統集成,實現視角平移坐標系鎖定。 * **Supercluster**:超新系團(空間索引),在主線程外運行,優化 JCAD 相似度空間索引,實現不同 zoom level 下的動態聚合。 * **Attribute Buffer**:將海量數據點打包推給顯卡。 * **移動端優化(Fallback 機制)**: * 檢測到移動端環境或低電量模式時,切斷 WebGL 管線。 * 回滾至 **D3JS** 結合 **TOPO Jason** 編寫的 **SVG 渲染器**。 * 目的:省電、穩定,避免低端手機 GPU 燙死或卡頓。 ### IV. 數據流處理與 AI 推理 * **WebSocket 流式數據**: * 處理聯邦儲備數據到 UngDex 災害報警等信息。 * **垃圾回收(GC)**: * `History Max Point S` 設為 30。 * 10 分鐘 GC 輪循清理間隔。 * 超過一小時未更新實體判定為 `Steal` 並從 Map 抹除。 * **電路斷路器(Circuit Breaker)**: * 外部 API 失敗三次,立即斷路 5 分鐘。 * 降級使用 10 分鐘前的 TTL 緩存。 * **空間計算優化**: * **Naval Truck Points**:定義 10 個核心海上計算咽喉區(如霍爾默茲、蘇伊士、馬六甲、巴拿馬、台灣、南海、黑海、波羅地海、日本海)。 * 僅針對錄入這些經緯度 Radian 範圍內的實體進行高頻重算,節省 CPU 週期。 * **焦點抽象(Focal Point)**: * 世界抽象為九類基礎信號:網絡中斷、飛行物異常、船隻活動、抗議、航運中斷、衛星火點探測、輻射異常、時間維度異常、主動撞擊攻擊信號。 * **邏輯**:實體觸發新聞庫高頻提及 + 地理坐標匹配(如 Satellite Fire/Intellite Outage)-> 升級為 Critical 級別焦點。 * **AI 調用策略**: * 僅對 Critical 焦點調用 **Groke Lava 3.18B** 大模型生成摘要(好鋼用在刀刃上)。 * 瀏覽器端內置 **TensorFlow JS** 的 **T5 模型** 作為純文門兜底。 ### V. 數據獲取與反爬策略(19 種技巧) 1. **拋棄 Fetch 擁抱 QR**:使用系統區 QR 逃避 Archmed WAF 的 J3 客戶端 TLS 指紋追蹤。 2. **真住宅機動態 IP**:套專用以色列住宅代理,繞開 Archmed Doon。 3. **逃避算法與抖動**:指數退避加隨機抖動(3秒 -> 6秒 + 0.5秒隨機延遲),模仿人類刷新。 4. **髒標記去蟲**:使用 **Reddit**(註:疑點,通常為 Redis)做 Dirty Flag,記錄 24 小時 TTL 哈希,命中哈希直接丟棄。 5. **Telegram 防重疊啟動**: * 接入 56 個重點 Telegram channels。 * 使用 **GramJS MT Proto** 客戶端。 * 強制寫死 60 秒冷啟動延遲,防止 `Authkey Duplicated` 錯誤。 * 單 Channel 解析超時 60 秒,整個輪循 Circle 限制 3 分鐘,超時觸發 `HardKill` 殺進程重啟。 6. **GPS 干擾數據處理**:引入 Uber 開源的 **H3 六邊形網格算法**,同一網格需至少 3 架飛機樣本才判定為真實 GPS 干擾,幹掉 90% 噪點。 7. **12 個大區邊界和攔截**:使用 12 個預先定義好的 `Bloodding Box`(註:疑點,應為 Bounding Box)做快速空間排序,框外直接跳過。 8. **265 Entry 國家別名映射**:代碼庫藏有 265 條記錄的 **只有 Jayson**(註:疑點,應為 JSON)別名庫,底層清洗數據。 9. **雙軌解析器**:針對 RSS、Atom、破损 XML 數據,寫兩條 Parser 同時跑,誰能 Fullback 出來就用誰。 10. **CII 的優雅降級**:當第一梯隊國家實時數據流卡死時,查表加載靜態的 `Bug Country Fallback` 備用數據。 11. **其他技巧提及**:總計 19 種,涵蓋上述多項。 ### VI. 算法層:維爾福德在線算法 * **應用場景**:20 國 CII(註:疑點,可能為 Country Index 或類似指標)實時動態評分。 * **算法原理**:**維爾福德在線算法**(Welford's Online Algorithm)。 * **優勢**: * 無需存儲長達 90 天的數據數組。 * 僅保存當前時刻的均值、樣本方差、樣本數。 * 增量更新,規避浮點數災難,徹底消滅 O(N) 空間複雜度。 * 實現實時流式降維打擊。 ### VII. 商業模式與 MCP 協議 * **MCP Server**: * 跑在 **Verso Edge Runtime** 上。 * 兼容 **Atherapic** 制定的 2025-0326 和 2025-0618 兩個版本的 MCP 協議。 * 端點路徑為 `/mcp` 而非 `/api/mcp`。 * 公開 `choose list` 工具清單。 * **接入方式**: * 本地讓大模型直接獲取全球情報。 * NPM CLI 一行命令拉取全球工具清單。 * **商業雙層模型**: * **免費層**:OSYNCMCP 工具的 Tools List 原數據完全公開,零摩擦接入,無需註冊/Key。 * **Pro 層**:實際調用數據需升級 Pro 套餐(每月 9 美金)。 * **目的**:將 OSIN(註:疑點,可能為 Open Source Intelligence 或專案縮寫)的情報能力做成商品目錄。 * **防禦協議**: * **AGPL 3.0 ON** 協議。 * 核心:傳染性。若跑在服務器上對外提供 SaaS 服務,必須公開修改後的全套原碼。 * 防止大廠白嫖,強制購買專用的 Convention License。 ### VIII. 總結 * **專案本質**:利用原生 TypeScript、Versal 8 Functions、WebGL 深度定制、反爬黑魔法,拼裝出神级工程。 * **啟示**:技能地域並非依賴晦澀語言,而是將基礎組件通過嚴密數學邏輯和工程經驗進行極致優化。 ## 工具 / 模型 / 名詞整理 * **專案/平台名稱**: * World Monitor * Palantir(美國國防部定制系統) * Angami(中東最大音樂流媒體平台) * Wide 雜誌 * Bloomberg(彭博社) * SkyNews Live News * KPOP(疑點,可能指 GitHub 或某個代碼託管平台,通常為 GitHub) * AWS(亞馬遜雲科技) * Kubernetes * Railway(部署平台) * OSYNCMCP / OSIN(疑點,具體縮寫需查證) * Othn(疑點,可能為專案名稱變體) * **開發語言與框架**: * TypeScript * Node.js * Verso / Versal(疑點,可能指 Vercel 或特定邊緣計算平台) * Edge Functions * WebGL 3D * DeckGL(Uber 開源) * Mapbox Overlay / Map Libre * Supercluster * D3JS * SVG * TensorFlow JS * T5 模型 * QR(疑點,可能指 Query 或特定庫) * GramJS * MT Proto * MCP(Model Context Protocol) * Atherapic(疑點,可能指 Anthropic) * Cloud Code / Codex(客戶端) * NPM CLI * Axios(被對比對象) * Fetch(被對比對象) * Reddit(疑點,用於 Dirty Flag,通常為 Redis) * JSON(逐字稿聽寫為「只有 Jayson」) * RSS / Atom / XML * **數據源與算法**: * OpenSky(ADS-B 飛機數據) * NASA FIRMS(衛星火點) * UngDex(災害報警) * Groke Lava 3.18B(大模型,疑點為 Grok) * H3 六邊形網格算法(Uber 開源) * 維爾福德在線算法(Welford's Online Algorithm) * Archmed WAF(疑點,可能為 Cloudflare 或其他 WAF) * J3 客戶端 TLS 指紋 * Authkey Duplicated(錯誤代碼) * Steal(實體狀態,疑點) * TTL(Time To Live) * Circuit Breaker(電路斷路器) * Bounding Box(逐字稿聽寫為「Bloodding Box」) * AGPL 3.0 ON(協議) * Convention License(許可證) * **地理/實體名詞**: * 尼巴嫩(疑點,可能為某個國家或地區) * 以色列(住宅代理) * 霍爾默茲、蘇伊士、馬六甲、巴拿馬、台灣、南海、黑海、波羅地海、日本海(海上咽喉區) * APAC AI 數據集 * 希伯來語(翻譯條目) ## 操作流程整理 1. **數據靜態化配置**: * 將全球實體坐標、基礎設施、軍事基地等數據硬編碼進 TypeScript 文件(ConfigFits TS)。 * 確保 Edge Function 啟動時即可讀取內存中的靜態數組,消除網絡 IO 延遲。 2. **後端邊緣函數部署**: * 部署 30 多個 Edge Functions,封裝 19 個 API 路由域。 * 每個 API 路由對應 65 家外部數據源,實現萬物皆客邊緣計算。 3. **前端渲染初始化**: * 初始化 WebGL 3D 地球模型。 * 加載 DeckGL 重型圖層(Georgias Layer, ScatterPlat Layer 等)和 Supercluster 空間索引。 * 集成 Mapbox Overlay 與