1 00:00:00,000 --> 00:00:29,980 大家好,這裡是人度解說。就在昨天,千萬3.8 Flash NEXT正式開源發佈1250億優勢的AI大模型。現在居然可以在本地電腦上進行部署運行。它是一個多模特的MOE緩活架構模型。每個Token實際只激活60億優勢。是千萬最新的下一代架構,也就是千萬4。它原生支持26.2萬上下文。擴張以後,甚至可以達到百萬Token。更誇張的是,低顯存用戶,可以用到最新的下一代架構。 2 00:00:29,980 --> 00:00:58,980 用硬盤來湊。甚至有人用3090,MacBook Pro來進行運行。而它真正厲害的地方,還不只是人跑。無論是代碼推定能力,還是Agent,性能都非常強悍。比如把它跟Cloud的Opus 5,還有GPT506速放在一起盲測,都達到了意想不到的效果。那麼問題來了,一個1250億優勢的開源模型,到底能跑出什麼效果?今天我們就直接通過一系列真實的案例,大家看看這千萬3.8最新的Flash NEXT模型,到底有多地譜。 3 00:00:58,980 --> 00:01:17,980 目前它的GPT506格式的模型以及同步發布。多個量化版以及同步發布的HKFs開源社區。因為千萬3.8 Flash NEXT模型,它支持CPU統一內存配置,以實現接近虛擬內存的速度。也就意味著,內存不夠,我們可以用硬盤來湊。接下來我們進行本地安裝部署實測下。 4 00:01:17,980 --> 00:01:26,980 在開始之前,首先我們要去下載最新開源的千萬3.8 Flash NEXT模型。到時候跟我一樣,打開零路坡上這篇文章,鏈接我會放到視頻下方。 5 00:01:26,980 --> 00:01:35,980 打開以後,叫我下拉,上面我們接收取的全部資料。首先,離譜,我們先把千萬3.8 Flash NEXT模型給動下來。我們先把千萬3.8 Flash NEXT模型給動下來。 6 00:01:35,980 --> 00:01:46,980 我們先把千萬打開它,來進行下載一下。打開以後,它裡面有多個量化模型。到時候你可以根據這顯存硬盤大小,來進行選擇。比如說選擇Q字版本。這裡面有三個模型文件。 7 00:01:46,980 --> 00:01:54,980 現在把它當下來。我們把它放到桌面上。我們點下載。下載好,下載好以後,第二個,全部都給它放到桌面上。 8 00:01:54,980 --> 00:02:05,980 最近好多人問這個下載器啊,這是一款TDM-Fuzz的多線程下載器。下載大文件,大模型,速度超快。下載好第二個模型分局以後,我們先返回去。 9 00:02:05,980 --> 00:02:12,980 來下載第三個模型分局。同樣給它放到桌面上。我們點下載。我們稍等一會。它現在速度可以捧到將近每秒,將近100兆左右了。 10 00:02:12,980 --> 00:02:19,980 幾乎已經捧到Hugging Face的下載速度了。好,下載好模型文件以後。我們現在重新返回了剛才提示下。來執行第二步。 11 00:02:19,980 --> 00:02:34,980 接下來獲取一下最新版本的NAMS App之外科學項目。那麼你先往打開它,先下載一下。我們需要用它來加載模型。打開以後,我們點下方最新版本。目前最新版本是V0.3。我們打開它,先下載一下。打開以後,我們先往下載。來獲取最新版本。 12 00:02:34,980 --> 00:03:04,980 第一個是MacOS版本。還有Linux、Android以及Windows版本。到時候根據情況去選擇就可以了。比如說這裡選了Windows版本。因為我是N考的,所以這會選擇COOTA版本。當然如果你是A考的話,那你選擇Wilker版本。這會選擇COOTA13版本。這裡需要注意一下是,這兩個文件都要下載。前面這個組程序,後面是顯卡去通文件。這兩個都要下載。我給它下載下來。比如說同樣給它放到桌面上。點下載。好,下載好第一個文件以後,先把去通文件給它倒下來。同樣給它放到桌面上。那請下載一下。好,下載好以後, 13 00:03:04,980 --> 00:03:14,980 先把這個文件給它關閉掉。然後再給它解架出來。然後第二個,要求包。全部給它解架出來。好,解架好以後,要求包給它刪掉。先把這個NammaCPP組成序,我把它重明明一下。 14 00:03:14,980 --> 00:03:24,980 我們就給它重明明了NammaCPP。好,重明明好以後,先把這個去通文件給它放進去。放到這個NammaCPP根目錄下,拖上去就可以了。好,放入好以後,我們先打開它。 15 00:03:24,980 --> 00:03:54,980 先把這個NammaCPP根目錄下,來創建一個新的文件夾。我們需要給新建一個Moros文件夾。好,新建好以後,先打開它。先把我們剛下載好的這個文件給它放進來。這三個文件都要放進去就可以了。好,放入好以後,現在重新返回到乾脆帖子下,來執行第三步。就來獲取一下這個一介起動腳本。突然給它倒下來。好,下載好以後,這裡面的參數你能夠自由調整。尤其上面這個模型這裡。如果下載的模型跟我不一樣的話,那麼你得把這個模型名稱改成自己的。因為我當前的模型名稱改成自己的。因為我當前的模型名稱,我先打開它。 16 00:03:54,980 --> 00:04:24,980 我當前的模型名稱是這個。也就是千萬3.8Flash,Nex,UD,IQ4,HS這個分卷。然後後面跟它分卷,1到3。它就會自動加在三個分卷模型。然後其他優秀的話,你可以自由調整。那先來試一下。然後先把這個起動腳本給它放進去。放到NammaCPP根目錄下。好,放到後面我們先打開它。打開以後,然後先打開它。點擊打開。它現在開始加在模型了。我們稍等一會兒。好,大家已經看到這個鏈接的話,那說明它已經起動成功了。我們先打開試想。打開這個第一步。 17 00:04:24,980 --> 00:04:41,480 打開電視器。打開這個電視器。來試一下。可以啊,沒問題。它現在成功了。目前加在的模型的話,是千萬3.8Flash,Nex的UDQ4亮化板。沒問題。來先來試一下。看行不行。比方速度。我說您好。請自我介紹一下。 18 00:04:41,480 --> 00:04:54,980 我速度還有我們第一發送一下。看一下能不能跑得動。我當時選出是24GB的。內存的話是64GB。但我硬盤比較大。是2T的。絕對是沒問題的。因為目前它是跑在我們硬盤上的。要看它速度。目前可以跑在每秒。是更高的。 19 00:04:54,980 --> 00:05:24,980 然後我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看 20 00:05:24,980 --> 00:05:54,980 我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它 21 00:05:54,980 --> 00:06:24,980 我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它 22 00:06:24,980 --> 00:06:54,980 我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它 23 00:06:54,980 --> 00:07:24,980 我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它 24 00:07:24,980 --> 00:07:54,980 我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它 25 00:07:54,980 --> 00:08:24,980 我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它 26 00:08:24,980 --> 00:08:54,980 我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們現在要看它。我們要看它。我們要看它。我們要看它。我們要看它。我們要看它。我們要看它。我們要看它。我們要看它。我們要看它。我們要看它。我們要看它。我們要看它。我們要看它。我們要看它。我們要看它。我們要看它。我們要看它。我們要看它。我們要看它。我們要看它。我們要看它。我們要看它。我們要看它。我們要看它。我們要看它。 27 00:08:54,980 --> 00:09:13,790 好。今天視頻所用的全部資料。他們要下載鏈接。我都放在視頻下方。