start	end	text
0	6600	Hello,大家好。今天這個視頻,我們手把手分享一下,如何在本地部署AI大模型。
6600	13500	比方說這個最新的千問3.8模型,並且把這個大模型配置到你的DevSig Hades上面。
13500	18700	無需購買Token,你就可以免費體驗最新的AI大模型和AI智能體。
18700	20500	OK,那我們就開始吧。
22100	26800	那麼,第一步,我們需要下載和安裝AI大模型的部署工具。
26800	29000	我們打開它的GitHub主頁。
29000	32000	找到這裡的Release這個入口。
32000	35000	在這個頁面我們往下拉。
38000	41500	在列表裡面,我們可以看到各種版本的安裝文件。
41500	48000	你要做的就是根據自己的操作系統進行匹配,找到符合你操作系統的壓縮包進行下載。
48000	52500	在這裡呢,我列了一個標格,大家可以對裝著參考一下。
52500	58500	如果你跟我一樣,用的是英伟大的顯卡,你可以在命令行輸入下面這個指令。
58500	66500	指令裡提供的信息顯示,我用的是CUDA 13.3這個版本。
66500	68500	而我的操作系統又是Windows。
68500	71500	所以我在這裡就選擇這兩個壓縮包進行下載。
71500	75500	請大家一定要注意,這兩個壓縮包都要下載。
75500	81500	接下來我們把這兩個下載好的壓縮包放到一個合適的文件夾下。
81500	86500	然後把這兩個壓縮包解壓之後的文件都放在同一個文件夾裡邊。
86500	93500	接下來打開開始菜單,找到編輯環境變量的這個配置項。
93500	100500	點擊這裡的環境變量。
100500	103500	找到系統變量。
103500	104500	找到PASS。
104500	106500	雙擊打開。
106500	108500	然後把這個項目的環境變量。
108500	109500	然後把這個項目的環境變量。
109500	110500	把這個項目的環境變成功。
110500	111500	把這個項目的環境變成功。
111500	112500	把這個項目的環境變成功。
112500	113500	把這個項目的環境變成功。
113500	114500	把這個項目的環境變成功。
114500	115500	把這個項目的環境變成功。
115500	116500	把這個項目的環境變成功。
116500	117500	把這個項目的環境變成功。
117500	118500	把這個項目的環境變成功。
118500	119500	把這個項目的環境。
119500	120500	把這個項目的環境。
120500	122500	把這個項目的環境變成功。
122500	123500	把這個項目的環境變成功。
123500	124500	把這個項目的環境變成功。
124500	125500	把這個項目的環境變成功。
125500	126500	把這個項目的環境變成功。
126500	127500	把這個項目的環境變成功。
127500	128500	把這個項目的環境變成功。
128500	129500	把這個項目的環境變成功。
129500	130500	把這個項目的環境變成功。
130500	131500	把這個項目的環境變成功。
131500	132500	把這個項目的環境變成功。
132500	133500	把這個項目的環境變成功。
133500	134500	把這個項目的環境變成功。
134500	135500	把這個項目的環境變成功。
135500	137500	把這個項目的環境變成功。
137500	138500	把這個項目的環境變成功。
138500	139500	把這個項目的環境變成功。
139500	140500	把這個項目的環境變成功。
140500	141500	把這個項目的環境變成功。
141500	142500	把這個項目的環境變成功。
142500	143500	把這個項目的環境變成功。
143500	144500	把這個項目的環境變成功。
144500	145500	把這個項目的環境變成功。
145500	146500	把這個項目的環境變成功。
146500	147500	把這個項目的環境變成功。
147500	148500	把這個項目的環境變成功。
148500	149500	把這個項目的環境變成功。
149500	150500	把這個項目的環境變成功。
150500	152500	這個項目的環境變成功。
152500	153500	這個項目的環境變成功。
153500	154500	把這個項目的環境變成功。
154500	155500	把這個項目的環境變成功。
155500	156500	把這個項目的環境變成功。
156500	157500	把這個項目的環境變成功。
157500	158500	把這個項目的環境變成功。
158500	159500	把這個項目的環境變成功。
159500	160500	把這個項目的環境變成功。
160500	161500	把這個項目的環境變成功。
161500	162500	把這個項目的環境變成功。
162500	163500	把這個項目的環境變成功。
163500	164500	把這個項目的環境變成功。
164500	165500	把這個項目的環境變成功。
165500	170500	在項目下,我們勾選這個GGUF的選項。
170500	175500	在這個選項下的模型都是壓縮版的大模型。
175500	177500	因為原版的大模型體積過於驅大。
177500	181500	所以個人電腦想要跑起來會非常的費勁。
181500	186500	那在這裡呢,我們就選擇這個最新的千吻3.8的AI大模型。
186500	191500	在這個大模型的主項下,我們找到右側這裡。
191500	194500	我們在這裡根據自己的設備情況。
194500	197500	選擇一個看起來沒有那麼嚇人的大模型。
197500	200500	點擊它。
200500	201500	點擊這裡。
201500	203500	我們複製這一條指令。
203500	205500	一會兒我們會用到它。
205500	208500	接下來我們找到一個合適的文件夾。
208500	210500	打開命令號終端。
210500	213500	我們先輸入這一條指令。
213500	215500	大家一定一定要輸入這個指令。
215500	217500	不然的話你在下載大模型的時候,
217500	219500	那個速度會非常非常的慢。
219500	223500	接下來將剛才複製的指令粘貼過來。
223500	225500	在最後呢,我們加了一些參數。
225500	229500	它的作用呢,是把大模型下載到當前的這個文件夾下。
233500	235500	可以看到它的下載速度是非常快的。
235500	237500	可以達到20Mbps。
238500	244500	稍等片刻之後呢,我們可以看到這個千吻大模型已經成功下載到了當前這個文件夾中。
244500	248500	我們在命令號終端,輸入這個指令。
248500	251500	這裡-m的意思就是model的意思。
251500	254500	它會把指令的大模型加載進來。
260500	263500	稍等片刻之後呢,它就會加載成功。
264500	265500	我們打開瀏覽器。
265500	268500	在地址欄輸入這個地址。
268500	270500	可以看到這裡顯示OK。
270500	273500	這個表明我們的大模型已經加載成功了。
275500	279500	接下來我們保持這個大模型的加載頁面不變。
279500	281500	重新開啟一個命令號終端。
281500	282500	輸入下面這個指令。
282500	284500	啟動Deepseek Harness。
284500	289500	在Deepseek Harness這個頁面下呢,我們點擊左下角的設置。
290500	292500	點擊這裡的模型。
292500	294500	點擊這裡的添加自定義。
294500	298500	ID這裡呢,我們可以自定義一個。
298500	300500	比方說就叫千問。
300500	302500	顯示名稱這裡呢,我們也可以自定義。
302500	304500	比方說叫千問Local。
304500	307500	API地址這裡呢,要跟視頻這裡呢,保持一致。
307500	310500	密要這裡呢,我們隨意輸入一些內容就可以了。
310500	312500	比方說123-3-21。
312500	315500	接下來我們點擊這個獲取模型。
315500	317500	點擊添加。
317500	319500	點擊創建。
321500	325500	可以看到我們本地部署的千萬大模型已經添加成功了。
325500	328500	點擊創建。
328500	329500	點擊創建。
329500	330500	點擊創建。
330500	331500	點擊創建。
331500	332500	點擊創建。
332500	333500	點擊創建。
333500	334500	點擊創建。
334500	335500	點擊創建。
335500	336500	點擊創建。
336500	337500	點擊創建。
337500	338500	點擊創建。
338500	339500	點擊創建。
339500	340500	點擊創建。
340500	341500	點擊創建。
341500	342500	點擊創建。
342500	343500	點擊創建。
343500	344500	點擊創建。
344500	345500	點擊創建。
345500	346500	點擊創建。
346500	347500	點擊創建。
347500	348500	點擊創建。
348500	349500	點擊創建。
349500	350500	點擊創建。
350500	351500	點擊創建。
351500	352500	點擊創建。
352500	353500	點擊創建。
353500	356500	點擊創建。
356500	357500	點擊創建。
357500	358500	點擊創建。
358500	359500	點擊創建。
359500	360500	點擊創建。
360500	361500	點擊創建。
361500	362500	點擊創建。
362500	363500	點擊創建。
363500	364500	點擊創建。
364500	365500	點擊創建。
365500	366500	點擊創建。
366500	367500	點擊創建。
367500	368500	點擊創建。
368500	369500	點擊創建。
369500	370500	點擊創建。
370500	371500	點擊創建。
371500	372500	點擊創建。
372500	373500	點擊創建。
373500	374500	點擊創建。
374500	375500	點擊創建。
375500	376500	點擊創建。
376500	377500	點擊創建。
377500	378500	點擊創建。
378500	379500	點擊創建。
379500	380500	點擊創建。
380500	381500	點擊創建。
381500	382500	點擊創建。
382500	383500	點擊創建。
383500	384500	點擊創建。
384500	385500	點擊創建。
385500	386500	點擊創建。
386500	387500	點擊創建。
387500	388500	點擊創建。
388500	389500	點擊創建。
389500	390500	點擊創建。
390500	391500	點擊創建。
391500	392500	點擊創建。
392500	393500	點擊創建。
393500	394500	點擊創建。
394500	395500	點擊創建。
395500	396500	點擊創建。
396500	397500	點擊創建。
397500	398500	點擊創建。
398500	399500	點擊創建。
399500	400500	點擊創建。
400500	401500	點擊創建。
401500	402500	點擊創建。
402500	403500	點擊創建。
403500	404500	點擊創建。
404500	405500	點擊創建。
405500	406500	點擊創建。
406500	407500	點擊創建。
407500	408500	點擊創建。
408500	409500	點擊創建。
409500	410500	點擊創建。
410500	411500	點擊創建。
411500	412500	點擊創建。
412500	413500	點擊創建。
413500	414500	點擊創建。
414500	415500	點擊創建。
415500	416500	點擊創建。
416500	417500	點擊創建。
417500	418500	點擊創建。
418500	419500	點擊創建。
419500	420500	點擊創建。
420500	421500	點擊創建。
421500	422500	點擊創建。
422500	423500	點擊創建。
423500	424500	點擊創建。
424500	425500	點擊創建。
425500	426500	點擊創建。
426500	427500	點擊創建。
427500	428500	點擊創建。
428500	429500	點擊創建。
429500	430500	點擊創建。
430500	431500	點擊創建。
431500	432500	點擊創建。
432500	433500	點擊創建。
433500	434500	點擊創建。
434500	435500	點擊創建。
435500	436500	點擊創建。
436500	437500	點擊創建。
437500	438500	點擊創建。
438500	439500	點擊創建。
439500	440500	點擊創建。