start	end	text
0	11000	我們現在看到的這個就是CM3.827B精華版。它的特點就是模型體積被壓縮的很小,但是它的性能或者智商並沒有下降。
11000	16000	就是普通電腦都能運行它,然後它一個月是有82萬的下載將近。
16000	24000	我們來看一下它的文件。它的文件都是很小的,它是被壓縮了,但是它的智商或者性能並沒有被壓縮的。
24000	26260	可以看到它最大是12GB
26260	28600	然后最小就只有8GB
28600	30360	然后普通电脑也能够运营它
30360	31760	然后它是支持多模态的
31760	33140	下面一个多模态文件
33140	34760	它是能够解析图片的
34760	37960	然后我已经把它安装到我的电脑上
37960	40060	然后安装到Hermes的Engine里面去
40060	41160	然后我们可以看到这边
41160	43140	这个模型就是13.827B
43140	46060	然后GSQRCO就是精华版
46060	47940	我们也问他一些问题
47940	50940	比如说你好你是什么大模型
50940	51600	我给他发送
51600	55700	他回路了他说我是Hermeson
55700	57800	然后他模型是千万3.827B
57800	61100	然后我再让他识别一张图片内容
61100	62800	因为他是支持多模态的
62800	64700	让他识别这一张图片吧
68300	72000	那么可见他识别的内容是千万大模型发布宣传横幅
72000	75400	然后左偷的文图是千万3.827B
75400	76500	然后进化版来了
76500	79300	然后小铁铁铁不降至多模型多模态
79300	81500	然后他是都能够分析出来的
81500	83740	然后背景色啥啥都是非常准确的
84260	85740	然后我再让他写一个ATMARO
85740	86940	看它的效果怎么样
86940	89060	内容是X超哥的简单单页
89340	91300	我们可以看到它已经在桌面上创建了
91300	93260	让我们双击打开它看一下效果
93260	94740	这就是一个很简单单页
95060	96100	做的效果还是不错的
96100	96740	非常漂亮
97620	98500	大家好我是超哥
98500	100940	今天给大家分享CM3.827B
101180	104340	GSQ加RCO AI模型本地步骤教程
104580	106620	它最大的特点就是模型体积小
106620	108260	能力强运行美感低
108620	110300	在保持模型能力的同时
110300	111900	大幅压缩模型体积
112140	114900	让普通电脑也有机会进行27B大模型
115100	117620	同时还支持131K上下文
117620	120260	多茅态图像理解和MTP加速技术
120540	121940	还可以接入Hermes Engine
121940	123100	下面开始教程
123460	124540	我也把所有用的材料
124540	126020	放到我的博客的网址里
126460	129620	我们首先来看一下我这个电脑环境
129980	131580	大家可以参考一下
132260	134780	下面第一步我们是需要下载大模型
134780	137140	然后我提供了三个下载地址
137140	138260	第一个是官方的
138260	139100	我们可以看一下
139100	140640	这个是官方的
140640	141920	点开
141920	145760	进来之后这就是它的所有的模型都在这了
145760	148300	然后如果你这个网址打不开的话
148300	150660	也可以用夸克跟蓄力网牌下载
150660	152060	我也都放到里面去了
152060	154220	让我们开看一下
154220	155280	这是它的大模型
155280	156800	然后这边有它的介绍
156800	157520	我们点这里
157520	159300	可以切换到它的官方介绍
159300	161140	这是它的官方介绍
161140	163680	让我们再点这个Fuse
163680	164920	就是它的文件
164920	165760	模型文件了
165760	166820	那就这些
166820	169500	我们可以看一下上面是具体的模型
169500	171560	这个带-MTP的
171560	172740	它是有加速技术的
172740	174120	它不带-MTP
174120	175220	它就是没有加速技术
175220	176080	它会小一点点
176080	177180	有小一点点而已
177180	179020	我们尽量是用带加速的
179020	180520	带-MTP的
180520	183220	然后最下面这个是多模态文件
183220	184320	就是理解图像的
184320	189200	这边有我写了一个具体的选择
189200	191660	你根据自己的电脑情况进行选择就行了
191660	193380	然后就下载
193380	195820	先我们一定要把这个多模态下载
195820	197460	不然它这个多么太迟前不了的
197460	198420	点这个下载
198420	201340	然后我就下载第一个吧
201340	203020	这边下一个因为只是做演示
203020	205720	然后我们等它下载完
205720	206380	它是比较大的
206380	208080	然后下载的时候
208080	209880	我来推做一个小广告
209880	211120	然后我的X超和推特
211120	212340	希望大家能关注一下
212340	213620	打开看一下
213620	215900	这我的推特账号
215900	217280	有推特的可以关注一下
217280	221040	模型已经下载好了
221040	222780	我们再来到我的博客
222780	225800	然后第二步是我们需要下载并配置
225800	227800	这是Lama.cpp
227800	229800	然后这是Lama.cpp的下载地址
229800	230800	也是三个
230800	232800	第一个是官方的Headahub下载地址
232800	235800	第二个是Quack给迅雷的
235800	237800	如果是Headahub打不开的话
237800	239800	可以用Quack网盘跟迅雷网盘进行下载
239800	241800	我就用这个官方的
241800	242800	点击打开
244800	245800	打开之后
245800	247800	我们点击这个进行的版本号
248800	250800	点击这个版本号之后
250800	252800	这就是它的下载链接
252800	254800	我们可以看到这边是有MacOS版本
254800	256720	然后有Winux版本
256720	258440	因为我是Windows我就下载Windows的
258440	261480	然后它是有很多电接的Windows的
261480	263240	我们可以对比一下
263240	266520	这边是Windows的各个不同的版本的对应
266520	269040	然后给你自己的显卡跟CPU进行选择
269040	270600	因为我是英伟达显卡
270600	272040	我下这两个就行了
272040	273280	我选择一个就行了
273280	275240	然后这个13的
275240	276000	coda13
276000	277760	然后这个要下载
277760	280920	然后后面这个DLS也要下载
280920	282120	点击下载
282120	285620	我们可以看到已经下载好了
285620	287220	这两个压缩包
287220	289620	一个是前面的正式的程序
289620	291220	后面是dlls
291220	293620	这两个都要下载的前后两个
293620	296620	我们可以打开看一下
296620	298220	然后这是两个模型
298220	298820	一个多模态
298820	300320	一个正常的模型文件
300320	303820	这两个就是lama.cpp的程序
303820	306320	然后先把这个两个压缩包都给它解压出来
308420	309260	然后打开看一下
309260	310720	这个是dll的
310720	312380	然后给它剪切
312380	315340	复制剪切到我们的LAMA主程序里面来
315340	317620	这个只要它的主程序给它剪切过来
319860	321400	这个是已经空了
321400	322940	然后这给它删了吧
322940	324720	这两个压缩包给它删了
324720	326480	这个就是LAMA的主程序
326480	328060	然后我给它命名一下吧
328060	328780	这个太长了
330640	331440	然后现在就好了
331440	332640	我们就先不要管它
332640	334040	然后把这两个给它关掉
335040	336280	然后我们再看下面
336280	339560	下面是需要把模型
339560	341240	接入到lama.cpp里面
341240	342380	我们才能运行它
342380	347240	是把下载的大模型放到lama.cpp程序的game目录下的modus目录
347240	349800	然后这个目录我们是需要自行创建的
349800	352700	我们先来到lama.cpp的程序的game目录下
354380	355820	这个就是刚刚我命名的这个
355820	357980	然后打开它就是game目录
357980	360440	然后我们需要创建一个文件夹
360440	363620	文件夹就是modus文件夹
363620	365120	然后我们复制一下名字
365120	367980	然后给它点击空白处UG
367980	370220	给它清点一个文件夹
370220	372780	明天给大家粘贴进去
372780	374740	就这个目录我们已经创建好了
374740	378220	然后我们需要把大模型放到这个目录里面来
380340	382740	然后给大家来到这边
382740	384540	剪切这两个模型
384540	386220	一个多模的一个正式的
386220	389620	然后给它剪切到这个modus目录来就行了
389620	391660	然后这个LAMA主程序我们放哪都行啊
391660	392260	随便放
392260	394420	只要你的盘够用就行
394420	398420	下面我们需要配置启动脚本
398420	401420	lama.cpp gamelo创建启动脚本
401420	403420	命名成启动.bat
403420	405420	也可以命名成1.bat都行
405420	407420	然后我们需要创建这个启动脚本
407420	408420	然后我先复制这个名字吧
408420	410420	启动.bat 复制
410420	413420	然后来到lama主程序来
413420	415420	然后右击空白处
415420	417420	然后给它新建一个文本文档先
417420	420420	然后我们把这个文本文档给它重义命名一下
420420	423420	后面的.tlt也要给它删了
423420	425920	上讲之后我们把启动点BAT给它粘贴进来
425920	427420	这就是一个BAT文件了
427420	428720	让给它确定一下
430720	431520	现在已经改好了
431520	433120	这边前面变成一个小尺
433120	435220	说明它就是命名成功了
435220	436320	让我们右击
437220	438520	右击它用文明打开
438520	439820	我们还要均匀修改
440720	442020	打开入里面是啥都没有的
442020	442720	是空白的
442720	444520	我们需要把我们的这个
445720	448020	启动脚本给它复制粘贴进去
448220	450520	让我们点击这边的copy
451420	452420	让给它粘贴过来
453420	455220	监贴到启动.bat里面来
455220	457960	这就是它的启动脚本
457960	459480	我们可以看一下这边
459480	460360	这里
460360	461520	其实我这边也有写的
463520	464960	这边是代码说明
464960	467060	有一个模型名是我们要改的
467060	468220	这个端口号
468220	469420	如果你本身端口号
469420	472580	跟他自跟我这个启动脚本的端口号冲突的话
472580	473580	你要改一下
473580	476080	然后-c就是上下文长度
476080	478220	我们来到启动脚本这边
478220	479320	这个就是模型名称
479320	480920	我们要改成我们自己的模型名称
480920	483420	你要使用的模型名称
483420	485020	比如说我刚刚下载的是
494830	497810	然后把这个模型名给它删了
497810	500550	把真正的模型名称给它复制过来就行了
500550	504810	然后后面这个是多模态文件
504810	506470	这个我们就不要动它了
506470	506890	多模态
506890	509350	但是你一定要下载这个多模态才行
509350	510530	这个文件
510530	511970	然后后面这个
511970	514310	这个是我们的端口号8085
514310	515310	如果你冲突的话
515310	516610	就是你改一下别的
516610	517210	如果不冲突
517210	518730	你就默然用8085就行了
518730	521350	然后后面这个是上下文长度
521350	523490	现在我默认给它是6万
523490	526030	如果你觉得小你可以自己改再改大一些就行了
526030	527690	让我们现在给它改好了
527690	528750	给它保存就行了
528750	531350	保存之后
531350	532970	我们就可以启动它了
532970	534710	我们来到拉玛主程序
534710	537190	然后启动点BAT
537190	539550	这个我们双击打开进行启动
539550	548490	我们可以看一下已经启动成功了
548490	552710	当看到这个段号后面有127的0.0.1的时候就启动成功了
552710	556350	然后我们按住键盘左下角的Kintry键
556350	558870	然后再点击这个链接就能打开了
560570	563610	你也可以在我这边点击这个链接是一样的
563610	564470	这个端号要对
564470	566170	要是你自己的才行
566170	567410	点击一样可以打开的
569270	570750	但是我测试一下
570750	572950	比如说八个你好
572950	574370	你是什么大模型
578810	579850	他说我签位
579850	583390	然后速度是50tok每秒
583390	584510	然后这个是
584510	587550	这边是有个句子的模型信息的
587550	588710	这句子的模型信息
588710	591010	这个就是我们现在正在用的
591010	592790	它是支持多模态的
592790	595310	因为我们有多模态文件在里面
595310	598210	比如我上传个图片给他
598210	601950	添加个图片
601950	607550	然后识别图片内容
607550	609210	我们可以看到它运行完了
609210	612210	它是每秒也是50Token
612210	615510	然后这是它识别到的图片内容
615510	616710	是比较准确的
616710	618550	它是能够识别图片的
618550	619790	这是多模态
619790	621850	然后我们这个可以给它关掉
621850	625010	因为我们要对接到Hermes的A进里面去
625010	627910	然后我说一下这个中端是不能关掉的
627910	630110	你关掉它就没办法用了
630110	631750	因为它靠这个中端的
631750	633090	如果你重启电脑之后
633090	634850	你也要再开启这个中端才能用
634850	637510	就是点击微软起动点BAT就行了
637510	640910	让我们现在看一下紫模对接到荷免声音镜里面去
640910	642670	荷免声音镜下载地址是这个
642670	644850	我们可以点开
644850	645910	点开之后
645910	647710	点击这个下载就行了
647710	649650	这个是他默认显示的就是windows
649650	650550	点击
650550	651950	进行下载
651950	653510	这边我允许一下
653510	655050	他比较小的已经下载好了
655050	656510	让我点击进行安装
659010	660610	打开之后我们点这边的安装就行了
664270	665850	我们可以看到他已经装好了
665850	667230	让我们点这边的开始
667510	670750	现在已经好了
670750	673510	我们点这边的稍后再选择提供方
673510	674510	先给它打开
674510	677010	然后打开之后我们把这个给它关掉
677010	679510	关掉之后我们下面要开始配置它了
679510	681510	然后再打开HermicEinge
681510	684510	然后点这边的齿轮打开
684510	686510	打开之后我们选择
686510	688510	左边这边有个提供方点击
688510	691510	点击之后下面有一个APM秘钥点击
691510	695510	点击之后我们找到下面下面有一个OpenAI
695510	696510	我们往阿拉找一下
696510	699710	这个有个openaiapi点击
699710	702030	点击之后这有两个要填
702030	702990	一个是密钥
702990	704610	另外一个就是url
704610	706490	这个密钥我们就随便填就行了
706490	707590	因为它是本地模型
707590	708850	12345
708850	709990	然后保存
709990	713410	url我们用这个
713410	714910	这个url
714910	716370	我博客这边的
716370	717450	然后这个8085
717450	717830	你就
717830	719590	你没改的话就是8085
719590	721310	你改了端口号的话
721310	723230	你就是你自己改的那个端口号
723230	724050	我们复制一下
724050	726850	然后给它粘贴过来
726850	728210	然后点保存
728210	731170	现在就已经保存成功了
731170	732990	让我们点这边的模型
732990	735750	然后这边有一个选择
735750	736950	现在是自动
736950	737910	然后我们点一下
737910	739410	这边有一个open AI
739410	740370	选中它
740370	741950	然后这我们点应用
741950	743390	现在保错
743390	745150	然后我们选一下这个模型
745150	748630	下面有我们刚刚的这个选择的模型
748630	749830	然后选中它
749830	751110	7213.827B
751110	751910	然后再点应用
751910	753790	然后现在就成功了
753790	755290	我们给它关掉
755290	759090	关掉之后我们可以看到这边对话框这边
759090	763470	默认就选中了723.827BGSQRCO这个模型
763470	765710	我们问一下看它能不能用
765710	767570	比如说发个你好
767570	769790	你是什么模型
769790	773510	我们可以看到它回复了
773510	776210	然后它说明它是能够正常连上的
776210	778730	然后我们再选择一张图片
778730	780810	因为它这是多模态的
780810	782070	看它能不能识别到图片
782070	785070	还是选择这张图吧
790070	791830	我们可以看到他已经分析完了
791830	794370	他说他是主题是7W3.827B
794370	796270	他之前是太大了
796270	797810	然后他自动给压缩了
797810	800210	这Hermicene Geek还是挺智能的
800210	801430	然后我提醒一下大家
801430	804030	大家用的时候不管用Hermicene Geek
804030	805270	还是他这个
805270	809030	还是用这个网址进行使用这个模型
809030	810730	我们都不要把这个终端给关掉
810730	812010	你关掉就没办法用了
812010	813050	好吧
813050	814010	今天这段就到这吧
814010	815310	如果大家有什么问题的话
815310	817310	可以在视频下方的频道去留言交流
817310	818430	谢谢大家的观看
