實際影片長度:8:35.275。原文、繁中、雙語可點擊句子跳轉影片。
0:00.000–0:03.483
zh大家看我在DeepseekHannis的原码里翻譯了什么。
0:03.483–0:06.846
zhThe Agent Codex和The Agent Cloud。
0:06.846–0:09.608
zh这是要做Codex和Codex最严厉的父亲吗?
0:09.608–0:13.091
zhHannis本地部署千问3.827B同时跑三个任务也行吗?
0:13.091–0:15.012
zh这下是不是真的token自由了?
0:15.012–0:15.512
zh大家好,
0:15.512–0:16.093
zh我是ZZ。
0:16.093–0:20.296
zhDeepseekHannis让本地Agent框架的看研程度更上一层楼,
0:20.296–0:24.620
zh而千问3.827B则是让本地部署大模型执行复杂Agent的任务成为可能。
0:24.620–0:27.777
zh本期我们就来本地部署Hannis加千问3.827B,
0:27.777–0:29.599
zh实现数据安全和token自由。
0:29.599–0:32.756
zh先给大家介绍一下什么是DeepseekHannis。
0:32.756–0:36.399
zh网上有人说这是Deepseek版的Codex或者Cloud,
0:36.399–0:38.220
zh但是我想说这种说法都不太准确。
0:38.380–0:41.792
zh因为DeepseekHannis就像一块乐高的底板一样,
0:41.792–0:43.376
zh所有的AZ的能力就为插件,
0:43.376–0:44.960
zh这些插件就像于CoreG,
0:44.960–0:46.300
zh可以任意组合按需替换。
0:46.300–0:47.094
zh想用手模型,
0:47.094–0:48.152
zh想加载什么工具,
0:48.152–0:48.814
zh怎么调度,
0:48.814–0:50.137
zh怎么囤储都有你决定。
0:50.137–0:54.900
zh甚至可以给DeepseekHannis换了你喜欢的20元角色的UI皮肤。
0:55.140–0:56.579
zh除了架构上的自由度外,
0:56.579–0:59.979
zhDeepseekHannis的运行过程不仅有迹可循,
0:59.979–1:00.764
zh还公开透明。
1:00.764–1:03.380
zh这一点是在同类任何别人软件上都看不到的。
1:04.020–1:04.800
zh说起币安软件,
1:04.800–1:07.254
zh我在看DeepseekHannis的原码时,
1:07.254–1:08.480
zh发现了一段有趣的代码。
1:08.720–1:13.260
zhDeepseekHannis似乎在设计之初就考虑了可以调用其他同类本地Agent能力。
1:13.260–1:18.180
zh这你敢信,大部分AI助手类软件的设计逻辑肯定是能干的活都自己干了呀。
1:18.560–1:20.920
zh就算派子一指头肯定也是自己分身一个呀。
1:21.240–1:23.506
zh比同行留个门还分一杯各种的事情,
1:23.506–1:26.480
zh要是让用户跑了直接用上同行的了那怎么办呢?
1:26.660–1:28.280
zh不得不说量身这格局够大。
1:28.540–1:30.137
zh这里我也实际测试了一下,
1:30.137–1:32.134
zh确实能调用到Codex的能力,
1:32.134–1:36.260
zh但是似乎没能找到合适的场景让我不得不去调用Codex的情况呀。
1:36.380–1:37.720
zhCodex你得加把劲了。
1:37.720–1:40.060
zh接下来我们来安装一下DeepseekHannis。
1:40.060–1:43.680
zh首先第一步我们需要来到Node.js的官网下载并安装。
1:43.680–1:45.780
zh安装过程我们一直点下一步即可。
1:46.040–1:46.812
zh安装完成后,
1:46.812–1:49.642
zh我们回到DeepseekHannis的官网,
1:49.642–1:51.700
zh复制一下快速体验下面的正行命令。
1:51.960–1:54.055
zh在开始探测中打开PowerShell,
1:54.055–1:56.480
zh将正行命令粘贴进PowerShell后回车。
1:56.820–1:59.080
zh等待以后我们输入Y再按回车。
1:59.500–2:00.643
zh因为这里需要下载,
2:00.643–2:02.295
zh所以它的花费时间会长一些,
2:02.295–2:03.057
zh不是卡住了,
2:03.057–2:04.200
zh请在按那些等一下。
2:04.920–2:07.980
zh等我们看到外部UI的地址的时候就是安装成功了。
2:07.980–2:09.980
zh我们把它复制到浏览器打开。
2:09.980–2:12.740
zh首先第一步就是让我们配置官方API Key。
2:12.740–2:15.656
zh如果你想用自己的API Key或者本地部署,
2:15.656–2:17.600
zh可以直接跳到视频的后面部分。
2:17.600–2:19.147
zhDeepseek的Meal,
2:19.147–2:22.240
zh我们可以从Deepseek的官网点击这个API开放平台。
2:22.240–2:25.220
zh然后在API Key里面创建一个API Key。
2:25.220–2:27.860
zh然后把这个API Key的Meal复制出来就行了。
2:27.860–2:29.860
zh当然你得确保你还有余额啊。
2:29.860–2:31.980
zh不然的话这个API Key也是用不了的。
2:31.980–2:35.980
zh进入之后我们点击一下对话框,会让我们选择一个工作区。
2:35.980–2:39.980
zh这个工作区你就可以把它想象成某一个具体项目的生产车间。
2:39.980–2:43.380
zh比如它需要的一些文件资料,我们可以给它放到里面。
2:43.380–2:47.380
zh然后它做的一些产出结果,文档也会在里面生成。
2:47.380–2:49.380
zh接着我们来做一下联通信测试。
2:49.380–2:52.500
zh我们随便发给它一段话,能够收到对应的回复。
2:52.500–2:54.860
zh我们的Deepseek Harness就安装成功了。
2:54.860–2:57.980
zh我们可以在对话框下面选择它的群演等级。
2:57.980–2:58.952
zh第一个是只读,
2:58.952–3:01.036
zh这种情况下它只会读取你的文件,
3:01.036–3:02.980
zh不会对你的电脑进行任何更改。
3:02.980–3:06.980
zh第二个是在工作区域的写入,也就是我们刚才选择的文件夹。
3:06.980–3:08.980
zh正常的话我们就选择第二个就可以了。
3:08.980–3:13.380
zh第三个是放开全部权限,这个适合有一定基础的小伙伴。
3:13.380–3:16.380
zh接下来我们来本机部署签问3.820CB。
3:16.380–3:18.348
zh首先打开LM499的官网,
3:18.348–3:19.407
zh我们点一下载,
3:19.407–3:21.980
zh然后安装的时候点击一支下一步即可。
3:21.980–3:26.980
zh在LM499中我们可以点击左下角的设置,然后点击第一个选项。
3:26.980–3:28.980
zh这里可以把它设置为中文。
3:28.980–3:30.980
zh接下来我们下载千万3.827B模型。
3:30.980–3:33.980
zh我们点击左侧这个在放大镜的图标。
3:33.980–3:36.980
zh点击之后我们在这里搜索千万3.8。
3:36.980–3:38.980
zh这里第一个就是,如果没有的话我可以搜索。
3:38.980–3:40.980
zh这里一个下载的一个设置。
3:40.980–3:42.980
zh然后我们点开这就可以下载。
3:42.980–3:44.980
zh我这里都给下载完了。
3:44.980–3:47.980
zh然后大家可以根据自己的显存来进行下载。
3:47.980–3:51.980
zh如果你的显存是16个JJ的话,你就选择这个。
3:51.980–3:53.980
zh这个17个J也是可以装到下载。
3:53.980–3:56.980
zh因为它有部分可能会装到内存里面。
3:56.980–3:58.980
zh所以16J也是可以用的。
3:58.980–4:03.980
zh然后这个如果你的内存在24J的话,你就选择这个Q6量化的。
4:03.980–4:08.980
zh然后如果你的显存有29个J以上的话,你就可以选择这个Q8量化的。
4:08.980–4:12.980
zh下载完成后,我们来测试一下联通性。
4:12.980–4:14.980
zh点击左侧的这个紫色的logo。
4:14.980–4:17.980
zh接着我们选择顶部要加载的模型。
4:17.980–4:20.980
zh然后接着在选择我们的模型,它就会自动加载。
4:20.980–4:25.980
zh下载成功后,我们任意发送一条消息,能够收到对应的回复。
4:25.980–4:27.980
zh就说明我们的LM19安装成功了。
4:27.980–4:31.980
zh千辛3.8RTB这个模型,除了它的agent能力很强外。
4:31.980–4:34.980
zh它还是一个原生的视觉语言模型。
4:34.980–4:35.980
zh因此它是可以看图的。
4:35.980–4:39.980
zh这里我找了一堆笔的图片,看它能不能数得清楚。
4:39.980–4:41.980
zh好,这里它已经数完了,我们来看一下。
4:41.980–4:44.980
zh它这里说15支笔,我们来数一数对不对。
4:44.980–4:46.313
en1,2,3,
4:46.313–4:46.813
en4,
4:46.813–4:47.313
en5,
4:47.313–4:47.813
en6,
4:47.813–4:48.313
en7,
4:48.313–4:48.813
en8,
4:48.813–4:49.313
en9,
4:49.313–4:49.813
en10,
4:49.813–4:50.313
en11,
4:50.313–4:50.980
en12,
4:50.980–4:51.647
en13,
4:51.647–4:52.980
en14,15。
4:52.980–4:57.980
zh成功数对了,而且它也没有被这一个笔杆和笔帽没有在一起的笔给干扰。
4:57.980–5:02.980
zh接着我们将本地的约条3.8RTB进入到我们的DVSIC HANIS中。
5:02.980–5:05.980
zh首先我们在LM1919里面点击左侧的第二个图标。
5:05.980–5:07.980
zh我们把运行按钮打开。
5:07.980–5:09.980
zh然后点击这里的加载模型。
5:09.980–5:11.980
zh选择我们要加载的千万3.8RTB。
5:11.980–5:14.980
zh加载完成后我们来到DVSIC HANIS中。
5:14.980–5:17.980
zh点击左下角的设置,点击模型。
5:17.980–5:20.980
zh然后我们可以点击添加自定义配置方。
5:20.980–5:23.980
zhProvide ID这里一定要是小写字幕开头。
5:23.980–5:25.980
zh显示名称这里我们随便填。
5:25.980–5:29.980
zhAPI地址这里我们从LM Studio这里复制一下这个地址。
5:29.980–5:33.980
zh注意这个地址粘过来之后需要在后面加上斜线V1。
5:33.980–5:35.980
zhAPI协议选择OpenAI Comulations。
5:35.980–5:39.980
zh模型目录这里我们同样是从RM Studio这里复制过来。
5:39.980–5:41.980
zh助理这里很容易复制过来空格。
5:41.980–5:42.980
zh别问我为什么知道。
5:42.980–5:45.980
zh我们在对话空中将模型修改为千万3.8RT。
5:45.980–5:47.980
zh然后进行连通性测试。
5:47.980–5:50.980
zh回复任意一句话能够受到对应的回应就为成功。
5:50.980–5:53.980
zh大家在本地部署的过程中遇到任何问题,
5:53.980–5:55.980
zh也可以先给Hanis配上个线上的API。
5:55.980–5:57.980
zh让Hanis直接帮你修。
5:57.980–6:00.980
zh我们让它生成一个飞行小游戏来测试一下。
6:00.980–6:03.980
zh与此同时我们再让它去写一个科幻小说。
6:03.980–6:05.980
zh毕竟本运行超恨可是不要钱的。
6:05.980–6:07.980
zh怎么好像运行的还挺流畅的。
6:07.980–6:08.980
zh估计还有余力。
6:08.980–6:10.980
zh再给安排个生成天体的任务吧。
6:10.980–6:12.980
zh生产队的驴都估计没我电脑忙了。
6:12.980–6:14.980
zh我只求你别冒烟。
6:14.980–6:17.980
zh可以看到RM Studio这里三个任务都给跑起来了。
6:17.980–6:19.980
zh我这电脑的风扇也是嗚嗚的转。
6:19.980–6:21.980
zh好像开始卡了。不行了。
6:21.980–6:24.980
zh我这鼠标已经非常难用了。
6:24.980–6:26.980
zh不过看这个任务它还是在运行的。
6:26.980–6:28.980
zh但是我这已经操作不了电脑了。
6:28.980–6:30.980
zh我想把鼠标移动到听纸这里。
6:30.980–6:31.980
zh但是非常难移动。
6:31.980–6:33.980
zh而且点击也没什么反应。
6:33.980–6:35.980
zh这个应该是内存频引导致的。
6:35.980–6:38.980
zh因为本次这个电脑的话是三十二级内存。
6:38.980–6:41.980
zh运行一个任务的话应该是一点问题没有。
6:41.980–6:43.980
zh但是如果运行多个任务的话,
6:43.980–6:46.980
zh它上线纹都夹在内存中是肯定撑不住的。
6:46.980–6:48.980
zh所以大家一定要根据自己的情况去执行这个。
6:48.980–6:50.980
zh任务啊。
6:50.980–6:53.980
zh包括其实LM199它其实是可以设置上远文长度的。
6:53.980–6:56.980
zh如果你内存不够高的话,尽量设置的低一点。
6:56.980–6:57.980
zh比如说64K以下。
6:57.980–7:01.980
zh而且不要像我这样一聘同时执行好几个任务。
7:01.980–7:03.980
zh我替你试过了,你就不要去试了。
7:03.980–7:05.980
zh把电脑搞冒烟可不是那玩的。
7:05.980–7:07.980
zh我这里想说任务管理器里面结束任务。
7:07.980–7:10.980
zh但是任务管理器已经卡成一张精彩图片了。
7:10.980–7:13.980
zh我这里是好不容易把录片软件给退了。
7:13.980–7:14.980
zh然后才能操作鼠标。
7:14.980–7:16.980
zh把后来提要两个任务关闭了。
7:16.980–7:18.980
zh就会排生成的。
7:18.980–7:19.980
zh我们来看一下生成结果吧。
7:19.980–7:21.980
zh生成结果还是很出乎我的意料的。
7:21.980–7:24.980
zh你别看这只是一个简单的飞行射击小游戏。
7:24.980–7:30.980
zh它处理的这些碰撞啊,移动啊,包括敌人的生成啊,都没有任何问题。
7:30.980–7:33.980
zh这对于一个27B的小模型来说是非常厉害的。
7:33.980–7:35.980
zh而且这还是只是一轮停止词的情况下。
7:35.980–7:38.980
zh如果多轮对话的话,它的潜力还有非常大的发布空间。
7:38.980–7:41.980
zh我认为这个模型是真的可以多为生产地的一个模型了。
7:41.980–7:43.980
zh然后我们再来看一下它生成的这个空白小说啊。
7:43.980–7:46.980
zh虽然我中途停止了,但它生成了也很多东西了。
7:46.980–7:49.980
zh而且我看它这个内容真的让我非常的震惊啊。
7:49.980–7:51.980
zh我就一点看不出这是AI写的。
7:51.980–7:54.980
zh虽然它这个东西写的是一个老套的星际移民的故事啊。
7:54.980–7:57.063
zh但它这个东西让我看设定的时候,
7:57.063–7:59.980
zh我一下子想到的就是美剧那个什么羊毛战记啊。
7:59.980–8:01.980
zh就是末日地宝那个。
8:01.980–8:07.980
zh就是人们挤在地下桶堂里边,然后高层靠着野蛮真相维持生存的秩序啊。
8:07.980–8:09.980
zh包括它的一些场景设定啊。
8:09.980–8:12.980
zh比如说,呃,集水柱啊。
8:12.980–8:13.980
zh然后墙上的救赎啊。
8:13.980–8:15.980
zh就人死了之后它会。
8:15.980–8:17.980
zh其实它不是说是死了,就直接上传数据了。
8:17.980–8:19.980
zh而且它也保留了集水柱。
8:19.980–8:21.980
zh我就觉得就很有画面感。
8:21.980–8:24.980
zh就这个画面可能最后做出来就很震撼。
8:24.980–8:27.980
zh好了,感谢大家能听到我讲到这里啊。
8:27.980–8:30.980
zh后面我会给大家分享更多的AI相关的知识啊。
8:30.980–8:32.980
zh大家如果感兴趣的话记得关注一下。
8:32.980–8:34.980
zh我是VV,在这里谢过大家了。
0:00.000–0:03.483
大家看我在DeepseekHannis的原码里翻譯了什么。
0:03.483–0:06.846
The Agent Codex和The Agent Cloud。
0:06.846–0:09.608
这是要做Codex和Codex最严厉的父亲吗?
0:09.608–0:13.091
Hannis本地部署千问3.827B同时跑三个任务也行吗?
0:13.091–0:15.012
这下是不是真的token自由了?
0:15.012–0:15.512
大家好,
0:15.512–0:16.093
我是ZZ。
0:16.093–0:20.296
DeepseekHannis让本地Agent框架的看研程度更上一层楼,
0:20.296–0:24.620
而千问3.827B则是让本地部署大模型执行复杂Agent的任务成为可能。
0:24.620–0:27.777
本期我们就来本地部署Hannis加千问3.827B,
0:27.777–0:29.599
实现数据安全和token自由。
0:29.599–0:32.756
先给大家介绍一下什么是DeepseekHannis。
0:32.756–0:36.399
网上有人说这是Deepseek版的Codex或者Cloud,
0:36.399–0:38.220
但是我想说这种说法都不太准确。
0:38.380–0:41.792
因为DeepseekHannis就像一块乐高的底板一样,
0:41.792–0:43.376
所有的AZ的能力就为插件,
0:43.376–0:44.960
这些插件就像于CoreG,
0:44.960–0:46.300
可以任意组合按需替换。
0:46.300–0:47.094
想用手模型,
0:47.094–0:48.152
想加载什么工具,
0:48.152–0:48.814
怎么调度,
0:48.814–0:50.137
怎么囤储都有你决定。
0:50.137–0:54.900
甚至可以给DeepseekHannis换了你喜欢的20元角色的UI皮肤。
0:55.140–0:56.579
除了架构上的自由度外,
0:56.579–0:59.979
DeepseekHannis的运行过程不仅有迹可循,
0:59.979–1:00.764
还公开透明。
1:00.764–1:03.380
这一点是在同类任何别人软件上都看不到的。
1:04.020–1:04.800
说起币安软件,
1:04.800–1:07.254
我在看DeepseekHannis的原码时,
1:07.254–1:08.480
发现了一段有趣的代码。
1:08.720–1:13.260
DeepseekHannis似乎在设计之初就考虑了可以调用其他同类本地Agent能力。
1:13.260–1:18.180
这你敢信,大部分AI助手类软件的设计逻辑肯定是能干的活都自己干了呀。
1:18.560–1:20.920
就算派子一指头肯定也是自己分身一个呀。
1:21.240–1:23.506
比同行留个门还分一杯各种的事情,
1:23.506–1:26.480
要是让用户跑了直接用上同行的了那怎么办呢?
1:26.660–1:28.280
不得不说量身这格局够大。
1:28.540–1:30.137
这里我也实际测试了一下,
1:30.137–1:32.134
确实能调用到Codex的能力,
1:32.134–1:36.260
但是似乎没能找到合适的场景让我不得不去调用Codex的情况呀。
1:36.380–1:37.720
Codex你得加把劲了。
1:37.720–1:40.060
接下来我们来安装一下DeepseekHannis。
1:40.060–1:43.680
首先第一步我们需要来到Node.js的官网下载并安装。
1:43.680–1:45.780
安装过程我们一直点下一步即可。
1:46.040–1:46.812
安装完成后,
1:46.812–1:49.642
我们回到DeepseekHannis的官网,
1:49.642–1:51.700
复制一下快速体验下面的正行命令。
1:51.960–1:54.055
在开始探测中打开PowerShell,
1:54.055–1:56.480
将正行命令粘贴进PowerShell后回车。
1:56.820–1:59.080
等待以后我们输入Y再按回车。
1:59.500–2:00.643
因为这里需要下载,
2:00.643–2:02.295
所以它的花费时间会长一些,
2:02.295–2:03.057
不是卡住了,
2:03.057–2:04.200
请在按那些等一下。
2:04.920–2:07.980
等我们看到外部UI的地址的时候就是安装成功了。
2:07.980–2:09.980
我们把它复制到浏览器打开。
2:09.980–2:12.740
首先第一步就是让我们配置官方API Key。
2:12.740–2:15.656
如果你想用自己的API Key或者本地部署,
2:15.656–2:17.600
可以直接跳到视频的后面部分。
2:17.600–2:19.147
Deepseek的Meal,
2:19.147–2:22.240
我们可以从Deepseek的官网点击这个API开放平台。
2:22.240–2:25.220
然后在API Key里面创建一个API Key。
2:25.220–2:27.860
然后把这个API Key的Meal复制出来就行了。
2:27.860–2:29.860
当然你得确保你还有余额啊。
2:29.860–2:31.980
不然的话这个API Key也是用不了的。
2:31.980–2:35.980
进入之后我们点击一下对话框,会让我们选择一个工作区。
2:35.980–2:39.980
这个工作区你就可以把它想象成某一个具体项目的生产车间。
2:39.980–2:43.380
比如它需要的一些文件资料,我们可以给它放到里面。
2:43.380–2:47.380
然后它做的一些产出结果,文档也会在里面生成。
2:47.380–2:49.380
接着我们来做一下联通信测试。
2:49.380–2:52.500
我们随便发给它一段话,能够收到对应的回复。
2:52.500–2:54.860
我们的Deepseek Harness就安装成功了。
2:54.860–2:57.980
我们可以在对话框下面选择它的群演等级。
2:57.980–2:58.952
第一个是只读,
2:58.952–3:01.036
这种情况下它只会读取你的文件,
3:01.036–3:02.980
不会对你的电脑进行任何更改。
3:02.980–3:06.980
第二个是在工作区域的写入,也就是我们刚才选择的文件夹。
3:06.980–3:08.980
正常的话我们就选择第二个就可以了。
3:08.980–3:13.380
第三个是放开全部权限,这个适合有一定基础的小伙伴。
3:13.380–3:16.380
接下来我们来本机部署签问3.820CB。
3:16.380–3:18.348
首先打开LM499的官网,
3:18.348–3:19.407
我们点一下载,
3:19.407–3:21.980
然后安装的时候点击一支下一步即可。
3:21.980–3:26.980
在LM499中我们可以点击左下角的设置,然后点击第一个选项。
3:26.980–3:28.980
这里可以把它设置为中文。
3:28.980–3:30.980
接下来我们下载千万3.827B模型。
3:30.980–3:33.980
我们点击左侧这个在放大镜的图标。
3:33.980–3:36.980
点击之后我们在这里搜索千万3.8。
3:36.980–3:38.980
这里第一个就是,如果没有的话我可以搜索。
3:38.980–3:40.980
这里一个下载的一个设置。
3:40.980–3:42.980
然后我们点开这就可以下载。
3:42.980–3:44.980
我这里都给下载完了。
3:44.980–3:47.980
然后大家可以根据自己的显存来进行下载。
3:47.980–3:51.980
如果你的显存是16个JJ的话,你就选择这个。
3:51.980–3:53.980
这个17个J也是可以装到下载。
3:53.980–3:56.980
因为它有部分可能会装到内存里面。
3:56.980–3:58.980
所以16J也是可以用的。
3:58.980–4:03.980
然后这个如果你的内存在24J的话,你就选择这个Q6量化的。
4:03.980–4:08.980
然后如果你的显存有29个J以上的话,你就可以选择这个Q8量化的。
4:08.980–4:12.980
下载完成后,我们来测试一下联通性。
4:12.980–4:14.980
点击左侧的这个紫色的logo。
4:14.980–4:17.980
接着我们选择顶部要加载的模型。
4:17.980–4:20.980
然后接着在选择我们的模型,它就会自动加载。
4:20.980–4:25.980
下载成功后,我们任意发送一条消息,能够收到对应的回复。
4:25.980–4:27.980
就说明我们的LM19安装成功了。
4:27.980–4:31.980
千辛3.8RTB这个模型,除了它的agent能力很强外。
4:31.980–4:34.980
它还是一个原生的视觉语言模型。
4:34.980–4:35.980
因此它是可以看图的。
4:35.980–4:39.980
这里我找了一堆笔的图片,看它能不能数得清楚。
4:39.980–4:41.980
好,这里它已经数完了,我们来看一下。
4:41.980–4:44.980
它这里说15支笔,我们来数一数对不对。
4:44.980–4:46.313
1,2,3,
4:46.313–4:46.813
4,
4:46.813–4:47.313
5,
4:47.313–4:47.813
6,
4:47.813–4:48.313
7,
4:48.313–4:48.813
8,
4:48.813–4:49.313
9,
4:49.313–4:49.813
10,
4:49.813–4:50.313
11,
4:50.313–4:50.980
12,
4:50.980–4:51.647
13,
4:51.647–4:52.980
14,15。
4:52.980–4:57.980
成功数对了,而且它也没有被这一个笔杆和笔帽没有在一起的笔给干扰。
4:57.980–5:02.980
接着我们将本地的约条3.8RTB进入到我们的DVSIC HANIS中。
5:02.980–5:05.980
首先我们在LM1919里面点击左侧的第二个图标。
5:05.980–5:07.980
我们把运行按钮打开。
5:07.980–5:09.980
然后点击这里的加载模型。
5:09.980–5:11.980
选择我们要加载的千万3.8RTB。
5:11.980–5:14.980
加载完成后我们来到DVSIC HANIS中。
5:14.980–5:17.980
点击左下角的设置,点击模型。
5:17.980–5:20.980
然后我们可以点击添加自定义配置方。
5:20.980–5:23.980
Provide ID这里一定要是小写字幕开头。
5:23.980–5:25.980
显示名称这里我们随便填。
5:25.980–5:29.980
API地址这里我们从LM Studio这里复制一下这个地址。
5:29.980–5:33.980
注意这个地址粘过来之后需要在后面加上斜线V1。
5:33.980–5:35.980
API协议选择OpenAI Comulations。
5:35.980–5:39.980
模型目录这里我们同样是从RM Studio这里复制过来。
5:39.980–5:41.980
助理这里很容易复制过来空格。
5:41.980–5:42.980
别问我为什么知道。
5:42.980–5:45.980
我们在对话空中将模型修改为千万3.8RT。
5:45.980–5:47.980
然后进行连通性测试。
5:47.980–5:50.980
回复任意一句话能够受到对应的回应就为成功。
5:50.980–5:53.980
大家在本地部署的过程中遇到任何问题,
5:53.980–5:55.980
也可以先给Hanis配上个线上的API。
5:55.980–5:57.980
让Hanis直接帮你修。
5:57.980–6:00.980
我们让它生成一个飞行小游戏来测试一下。
6:00.980–6:03.980
与此同时我们再让它去写一个科幻小说。
6:03.980–6:05.980
毕竟本运行超恨可是不要钱的。
6:05.980–6:07.980
怎么好像运行的还挺流畅的。
6:07.980–6:08.980
估计还有余力。
6:08.980–6:10.980
再给安排个生成天体的任务吧。
6:10.980–6:12.980
生产队的驴都估计没我电脑忙了。
6:12.980–6:14.980
我只求你别冒烟。
6:14.980–6:17.980
可以看到RM Studio这里三个任务都给跑起来了。
6:17.980–6:19.980
我这电脑的风扇也是嗚嗚的转。
6:19.980–6:21.980
好像开始卡了。不行了。
6:21.980–6:24.980
我这鼠标已经非常难用了。
6:24.980–6:26.980
不过看这个任务它还是在运行的。
6:26.980–6:28.980
但是我这已经操作不了电脑了。
6:28.980–6:30.980
我想把鼠标移动到听纸这里。
6:30.980–6:31.980
但是非常难移动。
6:31.980–6:33.980
而且点击也没什么反应。
6:33.980–6:35.980
这个应该是内存频引导致的。
6:35.980–6:38.980
因为本次这个电脑的话是三十二级内存。
6:38.980–6:41.980
运行一个任务的话应该是一点问题没有。
6:41.980–6:43.980
但是如果运行多个任务的话,
6:43.980–6:46.980
它上线纹都夹在内存中是肯定撑不住的。
6:46.980–6:48.980
所以大家一定要根据自己的情况去执行这个。
6:48.980–6:50.980
任务啊。
6:50.980–6:53.980
包括其实LM199它其实是可以设置上远文长度的。
6:53.980–6:56.980
如果你内存不够高的话,尽量设置的低一点。
6:56.980–6:57.980
比如说64K以下。
6:57.980–7:01.980
而且不要像我这样一聘同时执行好几个任务。
7:01.980–7:03.980
我替你试过了,你就不要去试了。
7:03.980–7:05.980
把电脑搞冒烟可不是那玩的。
7:05.980–7:07.980
我这里想说任务管理器里面结束任务。
7:07.980–7:10.980
但是任务管理器已经卡成一张精彩图片了。
7:10.980–7:13.980
我这里是好不容易把录片软件给退了。
7:13.980–7:14.980
然后才能操作鼠标。
7:14.980–7:16.980
把后来提要两个任务关闭了。
7:16.980–7:18.980
就会排生成的。
7:18.980–7:19.980
我们来看一下生成结果吧。
7:19.980–7:21.980
生成结果还是很出乎我的意料的。
7:21.980–7:24.980
你别看这只是一个简单的飞行射击小游戏。
7:24.980–7:30.980
它处理的这些碰撞啊,移动啊,包括敌人的生成啊,都没有任何问题。
7:30.980–7:33.980
这对于一个27B的小模型来说是非常厉害的。
7:33.980–7:35.980
而且这还是只是一轮停止词的情况下。
7:35.980–7:38.980
如果多轮对话的话,它的潜力还有非常大的发布空间。
7:38.980–7:41.980
我认为这个模型是真的可以多为生产地的一个模型了。
7:41.980–7:43.980
然后我们再来看一下它生成的这个空白小说啊。
7:43.980–7:46.980
虽然我中途停止了,但它生成了也很多东西了。
7:46.980–7:49.980
而且我看它这个内容真的让我非常的震惊啊。
7:49.980–7:51.980
我就一点看不出这是AI写的。
7:51.980–7:54.980
虽然它这个东西写的是一个老套的星际移民的故事啊。
7:54.980–7:57.063
但它这个东西让我看设定的时候,
7:57.063–7:59.980
我一下子想到的就是美剧那个什么羊毛战记啊。
7:59.980–8:01.980
就是末日地宝那个。
8:01.980–8:07.980
就是人们挤在地下桶堂里边,然后高层靠着野蛮真相维持生存的秩序啊。
8:07.980–8:09.980
包括它的一些场景设定啊。
8:09.980–8:12.980
比如说,呃,集水柱啊。
8:12.980–8:13.980
然后墙上的救赎啊。
8:13.980–8:15.980
就人死了之后它会。
8:15.980–8:17.980
其实它不是说是死了,就直接上传数据了。
8:17.980–8:19.980
而且它也保留了集水柱。
8:19.980–8:21.980
我就觉得就很有画面感。
8:21.980–8:24.980
就这个画面可能最后做出来就很震撼。
8:24.980–8:27.980
好了,感谢大家能听到我讲到这里啊。
8:27.980–8:30.980
后面我会给大家分享更多的AI相关的知识啊。
8:30.980–8:32.980
大家如果感兴趣的话记得关注一下。
8:32.980–8:34.980
我是VV,在这里谢过大家了。
0:00.000–0:03.483
zh大家看我在DeepseekHannis的原码里翻譯了什么。
大家看我在DeepseekHannis的原码里翻譯了什么。
0:03.483–0:06.846
zhThe Agent Codex和The Agent Cloud。
The Agent Codex和The Agent Cloud。
0:06.846–0:09.608
zh这是要做Codex和Codex最严厉的父亲吗?
这是要做Codex和Codex最严厉的父亲吗?
0:09.608–0:13.091
zhHannis本地部署千问3.827B同时跑三个任务也行吗?
Hannis本地部署千问3.827B同时跑三个任务也行吗?
0:13.091–0:15.012
zh这下是不是真的token自由了?
这下是不是真的token自由了?
0:15.012–0:15.512
zh大家好,
大家好,
0:15.512–0:16.093
zh我是ZZ。
我是ZZ。
0:16.093–0:20.296
zhDeepseekHannis让本地Agent框架的看研程度更上一层楼,
DeepseekHannis让本地Agent框架的看研程度更上一层楼,
0:20.296–0:24.620
zh而千问3.827B则是让本地部署大模型执行复杂Agent的任务成为可能。
而千问3.827B则是让本地部署大模型执行复杂Agent的任务成为可能。
0:24.620–0:27.777
zh本期我们就来本地部署Hannis加千问3.827B,
本期我们就来本地部署Hannis加千问3.827B,
0:27.777–0:29.599
zh实现数据安全和token自由。
实现数据安全和token自由。
0:29.599–0:32.756
zh先给大家介绍一下什么是DeepseekHannis。
先给大家介绍一下什么是DeepseekHannis。
0:32.756–0:36.399
zh网上有人说这是Deepseek版的Codex或者Cloud,
网上有人说这是Deepseek版的Codex或者Cloud,
0:36.399–0:38.220
zh但是我想说这种说法都不太准确。
但是我想说这种说法都不太准确。
0:38.380–0:41.792
zh因为DeepseekHannis就像一块乐高的底板一样,
因为DeepseekHannis就像一块乐高的底板一样,
0:41.792–0:43.376
zh所有的AZ的能力就为插件,
所有的AZ的能力就为插件,
0:43.376–0:44.960
zh这些插件就像于CoreG,
这些插件就像于CoreG,
0:44.960–0:46.300
zh可以任意组合按需替换。
可以任意组合按需替换。
0:46.300–0:47.094
zh想用手模型,
想用手模型,
0:47.094–0:48.152
zh想加载什么工具,
想加载什么工具,
0:48.152–0:48.814
zh怎么调度,
怎么调度,
0:48.814–0:50.137
zh怎么囤储都有你决定。
怎么囤储都有你决定。
0:50.137–0:54.900
zh甚至可以给DeepseekHannis换了你喜欢的20元角色的UI皮肤。
甚至可以给DeepseekHannis换了你喜欢的20元角色的UI皮肤。
0:55.140–0:56.579
zh除了架构上的自由度外,
除了架构上的自由度外,
0:56.579–0:59.979
zhDeepseekHannis的运行过程不仅有迹可循,
DeepseekHannis的运行过程不仅有迹可循,
0:59.979–1:00.764
zh还公开透明。
还公开透明。
1:00.764–1:03.380
zh这一点是在同类任何别人软件上都看不到的。
这一点是在同类任何别人软件上都看不到的。
1:04.020–1:04.800
zh说起币安软件,
说起币安软件,
1:04.800–1:07.254
zh我在看DeepseekHannis的原码时,
我在看DeepseekHannis的原码时,
1:07.254–1:08.480
zh发现了一段有趣的代码。
发现了一段有趣的代码。
1:08.720–1:13.260
zhDeepseekHannis似乎在设计之初就考虑了可以调用其他同类本地Agent能力。
DeepseekHannis似乎在设计之初就考虑了可以调用其他同类本地Agent能力。
1:13.260–1:18.180
zh这你敢信,大部分AI助手类软件的设计逻辑肯定是能干的活都自己干了呀。
这你敢信,大部分AI助手类软件的设计逻辑肯定是能干的活都自己干了呀。
1:18.560–1:20.920
zh就算派子一指头肯定也是自己分身一个呀。
就算派子一指头肯定也是自己分身一个呀。
1:21.240–1:23.506
zh比同行留个门还分一杯各种的事情,
比同行留个门还分一杯各种的事情,
1:23.506–1:26.480
zh要是让用户跑了直接用上同行的了那怎么办呢?
要是让用户跑了直接用上同行的了那怎么办呢?
1:26.660–1:28.280
zh不得不说量身这格局够大。
不得不说量身这格局够大。
1:28.540–1:30.137
zh这里我也实际测试了一下,
这里我也实际测试了一下,
1:30.137–1:32.134
zh确实能调用到Codex的能力,
确实能调用到Codex的能力,
1:32.134–1:36.260
zh但是似乎没能找到合适的场景让我不得不去调用Codex的情况呀。
但是似乎没能找到合适的场景让我不得不去调用Codex的情况呀。
1:36.380–1:37.720
zhCodex你得加把劲了。
Codex你得加把劲了。
1:37.720–1:40.060
zh接下来我们来安装一下DeepseekHannis。
接下来我们来安装一下DeepseekHannis。
1:40.060–1:43.680
zh首先第一步我们需要来到Node.js的官网下载并安装。
首先第一步我们需要来到Node.js的官网下载并安装。
1:43.680–1:45.780
zh安装过程我们一直点下一步即可。
安装过程我们一直点下一步即可。
1:46.040–1:46.812
zh安装完成后,
安装完成后,
1:46.812–1:49.642
zh我们回到DeepseekHannis的官网,
我们回到DeepseekHannis的官网,
1:49.642–1:51.700
zh复制一下快速体验下面的正行命令。
复制一下快速体验下面的正行命令。
1:51.960–1:54.055
zh在开始探测中打开PowerShell,
在开始探测中打开PowerShell,
1:54.055–1:56.480
zh将正行命令粘贴进PowerShell后回车。
将正行命令粘贴进PowerShell后回车。
1:56.820–1:59.080
zh等待以后我们输入Y再按回车。
等待以后我们输入Y再按回车。
1:59.500–2:00.643
zh因为这里需要下载,
因为这里需要下载,
2:00.643–2:02.295
zh所以它的花费时间会长一些,
所以它的花费时间会长一些,
2:02.295–2:03.057
zh不是卡住了,
不是卡住了,
2:03.057–2:04.200
zh请在按那些等一下。
请在按那些等一下。
2:04.920–2:07.980
zh等我们看到外部UI的地址的时候就是安装成功了。
等我们看到外部UI的地址的时候就是安装成功了。
2:07.980–2:09.980
zh我们把它复制到浏览器打开。
我们把它复制到浏览器打开。
2:09.980–2:12.740
zh首先第一步就是让我们配置官方API Key。
首先第一步就是让我们配置官方API Key。
2:12.740–2:15.656
zh如果你想用自己的API Key或者本地部署,
如果你想用自己的API Key或者本地部署,
2:15.656–2:17.600
zh可以直接跳到视频的后面部分。
可以直接跳到视频的后面部分。
2:17.600–2:19.147
zhDeepseek的Meal,
Deepseek的Meal,
2:19.147–2:22.240
zh我们可以从Deepseek的官网点击这个API开放平台。
我们可以从Deepseek的官网点击这个API开放平台。
2:22.240–2:25.220
zh然后在API Key里面创建一个API Key。
然后在API Key里面创建一个API Key。
2:25.220–2:27.860
zh然后把这个API Key的Meal复制出来就行了。
然后把这个API Key的Meal复制出来就行了。
2:27.860–2:29.860
zh当然你得确保你还有余额啊。
当然你得确保你还有余额啊。
2:29.860–2:31.980
zh不然的话这个API Key也是用不了的。
不然的话这个API Key也是用不了的。
2:31.980–2:35.980
zh进入之后我们点击一下对话框,会让我们选择一个工作区。
进入之后我们点击一下对话框,会让我们选择一个工作区。
2:35.980–2:39.980
zh这个工作区你就可以把它想象成某一个具体项目的生产车间。
这个工作区你就可以把它想象成某一个具体项目的生产车间。
2:39.980–2:43.380
zh比如它需要的一些文件资料,我们可以给它放到里面。
比如它需要的一些文件资料,我们可以给它放到里面。
2:43.380–2:47.380
zh然后它做的一些产出结果,文档也会在里面生成。
然后它做的一些产出结果,文档也会在里面生成。
2:47.380–2:49.380
zh接着我们来做一下联通信测试。
接着我们来做一下联通信测试。
2:49.380–2:52.500
zh我们随便发给它一段话,能够收到对应的回复。
我们随便发给它一段话,能够收到对应的回复。
2:52.500–2:54.860
zh我们的Deepseek Harness就安装成功了。
我们的Deepseek Harness就安装成功了。
2:54.860–2:57.980
zh我们可以在对话框下面选择它的群演等级。
我们可以在对话框下面选择它的群演等级。
2:57.980–2:58.952
zh第一个是只读,
第一个是只读,
2:58.952–3:01.036
zh这种情况下它只会读取你的文件,
这种情况下它只会读取你的文件,
3:01.036–3:02.980
zh不会对你的电脑进行任何更改。
不会对你的电脑进行任何更改。
3:02.980–3:06.980
zh第二个是在工作区域的写入,也就是我们刚才选择的文件夹。
第二个是在工作区域的写入,也就是我们刚才选择的文件夹。
3:06.980–3:08.980
zh正常的话我们就选择第二个就可以了。
正常的话我们就选择第二个就可以了。
3:08.980–3:13.380
zh第三个是放开全部权限,这个适合有一定基础的小伙伴。
第三个是放开全部权限,这个适合有一定基础的小伙伴。
3:13.380–3:16.380
zh接下来我们来本机部署签问3.820CB。
接下来我们来本机部署签问3.820CB。
3:16.380–3:18.348
zh首先打开LM499的官网,
首先打开LM499的官网,
3:18.348–3:19.407
zh我们点一下载,
我们点一下载,
3:19.407–3:21.980
zh然后安装的时候点击一支下一步即可。
然后安装的时候点击一支下一步即可。
3:21.980–3:26.980
zh在LM499中我们可以点击左下角的设置,然后点击第一个选项。
在LM499中我们可以点击左下角的设置,然后点击第一个选项。
3:26.980–3:28.980
zh这里可以把它设置为中文。
这里可以把它设置为中文。
3:28.980–3:30.980
zh接下来我们下载千万3.827B模型。
接下来我们下载千万3.827B模型。
3:30.980–3:33.980
zh我们点击左侧这个在放大镜的图标。
我们点击左侧这个在放大镜的图标。
3:33.980–3:36.980
zh点击之后我们在这里搜索千万3.8。
点击之后我们在这里搜索千万3.8。
3:36.980–3:38.980
zh这里第一个就是,如果没有的话我可以搜索。
这里第一个就是,如果没有的话我可以搜索。
3:38.980–3:40.980
zh这里一个下载的一个设置。
这里一个下载的一个设置。
3:40.980–3:42.980
zh然后我们点开这就可以下载。
然后我们点开这就可以下载。
3:42.980–3:44.980
zh我这里都给下载完了。
我这里都给下载完了。
3:44.980–3:47.980
zh然后大家可以根据自己的显存来进行下载。
然后大家可以根据自己的显存来进行下载。
3:47.980–3:51.980
zh如果你的显存是16个JJ的话,你就选择这个。
如果你的显存是16个JJ的话,你就选择这个。
3:51.980–3:53.980
zh这个17个J也是可以装到下载。
这个17个J也是可以装到下载。
3:53.980–3:56.980
zh因为它有部分可能会装到内存里面。
因为它有部分可能会装到内存里面。
3:56.980–3:58.980
zh所以16J也是可以用的。
所以16J也是可以用的。
3:58.980–4:03.980
zh然后这个如果你的内存在24J的话,你就选择这个Q6量化的。
然后这个如果你的内存在24J的话,你就选择这个Q6量化的。
4:03.980–4:08.980
zh然后如果你的显存有29个J以上的话,你就可以选择这个Q8量化的。
然后如果你的显存有29个J以上的话,你就可以选择这个Q8量化的。
4:08.980–4:12.980
zh下载完成后,我们来测试一下联通性。
下载完成后,我们来测试一下联通性。
4:12.980–4:14.980
zh点击左侧的这个紫色的logo。
点击左侧的这个紫色的logo。
4:14.980–4:17.980
zh接着我们选择顶部要加载的模型。
接着我们选择顶部要加载的模型。
4:17.980–4:20.980
zh然后接着在选择我们的模型,它就会自动加载。
然后接着在选择我们的模型,它就会自动加载。
4:20.980–4:25.980
zh下载成功后,我们任意发送一条消息,能够收到对应的回复。
下载成功后,我们任意发送一条消息,能够收到对应的回复。
4:25.980–4:27.980
zh就说明我们的LM19安装成功了。
就说明我们的LM19安装成功了。
4:27.980–4:31.980
zh千辛3.8RTB这个模型,除了它的agent能力很强外。
千辛3.8RTB这个模型,除了它的agent能力很强外。
4:31.980–4:34.980
zh它还是一个原生的视觉语言模型。
它还是一个原生的视觉语言模型。
4:34.980–4:35.980
zh因此它是可以看图的。
因此它是可以看图的。
4:35.980–4:39.980
zh这里我找了一堆笔的图片,看它能不能数得清楚。
这里我找了一堆笔的图片,看它能不能数得清楚。
4:39.980–4:41.980
zh好,这里它已经数完了,我们来看一下。
好,这里它已经数完了,我们来看一下。
4:41.980–4:44.980
zh它这里说15支笔,我们来数一数对不对。
它这里说15支笔,我们来数一数对不对。
4:44.980–4:46.313
en1,2,3,
1,2,3,
4:46.313–4:46.813
en4,
4,
4:46.813–4:47.313
en5,
5,
4:47.313–4:47.813
en6,
6,
4:47.813–4:48.313
en7,
7,
4:48.313–4:48.813
en8,
8,
4:48.813–4:49.313
en9,
9,
4:49.313–4:49.813
en10,
10,
4:49.813–4:50.313
en11,
11,
4:50.313–4:50.980
en12,
12,
4:50.980–4:51.647
en13,
13,
4:51.647–4:52.980
en14,15。
14,15。
4:52.980–4:57.980
zh成功数对了,而且它也没有被这一个笔杆和笔帽没有在一起的笔给干扰。
成功数对了,而且它也没有被这一个笔杆和笔帽没有在一起的笔给干扰。
4:57.980–5:02.980
zh接着我们将本地的约条3.8RTB进入到我们的DVSIC HANIS中。
接着我们将本地的约条3.8RTB进入到我们的DVSIC HANIS中。
5:02.980–5:05.980
zh首先我们在LM1919里面点击左侧的第二个图标。
首先我们在LM1919里面点击左侧的第二个图标。
5:05.980–5:07.980
zh我们把运行按钮打开。
我们把运行按钮打开。
5:07.980–5:09.980
zh然后点击这里的加载模型。
然后点击这里的加载模型。
5:09.980–5:11.980
zh选择我们要加载的千万3.8RTB。
选择我们要加载的千万3.8RTB。
5:11.980–5:14.980
zh加载完成后我们来到DVSIC HANIS中。
加载完成后我们来到DVSIC HANIS中。
5:14.980–5:17.980
zh点击左下角的设置,点击模型。
点击左下角的设置,点击模型。
5:17.980–5:20.980
zh然后我们可以点击添加自定义配置方。
然后我们可以点击添加自定义配置方。
5:20.980–5:23.980
zhProvide ID这里一定要是小写字幕开头。
Provide ID这里一定要是小写字幕开头。
5:23.980–5:25.980
zh显示名称这里我们随便填。
显示名称这里我们随便填。
5:25.980–5:29.980
zhAPI地址这里我们从LM Studio这里复制一下这个地址。
API地址这里我们从LM Studio这里复制一下这个地址。
5:29.980–5:33.980
zh注意这个地址粘过来之后需要在后面加上斜线V1。
注意这个地址粘过来之后需要在后面加上斜线V1。
5:33.980–5:35.980
zhAPI协议选择OpenAI Comulations。
API协议选择OpenAI Comulations。
5:35.980–5:39.980
zh模型目录这里我们同样是从RM Studio这里复制过来。
模型目录这里我们同样是从RM Studio这里复制过来。
5:39.980–5:41.980
zh助理这里很容易复制过来空格。
助理这里很容易复制过来空格。
5:41.980–5:42.980
zh别问我为什么知道。
别问我为什么知道。
5:42.980–5:45.980
zh我们在对话空中将模型修改为千万3.8RT。
我们在对话空中将模型修改为千万3.8RT。
5:45.980–5:47.980
zh然后进行连通性测试。
然后进行连通性测试。
5:47.980–5:50.980
zh回复任意一句话能够受到对应的回应就为成功。
回复任意一句话能够受到对应的回应就为成功。
5:50.980–5:53.980
zh大家在本地部署的过程中遇到任何问题,
大家在本地部署的过程中遇到任何问题,
5:53.980–5:55.980
zh也可以先给Hanis配上个线上的API。
也可以先给Hanis配上个线上的API。
5:55.980–5:57.980
zh让Hanis直接帮你修。
让Hanis直接帮你修。
5:57.980–6:00.980
zh我们让它生成一个飞行小游戏来测试一下。
我们让它生成一个飞行小游戏来测试一下。
6:00.980–6:03.980
zh与此同时我们再让它去写一个科幻小说。
与此同时我们再让它去写一个科幻小说。
6:03.980–6:05.980
zh毕竟本运行超恨可是不要钱的。
毕竟本运行超恨可是不要钱的。
6:05.980–6:07.980
zh怎么好像运行的还挺流畅的。
怎么好像运行的还挺流畅的。
6:07.980–6:08.980
zh估计还有余力。
估计还有余力。
6:08.980–6:10.980
zh再给安排个生成天体的任务吧。
再给安排个生成天体的任务吧。
6:10.980–6:12.980
zh生产队的驴都估计没我电脑忙了。
生产队的驴都估计没我电脑忙了。
6:12.980–6:14.980
zh我只求你别冒烟。
我只求你别冒烟。
6:14.980–6:17.980
zh可以看到RM Studio这里三个任务都给跑起来了。
可以看到RM Studio这里三个任务都给跑起来了。
6:17.980–6:19.980
zh我这电脑的风扇也是嗚嗚的转。
我这电脑的风扇也是嗚嗚的转。
6:19.980–6:21.980
zh好像开始卡了。不行了。
好像开始卡了。不行了。
6:21.980–6:24.980
zh我这鼠标已经非常难用了。
我这鼠标已经非常难用了。
6:24.980–6:26.980
zh不过看这个任务它还是在运行的。
不过看这个任务它还是在运行的。
6:26.980–6:28.980
zh但是我这已经操作不了电脑了。
但是我这已经操作不了电脑了。
6:28.980–6:30.980
zh我想把鼠标移动到听纸这里。
我想把鼠标移动到听纸这里。
6:30.980–6:31.980
zh但是非常难移动。
但是非常难移动。
6:31.980–6:33.980
zh而且点击也没什么反应。
而且点击也没什么反应。
6:33.980–6:35.980
zh这个应该是内存频引导致的。
这个应该是内存频引导致的。
6:35.980–6:38.980
zh因为本次这个电脑的话是三十二级内存。
因为本次这个电脑的话是三十二级内存。
6:38.980–6:41.980
zh运行一个任务的话应该是一点问题没有。
运行一个任务的话应该是一点问题没有。
6:41.980–6:43.980
zh但是如果运行多个任务的话,
但是如果运行多个任务的话,
6:43.980–6:46.980
zh它上线纹都夹在内存中是肯定撑不住的。
它上线纹都夹在内存中是肯定撑不住的。
6:46.980–6:48.980
zh所以大家一定要根据自己的情况去执行这个。
所以大家一定要根据自己的情况去执行这个。
6:48.980–6:50.980
zh任务啊。
任务啊。
6:50.980–6:53.980
zh包括其实LM199它其实是可以设置上远文长度的。
包括其实LM199它其实是可以设置上远文长度的。
6:53.980–6:56.980
zh如果你内存不够高的话,尽量设置的低一点。
如果你内存不够高的话,尽量设置的低一点。
6:56.980–6:57.980
zh比如说64K以下。
比如说64K以下。
6:57.980–7:01.980
zh而且不要像我这样一聘同时执行好几个任务。
而且不要像我这样一聘同时执行好几个任务。
7:01.980–7:03.980
zh我替你试过了,你就不要去试了。
我替你试过了,你就不要去试了。
7:03.980–7:05.980
zh把电脑搞冒烟可不是那玩的。
把电脑搞冒烟可不是那玩的。
7:05.980–7:07.980
zh我这里想说任务管理器里面结束任务。
我这里想说任务管理器里面结束任务。
7:07.980–7:10.980
zh但是任务管理器已经卡成一张精彩图片了。
但是任务管理器已经卡成一张精彩图片了。
7:10.980–7:13.980
zh我这里是好不容易把录片软件给退了。
我这里是好不容易把录片软件给退了。
7:13.980–7:14.980
zh然后才能操作鼠标。
然后才能操作鼠标。
7:14.980–7:16.980
zh把后来提要两个任务关闭了。
把后来提要两个任务关闭了。
7:16.980–7:18.980
zh就会排生成的。
就会排生成的。
7:18.980–7:19.980
zh我们来看一下生成结果吧。
我们来看一下生成结果吧。
7:19.980–7:21.980
zh生成结果还是很出乎我的意料的。
生成结果还是很出乎我的意料的。
7:21.980–7:24.980
zh你别看这只是一个简单的飞行射击小游戏。
你别看这只是一个简单的飞行射击小游戏。
7:24.980–7:30.980
zh它处理的这些碰撞啊,移动啊,包括敌人的生成啊,都没有任何问题。
它处理的这些碰撞啊,移动啊,包括敌人的生成啊,都没有任何问题。
7:30.980–7:33.980
zh这对于一个27B的小模型来说是非常厉害的。
这对于一个27B的小模型来说是非常厉害的。
7:33.980–7:35.980
zh而且这还是只是一轮停止词的情况下。
而且这还是只是一轮停止词的情况下。
7:35.980–7:38.980
zh如果多轮对话的话,它的潜力还有非常大的发布空间。
如果多轮对话的话,它的潜力还有非常大的发布空间。
7:38.980–7:41.980
zh我认为这个模型是真的可以多为生产地的一个模型了。
我认为这个模型是真的可以多为生产地的一个模型了。
7:41.980–7:43.980
zh然后我们再来看一下它生成的这个空白小说啊。
然后我们再来看一下它生成的这个空白小说啊。
7:43.980–7:46.980
zh虽然我中途停止了,但它生成了也很多东西了。
虽然我中途停止了,但它生成了也很多东西了。
7:46.980–7:49.980
zh而且我看它这个内容真的让我非常的震惊啊。
而且我看它这个内容真的让我非常的震惊啊。
7:49.980–7:51.980
zh我就一点看不出这是AI写的。
我就一点看不出这是AI写的。
7:51.980–7:54.980
zh虽然它这个东西写的是一个老套的星际移民的故事啊。
虽然它这个东西写的是一个老套的星际移民的故事啊。
7:54.980–7:57.063
zh但它这个东西让我看设定的时候,
但它这个东西让我看设定的时候,
7:57.063–7:59.980
zh我一下子想到的就是美剧那个什么羊毛战记啊。
我一下子想到的就是美剧那个什么羊毛战记啊。
7:59.980–8:01.980
zh就是末日地宝那个。
就是末日地宝那个。
8:01.980–8:07.980
zh就是人们挤在地下桶堂里边,然后高层靠着野蛮真相维持生存的秩序啊。
就是人们挤在地下桶堂里边,然后高层靠着野蛮真相维持生存的秩序啊。
8:07.980–8:09.980
zh包括它的一些场景设定啊。
包括它的一些场景设定啊。
8:09.980–8:12.980
zh比如说,呃,集水柱啊。
比如说,呃,集水柱啊。
8:12.980–8:13.980
zh然后墙上的救赎啊。
然后墙上的救赎啊。
8:13.980–8:15.980
zh就人死了之后它会。
就人死了之后它会。
8:15.980–8:17.980
zh其实它不是说是死了,就直接上传数据了。
其实它不是说是死了,就直接上传数据了。
8:17.980–8:19.980
zh而且它也保留了集水柱。
而且它也保留了集水柱。
8:19.980–8:21.980
zh我就觉得就很有画面感。
我就觉得就很有画面感。
8:21.980–8:24.980
zh就这个画面可能最后做出来就很震撼。
就这个画面可能最后做出来就很震撼。
8:24.980–8:27.980
zh好了,感谢大家能听到我讲到这里啊。
好了,感谢大家能听到我讲到这里啊。
8:27.980–8:30.980
zh后面我会给大家分享更多的AI相关的知识啊。
后面我会给大家分享更多的AI相关的知识啊。
8:30.980–8:32.980
zh大家如果感兴趣的话记得关注一下。
大家如果感兴趣的话记得关注一下。
8:32.980–8:34.980
zh我是VV,在这里谢过大家了。
我是VV,在这里谢过大家了。

影片筆記:本地部署DeepSeek Harness 加 Qwen3.8-27B教程,实现token自由!我还发现“梁圣”在源码中的彩蛋!

<!-- VIDEONOTE_PUBLICATION_WARNINGS_BEGIN -->

⚠️ 可先使用,仍有待修正項目

本筆記已完成可閱讀的逐字稿與時間跳轉;下列為待處理問題,建議播放原片確認。

  • 待修正:逐字稿全文快速校讀未完成(已保留自動字幕/原始逐字稿並繼續生成筆記。;未完成的全文速讀項目可在精進模式回聽確認。)

<!-- VIDEONOTE_PUBLICATION_WARNINGS_END -->

一句話總結

講者演示如何在本地環境中安裝並配置 DeepSeek-Hannis 框架與 Qwen 3.8-27B 模型,通過 LM Studio 進行本地部署與 API 對接,並透過多任務壓力測試驗證該組合在遊戲開發與小說創作上的生產力潛力。

核心重點

  • DeepSeek-Hannis 定位:被描述為類似「樂高底板」的本地 Agent 框架,具備高度自由度與開放性,可作為插件載入各種能力,支援自訂 UI 皮膚,且設計上考慮調用其他本地 Agent(如 Codex)的能力。
  • Qwen 3.8-27B 特性:具備強大的 Agent 能力與原生視覺語言能力(可識圖),在本地部署後可作為後端模型接入 DeepSeek-Hannis。
  • 本地部署流程:
  1. 安裝 Node.js 與 DeepSeek-Hannis。
  2. 使用 LM Studio 下載並運行 Qwen 3.8-27B 模型。
  3. 在 DeepSeek-Hannis 中配置自定義模型,指向 LM Studio 的本地 API 地址。
  • 壓力測試結果:
  • 同時運行遊戲開發、小說創作、天體生成等多個重型任務時,導致電腦資源耗盡、系統卡頓(內存頻繁)。
  • 儘管系統卡頓,但生成的遊戲(飛行小遊戲)與小說(科幻小說)質量令人驚訝,具備生產力潛力。
  • 建議在內存不足時設置上下文長度(Context Length)在 64K 以下。

詳細大綱

一、 DeepSeek-Hannis 介紹與特性

  • 架構定位:非單純的 DeepSeek 版 Codex 或 Cloud,而是類似「樂高底板」的本地 Agent 框架。
  • 核心優勢:
  • 高度自由:所有 AZ 能力作為插件,可任意組合、按需替換。
  • 透明可追溯:運行過程公開透明,有跡可循。
  • 開放性:設計之初考慮調用其他同類本地 Agent 能力(如 Codex)。
  • 自訂性:可更換 UI 皮膚(如 20 元角色)。

二、 DeepSeek-Hannis 安裝與配置

  • 前置條件:需安裝 Node.js。
  • 安裝步驟:
  1. 下載安裝 Node.js。
  2. 從官網複製快速體驗命令,在 PowerShell 中執行。
  3. 輸入 Y 確認下載,等待外部 UI 地址出現。
  4. 瀏覽器打開地址完成安裝。
  • API Key 配置:
  • 可選擇使用官方 API Key 或本地部署。
  • 若使用 API Key,需從 DeepSeek 官網 API 開放平台創建並確保餘額充足。
  • 工作區(Workspace)概念:類似項目生產車間,存放文件資料與生成結果。
  • 權限設置:
  1. 只讀:僅讀取文件,不更改電腦。
  2. 工作區寫入:僅對選擇的資料夾進行寫入(推薦)。
  3. 全部權限:適合進階用戶。
  • 聯通性測試:發送訊息並收到回覆即安裝成功。

三、 Qwen 3.8-27B(千問 3.8-27B)本地部署

  • 工具使用:LM Studio(講者口誤為 LM499/LM199/LM1919)。
  • 安裝步驟:
  1. 官網下載安裝 LM Studio。
  2. 設置語言為中文。
  3. 使用搜尋功能下載 Qwen 3.8-27B 模型。
  • 顯存與量化選擇建議:
  • 顯存 16GB:選擇特定版本(講者口誤為 17 個 J),部分可裝入內存。
  • 內存 24GB:選擇 Q6 量化。
  • 顯存 29GB 以上:選擇 Q8 量化。
  • 功能測試:
  • 原生視覺語言模型,可識圖。
  • 測試數筆圖片數量(15 支),成功區分筆桿與筆帽分離的情況。

四、 將 Qwen 3.8-27B 接入 DeepSeek-Hannis

  • LM Studio 設置:
  1. 點擊左側第二個圖標,開啟運行按鈕。
  2. 點擊加載模型,選擇 Qwen 3.8-27B。
  • DeepSeek-Hannis 配置:
  1. 點擊左下角設置 -> 模型 -> 添加自定義配置。
  2. Provider ID:必須以小寫字母開頭。
  3. 顯示名稱:隨意填寫。
  4. API 地址:從 LM Studio 複製,並在末尾加上 /v1。
  5. API 協議:選擇 OpenAI Comulations(講者口誤,應為 Completions)。
  6. 模型目錄:從 LM Studio 複製。
  7. 助理:注意複製時可能帶有空格。
  • 最終測試:在對話框修改模型為 Qwen 3.8-27B,發送訊息確認回應。

五、 多任務壓力測試與結果分析

  • 測試場景:
  1. 生成飛行小遊戲。
  2. 寫科幻小說。
  3. 生成天體任務。
  • 系統反應:
  • 三個任務同時運行,電腦風扇狂轉,系統開始卡頓。
  • 出現內存頻繁(講者口誤為內存頻引/內存),導致鼠標移動困難、點擊無反應。
  • 講者電腦配置為 32GB 內存,運行多任務時撐不住。
  • 建議:
  • 若內存不足,建議設置上下文長度(Context Length)在 64K 以下。
  • 避免同時執行多個重型任務。
  • 生成結果評價:
  • 飛行小遊戲:處理碰撞、移動、敵人生成無問題,對於 27B 小模型而言表現優秀,具備多輪對話潛力。
  • 科幻小說:內容質量高,設定類似《羊毛戰記》(講者口誤為羊毛戰記/末日地寶),具有畫面感與震撼力,難以辨別為 AI 所寫。
  • 結論:該模型可視為具備生產力的模型。

工具 / 模型 / 名詞整理

| 類別 | 名稱/專有名詞 | 備註/原文狀態 |
| :--- | :--- | :--- |
| 框架/軟體 | DeepSeek-Hannis | 講者口誤為 DeepseekHannis、Deepseek Harness、DVSIC HANIS、Hanis |
| 框架/軟體 | LM Studio | 講者口誤為 LM499、LM199、LM1919 |
| 框架/軟體 | Node.js | 官網下載安裝 |
| 框架/軟體 | PowerShell | 用於執行安裝命令 |
| 框架/軟體 | Codex | 被提及為同類本地 Agent 能力 |
| 框架/軟體 | Cloud | 被提及為同類本地 Agent 能力 |
| 模型 | Qwen 3.8-27B | 講者口誤為千问3.827B、千万3.8、千万3.8RTB、千辛3.8RTB、27B |
| 模型 | Q6 量化 | 講者口誤為 Q6量化的 |
| 模型 | Q8 量化 | 講者口誤為 Q8量化的 |
| API/協議 | OpenAI Comulations | 講者口誤,應為 Completions |
| API/協議 | API Key | DeepSeek 官網 API 開放平台創建 |
| 其他 | 樂高底板 | 比喻 DeepSeek-Hannis 架構 |
| 其他 | 20元角色 | 比喻 UI 皮膚 |
| 其他 | 32級內存 | 講者口誤,應為 32GB 內存 |
| 其他 | 16個JJ / 17個J | 講者口誤,應為 16GB 顯存 |
| 其他 | 29個J | 講者口誤,應為 29GB 顯存 |
| 其他 | 內存頻引 / 內存 | 講者口誤,應為 內存頻繁 (Memory thrashing) |
| 其他 | 羊毛戰記 / 末日地寶 | 講者口誤,應為《羊毛戰記》(Silo) 或類似作品 |
| 其他 | 集水柱 / 牆上的救贖 | 講者口誤,小說中的設定名稱 |

操作流程整理

  1. 環境準備:
  • 安裝 Node.js。
  • 從 DeepSeek-Hannis 官網複製快速體驗命令,在 PowerShell 中執行並確認下載。
  • 瀏覽器打開出現的外部 UI 地址完成安裝。
  1. DeepSeek-Hannis 基礎配置:
  • 配置 API Key(可選)或準備本地部署。
  • 設置工作區權限(推薦「工作區寫入」)。
  • 進行聯通性測試(發送訊息並接收回覆)。
  1. LM Studio 模型部署:
  • 下載並安裝 LM Studio,設置語言為中文。
  • 搜尋並下載 Qwen 3.8-27B 模型(根據顯存選擇量化版本:16GB/24GB/29GB+)。
  • 在 LM Studio 中加載模型並點擊運行按鈕。
  1. 模型接入 DeepSeek-Hannis:
  • 在 DeepSeek-Hannis 中進入設置 -> 模型 -> 添加自定義配置。
  • 填寫 Provider ID(小寫開頭)、顯示名稱。
  • 複製 LM Studio 的 API 地址並追加 /v1。
  • 選擇 API 協議(OpenAI Comulations)。
  • 複製模型目錄與助理名稱。
  1. 驗證與測試:
  • 在 DeepSeek-Hannis 對話框中將模型切換為 Qwen 3.8-27B。
  • 發送訊息確認回應。
  • 執行多任務壓力測試(遊戲、小說、天體生成)。

值得注意的限制或風險

  • 硬體資源限制:
  • 同時運行多個重型任務(如遊戲開發、小說創作)會導致電腦資源耗盡,引發系統卡頓、鼠標移動困難、點擊無反應。
  • 講者電腦配置為 32GB 內存,在多任務下無法支撐。
  • 記憶體管理建議:
  • 若內存不足,建議設置上下文長度(Context Length)在 64K 以下。
  • 避免同時執行多個重型任務。
  • 模型能力邊界:
  • 雖然 27B 小模型在處理碰撞、移動、敵人生成等遊戲邏輯上表現優秀,但需留意其多輪對話潛力與實際生產力之間的差距。

逐字稿辨識疑點

  1. DeepseekHannis / Deepseek Harness / DVSIC HANIS / Hanis:逐字稿中該框架名稱拼寫不一致,疑為聽寫錯誤或講者口誤。
  2. LM499 / LM199 / LM1919:逐字稿中 LM Studio 的版本號或名稱多次變換,疑為聽寫錯誤。
  3. 千问3.827B / 千万3.8 / 千万3.8RTB / 千辛3.8RTB / 27B:模型名稱拼寫混亂,疑為聽寫錯誤。
  4. OpenAI Comulations:逐字稿中拼寫為 Comulations,疑為聽寫錯誤,實際應為 Completions(但依規則不更正,僅標註疑點)。
  5. 16個JJ / 17個J / 29個J:顯存單位描述混亂,疑為聽寫錯誤。
  6. 內存頻引 / 內存:描述系統卡頓原因時的名詞,疑為聽寫錯誤。
  7. 羊毛戰記 / 末日地寶:小說名稱或比喻,疑為聽寫錯誤。
  8. 集水柱 / 牆上的救贖:小說中的具體設定名稱,疑為聽寫錯誤。
  9. AZ 的能力:指代不明,疑為聽寫錯誤。
  10. 20元角色:指代 UI 皮膚,疑為聽寫錯誤或特定梗。
  11. 32級內存:指代內存容量,疑為聽寫錯誤。
  12. ZZ / VV:講者自稱前後不一致,疑為口誤或不同段落錄音來源不同。
  13. 正行命令:指代 PowerShell 命令,疑為聽寫錯誤。
  14. 群演等級:指代權限設置,疑為聽寫錯誤。
  15. 聯通信測試 / 聯通性測試:指代 Connectivity Test,疑為聽寫錯誤。
  16. 對話空中:指代對話框,疑為聽寫錯誤。
  17. 精彩圖片:指代畫面凍結,疑為聽寫錯誤。
  18. 聽紙:指代某個界面元素或位置,疑為聽寫錯誤。
  19. 排生成的:指代生成結果,疑為聽寫錯誤。
  20. 發布空間:指代潛力或空間,疑為聽寫錯誤。

可延伸追問

  • DeepSeek-Hannis 的「樂高底板」架構具體支持哪些類型的插件或 Agent 接入?
  • 在本地部署 Qwen 3.8-27B 時,不同量化版本(Q6/Q8)對推理速度和質量的具體影響差異為何?
  • 如何優化 DeepSeek-Hannis 的權限設置以平衡安全性與便利性?
  • 針對 32GB 內存的用戶,有哪些具體的參數調整策略可以避免多任務下的系統卡頓?

尚未產生學習筆記

請在 Telegram 指令最後加上「學習」,例如:videonote 網址 英文 雙語 學習