DeepSeek V4.1 Flash开源了！百万上下文＋视觉理解＋超长输出，新模型亮点与API价格一次看懂

KunPengTalk 首頁 每日列表 原始影片
實際影片長度：10:48.000。原文、繁中、雙語可點擊句子跳轉影片。
0:00.000–0:00.842
zh各位朋友大家好。
0:00.842–0:01.895
zh歡迎大家關注昆蓬道。
0:01.895–0:03.158
zh今天告訴大家一個好消息。
0:03.158–0:06.000
zhDeepseek V4.1 Flash這個模型正式開源了。
0:06.000–0:10.661
zh那它目前已經把它的模型全中上傳到Hugging Face了。
0:10.661–0:15.000
zh然後官方提供的是一個應該是一個FP8的格式的一個模型。
0:15.000–0:17.200
zh模型全中的510個G。
0:17.200–0:20.200
zh我們來看一下它相關的一些參數。
0:20.200–0:23.800
zh那本次它是一個552B的一個大模型。
0:23.800–0:26.000
zh也是一個MOE的架構。
0:26.000–0:28.760
zh然后他本次调整的那个是他的一个CDE的架构
0:28.760–0:30.680
zh就是由原来的40层的这个转换器
0:30.680–0:36.500
zh然后现在优化成了改成20层的英国编码器和后面接了20层的解码器
0:36.500–0:43.900
zh这样的话能够实现前局的KV缓存来进行加速
0:43.900–0:49.780
zh就是让他能够实现就是预填充的时候
0:49.780–0:52.280
zh它是一个激活参数是8B的
0:52.280–0:56.520
zh然后解码的时候它的速度是16B的
0:56.520–1:00.040
zh这样的话又实现了一个全新的一个技术架构
1:00.200–1:02.040
zh能够实现大模型的一个推理速度加速
1:02.400–1:04.760
zh然后本次它的这一次的模型
1:04.760–1:06.240
zh已经全量在他们官网上线了
1:06.240–1:08.040
zh而且它官网已经把Deepseek v4 Pro
1:08.040–1:11.640
zh已经路由到它的Deepseek v4 Flash 4.1的模型上面来了
1:11.960–1:14.360
zh而且它经过它的架构优化
1:14.440–1:16.600
zh能够让它的kb缓存降低了
1:16.920–1:18.640
zh就是降低到原来的1%
1:18.640–1:25.500
zh另外一个就是他用了一个压缩的吸收注意力的算法
1:25.500–1:31.080
zh然后能够实现也是一个主要是用来加速的
1:31.080–1:34.080
zh在各个层级用的吸收索引器
1:34.080–1:36.360
zh然后来进行限制索引
1:36.360–1:38.220
zh然后实现的一个推理的一个加速
1:38.220–1:41.580
zh我觉得这块确实在DeepSick在这方面
1:41.580–1:43.200
zh还是做了很多的一个功夫
1:43.200–1:45.240
zh另外的一个就是他的一个MHC
1:45.240–1:48.320
zh这个之前他已经在他的开源的项目里面
1:48.320–1:49.040
zh也多次提到过
1:49.040–1:52.160
zh包括他的enggram的一个存储器
1:52.160–1:53.160
zh然后很早的时候
1:53.160–1:56.000
zh应该是在25年11月份左右的时候
1:56.000–1:56.920
zh他开源出来的
1:58.000–2:00.360
zh另外一个就是他本次是一个全新的
2:01.120–2:02.760
zh完整的多模态的一个大模型
2:03.000–2:04.520
zh他跟原来Deepseek v4 flash
2:04.520–2:06.520
zh相当于在前面加了一个补丁包
2:06.520–2:08.720
zh不一样的是他本次的多模态
2:08.840–2:12.080
zh是用了Deepseek v4的一种技术架构
2:12.080–2:15.360
zh然后它是从预训练的时候
2:15.360–2:18.280
zh就已经开始用到了多谋态的一个预料
2:18.280–2:19.320
zh来进行训练
2:19.320–2:22.120
zh所以他说它是一个原生的多谋态大模型
2:22.120–2:23.640
zh这个是没有问题的
2:23.640–2:27.080
zh我们可以看一下它的一个分数
2:27.080–2:30.000
zh它本次也很克制
2:30.000–2:33.080
zh然后它在Terminal Branch Center上面的话
2:33.080–2:34.440
zh能拿到了一个30分
2:34.440–2:37.440
zh然后比Kimi5.3都要好一些
2:37.440–2:39.960
zh然后比Opus5还是差的很多
2:39.960–2:40.560
zh我们可以看一下
2:40.560–2:42.900
zh然后和GPT5.6
2:42.900–2:44.120
zh其实GPT6一出来了
2:45.320–2:46.640
zh所以说还是有很大的一个差距的
2:46.640–2:48.240
zh在国内在Terminibank上面
2:48.240–2:48.960
zh当然这些
2:50.080–2:50.680
zh这叫什么
2:51.320–2:54.260
zh这些压测的测试的数据集
2:54.260–2:56.040
zh包括算法都是国外的他们做的
2:56.040–3:00.560
zh有可能都是由OpenAI或者说Cloud他们定义的
3:00.560–3:01.880
zh就谁定义谁说算嘛
3:01.880–3:03.080
zh他肯定的数据会好一些
3:03.760–3:05.200
zh当然了这个不能绝对
3:05.200–3:07.160
zh人家的模型确实我们承认他比较先进
3:07.400–3:09.880
zh另外一个在Deep SWE上面
3:09.880–3:11.880
zhv1.1的版本测试数据以上的话
3:11.880–3:13.720
zh他应该是拿到了一个最好的成绩
3:13.720–3:17.840
zh然后在安全的测评的上面也拿到了一个88分
3:17.840–3:21.240
zh然后在自动化上面也拿到了一个54分
3:21.240–3:24.280
zh目前我看到网上很多的用户评论说
3:24.280–3:25.840
zh把它接到Deepseek里面去
3:25.840–3:29.520
zh目前接到Codex里面去用Codex Computer Use
3:29.520–3:33.080
zh是目前性价比和成功率最高的模型之一
3:33.080–3:33.880
zh除了Deepseek
3:33.880–3:37.160
zh除了GPT官网之外
3:37.160–3:41.360
zh然后本次算是Deep Seek真正的机身
3:41.360–3:44.000
zh然后世界前沿级的大模型
3:44.000–3:46.020
zh多模态加一照上下文态这个梯堆
3:46.020–3:48.660
zh目前国内相当于是第三家
3:48.660–3:51.160
zh第一家相当于是Kimi
3:51.160–3:54.020
zh第二家相当于是千问
3:54.020–3:56.400
zh但千问38刚开始推出来的不是多模态的
3:56.400–3:57.000
zh我也很奇怪
3:57.000–3:57.740
zh不知道他现在是不是
3:57.740–3:59.880
zh我们就把它放在这一列里面
3:59.880–4:01.860
zh因为我之前说国内只有一家的时候
4:01.860–4:03.660
zh就有人在评论区说千问也是
4:03.660–4:05.700
zh我记得千问38刚出来的时候
4:05.700–4:06.760
zh它是一个文本的多模态
4:06.760–4:09.380
zh因为大家都知道我其实没有做测试
4:09.380–4:11.620
zh就是没有深入的测试
4:11.620–4:12.287
zh卖Token Plan
4:12.287–4:13.720
zh然后限制太多了
4:13.720–4:14.580
zh所以我就放弃了
4:14.580–4:18.640
zh然后这个是它的整个的一个测评的一个分数
4:18.640–4:20.260
zh比如说在各个领域
4:20.260–4:21.800
zh然后还是非常亮眼的
4:21.800–4:22.700
zh这个黑色的就表示
4:22.700–4:25.500
zh它是目前的在已知的测评的这些里面
4:25.500–4:29.360
zh效果是最好的
4:29.360–4:31.580
zh我们可以看一下
4:31.580–4:33.460
zh这个是它的一个base模型
4:33.460–4:35.260
zh和它的对就是这个模型
4:35.260–4:42.920
zh它在很多的参数已经非常接近V4 Pro和已经超过的Pro的模型
4:42.920–4:47.060
zh所以说他们官网已经把这个Pro路由到这个模型上面来
4:47.060–4:48.900
zh第一个是为了降低它的一个推理成本
4:48.900–4:53.000
zh第二个也是因为这个模型的能力确实提升非常明显
4:53.000–4:55.800
zh还有一个的最主要原因是网上被很多用户吐槽
4:55.800–4:57.400
zhDeepstick V4 Pro的幻觉比较严重
4:57.400–5:00.800
zh实际上我使用下来整体感觉还是非常不错的
5:00.800–5:03.700
zh这些测评的分数我们就不一一讲
5:03.700–5:05.260
zh因为刚才我们已经带大家看了一下
5:05.260–5:07.340
zh它跟国外的这些模型的做一些对比
5:07.340–5:10.060
zh其实我们可以看到目前它应该是
5:10.060–5:13.660
zh牺牲到了国内的大模型的第一体队
5:13.660–5:14.260
zh毫无疑问
5:14.260–5:17.140
zh所以说DeepSick还是非常强的
5:17.940–5:22.660
zh目前它官方还没有去推出
5:22.660–5:24.420
zh然后VM和SGLAN部署的
5:24.420–5:25.660
zh然后我相信应该很快
5:25.660–5:27.660
zhVM和SGLAN就有对您的支持
5:27.660–5:29.340
zh就算没有对您也有对一的支持
5:29.340–5:31.420
zh刚才我们在一个我们私有化
5:31.420–5:33.020
zh部署大模型的群里面就有人说
5:33.020–5:35.380
zh今天晚上想蹲一个4.1的本地部署
5:35.380–5:36.060
zh我感觉够呛
5:36.060–5:37.740
zh其实我们手上也有机器
5:37.740–5:39.900
zh但是不打算部署了
5:39.900–5:42.740
zh因为它500多G的话
5:42.740–5:44.380
zh说实话我们就算部署起来的话
5:44.380–5:46.660
zh速度应该也不会很快
5:46.660–5:48.140
zh还有一个原因是
5:48.140–5:51.780
zh它官网的版本应该是加了Dspark
5:51.780–5:52.540
zh然后进行加速
5:52.540–5:53.820
zh但是它开源的版本里面
5:53.820–5:54.900
zh我刚才翻了一下
5:54.900–5:57.260
zh它的文件里面好像没有相关的一些描述
5:57.260–5:58.900
zh我们再等一等看看
5:58.900–6:01.700
zh三方会不会把Dspark给它接入进去
6:01.700–6:02.940
zh他官网的现在这个速度
6:02.940–6:05.700
zh我相信他应该是把despark已经接入进去了
6:05.700–6:07.780
zh那好的
6:07.780–6:09.860
zh如果你对大模型感兴趣的话
6:09.860–6:10.620
zh可以关注一下
6:10.620–6:15.800
zh然后来在你的API里面切换一下
6:15.800–6:17.760
zh其实我上一个视频里面也已经讲到了
6:17.760–6:19.120
zh就是DeepSick最新的模型
6:19.120–6:20.720
zh然后我们来也看一下同步的
6:20.720–6:23.060
zh看一下他们最新的官网的一个描述
6:23.060–6:26.880
zh我们可以看到他的官网又更新了
6:26.880–6:28.160
zh原来右侧的是一个招聘的
6:28.160–6:28.900
zh现在不招了
6:28.900–6:29.580
zh也不是不招了
6:29.580–6:31.060
zh他应该是更新了一个
6:31.060–6:33.700
zh然后我们来到它的开放平台上
6:33.700–6:34.200
zh我们来看一下
6:34.200–6:36.760
zh这个是它的接口文档
6:36.760–6:38.940
zh我们重点看它模型的一个更新
6:38.940–6:41.560
zh目前在它的接口文档里面
6:41.560–6:42.440
zh还是两个模型
6:42.440–6:45.980
zh所以说我们可以看一下模型和价格
6:45.980–6:49.360
zh冰干压我记得还有一个
6:49.360–6:52.980
enDipsick Flash
6:52.980–6:56.360
enDipsick V4 Pro
6:56.360–6:59.000
zh它把它的模型
6:59.000–6:59.940
zh这个4.1 Flash
6:59.940–7:01.780
zh已经直接切换成这个了
7:01.780–7:03.460
zh我们来看一下它的
7:03.460–7:08.180
zh模型名称使用Deepseek V4 Flash
7:08.180–7:09.820
zh就可以接入到新的模型里面来了
7:09.820–7:13.180
zh然后旧的V4 Flash和Flash Vision XP
7:13.180–7:14.220
zh还可以调用
7:14.220–7:15.780
zh它应该是已经把它路由到
7:15.780–7:17.820
zhDeepseek V4 E Flash这个模型上面来
7:17.820–7:19.740
zh然后它的统一名称叫Deepseek V4 Flash
7:19.740–7:22.200
zh没有V4就是Deepseek Flash模型
7:22.200–7:23.460
zh新的模型的话
7:23.460–7:25.240
zh你可以直接使用Deepseek V4 Flash
7:25.240–7:26.720
zh也可以使用Deepseek Flash
7:26.720–7:27.940
zh都可以来做我介入
7:27.940–7:30.460
zh我再给大家带大家来看一下
7:30.460–7:33.240
zh我们来到我们的7166里面
7:33.240–7:35.780
zh带大家来做一次配置一下
7:35.780–7:38.180
zh其他的所有的三方的工具都是一样的
7:38.180–7:41.260
enOK
7:42.563–7:48.123
zhOK。我們在這裡面添加一下模型。OK。添加模型。來做一下檢測。
7:48.123–7:53.403
zh连接失败
7:53.403–7:56.503
zh我这个账户应该是欠费的
7:56.503–7:59.703
zh正好我今天也开玩了一个
7:59.703–8:04.903
zh我自己的一个本地的大模型的一个推理的框架
8:04.903–8:06.143
zh然后同时也支持云端
8:06.143–8:07.203
zh先简单给大家介绍一下
8:07.203–8:08.623
zh我们这里面有对话
8:08.623–8:10.383
zh有agent还有视频的通话的
8:10.383–8:12.423
zh包括这种可以本地和云端的模式
8:12.423–8:13.563
zh可以跟他先打电话
8:13.563–8:14.743
zh但是我这个电脑没在我旁边
8:14.743–8:15.903
zh所以说没办法进行沟通
8:15.903–8:16.643
zh我们先把它挂了
8:16.643–8:17.863
zh回头给单独给大家测试
8:17.863–8:21.423
zh然后这一块是生成本地去生成TTS
8:21.423–8:22.863
zh然后可以使用Edge TTS
8:22.863–8:24.903
zh也可以使用所谓OpenAI兼容的协议的
8:24.903–8:26.343
zh来进行本地去生成音频
8:26.343–8:28.043
zh这块是生图的
8:28.043–8:30.503
zh然后也可以用本地的MRX生图
8:30.503–8:31.823
zh也可以使用云端的一个生图
8:31.823–8:34.663
zh然后我们可以看一下之前历史生图的一些效果
8:34.663–8:35.543
zh这是生图的
8:35.543–8:36.483
zh还有一个OCR
8:36.483–8:37.703
zh然后上传文档
8:37.703–8:38.883
zh然后进行OCR提取
8:38.883–8:39.523
zh这是这个
8:39.523–8:40.483
zh除了这个之外
8:40.483–8:41.483
zh我们还有翻译
8:41.483–8:42.763
zh这是翻译的内容
8:42.763–8:43.523
zh中英文翻译
8:43.523–8:45.103
zh还有一个提示词
8:45.103–8:46.403
zh我们有一个提示词仓库
8:46.403–8:47.263
zh然后把它集成进来了
8:47.263–8:52.383
zh而这个仓库也已经在GitHub已经开完了
8:52.383–8:55.423
zh我们在这个里面就是我们的一个模型
8:55.423–8:56.023
zh我们可以看一下
8:56.023–8:58.263
zhDeepseek v4 flash 还有Deepseek flash
8:58.263–8:59.863
zh这个模型都已经可以了
8:59.863–9:01.863
zh在我们这个工具里面也可以调用了
9:01.863–9:02.703
zh我们来给大家测一下
9:02.703–9:05.383
zh来切到Deepseek v4 flash
9:05.383–9:07.023
zhDeepseek flash 这个模型
9:07.023–9:08.303
zhOK 我们可以看一下
9:08.303–9:14.383
zh不欠
9:14.383–9:18.583
zh是这个吧
9:26.583–9:28.383
zh我这个好像有点小问题
9:28.383–9:29.743
zh我再试一下我们的agent
9:32.803–9:33.803
zh应该是可以调通的
9:34.623–9:35.363
zh是没有问题的
9:35.363–9:36.923
zh然后这个对话应该也是可以的
9:36.923–9:38.063
zh我再新建一个对话试一下
9:38.063–9:38.603
zh稍等一下
9:39.783–9:40.843
zh我们来切换一下
9:40.843–9:45.323
zhok 是没有问题的
9:45.323–9:48.723
zh那好的 今天就介绍在这
9:48.723–9:49.223
zh谢谢大家
9:49.223–9:50.163
zh如果大家感兴趣的话
9:50.163–9:51.243
zh我们这里面的支持的
9:51.243–9:52.323
zh我们自己的自带的
9:52.323–9:53.883
zh还Deepseek 千问 质朴
9:53.883–9:56.043
zhKimi 豆包 文心一言 腾讯
9:56.043–9:58.723
zhBinimax 科大讯飞和借阅的
9:58.723–10:01.123
zh所以这些厂商的大模型在支持
10:01.123–10:02.443
zh我们内置了一个agent
10:02.443–10:03.603
zh这个agent是py agent
10:04.643–10:06.363
zh然后还有一些其他的相关的一些功能
10:06.363–10:07.963
zh然后主打的就是本地推理
10:07.963–10:10.363
zh那再顺便再多说两句吧
10:10.363–10:12.203
zh我们这里面在本地区部署大模型
10:12.203–10:14.123
zh支持Nameter CPP VRM和SGLAN
10:14.123–10:15.083
zh然后进行部署
10:15.083–10:16.283
zh然后在模型库里面
10:16.283–10:18.683
zh我们有一些自己挑选的模型
10:18.683–10:19.963
zh可以在这里面来进行管理
10:19.963–10:21.323
zh然后也可以在这里面进行搜索
10:21.323–10:22.523
zh下载GGOF格式的
10:23.083–10:26.603
zh然后这个模型也可以在国内进行下载
10:26.603–10:27.643
zh我已经做到加速
10:27.643–10:29.403
zh然后我们把本地的这些模型
10:29.403–10:29.963
zh启动起来之后
10:29.963–10:31.323
zh我们做了一个统一的网关
10:31.323–10:33.563
zh然后接着OpenAPI的一个协议的
10:33.563–10:34.803
zhVModel然后Chatter
10:34.803–10:37.483
zh然后Response和VMessage和Speech
10:37.483–10:41.043
zh然后转翻译的和生图的都有了
10:41.043–10:44.023
zh后面我们还会打算把minimax H3接进来
10:44.023–10:44.543
zh好的
10:44.543–10:45.623
zh今天就介绍在这
10:45.623–10:46.123
zh谢谢大家
0:00.000–0:00.842
各位朋友大家好。
0:00.842–0:01.895
歡迎大家關注昆蓬道。
0:01.895–0:03.158
今天告訴大家一個好消息。
0:03.158–0:06.000
Deepseek V4.1 Flash這個模型正式開源了。
0:06.000–0:10.661
那它目前已經把它的模型全中上傳到Hugging Face了。
0:10.661–0:15.000
然後官方提供的是一個應該是一個FP8的格式的一個模型。
0:15.000–0:17.200
模型全中的510個G。
0:17.200–0:20.200
我們來看一下它相關的一些參數。
0:20.200–0:23.800
那本次它是一個552B的一個大模型。
0:23.800–0:26.000
也是一個MOE的架構。
0:26.000–0:28.760
然后他本次调整的那个是他的一个CDE的架构
0:28.760–0:30.680
就是由原来的40层的这个转换器
0:30.680–0:36.500
然后现在优化成了改成20层的英国编码器和后面接了20层的解码器
0:36.500–0:43.900
这样的话能够实现前局的KV缓存来进行加速
0:43.900–0:49.780
就是让他能够实现就是预填充的时候
0:49.780–0:52.280
它是一个激活参数是8B的
0:52.280–0:56.520
然后解码的时候它的速度是16B的
0:56.520–1:00.040
这样的话又实现了一个全新的一个技术架构
1:00.200–1:02.040
能够实现大模型的一个推理速度加速
1:02.400–1:04.760
然后本次它的这一次的模型
1:04.760–1:06.240
已经全量在他们官网上线了
1:06.240–1:08.040
而且它官网已经把Deepseek v4 Pro
1:08.040–1:11.640
已经路由到它的Deepseek v4 Flash 4.1的模型上面来了
1:11.960–1:14.360
而且它经过它的架构优化
1:14.440–1:16.600
能够让它的kb缓存降低了
1:16.920–1:18.640
就是降低到原来的1%
1:18.640–1:25.500
另外一个就是他用了一个压缩的吸收注意力的算法
1:25.500–1:31.080
然后能够实现也是一个主要是用来加速的
1:31.080–1:34.080
在各个层级用的吸收索引器
1:34.080–1:36.360
然后来进行限制索引
1:36.360–1:38.220
然后实现的一个推理的一个加速
1:38.220–1:41.580
我觉得这块确实在DeepSick在这方面
1:41.580–1:43.200
还是做了很多的一个功夫
1:43.200–1:45.240
另外的一个就是他的一个MHC
1:45.240–1:48.320
这个之前他已经在他的开源的项目里面
1:48.320–1:49.040
也多次提到过
1:49.040–1:52.160
包括他的enggram的一个存储器
1:52.160–1:53.160
然后很早的时候
1:53.160–1:56.000
应该是在25年11月份左右的时候
1:56.000–1:56.920
他开源出来的
1:58.000–2:00.360
另外一个就是他本次是一个全新的
2:01.120–2:02.760
完整的多模态的一个大模型
2:03.000–2:04.520
他跟原来Deepseek v4 flash
2:04.520–2:06.520
相当于在前面加了一个补丁包
2:06.520–2:08.720
不一样的是他本次的多模态
2:08.840–2:12.080
是用了Deepseek v4的一种技术架构
2:12.080–2:15.360
然后它是从预训练的时候
2:15.360–2:18.280
就已经开始用到了多谋态的一个预料
2:18.280–2:19.320
来进行训练
2:19.320–2:22.120
所以他说它是一个原生的多谋态大模型
2:22.120–2:23.640
这个是没有问题的
2:23.640–2:27.080
我们可以看一下它的一个分数
2:27.080–2:30.000
它本次也很克制
2:30.000–2:33.080
然后它在Terminal Branch Center上面的话
2:33.080–2:34.440
能拿到了一个30分
2:34.440–2:37.440
然后比Kimi5.3都要好一些
2:37.440–2:39.960
然后比Opus5还是差的很多
2:39.960–2:40.560
我们可以看一下
2:40.560–2:42.900
然后和GPT5.6
2:42.900–2:44.120
其实GPT6一出来了
2:45.320–2:46.640
所以说还是有很大的一个差距的
2:46.640–2:48.240
在国内在Terminibank上面
2:48.240–2:48.960
当然这些
2:50.080–2:50.680
这叫什么
2:51.320–2:54.260
这些压测的测试的数据集
2:54.260–2:56.040
包括算法都是国外的他们做的
2:56.040–3:00.560
有可能都是由OpenAI或者说Cloud他们定义的
3:00.560–3:01.880
就谁定义谁说算嘛
3:01.880–3:03.080
他肯定的数据会好一些
3:03.760–3:05.200
当然了这个不能绝对
3:05.200–3:07.160
人家的模型确实我们承认他比较先进
3:07.400–3:09.880
另外一个在Deep SWE上面
3:09.880–3:11.880
v1.1的版本测试数据以上的话
3:11.880–3:13.720
他应该是拿到了一个最好的成绩
3:13.720–3:17.840
然后在安全的测评的上面也拿到了一个88分
3:17.840–3:21.240
然后在自动化上面也拿到了一个54分
3:21.240–3:24.280
目前我看到网上很多的用户评论说
3:24.280–3:25.840
把它接到Deepseek里面去
3:25.840–3:29.520
目前接到Codex里面去用Codex Computer Use
3:29.520–3:33.080
是目前性价比和成功率最高的模型之一
3:33.080–3:33.880
除了Deepseek
3:33.880–3:37.160
除了GPT官网之外
3:37.160–3:41.360
然后本次算是Deep Seek真正的机身
3:41.360–3:44.000
然后世界前沿级的大模型
3:44.000–3:46.020
多模态加一照上下文态这个梯堆
3:46.020–3:48.660
目前国内相当于是第三家
3:48.660–3:51.160
第一家相当于是Kimi
3:51.160–3:54.020
第二家相当于是千问
3:54.020–3:56.400
但千问38刚开始推出来的不是多模态的
3:56.400–3:57.000
我也很奇怪
3:57.000–3:57.740
不知道他现在是不是
3:57.740–3:59.880
我们就把它放在这一列里面
3:59.880–4:01.860
因为我之前说国内只有一家的时候
4:01.860–4:03.660
就有人在评论区说千问也是
4:03.660–4:05.700
我记得千问38刚出来的时候
4:05.700–4:06.760
它是一个文本的多模态
4:06.760–4:09.380
因为大家都知道我其实没有做测试
4:09.380–4:11.620
就是没有深入的测试
4:11.620–4:12.287
卖Token Plan
4:12.287–4:13.720
然后限制太多了
4:13.720–4:14.580
所以我就放弃了
4:14.580–4:18.640
然后这个是它的整个的一个测评的一个分数
4:18.640–4:20.260
比如说在各个领域
4:20.260–4:21.800
然后还是非常亮眼的
4:21.800–4:22.700
这个黑色的就表示
4:22.700–4:25.500
它是目前的在已知的测评的这些里面
4:25.500–4:29.360
效果是最好的
4:29.360–4:31.580
我们可以看一下
4:31.580–4:33.460
这个是它的一个base模型
4:33.460–4:35.260
和它的对就是这个模型
4:35.260–4:42.920
它在很多的参数已经非常接近V4 Pro和已经超过的Pro的模型
4:42.920–4:47.060
所以说他们官网已经把这个Pro路由到这个模型上面来
4:47.060–4:48.900
第一个是为了降低它的一个推理成本
4:48.900–4:53.000
第二个也是因为这个模型的能力确实提升非常明显
4:53.000–4:55.800
还有一个的最主要原因是网上被很多用户吐槽
4:55.800–4:57.400
Deepstick V4 Pro的幻觉比较严重
4:57.400–5:00.800
实际上我使用下来整体感觉还是非常不错的
5:00.800–5:03.700
这些测评的分数我们就不一一讲
5:03.700–5:05.260
因为刚才我们已经带大家看了一下
5:05.260–5:07.340
它跟国外的这些模型的做一些对比
5:07.340–5:10.060
其实我们可以看到目前它应该是
5:10.060–5:13.660
牺牲到了国内的大模型的第一体队
5:13.660–5:14.260
毫无疑问
5:14.260–5:17.140
所以说DeepSick还是非常强的
5:17.940–5:22.660
目前它官方还没有去推出
5:22.660–5:24.420
然后VM和SGLAN部署的
5:24.420–5:25.660
然后我相信应该很快
5:25.660–5:27.660
VM和SGLAN就有对您的支持
5:27.660–5:29.340
就算没有对您也有对一的支持
5:29.340–5:31.420
刚才我们在一个我们私有化
5:31.420–5:33.020
部署大模型的群里面就有人说
5:33.020–5:35.380
今天晚上想蹲一个4.1的本地部署
5:35.380–5:36.060
我感觉够呛
5:36.060–5:37.740
其实我们手上也有机器
5:37.740–5:39.900
但是不打算部署了
5:39.900–5:42.740
因为它500多G的话
5:42.740–5:44.380
说实话我们就算部署起来的话
5:44.380–5:46.660
速度应该也不会很快
5:46.660–5:48.140
还有一个原因是
5:48.140–5:51.780
它官网的版本应该是加了Dspark
5:51.780–5:52.540
然后进行加速
5:52.540–5:53.820
但是它开源的版本里面
5:53.820–5:54.900
我刚才翻了一下
5:54.900–5:57.260
它的文件里面好像没有相关的一些描述
5:57.260–5:58.900
我们再等一等看看
5:58.900–6:01.700
三方会不会把Dspark给它接入进去
6:01.700–6:02.940
他官网的现在这个速度
6:02.940–6:05.700
我相信他应该是把despark已经接入进去了
6:05.700–6:07.780
那好的
6:07.780–6:09.860
如果你对大模型感兴趣的话
6:09.860–6:10.620
可以关注一下
6:10.620–6:15.800
然后来在你的API里面切换一下
6:15.800–6:17.760
其实我上一个视频里面也已经讲到了
6:17.760–6:19.120
就是DeepSick最新的模型
6:19.120–6:20.720
然后我们来也看一下同步的
6:20.720–6:23.060
看一下他们最新的官网的一个描述
6:23.060–6:26.880
我们可以看到他的官网又更新了
6:26.880–6:28.160
原来右侧的是一个招聘的
6:28.160–6:28.900
现在不招了
6:28.900–6:29.580
也不是不招了
6:29.580–6:31.060
他应该是更新了一个
6:31.060–6:33.700
然后我们来到它的开放平台上
6:33.700–6:34.200
我们来看一下
6:34.200–6:36.760
这个是它的接口文档
6:36.760–6:38.940
我们重点看它模型的一个更新
6:38.940–6:41.560
目前在它的接口文档里面
6:41.560–6:42.440
还是两个模型
6:42.440–6:45.980
所以说我们可以看一下模型和价格
6:45.980–6:49.360
冰干压我记得还有一个
6:49.360–6:52.980
Dipsick Flash
6:52.980–6:56.360
Dipsick V4 Pro
6:56.360–6:59.000
它把它的模型
6:59.000–6:59.940
这个4.1 Flash
6:59.940–7:01.780
已经直接切换成这个了
7:01.780–7:03.460
我们来看一下它的
7:03.460–7:08.180
模型名称使用Deepseek V4 Flash
7:08.180–7:09.820
就可以接入到新的模型里面来了
7:09.820–7:13.180
然后旧的V4 Flash和Flash Vision XP
7:13.180–7:14.220
还可以调用
7:14.220–7:15.780
它应该是已经把它路由到
7:15.780–7:17.820
Deepseek V4 E Flash这个模型上面来
7:17.820–7:19.740
然后它的统一名称叫Deepseek V4 Flash
7:19.740–7:22.200
没有V4就是Deepseek Flash模型
7:22.200–7:23.460
新的模型的话
7:23.460–7:25.240
你可以直接使用Deepseek V4 Flash
7:25.240–7:26.720
也可以使用Deepseek Flash
7:26.720–7:27.940
都可以来做我介入
7:27.940–7:30.460
我再给大家带大家来看一下
7:30.460–7:33.240
我们来到我们的7166里面
7:33.240–7:35.780
带大家来做一次配置一下
7:35.780–7:38.180
其他的所有的三方的工具都是一样的
7:38.180–7:41.260
OK
7:42.563–7:48.123
OK。我們在這裡面添加一下模型。OK。添加模型。來做一下檢測。
7:48.123–7:53.403
连接失败
7:53.403–7:56.503
我这个账户应该是欠费的
7:56.503–7:59.703
正好我今天也开玩了一个
7:59.703–8:04.903
我自己的一个本地的大模型的一个推理的框架
8:04.903–8:06.143
然后同时也支持云端
8:06.143–8:07.203
先简单给大家介绍一下
8:07.203–8:08.623
我们这里面有对话
8:08.623–8:10.383
有agent还有视频的通话的
8:10.383–8:12.423
包括这种可以本地和云端的模式
8:12.423–8:13.563
可以跟他先打电话
8:13.563–8:14.743
但是我这个电脑没在我旁边
8:14.743–8:15.903
所以说没办法进行沟通
8:15.903–8:16.643
我们先把它挂了
8:16.643–8:17.863
回头给单独给大家测试
8:17.863–8:21.423
然后这一块是生成本地去生成TTS
8:21.423–8:22.863
然后可以使用Edge TTS
8:22.863–8:24.903
也可以使用所谓OpenAI兼容的协议的
8:24.903–8:26.343
来进行本地去生成音频
8:26.343–8:28.043
这块是生图的
8:28.043–8:30.503
然后也可以用本地的MRX生图
8:30.503–8:31.823
也可以使用云端的一个生图
8:31.823–8:34.663
然后我们可以看一下之前历史生图的一些效果
8:34.663–8:35.543
这是生图的
8:35.543–8:36.483
还有一个OCR
8:36.483–8:37.703
然后上传文档
8:37.703–8:38.883
然后进行OCR提取
8:38.883–8:39.523
这是这个
8:39.523–8:40.483
除了这个之外
8:40.483–8:41.483
我们还有翻译
8:41.483–8:42.763
这是翻译的内容
8:42.763–8:43.523
中英文翻译
8:43.523–8:45.103
还有一个提示词
8:45.103–8:46.403
我们有一个提示词仓库
8:46.403–8:47.263
然后把它集成进来了
8:47.263–8:52.383
而这个仓库也已经在GitHub已经开完了
8:52.383–8:55.423
我们在这个里面就是我们的一个模型
8:55.423–8:56.023
我们可以看一下
8:56.023–8:58.263
Deepseek v4 flash 还有Deepseek flash
8:58.263–8:59.863
这个模型都已经可以了
8:59.863–9:01.863
在我们这个工具里面也可以调用了
9:01.863–9:02.703
我们来给大家测一下
9:02.703–9:05.383
来切到Deepseek v4 flash
9:05.383–9:07.023
Deepseek flash 这个模型
9:07.023–9:08.303
OK 我们可以看一下
9:08.303–9:14.383
不欠
9:14.383–9:18.583
是这个吧
9:26.583–9:28.383
我这个好像有点小问题
9:28.383–9:29.743
我再试一下我们的agent
9:32.803–9:33.803
应该是可以调通的
9:34.623–9:35.363
是没有问题的
9:35.363–9:36.923
然后这个对话应该也是可以的
9:36.923–9:38.063
我再新建一个对话试一下
9:38.063–9:38.603
稍等一下
9:39.783–9:40.843
我们来切换一下
9:40.843–9:45.323
ok 是没有问题的
9:45.323–9:48.723
那好的 今天就介绍在这
9:48.723–9:49.223
谢谢大家
9:49.223–9:50.163
如果大家感兴趣的话
9:50.163–9:51.243
我们这里面的支持的
9:51.243–9:52.323
我们自己的自带的
9:52.323–9:53.883
还Deepseek 千问 质朴
9:53.883–9:56.043
Kimi 豆包 文心一言 腾讯
9:56.043–9:58.723
Binimax 科大讯飞和借阅的
9:58.723–10:01.123
所以这些厂商的大模型在支持
10:01.123–10:02.443
我们内置了一个agent
10:02.443–10:03.603
这个agent是py agent
10:04.643–10:06.363
然后还有一些其他的相关的一些功能
10:06.363–10:07.963
然后主打的就是本地推理
10:07.963–10:10.363
那再顺便再多说两句吧
10:10.363–10:12.203
我们这里面在本地区部署大模型
10:12.203–10:14.123
支持Nameter CPP VRM和SGLAN
10:14.123–10:15.083
然后进行部署
10:15.083–10:16.283
然后在模型库里面
10:16.283–10:18.683
我们有一些自己挑选的模型
10:18.683–10:19.963
可以在这里面来进行管理
10:19.963–10:21.323
然后也可以在这里面进行搜索
10:21.323–10:22.523
下载GGOF格式的
10:23.083–10:26.603
然后这个模型也可以在国内进行下载
10:26.603–10:27.643
我已经做到加速
10:27.643–10:29.403
然后我们把本地的这些模型
10:29.403–10:29.963
启动起来之后
10:29.963–10:31.323
我们做了一个统一的网关
10:31.323–10:33.563
然后接着OpenAPI的一个协议的
10:33.563–10:34.803
VModel然后Chatter
10:34.803–10:37.483
然后Response和VMessage和Speech
10:37.483–10:41.043
然后转翻译的和生图的都有了
10:41.043–10:44.023
后面我们还会打算把minimax H3接进来
10:44.023–10:44.543
好的
10:44.543–10:45.623
今天就介绍在这
10:45.623–10:46.123
谢谢大家
0:00.000–0:00.842
zh各位朋友大家好。
各位朋友大家好。
0:00.842–0:01.895
zh歡迎大家關注昆蓬道。
歡迎大家關注昆蓬道。
0:01.895–0:03.158
zh今天告訴大家一個好消息。
今天告訴大家一個好消息。
0:03.158–0:06.000
zhDeepseek V4.1 Flash這個模型正式開源了。
Deepseek V4.1 Flash這個模型正式開源了。
0:06.000–0:10.661
zh那它目前已經把它的模型全中上傳到Hugging Face了。
那它目前已經把它的模型全中上傳到Hugging Face了。
0:10.661–0:15.000
zh然後官方提供的是一個應該是一個FP8的格式的一個模型。
然後官方提供的是一個應該是一個FP8的格式的一個模型。
0:15.000–0:17.200
zh模型全中的510個G。
模型全中的510個G。
0:17.200–0:20.200
zh我們來看一下它相關的一些參數。
我們來看一下它相關的一些參數。
0:20.200–0:23.800
zh那本次它是一個552B的一個大模型。
那本次它是一個552B的一個大模型。
0:23.800–0:26.000
zh也是一個MOE的架構。
也是一個MOE的架構。
0:26.000–0:28.760
zh然后他本次调整的那个是他的一个CDE的架构
然后他本次调整的那个是他的一个CDE的架构
0:28.760–0:30.680
zh就是由原来的40层的这个转换器
就是由原来的40层的这个转换器
0:30.680–0:36.500
zh然后现在优化成了改成20层的英国编码器和后面接了20层的解码器
然后现在优化成了改成20层的英国编码器和后面接了20层的解码器
0:36.500–0:43.900
zh这样的话能够实现前局的KV缓存来进行加速
这样的话能够实现前局的KV缓存来进行加速
0:43.900–0:49.780
zh就是让他能够实现就是预填充的时候
就是让他能够实现就是预填充的时候
0:49.780–0:52.280
zh它是一个激活参数是8B的
它是一个激活参数是8B的
0:52.280–0:56.520
zh然后解码的时候它的速度是16B的
然后解码的时候它的速度是16B的
0:56.520–1:00.040
zh这样的话又实现了一个全新的一个技术架构
这样的话又实现了一个全新的一个技术架构
1:00.200–1:02.040
zh能够实现大模型的一个推理速度加速
能够实现大模型的一个推理速度加速
1:02.400–1:04.760
zh然后本次它的这一次的模型
然后本次它的这一次的模型
1:04.760–1:06.240
zh已经全量在他们官网上线了
已经全量在他们官网上线了
1:06.240–1:08.040
zh而且它官网已经把Deepseek v4 Pro
而且它官网已经把Deepseek v4 Pro
1:08.040–1:11.640
zh已经路由到它的Deepseek v4 Flash 4.1的模型上面来了
已经路由到它的Deepseek v4 Flash 4.1的模型上面来了
1:11.960–1:14.360
zh而且它经过它的架构优化
而且它经过它的架构优化
1:14.440–1:16.600
zh能够让它的kb缓存降低了
能够让它的kb缓存降低了
1:16.920–1:18.640
zh就是降低到原来的1%
就是降低到原来的1%
1:18.640–1:25.500
zh另外一个就是他用了一个压缩的吸收注意力的算法
另外一个就是他用了一个压缩的吸收注意力的算法
1:25.500–1:31.080
zh然后能够实现也是一个主要是用来加速的
然后能够实现也是一个主要是用来加速的
1:31.080–1:34.080
zh在各个层级用的吸收索引器
在各个层级用的吸收索引器
1:34.080–1:36.360
zh然后来进行限制索引
然后来进行限制索引
1:36.360–1:38.220
zh然后实现的一个推理的一个加速
然后实现的一个推理的一个加速
1:38.220–1:41.580
zh我觉得这块确实在DeepSick在这方面
我觉得这块确实在DeepSick在这方面
1:41.580–1:43.200
zh还是做了很多的一个功夫
还是做了很多的一个功夫
1:43.200–1:45.240
zh另外的一个就是他的一个MHC
另外的一个就是他的一个MHC
1:45.240–1:48.320
zh这个之前他已经在他的开源的项目里面
这个之前他已经在他的开源的项目里面
1:48.320–1:49.040
zh也多次提到过
也多次提到过
1:49.040–1:52.160
zh包括他的enggram的一个存储器
包括他的enggram的一个存储器
1:52.160–1:53.160
zh然后很早的时候
然后很早的时候
1:53.160–1:56.000
zh应该是在25年11月份左右的时候
应该是在25年11月份左右的时候
1:56.000–1:56.920
zh他开源出来的
他开源出来的
1:58.000–2:00.360
zh另外一个就是他本次是一个全新的
另外一个就是他本次是一个全新的
2:01.120–2:02.760
zh完整的多模态的一个大模型
完整的多模态的一个大模型
2:03.000–2:04.520
zh他跟原来Deepseek v4 flash
他跟原来Deepseek v4 flash
2:04.520–2:06.520
zh相当于在前面加了一个补丁包
相当于在前面加了一个补丁包
2:06.520–2:08.720
zh不一样的是他本次的多模态
不一样的是他本次的多模态
2:08.840–2:12.080
zh是用了Deepseek v4的一种技术架构
是用了Deepseek v4的一种技术架构
2:12.080–2:15.360
zh然后它是从预训练的时候
然后它是从预训练的时候
2:15.360–2:18.280
zh就已经开始用到了多谋态的一个预料
就已经开始用到了多谋态的一个预料
2:18.280–2:19.320
zh来进行训练
来进行训练
2:19.320–2:22.120
zh所以他说它是一个原生的多谋态大模型
所以他说它是一个原生的多谋态大模型
2:22.120–2:23.640
zh这个是没有问题的
这个是没有问题的
2:23.640–2:27.080
zh我们可以看一下它的一个分数
我们可以看一下它的一个分数
2:27.080–2:30.000
zh它本次也很克制
它本次也很克制
2:30.000–2:33.080
zh然后它在Terminal Branch Center上面的话
然后它在Terminal Branch Center上面的话
2:33.080–2:34.440
zh能拿到了一个30分
能拿到了一个30分
2:34.440–2:37.440
zh然后比Kimi5.3都要好一些
然后比Kimi5.3都要好一些
2:37.440–2:39.960
zh然后比Opus5还是差的很多
然后比Opus5还是差的很多
2:39.960–2:40.560
zh我们可以看一下
我们可以看一下
2:40.560–2:42.900
zh然后和GPT5.6
然后和GPT5.6
2:42.900–2:44.120
zh其实GPT6一出来了
其实GPT6一出来了
2:45.320–2:46.640
zh所以说还是有很大的一个差距的
所以说还是有很大的一个差距的
2:46.640–2:48.240
zh在国内在Terminibank上面
在国内在Terminibank上面
2:48.240–2:48.960
zh当然这些
当然这些
2:50.080–2:50.680
zh这叫什么
这叫什么
2:51.320–2:54.260
zh这些压测的测试的数据集
这些压测的测试的数据集
2:54.260–2:56.040
zh包括算法都是国外的他们做的
包括算法都是国外的他们做的
2:56.040–3:00.560
zh有可能都是由OpenAI或者说Cloud他们定义的
有可能都是由OpenAI或者说Cloud他们定义的
3:00.560–3:01.880
zh就谁定义谁说算嘛
就谁定义谁说算嘛
3:01.880–3:03.080
zh他肯定的数据会好一些
他肯定的数据会好一些
3:03.760–3:05.200
zh当然了这个不能绝对
当然了这个不能绝对
3:05.200–3:07.160
zh人家的模型确实我们承认他比较先进
人家的模型确实我们承认他比较先进
3:07.400–3:09.880
zh另外一个在Deep SWE上面
另外一个在Deep SWE上面
3:09.880–3:11.880
zhv1.1的版本测试数据以上的话
v1.1的版本测试数据以上的话
3:11.880–3:13.720
zh他应该是拿到了一个最好的成绩
他应该是拿到了一个最好的成绩
3:13.720–3:17.840
zh然后在安全的测评的上面也拿到了一个88分
然后在安全的测评的上面也拿到了一个88分
3:17.840–3:21.240
zh然后在自动化上面也拿到了一个54分
然后在自动化上面也拿到了一个54分
3:21.240–3:24.280
zh目前我看到网上很多的用户评论说
目前我看到网上很多的用户评论说
3:24.280–3:25.840
zh把它接到Deepseek里面去
把它接到Deepseek里面去
3:25.840–3:29.520
zh目前接到Codex里面去用Codex Computer Use
目前接到Codex里面去用Codex Computer Use
3:29.520–3:33.080
zh是目前性价比和成功率最高的模型之一
是目前性价比和成功率最高的模型之一
3:33.080–3:33.880
zh除了Deepseek
除了Deepseek
3:33.880–3:37.160
zh除了GPT官网之外
除了GPT官网之外
3:37.160–3:41.360
zh然后本次算是Deep Seek真正的机身
然后本次算是Deep Seek真正的机身
3:41.360–3:44.000
zh然后世界前沿级的大模型
然后世界前沿级的大模型
3:44.000–3:46.020
zh多模态加一照上下文态这个梯堆
多模态加一照上下文态这个梯堆
3:46.020–3:48.660
zh目前国内相当于是第三家
目前国内相当于是第三家
3:48.660–3:51.160
zh第一家相当于是Kimi
第一家相当于是Kimi
3:51.160–3:54.020
zh第二家相当于是千问
第二家相当于是千问
3:54.020–3:56.400
zh但千问38刚开始推出来的不是多模态的
但千问38刚开始推出来的不是多模态的
3:56.400–3:57.000
zh我也很奇怪
我也很奇怪
3:57.000–3:57.740
zh不知道他现在是不是
不知道他现在是不是
3:57.740–3:59.880
zh我们就把它放在这一列里面
我们就把它放在这一列里面
3:59.880–4:01.860
zh因为我之前说国内只有一家的时候
因为我之前说国内只有一家的时候
4:01.860–4:03.660
zh就有人在评论区说千问也是
就有人在评论区说千问也是
4:03.660–4:05.700
zh我记得千问38刚出来的时候
我记得千问38刚出来的时候
4:05.700–4:06.760
zh它是一个文本的多模态
它是一个文本的多模态
4:06.760–4:09.380
zh因为大家都知道我其实没有做测试
因为大家都知道我其实没有做测试
4:09.380–4:11.620
zh就是没有深入的测试
就是没有深入的测试
4:11.620–4:12.287
zh卖Token Plan
卖Token Plan
4:12.287–4:13.720
zh然后限制太多了
然后限制太多了
4:13.720–4:14.580
zh所以我就放弃了
所以我就放弃了
4:14.580–4:18.640
zh然后这个是它的整个的一个测评的一个分数
然后这个是它的整个的一个测评的一个分数
4:18.640–4:20.260
zh比如说在各个领域
比如说在各个领域
4:20.260–4:21.800
zh然后还是非常亮眼的
然后还是非常亮眼的
4:21.800–4:22.700
zh这个黑色的就表示
这个黑色的就表示
4:22.700–4:25.500
zh它是目前的在已知的测评的这些里面
它是目前的在已知的测评的这些里面
4:25.500–4:29.360
zh效果是最好的
效果是最好的
4:29.360–4:31.580
zh我们可以看一下
我们可以看一下
4:31.580–4:33.460
zh这个是它的一个base模型
这个是它的一个base模型
4:33.460–4:35.260
zh和它的对就是这个模型
和它的对就是这个模型
4:35.260–4:42.920
zh它在很多的参数已经非常接近V4 Pro和已经超过的Pro的模型
它在很多的参数已经非常接近V4 Pro和已经超过的Pro的模型
4:42.920–4:47.060
zh所以说他们官网已经把这个Pro路由到这个模型上面来
所以说他们官网已经把这个Pro路由到这个模型上面来
4:47.060–4:48.900
zh第一个是为了降低它的一个推理成本
第一个是为了降低它的一个推理成本
4:48.900–4:53.000
zh第二个也是因为这个模型的能力确实提升非常明显
第二个也是因为这个模型的能力确实提升非常明显
4:53.000–4:55.800
zh还有一个的最主要原因是网上被很多用户吐槽
还有一个的最主要原因是网上被很多用户吐槽
4:55.800–4:57.400
zhDeepstick V4 Pro的幻觉比较严重
Deepstick V4 Pro的幻觉比较严重
4:57.400–5:00.800
zh实际上我使用下来整体感觉还是非常不错的
实际上我使用下来整体感觉还是非常不错的
5:00.800–5:03.700
zh这些测评的分数我们就不一一讲
这些测评的分数我们就不一一讲
5:03.700–5:05.260
zh因为刚才我们已经带大家看了一下
因为刚才我们已经带大家看了一下
5:05.260–5:07.340
zh它跟国外的这些模型的做一些对比
它跟国外的这些模型的做一些对比
5:07.340–5:10.060
zh其实我们可以看到目前它应该是
其实我们可以看到目前它应该是
5:10.060–5:13.660
zh牺牲到了国内的大模型的第一体队
牺牲到了国内的大模型的第一体队
5:13.660–5:14.260
zh毫无疑问
毫无疑问
5:14.260–5:17.140
zh所以说DeepSick还是非常强的
所以说DeepSick还是非常强的
5:17.940–5:22.660
zh目前它官方还没有去推出
目前它官方还没有去推出
5:22.660–5:24.420
zh然后VM和SGLAN部署的
然后VM和SGLAN部署的
5:24.420–5:25.660
zh然后我相信应该很快
然后我相信应该很快
5:25.660–5:27.660
zhVM和SGLAN就有对您的支持
VM和SGLAN就有对您的支持
5:27.660–5:29.340
zh就算没有对您也有对一的支持
就算没有对您也有对一的支持
5:29.340–5:31.420
zh刚才我们在一个我们私有化
刚才我们在一个我们私有化
5:31.420–5:33.020
zh部署大模型的群里面就有人说
部署大模型的群里面就有人说
5:33.020–5:35.380
zh今天晚上想蹲一个4.1的本地部署
今天晚上想蹲一个4.1的本地部署
5:35.380–5:36.060
zh我感觉够呛
我感觉够呛
5:36.060–5:37.740
zh其实我们手上也有机器
其实我们手上也有机器
5:37.740–5:39.900
zh但是不打算部署了
但是不打算部署了
5:39.900–5:42.740
zh因为它500多G的话
因为它500多G的话
5:42.740–5:44.380
zh说实话我们就算部署起来的话
说实话我们就算部署起来的话
5:44.380–5:46.660
zh速度应该也不会很快
速度应该也不会很快
5:46.660–5:48.140
zh还有一个原因是
还有一个原因是
5:48.140–5:51.780
zh它官网的版本应该是加了Dspark
它官网的版本应该是加了Dspark
5:51.780–5:52.540
zh然后进行加速
然后进行加速
5:52.540–5:53.820
zh但是它开源的版本里面
但是它开源的版本里面
5:53.820–5:54.900
zh我刚才翻了一下
我刚才翻了一下
5:54.900–5:57.260
zh它的文件里面好像没有相关的一些描述
它的文件里面好像没有相关的一些描述
5:57.260–5:58.900
zh我们再等一等看看
我们再等一等看看
5:58.900–6:01.700
zh三方会不会把Dspark给它接入进去
三方会不会把Dspark给它接入进去
6:01.700–6:02.940
zh他官网的现在这个速度
他官网的现在这个速度
6:02.940–6:05.700
zh我相信他应该是把despark已经接入进去了
我相信他应该是把despark已经接入进去了
6:05.700–6:07.780
zh那好的
那好的
6:07.780–6:09.860
zh如果你对大模型感兴趣的话
如果你对大模型感兴趣的话
6:09.860–6:10.620
zh可以关注一下
可以关注一下
6:10.620–6:15.800
zh然后来在你的API里面切换一下
然后来在你的API里面切换一下
6:15.800–6:17.760
zh其实我上一个视频里面也已经讲到了
其实我上一个视频里面也已经讲到了
6:17.760–6:19.120
zh就是DeepSick最新的模型
就是DeepSick最新的模型
6:19.120–6:20.720
zh然后我们来也看一下同步的
然后我们来也看一下同步的
6:20.720–6:23.060
zh看一下他们最新的官网的一个描述
看一下他们最新的官网的一个描述
6:23.060–6:26.880
zh我们可以看到他的官网又更新了
我们可以看到他的官网又更新了
6:26.880–6:28.160
zh原来右侧的是一个招聘的
原来右侧的是一个招聘的
6:28.160–6:28.900
zh现在不招了
现在不招了
6:28.900–6:29.580
zh也不是不招了
也不是不招了
6:29.580–6:31.060
zh他应该是更新了一个
他应该是更新了一个
6:31.060–6:33.700
zh然后我们来到它的开放平台上
然后我们来到它的开放平台上
6:33.700–6:34.200
zh我们来看一下
我们来看一下
6:34.200–6:36.760
zh这个是它的接口文档
这个是它的接口文档
6:36.760–6:38.940
zh我们重点看它模型的一个更新
我们重点看它模型的一个更新
6:38.940–6:41.560
zh目前在它的接口文档里面
目前在它的接口文档里面
6:41.560–6:42.440
zh还是两个模型
还是两个模型
6:42.440–6:45.980
zh所以说我们可以看一下模型和价格
所以说我们可以看一下模型和价格
6:45.980–6:49.360
zh冰干压我记得还有一个
冰干压我记得还有一个
6:49.360–6:52.980
enDipsick Flash
Dipsick Flash
6:52.980–6:56.360
enDipsick V4 Pro
Dipsick V4 Pro
6:56.360–6:59.000
zh它把它的模型
它把它的模型
6:59.000–6:59.940
zh这个4.1 Flash
这个4.1 Flash
6:59.940–7:01.780
zh已经直接切换成这个了
已经直接切换成这个了
7:01.780–7:03.460
zh我们来看一下它的
我们来看一下它的
7:03.460–7:08.180
zh模型名称使用Deepseek V4 Flash
模型名称使用Deepseek V4 Flash
7:08.180–7:09.820
zh就可以接入到新的模型里面来了
就可以接入到新的模型里面来了
7:09.820–7:13.180
zh然后旧的V4 Flash和Flash Vision XP
然后旧的V4 Flash和Flash Vision XP
7:13.180–7:14.220
zh还可以调用
还可以调用
7:14.220–7:15.780
zh它应该是已经把它路由到
它应该是已经把它路由到
7:15.780–7:17.820
zhDeepseek V4 E Flash这个模型上面来
Deepseek V4 E Flash这个模型上面来
7:17.820–7:19.740
zh然后它的统一名称叫Deepseek V4 Flash
然后它的统一名称叫Deepseek V4 Flash
7:19.740–7:22.200
zh没有V4就是Deepseek Flash模型
没有V4就是Deepseek Flash模型
7:22.200–7:23.460
zh新的模型的话
新的模型的话
7:23.460–7:25.240
zh你可以直接使用Deepseek V4 Flash
你可以直接使用Deepseek V4 Flash
7:25.240–7:26.720
zh也可以使用Deepseek Flash
也可以使用Deepseek Flash
7:26.720–7:27.940
zh都可以来做我介入
都可以来做我介入
7:27.940–7:30.460
zh我再给大家带大家来看一下
我再给大家带大家来看一下
7:30.460–7:33.240
zh我们来到我们的7166里面
我们来到我们的7166里面
7:33.240–7:35.780
zh带大家来做一次配置一下
带大家来做一次配置一下
7:35.780–7:38.180
zh其他的所有的三方的工具都是一样的
其他的所有的三方的工具都是一样的
7:38.180–7:41.260
enOK
OK
7:42.563–7:48.123
zhOK。我們在這裡面添加一下模型。OK。添加模型。來做一下檢測。
OK。我們在這裡面添加一下模型。OK。添加模型。來做一下檢測。
7:48.123–7:53.403
zh连接失败
连接失败
7:53.403–7:56.503
zh我这个账户应该是欠费的
我这个账户应该是欠费的
7:56.503–7:59.703
zh正好我今天也开玩了一个
正好我今天也开玩了一个
7:59.703–8:04.903
zh我自己的一个本地的大模型的一个推理的框架
我自己的一个本地的大模型的一个推理的框架
8:04.903–8:06.143
zh然后同时也支持云端
然后同时也支持云端
8:06.143–8:07.203
zh先简单给大家介绍一下
先简单给大家介绍一下
8:07.203–8:08.623
zh我们这里面有对话
我们这里面有对话
8:08.623–8:10.383
zh有agent还有视频的通话的
有agent还有视频的通话的
8:10.383–8:12.423
zh包括这种可以本地和云端的模式
包括这种可以本地和云端的模式
8:12.423–8:13.563
zh可以跟他先打电话
可以跟他先打电话
8:13.563–8:14.743
zh但是我这个电脑没在我旁边
但是我这个电脑没在我旁边
8:14.743–8:15.903
zh所以说没办法进行沟通
所以说没办法进行沟通
8:15.903–8:16.643
zh我们先把它挂了
我们先把它挂了
8:16.643–8:17.863
zh回头给单独给大家测试
回头给单独给大家测试
8:17.863–8:21.423
zh然后这一块是生成本地去生成TTS
然后这一块是生成本地去生成TTS
8:21.423–8:22.863
zh然后可以使用Edge TTS
然后可以使用Edge TTS
8:22.863–8:24.903
zh也可以使用所谓OpenAI兼容的协议的
也可以使用所谓OpenAI兼容的协议的
8:24.903–8:26.343
zh来进行本地去生成音频
来进行本地去生成音频
8:26.343–8:28.043
zh这块是生图的
这块是生图的
8:28.043–8:30.503
zh然后也可以用本地的MRX生图
然后也可以用本地的MRX生图
8:30.503–8:31.823
zh也可以使用云端的一个生图
也可以使用云端的一个生图
8:31.823–8:34.663
zh然后我们可以看一下之前历史生图的一些效果
然后我们可以看一下之前历史生图的一些效果
8:34.663–8:35.543
zh这是生图的
这是生图的
8:35.543–8:36.483
zh还有一个OCR
还有一个OCR
8:36.483–8:37.703
zh然后上传文档
然后上传文档
8:37.703–8:38.883
zh然后进行OCR提取
然后进行OCR提取
8:38.883–8:39.523
zh这是这个
这是这个
8:39.523–8:40.483
zh除了这个之外
除了这个之外
8:40.483–8:41.483
zh我们还有翻译
我们还有翻译
8:41.483–8:42.763
zh这是翻译的内容
这是翻译的内容
8:42.763–8:43.523
zh中英文翻译
中英文翻译
8:43.523–8:45.103
zh还有一个提示词
还有一个提示词
8:45.103–8:46.403
zh我们有一个提示词仓库
我们有一个提示词仓库
8:46.403–8:47.263
zh然后把它集成进来了
然后把它集成进来了
8:47.263–8:52.383
zh而这个仓库也已经在GitHub已经开完了
而这个仓库也已经在GitHub已经开完了
8:52.383–8:55.423
zh我们在这个里面就是我们的一个模型
我们在这个里面就是我们的一个模型
8:55.423–8:56.023
zh我们可以看一下
我们可以看一下
8:56.023–8:58.263
zhDeepseek v4 flash 还有Deepseek flash
Deepseek v4 flash 还有Deepseek flash
8:58.263–8:59.863
zh这个模型都已经可以了
这个模型都已经可以了
8:59.863–9:01.863
zh在我们这个工具里面也可以调用了
在我们这个工具里面也可以调用了
9:01.863–9:02.703
zh我们来给大家测一下
我们来给大家测一下
9:02.703–9:05.383
zh来切到Deepseek v4 flash
来切到Deepseek v4 flash
9:05.383–9:07.023
zhDeepseek flash 这个模型
Deepseek flash 这个模型
9:07.023–9:08.303
zhOK 我们可以看一下
OK 我们可以看一下
9:08.303–9:14.383
zh不欠
不欠
9:14.383–9:18.583
zh是这个吧
是这个吧
9:26.583–9:28.383
zh我这个好像有点小问题
我这个好像有点小问题
9:28.383–9:29.743
zh我再试一下我们的agent
我再试一下我们的agent
9:32.803–9:33.803
zh应该是可以调通的
应该是可以调通的
9:34.623–9:35.363
zh是没有问题的
是没有问题的
9:35.363–9:36.923
zh然后这个对话应该也是可以的
然后这个对话应该也是可以的
9:36.923–9:38.063
zh我再新建一个对话试一下
我再新建一个对话试一下
9:38.063–9:38.603
zh稍等一下
稍等一下
9:39.783–9:40.843
zh我们来切换一下
我们来切换一下
9:40.843–9:45.323
zhok 是没有问题的
ok 是没有问题的
9:45.323–9:48.723
zh那好的 今天就介绍在这
那好的 今天就介绍在这
9:48.723–9:49.223
zh谢谢大家
谢谢大家
9:49.223–9:50.163
zh如果大家感兴趣的话
如果大家感兴趣的话
9:50.163–9:51.243
zh我们这里面的支持的
我们这里面的支持的
9:51.243–9:52.323
zh我们自己的自带的
我们自己的自带的
9:52.323–9:53.883
zh还Deepseek 千问 质朴
还Deepseek 千问 质朴
9:53.883–9:56.043
zhKimi 豆包 文心一言 腾讯
Kimi 豆包 文心一言 腾讯
9:56.043–9:58.723
zhBinimax 科大讯飞和借阅的
Binimax 科大讯飞和借阅的
9:58.723–10:01.123
zh所以这些厂商的大模型在支持
所以这些厂商的大模型在支持
10:01.123–10:02.443
zh我们内置了一个agent
我们内置了一个agent
10:02.443–10:03.603
zh这个agent是py agent
这个agent是py agent
10:04.643–10:06.363
zh然后还有一些其他的相关的一些功能
然后还有一些其他的相关的一些功能
10:06.363–10:07.963
zh然后主打的就是本地推理
然后主打的就是本地推理
10:07.963–10:10.363
zh那再顺便再多说两句吧
那再顺便再多说两句吧
10:10.363–10:12.203
zh我们这里面在本地区部署大模型
我们这里面在本地区部署大模型
10:12.203–10:14.123
zh支持Nameter CPP VRM和SGLAN
支持Nameter CPP VRM和SGLAN
10:14.123–10:15.083
zh然后进行部署
然后进行部署
10:15.083–10:16.283
zh然后在模型库里面
然后在模型库里面
10:16.283–10:18.683
zh我们有一些自己挑选的模型
我们有一些自己挑选的模型
10:18.683–10:19.963
zh可以在这里面来进行管理
可以在这里面来进行管理
10:19.963–10:21.323
zh然后也可以在这里面进行搜索
然后也可以在这里面进行搜索
10:21.323–10:22.523
zh下载GGOF格式的
下载GGOF格式的
10:23.083–10:26.603
zh然后这个模型也可以在国内进行下载
然后这个模型也可以在国内进行下载
10:26.603–10:27.643
zh我已经做到加速
我已经做到加速
10:27.643–10:29.403
zh然后我们把本地的这些模型
然后我们把本地的这些模型
10:29.403–10:29.963
zh启动起来之后
启动起来之后
10:29.963–10:31.323
zh我们做了一个统一的网关
我们做了一个统一的网关
10:31.323–10:33.563
zh然后接着OpenAPI的一个协议的
然后接着OpenAPI的一个协议的
10:33.563–10:34.803
zhVModel然后Chatter
VModel然后Chatter
10:34.803–10:37.483
zh然后Response和VMessage和Speech
然后Response和VMessage和Speech
10:37.483–10:41.043
zh然后转翻译的和生图的都有了
然后转翻译的和生图的都有了
10:41.043–10:44.023
zh后面我们还会打算把minimax H3接进来
后面我们还会打算把minimax H3接进来
10:44.023–10:44.543
zh好的
好的
10:44.543–10:45.623
zh今天就介绍在这
今天就介绍在这
10:45.623–10:46.123
zh谢谢大家
谢谢大家

影片筆記：DeepSeek V4.1 Flash开源了！百万上下文＋视觉理解＋超长输出，新模型亮点与API价格一次看懂

<!-- VIDEONOTE_PUBLICATION_WARNINGS_BEGIN -->

⚠️ 可先使用，仍有待修正項目

本筆記已完成可閱讀的逐字稿與時間跳轉；下列為待處理問題，建議播放原片確認。

  • 待修正：逐字稿全文快速校讀未完成（已保留自動字幕/原始逐字稿並繼續生成筆記。；未完成的全文速讀項目可在精進模式回聽確認。）

<!-- VIDEONOTE_PUBLICATION_WARNINGS_END -->

一句話總結

DeepSeek V4.1 Flash 模型正式開源並全量上傳至 Hugging Face，採用 552B 參數的 MOE 架構與獨特的 CDE 結構優化，在多项基準測試中表現優異，官方已將 V4 Pro 路由至該模型；講者同時演示了自研的本地大模型推理框架，成功接入並測試該模型。

核心重點

  • 開源與架構：DeepSeek V4.1 Flash 已全量開源於 Hugging Face，提供 FP8 格式。模型參數規模為 552B，採用 MOE 架構。
  • 技術創新：
  • 將 Transformer 結構優化為 CDE 架構：由原 40 層轉換器改為 20 層「英國編碼器」+ 20 層解碼器。
  • 加速技術：實現 KV 緩存加速，將 KV 緩存降低至原來的 1%。
  • 使用壓縮的吸收注意力算法及各層級吸收索引器限制索引。
  • 預填充激活參數 8B，解碼速度 16B。
  • 性能表現：
  • 宣稱為原生多模態大模型，預訓練即使用多模態語料。
  • 在 Terminal Branch Center 測試中獲得 30 分（優於 Kimi 5.3，低於 Opus 5 和 GPT 5.6/6）。
  • 在 Deep SWE v1.1 版本測試中取得最佳成績。
  • 安全測評 88 分，自動化 54 分。
  • 市場定位與路由：
  • 被定位為國內第三家具備世界前沿級多模態加長上下文態梯堆的大模型（前兩家為 Kimi、千問）。
  • 官方官網已將 DeepSeek V4 Pro 路由至 DeepSeek V4 Flash 4.1。
  • 部署與生態：
  • 官方未推出 VM 和 SGLAN 部署支援，但預計很快會有支援。
  • 官網版本疑似加入 Dspark 加速，但開源版本文件中未見相關描述。
  • API 接入時，統一名稱 DeepSeek V4 Flash 或 DeepSeek Flash 均可接入。
  • 自研工具演示：講者展示了自研的本地大模型推理框架，支援對話、Agent、視頻通話、TTS、生圖、OCR 等功能，並成功接入 DeepSeek V4 Flash 進行測試。

詳細大綱

1. DeepSeek V4.1 Flash 模型發布與架構

  • 開源狀態：正式開源，全量上傳 Hugging Face。
  • 格式與規模：FP8 格式，模型全中 510G，552B 參數。
  • 架構創新細節：
  • 採用 MOE 架構。
  • CDE 架構調整：由原 40 層轉換器改為 20 層英國編碼器 + 20 層解碼器。
  • 加速技術：前局 KV 緩存加速、預填充激活參數 8B、解碼速度 16B。
  • KV 緩存降低至 1%。
  • 壓縮的吸收注意力算法及各層級吸收索引器限制索引。

2. 模型能力與評測表現

  • 多模態能力：原生多模態大模型，預訓練即使用多謀態（多模態）語料。
  • 測試分數：
  • Terminal Branch Center：30 分（優於 Kimi 5.3，低於 Opus 5 和 GPT 5.6/6）。
  • Deep SWE v1.1：最佳成績。
  • 安全測評：88 分。
  • 自動化：54 分。
  • 市場定位：國內第三家具備世界前沿級多模態加一照上下文態梯堆的大模型（前兩家為 Kimi、千問）。
  • 官方路由：官網將 DeepSeek V4 Pro 路由至 DeepSeek V4 Flash 4.1。

3. 部署與生態

  • 部署情況：官方未推出 VM 和 SGLAN 部署支援，但預計很快會有支援。
  • 加速技術爭議：官網版本疑似加入 Dspark 加速，但開源版本文件中未見相關描述，需觀察三方是否接入。
  • API 接入：統一名稱 DeepSeek V4 Flash 或 DeepSeek Flash 均可接入。

4. 講者自研工具演示

  • 功能介紹：本地大模型推理框架，支援對話、Agent、視頻通話、本地/雲端模式、TTS（Edge TTS/OpenAI 兼容）、生圖（本地 MRX/雲端）、OCR、翻譯、提示詞倉庫。
  • 技術支援：支援 Nameter CPP、VRM、SGLAN 本地部署；支援 GGOF 格式模型下載。
  • 模型支援：內置 DeepSeek、千問、質樸、Kimi、豆包、文心一言、騰訊、Binimax、科大訊飛、借阅等廠商模型。
  • 測試結果：在講者工具中成功接入並測試 DeepSeek V4 Flash 模型。

工具 / 模型 / 名詞整理

  • 模型名稱：
  • Deepseek V4.1 Flash
  • Deepseek V4 Flash
  • Deepseek V4 Pro
  • Flash Vision XP
  • Kimi 5.3
  • Opus 5
  • GPT 5.6 / GPT 6
  • 千問 38
  • DeepSick V4 Pro
  • 技術架構/術語：
  • MOE 架構
  • CDE 架構
  • 英國編碼器
  • 解碼器
  • KV 緩存
  • 預填充
  • 吸收注意力算法
  • 吸收索引器
  • MHC
  • enggram 的存儲器
  • 多謀態（多模態）
  • 預訓練
  • Dspark / despark
  • VM
  • SGLAN
  • GGOF 格式
  • OpenAPI 協議
  • VModel
  • Chatter
  • Response
  • VMessage
  • Speech
  • py agent
  • 平台/網站：
  • Hugging Face
  • Deepseek 官網
  • Terminal Branch Center
  • Deep SWE
  • Codex
  • Codex Computer Use
  • GitHub
  • 7166
  • 其他工具/技術：
  • Edge TTS
  • OpenAI 兼容協議
  • MRX 生圖
  • OCR
  • Nameter CPP

操作流程整理

  1. 獲取模型：前往 Hugging Face 下載 DeepSeek V4.1 Flash 的 FP8 格式全量模型。
  2. 配置環境：使用講者自研的本地大模型推理框架，或支援 GGOF 格式及 Nameter CPP、VRM、SGLAN 本地部署的環境。
  3. 接入模型：
  • 在工具中選擇或輸入模型名稱，可使用「DeepSeek V4 Flash」或「DeepSeek Flash」作為統一名稱進行 API 接入。
  • 若使用官方路由，DeepSeek V4 Pro 已自動路由至 DeepSeek V4 Flash 4.1。
  1. 功能測試：
  • 在自研框架中進行對話、Agent 任務、視頻通話、TTS、生圖、OCR 等測試。
  • 驗證模型在 Terminal Branch Center 及 Deep SWE v1.1 等基準下的表現。

值得注意的限制或風險

  • 部署支援延遲：官方目前未推出 VM 和 SGLAN 部署支援，需等待後續支援。
  • 加速技術不一致：官網版本疑似加入 Dspark 加速，但開源版本文件中未見相關描述，三方接入效果需觀察。
  • 術語辨識風險：筆記中記錄的許多技術術語（如「英國編碼器」、「多謀態」、「7166」等）存在高辨識錯誤風險，實際應用時需查證原始資料。

逐字稿辨識疑點

  • 「模型全中的 510 個 G」：語意不通，疑為「模型全量」或「模型大小」之聽寫錯誤。
  • 「CDE 的架構」：需查證是否為特定架構縮寫，或為口誤。
  • 「英國編碼器」：在深度學習架構中極少見此名稱，疑為「編碼器」或特定技術名稱之聽寫錯誤。
  • 「前局的 KV 緩存」：疑為「前向」或「預填充階段」之聽寫錯誤。
  • 「多謀態」：應為「多模態」之聽寫錯誤，但依規則保留原樣並標註疑點。
  • 「Terminal Branch Center」：需查證此測試基準之正確名稱。
  • 「Deep SWE」：需查證此測試基準之正確名稱。
  • 「一照上下文態」：語意不明，疑為「長上下文」或類似概念之聽寫錯誤。
  • 「梯堆」：語意不明，疑為「梯隊」之聽寫錯誤。
  • 「Deepstick」：應為「DeepSeek」之聽寫錯誤。
  • 「VM 和 SGLAN」：需查證 VM 是否指代特定部署框架（如 vLLM？），SGLAN 需查證是否為 SGLang。
  • 「Dspark / despark」：需查證此加速技術之正確名稱。
  • 「7166」：講者提及「來到我們的 7166 裡面」，疑為某個內部工具、版本號或平台名稱之聽寫錯誤。
  • 「Nameter CPP」：需查證此技術名稱是否正確。
  • 「Binimax」：需查證是否為「MiniMax」之聽寫錯誤。
  • 「借阅」：需查證是否為某一大模型廠商名稱（如「月之暗面」Moonshot AI？或其他）之聽寫錯誤。
  • 「千問 38」：需查證是否為「千問」特定版本或型號之聽寫錯誤。
  • 「質樸」：需查證是否為某一大模型廠商名稱之聽寫錯誤。
  • 「engram 的存儲器」：需查證此術語是否正確。
  • 「MHC」：需查證此縮寫在此語境下的含義。
  • 「VModel / Chatter / Response / VMessage / Speech / py agent」：需查證這些是否為該自研框架中的特定模組或 API 名稱。

可延伸追問

  • DeepSeek V4.1 Flash 的 CDE 架構具體如何運作？「英國編碼器」是否為特定技術術語的誤聽？
  • 官方官網路由至 V4.1 Flash 後，API 價格與性能是否有具體變化？
  • 自研框架中提到的「7166」具體是指什麼工具或平台？
  • Dspark 加速技術在開源版本中未提及，是否會影響實際部署性能？
  • Terminal Branch Center 和 Deep SWE 的具體評分標準為何？

尚未產生學習筆記

請在 Telegram 指令最後加上「學習」，例如：videonote 網址 英文 雙語 學習