1
00:00:00,000 --> 00:00:03,200
支持离线大模型语音识别SOC方案。

2
00:00:03,200 --> 00:00:08,600
加我微信HAZX17可申请加入数字音频答义群课题组。

3
00:00:08,600 --> 00:00:17,400
提到的需求,即离线,接入专家模型,支持长短距识别,正是当前端侧AI芯片发展的核心方向。

4
00:00:17,400 --> 00:00:28,200
这已经不再是简单的关键词唤醒,而是要求芯片能在本地独立运行自动语音识别甚至大语言模型,从而理解并执行复杂的自然语言指令。

5
00:00:28,200 --> 00:00:34,400
实现这一目标的关键,在于芯片是否集成了强大的神经网络处理单元。

6
00:00:34,400 --> 00:00:40,600
以下是一些能够满足你需求的SOC芯片,模块级方案,刚性能SOC方案。

7
00:00:40,600 --> 00:00:51,600
这类芯片通常具备数T OPS的NPU算力,足以在本地运行参数规模,在0.5B到7B之间的大语言模型可现真正的专家模型识别。

8
00:00:51,600 --> 00:01:03,340
爱心原制AX630C,这是M5Stack Module LLM模块所采用的芯片,集成了3.2TUPS的NPU,并原生支持Transformer模型。

9
00:01:03,340 --> 00:01:15,980
它配备4GB LPDDR4内存,出厂及预装了QNR,0.5B大语言模型,内置了KWS,ASR,LLM及TTS功能。

10
00:01:15,980 --> 00:01:22,500
可以直接进行离线语音交互,非常适合开发智能语音助手或智能家居控制中心。

11
00:01:23,320 --> 00:01:34,680
锐行为2K3576,2K3588,这两款芯片带有6T OPS的NPU,能够支持端侧部署0.5B到3B参数级别的主流大语言模型。

12
00:01:34,680 --> 00:01:50,800
社区已有基于RK3576NPU实现的全离线智能语音交互系统项目,集成了流逝ASR,DeepSeq大模型推理和TTS门线,实现了语音输入,LLM思考语音输出的完整闭环。

13
00:01:51,260 --> 00:01:55,540
端到端响应在4米内,耐能Kaneuron KL1140。

14
00:01:55,980 --> 00:02:04,400
这款芯片宣称是首款能在边缘运行完整Transformer网络的NPU芯片,它专为实时自然语言处理。

15
00:02:04,680 --> 00:02:11,700
语音界面等应用设计,很新,通过多芯片协同工作,甚至可以运行高达1200亿参数的模型。

16
00:02:12,360 --> 00:02:13,700
海思HIGH3403

17
00:02:13,700 --> 00:02:21,800
海思的HIGH3403V100平台提供了一个本地对话智能体方案,在端侧部署了Mini CPM 4V0。

18
00:02:22,020 --> 00:02:29,800
5B模型实现了ASR,VOM和TTS的完整链路,无需联网即可实现多模态业务识别。

19
00:02:29,800 --> 00:02:34,500
芯芯威2K1820,2K1828M,2.算力卡。

20
00:02:35,240 --> 00:02:38,000
这是一款采用M.2接口的AI算力卡。

21
00:02:38,580 --> 00:02:43,840
搭载了20TOPS的NPU,可独立离线运行3B、7B级的大语言模型。

22
00:02:43,840 --> 00:02:47,080
金融QN、LMA等主流开源模型。

23
00:02:47,660 --> 00:02:54,200
为现有设备扩展端侧大模型能力提供了灵活的解决方案,中等算力与低功耗方案。

24
00:02:54,720 --> 00:03:02,380
这类方案可能在模型规模上有所限制,但依然能够实现比简单KWS复杂得多的语音识别和理解功能。

25
00:03:03,360 --> 00:03:04,520
瑞玉AmiroC

26
00:03:04,520 --> 00:03:13,300
瑞玉的AI Voice是一套纯离线的AI解决方案,包含声学信号处理、唤醒、端点检测和识别等模块。

27
00:03:13,900 --> 00:03:17,000
可以在Amibus Source上搭建复杂的语音语物。

28
00:03:17,580 --> 00:03:21,480
既可作为纯离线方案,也能实现离在线混合交互。

29
00:03:22,480 --> 00:03:27,520
支存科技WTM21,这款芯片的特点是超低功耗。

30
00:03:27,520 --> 00:03:35,620
在实现三百个词的连续识别时,不觉流年赎尽我白发受却。

31
00:03:36,980 --> 00:03:48,160
千又绕枝叶,醉酒化地面,千水此天又圆着人间。

32
00:03:48,160 --> 00:03:57,120
我鸟鸟一幅春山空,我老一掉入湖中。

33
00:03:58,120 --> 00:04:04,300
鸣尘双流所浓,醒来一场春梦。

34
00:04:04,300 --> 00:04:11,420
我这一生无心踪,我叹事千春千冲。

35
00:04:11,420 --> 00:04:18,420
谁疯狂的味道是谁在等候。

36
00:04:18,420 --> 00:04:21,640
二、全航功耗有信用。

37
00:04:22,320 --> 00:04:28,380
支存WTM211的芯片,在节级功耗上提供了两朝KMOS的试验。

38
00:04:28,780 --> 00:04:30,800
适合对续航有严苛而成为。

39
00:04:30,800 --> 00:04:35,720
三、我们考虑集成方式,一无声刺剑。

40
00:04:35,720 --> 00:04:42,980
不觉流年赎尽我白发就绝。

41
00:04:42,980 --> 00:04:48,860
千又绕枝叶,醉酒化地面,千又绕枝叶。