WEBVTT

00:00.000 --> 00:03.200
支持离线大模型语音识别SOC方案。

00:03.200 --> 00:08.600
加我微信HAZX17可申请加入数字音频答义群课题组。

00:08.600 --> 00:17.400
提到的需求,即离线,接入专家模型,支持长短距识别,正是当前端侧AI芯片发展的核心方向。

00:17.400 --> 00:28.200
这已经不再是简单的关键词唤醒,而是要求芯片能在本地独立运行自动语音识别甚至大语言模型,从而理解并执行复杂的自然语言指令。

00:28.200 --> 00:34.400
实现这一目标的关键,在于芯片是否集成了强大的神经网络处理单元。

00:34.400 --> 00:40.600
以下是一些能够满足你需求的SOC芯片,模块级方案,刚性能SOC方案。

00:40.600 --> 00:51.600
这类芯片通常具备数T OPS的NPU算力,足以在本地运行参数规模,在0.5B到7B之间的大语言模型可现真正的专家模型识别。

00:51.600 --> 01:03.340
爱心原制AX630C,这是M5Stack Module LLM模块所采用的芯片,集成了3.2TUPS的NPU,并原生支持Transformer模型。

01:03.340 --> 01:15.980
它配备4GB LPDDR4内存,出厂及预装了QNR,0.5B大语言模型,内置了KWS,ASR,LLM及TTS功能。

01:15.980 --> 01:22.500
可以直接进行离线语音交互,非常适合开发智能语音助手或智能家居控制中心。

01:23.320 --> 01:34.680
锐行为2K3576,2K3588,这两款芯片带有6T OPS的NPU,能够支持端侧部署0.5B到3B参数级别的主流大语言模型。

01:34.680 --> 01:50.800
社区已有基于RK3576NPU实现的全离线智能语音交互系统项目,集成了流逝ASR,DeepSeq大模型推理和TTS门线,实现了语音输入,LLM思考语音输出的完整闭环。

01:51.260 --> 01:55.540
端到端响应在4米内,耐能Kaneuron KL1140。

01:55.980 --> 02:04.400
这款芯片宣称是首款能在边缘运行完整Transformer网络的NPU芯片,它专为实时自然语言处理。

02:04.680 --> 02:11.700
语音界面等应用设计,很新,通过多芯片协同工作,甚至可以运行高达1200亿参数的模型。

02:12.360 --> 02:13.700
海思HIGH3403

02:13.700 --> 02:21.800
海思的HIGH3403V100平台提供了一个本地对话智能体方案,在端侧部署了Mini CPM 4V0。

02:22.020 --> 02:29.800
5B模型实现了ASR,VOM和TTS的完整链路,无需联网即可实现多模态业务识别。

02:29.800 --> 02:34.500
芯芯威2K1820,2K1828M,2.算力卡。

02:35.240 --> 02:38.000
这是一款采用M.2接口的AI算力卡。

02:38.580 --> 02:43.840
搭载了20TOPS的NPU,可独立离线运行3B、7B级的大语言模型。

02:43.840 --> 02:47.080
金融QN、LMA等主流开源模型。

02:47.660 --> 02:54.200
为现有设备扩展端侧大模型能力提供了灵活的解决方案,中等算力与低功耗方案。

02:54.720 --> 03:02.380
这类方案可能在模型规模上有所限制,但依然能够实现比简单KWS复杂得多的语音识别和理解功能。

03:03.360 --> 03:04.520
瑞玉AmiroC

03:04.520 --> 03:13.300
瑞玉的AI Voice是一套纯离线的AI解决方案,包含声学信号处理、唤醒、端点检测和识别等模块。

03:13.900 --> 03:17.000
可以在Amibus Source上搭建复杂的语音语物。

03:17.580 --> 03:21.480
既可作为纯离线方案,也能实现离在线混合交互。

03:22.480 --> 03:27.520
支存科技WTM21,这款芯片的特点是超低功耗。

03:27.520 --> 03:35.620
在实现三百个词的连续识别时,不觉流年赎尽我白发受却。

03:36.980 --> 03:48.160
千又绕枝叶,醉酒化地面,千水此天又圆着人间。

03:48.160 --> 03:57.120
我鸟鸟一幅春山空,我老一掉入湖中。

03:58.120 --> 04:04.300
鸣尘双流所浓,醒来一场春梦。

04:04.300 --> 04:11.420
我这一生无心踪,我叹事千春千冲。

04:11.420 --> 04:18.420
谁疯狂的味道是谁在等候。

04:18.420 --> 04:21.640
二、全航功耗有信用。

04:22.320 --> 04:28.380
支存WTM211的芯片,在节级功耗上提供了两朝KMOS的试验。

04:28.780 --> 04:30.800
适合对续航有严苛而成为。

04:30.800 --> 04:35.720
三、我们考虑集成方式,一无声刺剑。

04:35.720 --> 04:42.980
不觉流年赎尽我白发就绝。

04:42.980 --> 04:48.860
千又绕枝叶,醉酒化地面,千又绕枝叶。