支持离线大模型语音识别SOC方案。
加我微信HAZX17可申请加入数字音频答义群课题组。
提到的需求,即离线,接入专家模型,支持长短距识别,正是当前端侧AI芯片发展的核心方向。
这已经不再是简单的关键词唤醒,而是要求芯片能在本地独立运行自动语音识别甚至大语言模型,从而理解并执行复杂的自然语言指令。
实现这一目标的关键,在于芯片是否集成了强大的神经网络处理单元。
以下是一些能够满足你需求的SOC芯片,模块级方案,刚性能SOC方案。
这类芯片通常具备数T OPS的NPU算力,足以在本地运行参数规模,在0.5B到7B之间的大语言模型可现真正的专家模型识别。
爱心原制AX630C,这是M5Stack Module LLM模块所采用的芯片,集成了3.2TUPS的NPU,并原生支持Transformer模型。
它配备4GB LPDDR4内存,出厂及预装了QNR,0.5B大语言模型,内置了KWS,ASR,LLM及TTS功能。
可以直接进行离线语音交互,非常适合开发智能语音助手或智能家居控制中心。
锐行为2K3576,2K3588,这两款芯片带有6T OPS的NPU,能够支持端侧部署0.5B到3B参数级别的主流大语言模型。
社区已有基于RK3576NPU实现的全离线智能语音交互系统项目,集成了流逝ASR,DeepSeq大模型推理和TTS门线,实现了语音输入,LLM思考语音输出的完整闭环。
端到端响应在4米内,耐能Kaneuron KL1140。
这款芯片宣称是首款能在边缘运行完整Transformer网络的NPU芯片,它专为实时自然语言处理。
语音界面等应用设计,很新,通过多芯片协同工作,甚至可以运行高达1200亿参数的模型。
海思HIGH3403
海思的HIGH3403V100平台提供了一个本地对话智能体方案,在端侧部署了Mini CPM 4V0。
5B模型实现了ASR,VOM和TTS的完整链路,无需联网即可实现多模态业务识别。
芯芯威2K1820,2K1828M,2.算力卡。
这是一款采用M.2接口的AI算力卡。
搭载了20TOPS的NPU,可独立离线运行3B、7B级的大语言模型。
金融QN、LMA等主流开源模型。
为现有设备扩展端侧大模型能力提供了灵活的解决方案,中等算力与低功耗方案。
这类方案可能在模型规模上有所限制,但依然能够实现比简单KWS复杂得多的语音识别和理解功能。
瑞玉AmiroC
瑞玉的AI Voice是一套纯离线的AI解决方案,包含声学信号处理、唤醒、端点检测和识别等模块。
可以在Amibus Source上搭建复杂的语音语物。
既可作为纯离线方案,也能实现离在线混合交互。
支存科技WTM21,这款芯片的特点是超低功耗。
在实现三百个词的连续识别时,不觉流年赎尽我白发受却。
千又绕枝叶,醉酒化地面,千水此天又圆着人间。
我鸟鸟一幅春山空,我老一掉入湖中。
鸣尘双流所浓,醒来一场春梦。
我这一生无心踪,我叹事千春千冲。
谁疯狂的味道是谁在等候。
二、全航功耗有信用。
支存WTM211的芯片,在节级功耗上提供了两朝KMOS的试验。
适合对续航有严苛而成为。
三、我们考虑集成方式,一无声刺剑。
不觉流年赎尽我白发就绝。
千又绕枝叶,醉酒化地面,千又绕枝叶。