大家好 这里是零度解说
今天我要把和AI的实时语音对话
直接搬到本地
完全免费且开源
不花一分钱
而且几乎没有任何延迟
用的全是开源AI模型
即使是在断网情况下
照样能正常运行
它不仅能听懂我的普通话
还可以用中文和我进行交流
可以做到实时思考 开口回答
而这一切
全部是在我们电脑上跑
一个字都不会上传
可以做到高度隐私和安全
接下来我就手把手带你
把这个完全开源
完全免费的实时语音对话AI
搭建在你自己的电脑上
你好 请自我介绍一下
你好 我是你的小助手
喜欢聊天 帮忙解决问题
好 在开始之前
首先我们需要打开零度博客这篇文章
链接我会放在视频下方
和零度博客上
打开以后就往下拉
首先第一步
我们需要安装一下必备的环境
像第一个 作者要求是
安装Python 3.10以上版本
这里我建议大家安装这个
Python 3.11版本就可以了
那么点击下载
打开它 进行下载一下
好打开以后 就往下拉
拉到底部
找到里面下载链接
比如选择Windows版本
64位的
当然你也可以选择32位的
那先进行下载一下
好 下载好以后
然后双击打开进行安装一下
安装的时候这里要注意啊
一定要勾选下方有一个第二选项
就是把这个Python
给它PATH到系统路径下
否则的话到后面会出错的
一定要勾选这个选项
勾选好以后 点击安装一下就可以了
点击安装就可以了
好 当它方面显示
已经安装成功
把它给关闭掉
好 安装好Python环境以后
然后现在返回去
来执行第二步
就安装一下这个Git环境
我们点击下载
好打开以后
来安装一下这个最新版本的Git
我们点击下载
把这个64位的安装包
给它下载下来
总共是60兆左右
点击下载
好 下载好以后
同样双击打开进行安装一下
后面的安装步骤大家跟我一样就行了
点击安装
好 安装好Git以后
大家给它关闭掉
点击finish
现在我们来执行第三步
就安装这个音频解码器
我们先把这个一键安装命令给它复制出来
点击copy
好 复制好以后
然后在下方搜索栏里
我们输入这个关键词PowerShell
找到以后我们打开它
好打开以后
然后鼠标右键粘贴一下
刚才这个一键安装命令
把这个音频解码器进行安装一下
确认一下
它会自动安装
那这边输入y
这样它会自动帮我们下载
这个音频解码器了
我们稍等一会
好 安装好以后
那先返回去
返回到刚才的帖子下
来执行第二个大步骤
就安装一下这个speech to speech
简称是S2S
在开始安装之前
我们需要通过这个命令
来激活一下环境
我们点击copy一下
好 copy好以后
来返回去
返回到刚才这个PowerShell这里
接鼠标右键粘贴一下
来激活一下环境
确认一下就可以了
然后我们执行第二步
就通过下方这个一键安装命令
来激活虚拟环境
我们点击copy一下
默认我是安装在C盘的
当然你可以放到其他盘符
把这个命令给copy出来
然后返回到这个PowerShell这里
接鼠标右键粘贴一下
这个一键安装命令
然后确认一下
好 当你看到这个前面
有一个绿色的这个VENV的话
那说明它现在已经成功进入了
这个虚拟环境里了
然后下面执行第三步
就安装下speech to speech
和Qwen3 TTS底层组件
只要把这行命令给copy出来
点击copy
好 复制好以后
那先重新返回到
刚才这个虚拟环境下
一定要在虚拟环境下进行执行才可以啊
就前面会带这个
绿色的VENV的标志
在这里啊 才可以
然后鼠标右键粘贴一下
刚才这个一键安装命令
粘贴好以后我们确认一下
好 这样的话
它就会自动开始下载
这个开源项目了
这个下载过程可能需要点时间啊
到时候自己耐心等待一下
这里需要注意的是
如果你不在海外的话
那么建议开启全局科学上网才可以
否则的话到时可能没法正常下载的
好 安装好以后
那先返回去
来执行第三个安装步骤
就安装本地大模型
这里我们同样通过这个llama-cpp
来安装
那先点击前往
或者你可以通过这个备用打包下载
也都是可以的
好 进入好以后
那就往下拉
来下载对应版本
因为我是Windows系统
所以我选择Windows版本
它上面有这个CUDA 12版本
还有CUDA 13版本
如果你不是很确定自己版本的话
那么可以在下方搜索栏里
面查看一下
我们输入CMD
打开这个命令提示符
打开以后这边输入命令
就查看一下我们当前N卡的驱动版本
大家可以看一下
比如我当前驱动版本是13.2
所以在下载llama-cpp的时候
我就选择CUDA 13版本就可以了
当然如果查到CUDA版本是12的版本的话
那你就选上面这两个啊
我这里选择13版本
这里要注意啊
一定要把前面主程序
还有后面相应驱动文件
都给它下载下来
我先把主程序给它下载下来
点击下载
总共是130兆左右啊
好 下载好主程序以后
再把后面驱动文件给它下载下来
我这个是CUDA 13.3的版本
同样给它下载下来
好 下载好以后
我们先给它解压出来
把这两个压缩包全部给它解压出来
解压出来好以后
我们现在在桌面上新建一个文件夹
点击新建 新建文件夹
先把重命名一下
给它命名为叫llama
好 重命名好以后
我们先打开它
先把我们刚才解压出来的
这两个文件
全部给它拖进来
我们先把这个主程序给它放进来
把你们全部文件给拖进来
好拖好以后
那先把驱动文件
也同样给它拖进来
进行覆盖一下
好拖好以后
那先把这个llama文件夹
给它放到任何你需要的路径里
比如我给它放到这个D盘吧
我就给它放到D盘 拖进来
好拖好以后
那就可以把桌面上的这个文件
全部给它删掉了
然后先重新返回去
返回到刚才的帖子下
来下载一下模型
我们把这个一键安装命令
复制出来
点击copy
copy好以后
那些重新返回到刚才虚拟环境下
我们鼠标右键粘贴一下
让它执行安装一下这个模型文件
好 如果跟我一样出现这个错误的话
这主要是因为我们当前这个
huggingface hub的版本太高了
我们现在把这版本进行下降一下
到时我们可以通过这个命令
来把这个版本进行下降一下
输入好以后我们确认一下
好 这样就可以了
好 修复好以后
我们再来重新下载一下这个模型
好 下载完成以后
它将会在这个llama文件夹下
创建一个models文件夹
在这里面就会出现这个模型文件了
好 下载好模型以后
然后现在重新打开一个PowerShell窗口
打开它
打开以后
然后返回去
返回到刚才的帖子下
来执行这个命令
把这个模型给它跑起来
我们点击copy
好 copy好以后
那先在新的PowerShell窗口里
来运行一下这个命令
我们确认一下
好 这样的话
这个llama-cpp它就跑起来了
然后需要给它最小化一下
这个窗口千万不要关掉啊
关掉的话后面会出错的
我们给它最小化就可以了
然后现在我们执行第四步
就来启动语音对话服务
这里需要注意的是
在执行这个命令的时候
一定要回到刚才那个带这个VENV
这个独立的虚拟环境下来进行执行才可以
我们先把这个命令给copy出来
好 copy好以后
那些返回去
返回到刚才的独立虚拟环境下
就前面带这个绿色的
VENV这个窗口啊
然后现在鼠标右键粘贴一下
把这个语音服务进行启动一下
粘贴好以后我们确认一下
好 这样的话
它就看是下载所需的模型文件了
这个过程可能需要点时间啊
我们稍微等待一下
好 这时它会弹出一个窗口
那这里我们点击允许
差不多就可以了
当你看到这个地址的话
那说明它已经成功启动了
好 当它成功运行以后
然后现在我们执行第五步
在第三个PowerShell窗口里
来运行下方这个命令
我们点击copy一下
然后先重新打开一个PowerShell窗口
打开以后
把这个一键启动命令
我们推进来
再进行运行一下
好 这样的话全部就完成了
现在我们只需要在浏览器上
打开这个本地访问地址就可以了
打开浏览器来试一下
粘贴进来
好 这样就可以了
这个设置窗口我们可以不用管它
然后先给它全屏化一下
这边最上面有个Top start
接下来我们需要在上方这里
填写这个本地的语音服务地址
就localhost加端口号就可以了
然后在下方这个选择语音对话的声色
到时你可以自由选择
其他话就不用管了
那么点击保存一下
重新启动一下
你好 请自我介绍一下
你好 我是你的小助手
喜欢聊天 帮忙解决问题
也喜欢玩点小游戏呢
这样就可以了
最后我们来说一下
如果重启电脑以后该怎么使用呢
这里我给大家提供了一个
一键启动脚本
到时给它下载下来就可以了
好 下载好以后
那先双击打开它
点击运行
启动以后
它会自动弹出窗口
总共三个窗口啊
这三个独立的窗口
都不要关闭掉
等它完成
好 当它成功启动以后
它会自动弹出来
这样的话就可以进行使用了
这个本地的语音地址的话
就填这个啊
我们推进来
那么点击保存一下
这样就可以了
我们点击允许这个麦克风权限啊
它还可以切换不同的方言
比如先把这个音色改成这个ERIC的
它就可以说是四川方言了
我来试一下
你好 跟我聊一下这个四川话吧
你好
要不要聊点什么有趣的话题吗
你今年多大了
我是个AI 没有年龄的呢
晚上好呀
晚上好呀 今天过得怎么样
今天还可以 你呢
太好了
有什么想聊的或者需要帮忙的吗
这里需要说明一下的是
当前为了几乎任何人都可以使用
我们目前使用的是4B模型
如果想更高性能的话
只要你的显卡给力 显存足够大
那么我们可以使用更大的模型
比如我们可以使用Qwen3.6
35B A3B模型
我们来试一下
到时我会把下载链接放在视频下方
然后在这里面选择适合自己的版本
到时你可以根据自己显存大小
来去选择
比如我的显存是24G的
那我这里选择18G左右的吧
给它下载下来
到时我同样会把这个模型打包下载
供大家下载
好 下载好模型以后
我们同样给它放进来
放到这个
放到模型文件夹下
拖进来
拖进来好以后
我们先把这个模型文件
这个名称给它copy出来
因为一会我们需要把这个模型文件
给替换到启动文件角下
复制好以后
然后先把这个启动脚本进行修改一下
我们需要把之前模型文件
就这个啊
改成我们现在新的模型文件
就这里了
这是原先的模型文件名称
替换一下我们新的
好 替换好以后
那其他不用管了
我们点击保存一下
接下来我们把这个窗口全部关闭掉
之前三个窗口啊
之前窗口全部关闭掉
接我们重新启动一下这个脚本
点击运行
好 这时候你可以看到
它就会加载新的模型了
就是35B A3B模型
好 启动以后再来试一下
看效果怎么样
你好 我们聊一下比特币吧
你好呀
比特币确实是个很有趣的话题
你具体想聊哪方面呢
是它的原理 价格走势
还是投资看法
最近比特币暴跌了
是啊
最近市场波动确实让人心惊肉跳
你入手的位置还好吗
有没有被吓到
改一下话
没问题 那你想换成什么语气
比如更严肃一点还是更轻松一点
更严肃一点的
那就好
你还有别的想聊的吗