1
00:00:00,000 --> 00:00:19,320
有人把Whisper做到了89ms中位延迟,还顺手把GPU峰值内存砍掉48%。Whisper离线转写很强,但一做实时字幕,就会遇到假设飘移,重算变重,静音误触发。Whisper pipe最聪明的地方不是换模型,而是把实时转写拆成一条可控流水线。

2
00:00:20,320 --> 00:00:26,460
它用双缓冲把已确认文本和未确认音频分开,活动音频窗口最多30秒,历史不会越背越重。

3
00:00:26,460 --> 00:00:34,120
更关键的是词集时间戳,哪段文字提交了,就按最后一个词的结束时间,把旧音频精准裁掉。

4
00:00:35,380 --> 00:00:41,200
提交也不是拍脑袋,简单句走快速通道,模糊句走三次确认,字幕少闪,延迟也压住。

5
00:00:42,300 --> 00:00:49,380
结果很硬,P90延迟142ms,平均延迟下降81.1%,WE2只比离线Whisper高约2%。

6
00:00:49,380 --> 00:00:56,780
资源更夸张,GPU峰值内存降低48%,平均利用率降低80.9%,150分钟内存零增长。

7
00:00:57,860 --> 00:01:03,160
现在用它,别走失效的圆码安装,直接Pipe install Whisper Pipe,然后用Pipe Stream启动。

8
00:01:04,260 --> 00:01:10,040
所以Whisper Pipe最值得看的不是单个数字,而是它让实时转写像一个能长期工作的系统。

9
00:01:11,140 --> 00:01:14,160
关注置身工坊,继续拆语音AI和开源项目。

10
00:01:14,160 --> 00:01:44,140
感谢观看