工作清單

48GB 夠嗎?我用 M5 Pro 跑了 5 個本地 AI 模型

逐字稿文字預覽

问大家一个问题
各位现在在用AI吗
如果用的话
想必应该跟我一样
花了不少订阅费吧
我也一样
所以在纠结了N多天之后
我决定买一台M5 Pro的笔记本
那就像上个视频说的
一周之后
我收到了我买的M5 Pro的笔记本
在开始测试它的性能之前
不得不说
全新的M5 Pro笔记本
黑色的外观
键盘真的是非常的漂亮
那跟我M1 Pro的笔记本相比起来
颜值我真的觉得甩了好几条街
OK那么正式进入主题
首先这次测试分为两个类型
一个类型是多压力的任务测试
第二类是模型的横向对比
那多压力测试呢
其实是更接近
我平常使用笔记本的一个场景
我会同时打开多个软件
包含龙虾
剪辑软件
音乐
修图软件
浏览器和编程软件
那把之前不敢想的编程
然后现在利用AI
其实也都能实现了
那这次测试呢
其实就是想看
在同时运行这么多软件的情况下
我的这款M5 Pro的笔记本
在拥有48GB的内存下
它还剩多少
也是看内存是否能够撑得住
那第二个模型横向测试对比呢
其实就是把模型下载到本地
然后用评测软件
对大模型来进行个对比跑分
那当然其实
现在AI的大模型比拼的
不是原来手机的评分啊
其实现在比拼的是
AI大模型的输出速度
但是下面我会具体展开
来详细的说一说
那我们先来第一个测试啊
当我们运行这么多个软件的时候
看看它内存是消耗了多少
那第一个测试
我们来看运行这么多软件之后
那我打开活动监视器这个软件呢
查看一下内存的使用量
那48GB内存
其实目前来跑这么多软件的同时呢
消耗了一共差不多不到40GB的内存
但是如果在运行
编程软件的时候
那么这个内存最大会飙升到44GB
甚至是45GB的内存使用量
所以也看是不同软件
它所占内存的这个消耗比
那不过在运行这么多软件的同时
即便是内存已经达到了44GB
45GB的这个总共的这个用量
但是在我使用软件的时候
每个软件其实都不会卡顿
这个对于我来说体验
不管你是消耗多少内存
对我来说
个人的这个体验是非常好的
那在第一个测试项目当中
我觉得其实
这一关笔记本还是完胜的
那我们接下来再看第二个类型的测试
有请我们的阿努比斯大人
开个玩笑
这款模型的横行测试对比的软件
其实是叫阿努比斯
所以才有了刚才的那个环节
而且这个软件的icon或者说是标识
其实就是刚才我们看到阿努比斯
死神大人
那好我们言归正传
我们先来看一下
测试对比的这个结果
那我们在开始第二项横向模型测试能力之前
使用的五个模型依次分别是
Gemma 4 26B
GPT-OSS 20B
Qwen 3.
6
35B
A3B MX
FB8
DeepSeek R1 32B
JRM 4.
7 Flash
Q8的这个量化版本
那我分别是测试这五个能力
去看这五个模型它输出这个速度
那前提呢是我只能下载到
目前我这个笔记本能够使用到
而且可承受反应的效果
我可以用到这个测试的
这个大小的模型
这五个能力呢分别是推理能力
编码能力
创造力
知识掌握能力
以及最后的执行力
并且大家可以看一下
分别的这个提示词啊
首先是推理能力
那Gemma 4呢应该是第一的
第二呢其实是GBT OSS 20B
我们来看一下第二个编码能力
编码能力依旧是Gemma 4领先
然后其次是紧跟着是GPT OSS
那我们依次再来看创造力
知识掌握能力
以及执行力
那基本上都是
Gemma 4的输出速度是第一啊
那其次是GBT的OSS
以及仅次于GPT的Qwen 3.
6
综合来看其实还是Gemma 4领先
那有一点我要说一下
在我做视频的这段时间呢
DeepSeek其实已经推出了V4的这个版本
但是呢V4这个不管是它全量的版本
还是量化版本其实都会很大
然后这也就导致
我无法去下载到本地
然后去做测试
那我只能用DeepSeek R1的这个版本
去做测试
那同样呢
Kimi和Mini Max都出了最新的版本
那一个是2.
6
一个是2.
7
但是我也看了
他们的版本也是巨大啊
几百G到1T都有
其实这个容量是满足不了下载到本地
然后并且运行的
所以我就只能是放弃了
那在用DeepSeek R1 32B模型
去做测试的时候啊
那阿努比斯大人让我们这个笔记本
这个风扇疯狂的这个转啊
然后每次都是到测试R1的时候呢
都是转的不停
那在其他的这个模型测试的时候呢
就是情况下是没有这种现象的
那总的来看呢
其实还是Gemma 4领先啊
但是这个其实也是根据
各大模型厂商的这个大小参数
那我也只是按照参数
能够尽量接近的这个方法去做测试啊
大家如果说有别的意见
那其实这个结果大家只是看一下就得了
那如果后续各大模型厂商
他能够再出像Gemma 4这种体积
不是特别大的这种量化版本的这个模型
那我觉得对于个人来说
还是非常的友好
那我也希望各大模型厂商
也能够跟进这个事儿啊
那其实这个事儿对于我们个人使用AI来说
其实是比较大的一个福音
以上呢就是这两项测试的内容了
那希望大家多多点赞和关注啊
然后非常感谢大家
那在最后呢其实我想说
AI已经从之前的遥不可及
到现在这一两年
已经变得人人都可以用这AI了
那也希望大家能够利用AI呢
做自己想做的事儿
并且呢做自己感兴趣的
觉得有趣的事儿
那以上就是这样
我们下个视频再见
拜拜
拜拜

來源:transcript.txt

本次執行流程與問題處理

  1. 下達指令

    指令:videonote https://www.youtube.com/watch?v=PzVlzpeuKR8 --language zh --adopt-source-subtitles

    來源:https://www.youtube.com/watch?v=PzVlzpeuKR8

    辨識語言:zh | 參數:--language zh --adopt-source-subtitles

  2. 預期流程

    依指令產生的處理順序:

    1. 採用來源字幕(略過語音辨識)
    2. 來源選擇與品質檢查
    3. 文字校正與句子單元
    4. 筆記與發布
    5. 公開網頁發布
  3. 1. 下載與語音辨識

    工具:videonote-transcribe-url(主辨識管線:下載、Whisper 辨識與選稿)

    處理:下載音訊、以 Whisper 辨識並選出最佳逐字稿

    產出:yt_dlp_meta.json(影片元資料)、audio_16k_mono.wav(16kHz 單聲道音訊)、transcript.whisper.json(Whisper 辨識結果)、transcript.json(正式逐字稿)、transcript_selection_report.json(來源選擇報告)

    耗時:14.1 秒

    關係:依序執行

    結果:完成

  4. 2. 全文快速校讀

    工具:videonote_rapid_transcript_review.py

    處理:先速讀完整逐字稿,再修正高可信突兀詞句並列出待確認項目

    產出:rapid_transcript_review_report.json(產出檔案)

    耗時:36.8 秒

    關係:依序執行

    結果:完成

  5. 3. 建立句子單元

    工具:videonote-build-sentence-units

    處理:將逐字稿切成帶時間軸的句子單元

    產出:sentence_units.json(句子單元)

    耗時:0.9 秒

    關係:依序執行

    結果:完成

  6. 4. 時間軸稽核

    工具:videonote_timeline_audit.py

    處理:檢查時間軸與音訊對齊

    產出:timeline_audit_report.json(時間軸稽核)

    耗時:0.9 秒

    關係:依序執行

    結果:完成

  7. 5. 品質檢查

    工具:videonote_controlled_quality.py(檢查時間軸與品質)

    處理:檢查語言、時間軸與可讀性品質

    產出:controlled_quality_report.json(品質報告)、language_sanity_report.json(語言檢查)

    耗時:71.4 秒

    關係:依序執行

    結果:完成

  8. 6. 播放時間軸回填

    工具:videonote_rebase_display_timeline.py

    處理:將網頁播放時間軸回填為校正字幕時間

    產出:display_timeline_rebase_report.json(時間軸回填報告)

    耗時:0.5 秒

    關係:依序執行

    結果:完成

  9. 7. 來源句整理

    工具:videonote_prepare_source_entries.py

    處理:整理來源句子供時間軸與頁面使用

    產出:sentence_units.json(句子單元)

    耗時:0.5 秒

    關係:依序執行

    結果:完成

  10. 8. 生成筆記摘要

    工具:videonote-generate-note(生成筆記摘要)

    處理:生成筆記摘要與重點

    產出:note.md(筆記 Markdown)、note.html(筆記 HTML)

    耗時:71.2 秒

    關係:依序執行

    結果:完成

  11. 9. 建立筆記頁面

    工具:videonote-render-html(產生筆記 HTML)

    處理:產生可閱讀的筆記 HTML 頁面

    產出:note.html(筆記 HTML)

    耗時:0.3 秒

    關係:依序執行

    結果:完成

  12. 10. 發布公開頁面

    工具:videonote-publish(發布公開頁面)

    處理:發布到公開網站與每日列表

    產出:公開筆記網址、result.json(管線結果)

    耗時:0.4 秒

    關係:依序執行

    結果:完成

手動來源字幕

自動來源字幕

Whisper 字幕

Qwen 字幕

Parakeet 字幕

MOSS 字幕

聲學時間證據(PyAnnote / WhisperX)

校正前後逐字稿

目前待解決問題與初步改善方向

進一步精進字幕與筆記
使用 Workbench 上傳校正字幕、中文參考稿或回饋 SRT,重新產生雙語與學習單元。
開啟 Workbench