Kithub一周热点汇总第121期
本期的内容包括了DeepSeek的推理加速框架
谷歌开源的Agent的设计规范
AI价值投资研究框架
渗透测试Agent和开发者免费清单
最后还是分享两文资料
如果觉得内容不错
也别忘了点赞和关注
上周DeepSeek与北京大学团队联合发布了论文
提出了一套全新的大模型推理加速框架Dispark
并同步开源了支撑该版本的
全赞推测性能解码框架Dispark
也就是我们这个项目
那它解决的是大模型推理速度的问题
现在很多大模型的质量已经很强了
但用户真正用的时候
最烦的还是两个字太慢
尤其是常回答代码生成
还有Agent的连续调用的情况
模型每多等一秒体验就会变差很多
Dispark的核心思路可以理解成为
让一个小一点更快的DraftModel
先去猜测前面几个Token
然后再让大模型来去检查和确认
如果猜对了那就少走了几步
如果猜错了那就再回退去修正
这个方法的关键不仅仅是有一个小模型来去帮忙
而且还在于小模型猜的准不准
训练的方法好不好
还有和模型的配合怎么样
在这个项目当中
Dipseek依然还是保持了开放的态度
论文代码checkpoint
还有训练的流程都一并放出
官方在readme里也提醒
在默认的情况下
数据的缓存会非常大
比如在千问三4B的默认设置里
就可能有几十T
这个明显已经不是普通玩家能够体验的项目了
按照目前公开的资料
线上真实的用户流量当中
在系统总吞吐水平相同的情况下
Dispark可以将Dipseek V4 Flash的单用户生成速度
提升60%到85%
将Dipseek V4 Pro的单用户生成速度提升57%到78%
同时还需要注意
Dipseek最近的另一个消息
6月15号
Dipseek完成了A轮的融资
融资金额超过500亿
企业估值接近了4000亿
腾讯宁德
网易京东都参与了投资
此前还有消息
阿里也有一投资Dipseek
但是最终没有成功
真的不是你想投就会要你的钱
当然随着Dipseek的融资信号也非常明显
Dipseek已经不是一个研究团队的明星公司了
而是要进入更商业化的阶段了
而像Dispark这样的项目
正好可以看出它下一阶段的重点
大模型后面的竞争
并不单纯的是比谁的benchmark更高
也要看谁能够把模型跑得更便宜
更快更稳
尤其是在算力还有高端的GPU受限的背景下
第二个项目是Google LabCode开源的design.md
这个项目最近在Github上非常火
已经有超过2万多的Star
它做的事情也很简单
给AI编程Agent一个描述设计系统的标准文件
大家用AI做前端的时候
可能都会遇到过类似的问题
比如你让它做一个页面
它可能这一轮做的不错
下一轮你让它加一个弹窗
它顺便把按钮的样式也给你换了
这个不是模型不会去做设计
而是它没有一个稳定的品牌和视觉的记忆
design.md就是为了解决这个问题
它把一个产品的视觉身份
写成了一个Markdown文件
前半部分是压谋front matter
放机器可读的design tokens
比如像颜色字体圆角兼具组件样式
后半部分是Markdown正文
去解释这些设计是怎么使用
比如这个品牌应该是严肃的年轻的
还是偏工具感的
这个项目建议去配合Google Stitch来去使用
更容易去理解
那Stitch是Google做UI的一个AI生成工具
而Design.md可以在Stitch里面去导入和导出
比如你在Stitch里面设计了一个项目
然后就可以导出一个Design.md
这样你的设计风格就可以实现跨项目跨工具
当然目前它还是α阶段
离真正的成为行业标准的还有一段距离
但是从中我们也能看到
未来的AI前端的趋势
还是更加偏向于稳定化和工程化
第三个项目是AI伯克希尔
你如果不知道什么是伯克希尔的话
那股神巴菲特总应该听说过
他的公司就是伯克希尔
经过60年的经营
巴菲特让投资人的股价增长了55000倍
可以说是价值投资的一个典范
那本项目就是一套
同时兼容Cloud Code和Codex的投资研究Skill合集
项目把巴菲特、芒格、段永平、李璐
这四位价值投资代表人物的方法论
拆成了18个可以被AI agent执行的研究技能
那项目一开始
作者也说了这个不是纸上谈兵
而是他真金白银的投资体系
也晒出了自己近几年的历史投资的收益情况
那使用的话
比如在Codex当中
你直接把项目的地址发给他
然后让他去安装就可以
现在的Skill安装确实比较容易
那接下来你就可以用他
去做公司的深度研究
财报精选、行业筛选
或者是持舱的管理
那AI伯克希尔的做法
就是把投研的过程工程化
拆成4个agent
分别从不同的角度来去独立的研究
然后再由team lead去综合
那另外还有一点
就是这个项目
其实它给你提供的是一种价值投资的辅助
并不是告诉你
这个股票明天到底会涨还是会跌
当然最后还是要说一句
股市有风险
投资需谨慎
大A不是一般人能玩明白的
第四个项目
Strix是一个开源的AI渗透测试工具
它做的事情
就是让AI agent像真正的黑客一样去发现
验证并且修复你的应用漏洞
传统的安全扫描工具
最大的问题是误报很多
那Strix想解决的就是中间的地带
它不只是去做扫描
而是动态运行代码
尝试修复利用漏洞
并且生成真实的POC
那它内置的能力比较完整
包括了像侦查漏洞利用
验证浏览器自动化
HTTP代理
Share命令执行
Python的沙箱
还有静态的动态的代码分析
你可以用它去扫描本地的代码库
也可以扫描Github的仓库
或者是做黑盒的外部应用测试
使用的方法也比较简单
使用安装脚本一键安装
然后再配置一个大模型的provider
然后再执行命令
就可以开始去检查了
它支持headless模式和Github Action
你可以把它配到你的CICD流程里
那我觉得从趋势上来说
AI安全测试一定会越来越重要
现在代码生成的速度
那是越来越快
漏洞产生的速度也会越来越快
如果完全靠人工的安全评审
成本太高了
像本项目这种
一体化的安全测试Agent
未来很可能是DevSecOps里面
最常见的一类工具
最后一个项目
Free4Dev
是一个非常老牌
也非常实用的资源清单
目前已经接近了13万的STAR
它整理了各种
对开发者有免费额度的
SaaS
PaaS
S和开发工具
比如像云服器
对象存储
数据库
CICD
还有日志
邮件
身份证证
等等的工具
然后这个项目最有价值的地方
不仅仅是在于免费两个字
而是它帮你节省了大量的筛选时间
现在很多的服务
都有这种免费的额度
但是制度是五花八门的
有很多是每月按照请求的次数
也有按照流量的
还有比如按照时间
一年免费的
你如果一个一个的去官网查看
会比较浪费时间
如果你是独立开发者
学生
或者是开源作者的话
这个仓库还是很值得搜长的
比如你想快速的上线一个小工具
可以先在里面找到免费的数据库
拓管平台
还有邮件的服务和监控
等项目真正有了用户
有了收入
再考虑升级成付费的方案
当然免费的服务也不是没有代价的
它的额度
地区
还有稳定性
还有风控等等的都有可能变化
所以比较重要的一点
就是在项目的开始
也要做好完备的迁移的方案
当你需要的时候
可以随时的迁走
最后还是分享两份资料
第一份是罗兰贝格的跨越AI价值鸿沟
AI落地速度
远和远超商业变现速度
企业又当如何破局
这份报告
当时我看到名字的时候就下了
很多企业的AI部署速度很快
预算也在涨
但是真正赚到钱的
提升利润的速度却没有跟上
报告里面也把这种现象
叫做AI价值鸿沟
甚至有点像是一场
无利润的繁荣
而且我觉得
这也是一个目前非常普遍的现象
确实很值得去研究和讨论
第二份是德勤的物理AI开启加速新纪元
如果你关注大A市场的话
这周其实有个大消息
就是语数过会了
也就是语数很快就要上市了
这个时候我们更应该来关注一下
未来的机器人和聚身智能
这些物理AI相关的内容了
这个报告里也提到
真正的把物理AI融入到运营的企业
比例其实不高
在未来几年还是有明显的预期提升的
有需要的可以告诉我
以上就是本期的全部内容
我们下次再见