返回首页 文章与观点 Blog

AI 直播写了 22 小时代码,把 DeepSeek 的手写巅峰超了

面壁智能 ForgeKernel 无人直播 22.5 小时:AI 智能体只拿数学定义,从零写出 DeepSeek FlashMLA 核心算子,472 微秒对 518 微秒快 9.8%,人类写的代码 0 行。已开源。

电路板上的挂锁:算子就是芯片世界的锁芯,谁来打磨锁芯,决定芯片最终跑多快

10 月 30 日早上,一场直播收尾。主角不是人,是一个叫 ForgeKernel 的 AI 智能体。

视频版:两分钟讲完这场 22 小时直播的来龙去脉

它在英伟达 B200 上连跑 22.5 小时,任务只有一个:不参考 DeepSeek 的源码,从零写出 FlashMLA Prefill 算子——那是 DeepSeek 开源的注意力核心算子,出自业内公认 Infra 最强的团队之手,算是人类手写算子的巅峰。

结果:472 微秒,对上 FlashMLA 的 518 微秒,快 9.8%。全程 42 轮迭代,留下 32 个版本,用掉 1 张 B200 和 22 个 GPU 小时。人类为这个算子写的代码,是 0 行。

过程比结果有意思

直播里能看到完整的爬坡轨迹。第一版通过正确性检查,但耗时 1834 微秒,效率感人。不到 4 小时,压到 593 微秒,降幅 67.6%,从零逼近当前最佳实现的九成。第 7 小时前后一次核心结构突破,先超了自己上一版,再首次超过 FlashMLA。

结尾还有个值得琢磨的细节:跑在后半程,智能体自己发现 Q 的突发加载在和 KV 数据搬运抢内存带宽,主动控制了 Q 的请求节奏,又压下 2.4% 耗时。这种判断,过去是资深工程师的活。

方法上,团队 10 月 27 日和清华等机构在 arXiv 发的论文叫 JustGoal——只给模型一个优化目标,不教算子知识,不规定流程。10 个算子里 8 个跑赢人类维护的开源库。有意思的是对照组:同一个模型套上专家预先设计的专用框架,成绩反而只有裸跑的 0.95 倍。专家经验给多了,反而碍事。

直播结束后,团队联合 OpenBMB 社区把系统开源了。

国产芯片那边的账更划算

这次直播跑在英伟达 B200 上。但就在几天前,昇腾 CANN 官方发文,ForgeKernel 同时登顶 950DT、950PR、A3 三大硬件榜单——950DT 领先第二名 27.8%,A3 榜(910C)从 10 月 15 日封榜起就没让出过第一。

同一套系统,两边通吃。团队说迁移成本低到只换性能分析工具(NCU 换 msprof),新芯片的硬件知识由模型边测边积累。这对国产芯片是个要害补齐:新芯片上市最缺的就是调好的算子,人工适配周期长,AI 把「能用」到「好用」的空窗期压缩到以小时计。

经济账也有人算过了:按 Gartner 预测 2026 年全球 AI 基础设施支出约 1.48 万亿美元,算力效率每提升 1% 对应约 148 亿美元。同一套方法在国产芯片上提速 20%-30%,在英伟达上只有 5%-10%——越缺专家的地方,AI 补得越多。

几个数字要老实标注:9.8% 是官方宣称加直播面板数字,暂无第三方独立复测;29 项对比中 24 项打平或超越专家实现,也是团队口径。但方向我信,因为它跟这一年的趋势完全一致——写代码这件事,AI 从助手变成主力的临界点,正在从应用层沉到系统最底层。

「国产模型写算子,国产芯片跑算子」,这句话以前听着像口号,现在是一条直播 22 小时就能看完的流水线。