Wink Pings

哥大联合CertiK推出TensorLean 149个GPU内核实测查出38个隐藏bug

哥伦比亚大学与安全厂商CertiK的研究团队推出基于Lean语言的TensorLean工具,可在PTX指令层对生产级GPU内核开展形式化验证。实测覆盖149个投产内核实例,既完成83个实例的全逻辑正确性证明,也在FlashAttention、DeepGEMM等主流AI计算组件中发现38个真实bug,为大模型底层算力可靠性提供了新的验证思路。

哥伦比亚大学联合CertiK研究团队推出GPU内核形式化验证工具TensorLean,相关成果于2026年11月21日发布。

先给非技术背景读者补两个基础概念。

GPU内核是运行在显卡上的底层计算代码,大模型训练、推理过程中的注意力计算、矩阵乘法等核心操作,都由对应内核直接执行。过去行业排查内核问题,主要依靠抽样跑测试用例,很难覆盖全部边缘运行场景,部分隐藏bug可能潜伏数月才会触发,轻则导致计算结果偏差,重则直接中断耗时数周的训练任务。

PTX是英伟达GPU的通用中间指令集,位于上层应用代码和下层硬件指令之间。TensorLean选择在这一层做验证,无需针对不同型号显卡重复适配。工具基于定理证明语言Lean开发,采用形式化验证路线,通过数学推导确认代码逻辑的全场景正确性。

团队本次用TensorLean检测了149个投入生产使用的GPU内核实例,最终完成83个实例的全量正确性证明,同时定位到38个真实存在的代码bug,涉及FlashAttention、DeepGEMM等业内广泛使用的AI计算组件,不少开源大模型框架都内置了上述组件的内核代码。

形式化验证此前更多应用在航空航天嵌入式代码、区块链智能合约这类容错率极低的场景。随着大模型逐步落地金融、医疗等关键领域,底层计算的可靠性要求会持续提升,这类验证工具的落地场景还会继续拓宽。

消息来源:MarkTechPost,作者Michal Sutter

发布时间: 2026-11-22 09:51