马斯克将定期分享 VulcanBench 排行榜

8月21日,马斯克在X上发帖称,他将开始更频繁地分享 VulcanBench 的排行榜,并强调这是他所知唯一在不同努力水平上、针对100%真实工程任务进行基准测试的评测套件。他还提到即将淘汰评估套件3,套件4已接近就绪。

VulcanBench 由 Morgan Linton 开发,是一个开源基准,专注于多文件真实软件工程任务,涵盖推理努力、语言、代码库规模和任务复杂度,并提供完整轨迹和可复现评分。近期 v3 快照显示,Grok 4.5 以91.3%领先,Claude Opus 5 和 GPT-5.6 Sol 并列第二。

这一举动发生在 AI 基准从合成测试转向实际工程场景的背景下。传统基准易被优化,而 VulcanBench 强调跨努力水平的真实任务性能,凸显 xAI 在编码代理能力上的定位。与此同时,行业正从模型规模竞赛转向实用部署,真实任务基准的重要性上升。

马斯克此举可能加速 VulcanBench 的采用,推动更多模型在真实工程场景中竞争。下一步值得观察的是套件4发布后,各家模型的具体表现及是否引发新的基准军备竞赛。

信源:https://x.com/elonmusk/status/2090950876425080851

📤 分享这篇文章

𝕏 X 分享in LinkedIn

点击”分享微信好友”→ 长按图片发到微信