模型差距变小后,Arena 开始给评估方法发钱
Arena.ai 的 Fall 2026 学术合作计划进入最后截止,单项目最高 5 万美元,面向美国高校终身教职轨道教师。方向包括排名方法、测量效度、人类偏好学习和安全对齐,回复里有人问原始交互日志,也有人把重点放在测量效度。
Arena.ai 的 Fall 2026 学术合作计划到了最后截止。X 上的提醒说,提案今晚午夜截止。单项目最高 5 万美元,面向美国大学 tenure-track faculty,也就是终身教职轨道教师。研究方向限定在 AI 评估的科学基础:评估与排名方法、测量与效度、从人类偏好学习、安全与对齐。
这条推文引用 9 月 23 日的提醒,当时写明截止 October 30, 2026。现在最后提醒把时间压到今晚午夜。原推文在这里。
评估研究通常不如模型发布显眼。榜单前几名差距变小后,排名方法的影响变大。回复里 Tanish Mehta 说,前几名模型很接近,怎么排名更重要。DARKKEVN Labs 说,测量效度尤其及时,排行榜变动只有知道评估测的是什么构造才有用;偏好数据、安全对齐、能力基准容易互相矛盾,资助它们如何拼在一起价值高。kimiloo 问入选团队能不能拿到原始交互日志,这条推文没给答案。
对开发者来说,实际问题是榜单分数怎么来、人类偏好怎么变成信号、安全对齐和能力基准冲突时怎么解释。对普通读者,可以把它理解成给考试出题和判卷方法发经费。模型越接近,出题和判卷越难糊弄。
发布时间: 2026-10-31 04:27