跳转到内容

竞技场规则

这是 Arena Protocol v1(标识符 arena-v1)。参赛模型在不变的参考协议下训练和评测;这些规则只补充约束正式运行之前的研究,以及参赛作品必须披露的内容。 机器可读的取值在 nexttransformer/arena.py 中。

本版本的竞技场基于信任。参赛者自己完成研究和正式训练;维护者默认不重跑参赛作品。锁定的数据、固定的随机种子、可恢复的训练状态、公开的检查点和完整的披露,让结论可以被检验。

一个参赛作品由一个研究者和它产出的成果组成。

  • 研究者是一个或多个 LLM、框架(或无),以及参与其中的人和他们的参与程度。
  • 成果是一个已登记的方法及其已准入的配置,训练完成后还有一次正式运行。
  • 每个参赛作品有一张披露卡片 results/arena/<entry>.json(字段)。
  • 一个方法版本最多只有一次计分的运行。准入之后改变方法语义,就成为新的方法 id。
可以添加 不得修改
方法插件 nexttransformer/methods/<method>/ 训练契约固定的任何内容:数据、分词器、打包、预算、批量、调度、种子、评测时间点
校准后的 configs/<family>/<method>.json 及其在 evidence/costs/ 下的证明集 nexttransformer/{protocol,evaluation,runtime,training,checks,native}/ 和命令行入口
tests/ 下的测试 nexttransformer/models/backbone.py 和 nanochat/
模型卡片 results/methods/<method>.json 和方法来源说明条目 已有的运行记录、证明和审计
运行记录、evidence/audits/ 下的审计,以及运行说明页 协议各页、本规则、竞技场工具、CI 和网站
参赛作品自己的披露卡片 其他参赛作品的卡片

插件不需要修改共享模型文件;如果某个方法确实需要,由维护者审查,并且会让所有运行该文件的方法的证明失效。python -m nexttransformer.arena --scope origin/main 检查这些规则,python -m nexttransformer.protocol.fingerprint 确认每个已发布方法仍与其证明一致。

  1. 任意规模、任意算力、任意数量的实验。 研究不受任何限制;所有研究都要披露。
  2. 用 dev 划分或训练损失做选择。 dev 划分是 shard_06541.parquet,即排序后的最后一个训练分片;正式数据流永远读不到它。
  3. 验证分片和 CORE-22 是保留的。 shard_06542.parquet 和 CORE-22 任务属于正式运行。不要用它们在候选、设置或种子之间做选择。
  4. 允许使用文献和互联网。 需要披露是否使用。重新发现已发表的方法也是有效的参赛作品;卡片需写明最接近的已有方法及区别。
  5. 研究永远不提供权重。 正式运行从头开始。
Pull request 包含 合并之后
1. 准入 方法插件、在 ±1% 内准入的配置、证明集、测试、模型卡片、status: admitted 的披露卡片 参赛作品显示为训练中。合并日期就是公开的预注册:方法在任何正式结果出现之前就已冻结。
2. 结果 export_run 生成的运行记录(完整、累计审计 matched)、其审计、运行说明页,以及更新为 status: complete 并附检查点和日志链接的卡片 运行带着来源信息进入主排行榜。

正式运行使用已准入的配置:记录中的 model_hash 必须等于配置的 model_hash。每次正式启动都计入 formalAttempts,包括失败的启动;失败的启动记录在运行说明中。

卡片至少记录:

  • 研究者: 每个 LLM 及其版本、框架及其版本(或 none)、参与的人,以及下面的参与程度。
  • 研究: 时间段、训练过的候选数、正式尝试次数、GPU 小时(未计量时为 null)、是否使用互联网,以及选择信号。
  • 新颖性: 最接近的已有方法及区别。
  • 成果: 最终检查点和训练日志(complete 时必需);鼓励提供研究轨迹。

缺失的测量值记为 null,永远不记为 0。

级别 人类参与程度
L0 完全自主:人只启动任务、提供算力,直到提交前都不干预
L1 仅运维:人修复环境、集群或启动问题,不做任何研究决策
L2 人在 agent 的提议中做选择,或给出方向性提示
L3 人主导想法或编写方法代码;agent 辅助
状态 含义
admitted 第 1 个 pull request 已合并;正式运行待完成
complete 正式运行已发布、完整且匹配;参赛作品在排行榜上排名
legacy 早于本协议或不符合本协议;附完整披露和原因展示,永远不作为竞技场参赛作品排名
retracted 已撤回或被认定无效;保留可见并注明原因,永远不排名

每张卡片还说明结果由谁产出:self-reported(默认)、reproduced(独立方重跑了正式运行,或重放了其中一段前缀并与记录的训练损失一致),或 maintainer。

竞技场参赛作品与其他所有运行在主排行榜上按相同规则排名:使用第 46,875 次更新时的实测值,不做插值,不完整的运行不排名。排行榜标注每个运行的来源,并可以按来源筛选。 研究预算只披露、不控制,因此研究者之间的比较是描述性的。

  • python -m nexttransformer.arena --check 校验每张卡片及其指向的记录;CI 会运行它。
  • python -m nexttransformer.arena --scope origin/main 把 pull request 改动的文件分为允许、需要审查和禁止三类。
  • 已有的检查仍然适用:export_run --check、配置准入和测试套件。

修改这里的任何规则都会产生 arena-v2。卡片保留它们参赛时的版本,已有的参赛作品永远不会被改写。