竞技场规则
这是 Arena Protocol v1(标识符 arena-v1)。参赛模型在不变的参考协议下训练和评测;这些规则只补充约束正式运行之前的研究,以及参赛作品必须披露的内容。
机器可读的取值在 nexttransformer/arena.py 中。
本版本的竞技场基于信任。参赛者自己完成研究和正式训练;维护者默认不重跑参赛作品。锁定的数据、固定的随机种子、可恢复的训练状态、公开的检查点和完整的披露,让结论可以被检验。
一个参赛作品由一个研究者和它产出的成果组成。
- 研究者是一个或多个 LLM、框架(或无),以及参与其中的人和他们的参与程度。
- 成果是一个已登记的方法及其已准入的配置,训练完成后还有一次正式运行。
- 每个参赛作品有一张披露卡片
results/arena/<entry>.json(字段)。 - 一个方法版本最多只有一次计分的运行。准入之后改变方法语义,就成为新的方法 id。
参赛作品可以修改什么
Section titled “参赛作品可以修改什么”| 可以添加 | 不得修改 |
|---|---|
方法插件 nexttransformer/methods/<method>/ |
训练契约固定的任何内容:数据、分词器、打包、预算、批量、调度、种子、评测时间点 |
校准后的 configs/<family>/<method>.json 及其在 evidence/costs/ 下的证明集 |
nexttransformer/{protocol,evaluation,runtime,training,checks,native}/ 和命令行入口 |
tests/ 下的测试 |
nexttransformer/models/backbone.py 和 nanochat/ |
模型卡片 results/methods/<method>.json 和方法来源说明条目 |
已有的运行记录、证明和审计 |
运行记录、evidence/audits/ 下的审计,以及运行说明页 |
协议各页、本规则、竞技场工具、CI 和网站 |
| 参赛作品自己的披露卡片 | 其他参赛作品的卡片 |
插件不需要修改共享模型文件;如果某个方法确实需要,由维护者审查,并且会让所有运行该文件的方法的证明失效。python -m nexttransformer.arena --scope origin/main
检查这些规则,python -m nexttransformer.protocol.fingerprint 确认每个已发布方法仍与其证明一致。
- 任意规模、任意算力、任意数量的实验。 研究不受任何限制;所有研究都要披露。
- 用 dev 划分或训练损失做选择。 dev 划分是
shard_06541.parquet,即排序后的最后一个训练分片;正式数据流永远读不到它。 - 验证分片和 CORE-22 是保留的。
shard_06542.parquet和 CORE-22 任务属于正式运行。不要用它们在候选、设置或种子之间做选择。 - 允许使用文献和互联网。 需要披露是否使用。重新发现已发表的方法也是有效的参赛作品;卡片需写明最接近的已有方法及区别。
- 研究永远不提供权重。 正式运行从头开始。
参赛:两个 pull request
Section titled “参赛:两个 pull request”| Pull request | 包含 | 合并之后 |
|---|---|---|
| 1. 准入 | 方法插件、在 ±1% 内准入的配置、证明集、测试、模型卡片、status: admitted 的披露卡片 |
参赛作品显示为训练中。合并日期就是公开的预注册:方法在任何正式结果出现之前就已冻结。 |
| 2. 结果 | export_run 生成的运行记录(完整、累计审计 matched)、其审计、运行说明页,以及更新为 status: complete 并附检查点和日志链接的卡片 |
运行带着来源信息进入主排行榜。 |
正式运行使用已准入的配置:记录中的 model_hash 必须等于配置的 model_hash。每次正式启动都计入 formalAttempts,包括失败的启动;失败的启动记录在运行说明中。
卡片至少记录:
- 研究者: 每个 LLM 及其版本、框架及其版本(或
none)、参与的人,以及下面的参与程度。 - 研究: 时间段、训练过的候选数、正式尝试次数、GPU 小时(未计量时为
null)、是否使用互联网,以及选择信号。 - 新颖性: 最接近的已有方法及区别。
- 成果: 最终检查点和训练日志(
complete时必需);鼓励提供研究轨迹。
缺失的测量值记为 null,永远不记为 0。
| 级别 | 人类参与程度 |
|---|---|
| L0 | 完全自主:人只启动任务、提供算力,直到提交前都不干预 |
| L1 | 仅运维:人修复环境、集群或启动问题,不做任何研究决策 |
| L2 | 人在 agent 的提议中做选择,或给出方向性提示 |
| L3 | 人主导想法或编写方法代码;agent 辅助 |
| 状态 | 含义 |
|---|---|
admitted |
第 1 个 pull request 已合并;正式运行待完成 |
complete |
正式运行已发布、完整且匹配;参赛作品在排行榜上排名 |
legacy |
早于本协议或不符合本协议;附完整披露和原因展示,永远不作为竞技场参赛作品排名 |
retracted |
已撤回或被认定无效;保留可见并注明原因,永远不排名 |
每张卡片还说明结果由谁产出:self-reported(默认)、reproduced(独立方重跑了正式运行,或重放了其中一段前缀并与记录的训练损失一致),或 maintainer。
竞技场参赛作品与其他所有运行在主排行榜上按相同规则排名:使用第 46,875 次更新时的实测值,不做插值,不完整的运行不排名。排行榜标注每个运行的来源,并可以按来源筛选。 研究预算只披露、不控制,因此研究者之间的比较是描述性的。
python -m nexttransformer.arena --check校验每张卡片及其指向的记录;CI 会运行它。python -m nexttransformer.arena --scope origin/main把 pull request 改动的文件分为允许、需要审查和禁止三类。- 已有的检查仍然适用:
export_run --check、配置准入和测试套件。
修改这里的任何规则都会产生 arena-v2。卡片保留它们参赛时的版本,已有的参赛作品永远不会被改写。