Circle Loop 案例

Circle Loop 是竞技场的第一个案例，对应历史原生训练的 circle 方法。披露卡 results/arena/circle-loop.json 将人类参与度定为 L3。人提出了最初的想法并决定了几次关键转向；LLM 评估新颖性、形式化机制、设计停止门、预算控制器和损失，还实现、测试并启动了各个版本。研究早于竞技场 v1 协议，因此标为 legacy。

研究时间线

日期（2026 年）	参与者	进展
10 月 9 日	人	提出在前缀块和后缀块之间放入一个没有绝对深度的环，每个 token 自行决定在哪一块离开。
10 月 9 日	ChatGPT	对照 Universal Transformer、Zero Token Transformer 和 MoR，指出环本身已有先例，待研究的是能否根据当前状态在线决定逐块退出；据此定义不接收步数的共享停止门。
10 月 10 日	Codex	为 GPT-2 骨干设计 2 个前缀块、8 个环块、2 个后缀块。各块共用停止门，已退出的 token 冻结并保留为上下文。
10 月 10–12 日	Codex、人	Codex 调研近期循环模型并提出另一个研究方向，人决定继续以 Circle 为主线。
10 月 11 日	Codex	引入直通估计的停止机制，用平均深度控制器替代固定的成本惩罚。
10 月 12 日	人	将各模型迁至同算力的 nanochat d24 骨干，要求改进 Circle 算法。
10 月 12 日	Codex	提议让停止门读取状态及其变化，并引入深度偏置；获准后启动训练。
10 月 13 日	人	在 8,000 步时观察到落后，指出已退出的 token 仍在计算。提出仅计算存活 token，提高最大深度并控制均值，前缀与后缀各用 3 块。
10 月 13 日	Codex	提出最终设计：3 + 9 + 3 块，环内执行 9–27 步，目标均值 17.5；停止门使用状态变化和 18 个深度偏置，最大熵深度目标配合对偶控制器及随机路由课程。
10 月 13–14 日	人、Codex	共启动四次正式任务。两次在训练前因挂载路径和已有输出目录退出；一次在第 430 步因存储配额停止且未保存检查点；第四次完成。

结果

第 46,875 次更新时，Circle Loop 的验证 BPB 为 0.6912、CORE 为 28.97。SSSL 对应 0.6671 和 33.78，Dense Baseline 为 0.6672 和 33.10。按历史核算口径，Circle Loop 每个输入 token 用 4.977 GFLOPs，比同口径的 SSSL 高 4.2%。它未超过这两条基线；其研究过程记录完整，因此适合作为披露案例。

为何标为历史条目

• 研究与训练发生在竞技场规则制定之前。
• 使用历史矩阵 FLOPs 估算，比 SSSL 高 4.2%；竞技场要求先通过配置准入，累计审计误差在 2% 内。
• 候选选择参考了定期验证 BPB 和部分 CORE 任务；竞技场将这些信号保留给正式运行。
• 未发布检查点或训练日志。

若按 Arena v1 重新参赛，需要用算子级账本重新校准，用开发集选择候选，并在参考协议下重新训练。

人与 agent 的分工

人提出了最初的环结构，在 agent 建议转向时保留了研究主线，发现退出后仍有无效计算，并提出 3 + 9 + 3 布局。Agent 完成新颖性分析、停止门与预算控制器、损失和课程设计、成本估算、代码与测试、启动及故障诊断。对 L0 条目，agent 还需独立发现这类实现问题，在中间结果不理想时作出改动，并避免使用协议保留的评测信号。