验证、pilot 与续训
- 源码、模型、协议、成本公式、数据、分词器和评测资源的指纹与清单。
- 小规模数值对照、前向和反向检查、因果性、边界以及方法特有的语义检查。
- 在目标后端上进行全尺寸 BF16 检查和一次完整的全局优化器更新;核实参数分组和分布式同步。
- 在支持的各种批量布局下,数据行以及预定的验证和 CORE 事件完全一致。
- 续训检查,覆盖模型、优化器、调度器、所有随机数生成器、数据流缓冲区和游标、训练阶段、预算控制器和累计算力。计数器永远不会被重置, 也永远不会把一段数据前缀重放一遍并当作训练是连续的。
每个方法最多运行两个预先登记的候选 × 512 次更新,从相同的前缀和随机种子开始(最多约 1.074B 输入 token)。pilot 的成本单独公布。 pilot 用于检查稳定性、机制、成本和资源,永远不在正式 CORE 上调参。每次尝试都会记录,包括对初始化、学习率或裁剪的修正;正式运行从头重新初始化。
--resume auto 从最新的完整检查点继续,把不完整的检查点目录移到一旁,永远不会在已有运行之上开始新运行,并拒绝已改变的源码、配置或软件。
--max-wall-hours 在检查点之后的某个更新边界结束分段,因此集群时间限制最多只损失正在进行的那次更新。
有界检查表明,在测试过的布局下续训是逐位一致的;真实的长时间续训在不同分段之间可能存在舍入级别的差异,每个已发布的运行都会披露其分段。 在某一条路径(源码、kernel、rank 数、优化器布局)上证明的保证,不会推广到其他路径。