NextTransformer

为什么选择 NextTransformer

一个框架，集成前沿架构

在同一套代码中比较完整注意力、残差连接、线性与稀疏注意力、循环计算和混合架构。新方法只需一个插件目录。

公平、明确的协议

每个模型使用相同的数据、token、优化器、调度和评测；训练算力由算子级账本对齐到 ±1% 以内，并对整个运行做累计审计。

49B tokens 预训练

在一台 8 卡机器上，2–4 天即可用 49B tokens 训练约 1.4B 参数的模型。400B tokens 和更大模型的配方将于 2026 年 11 月补齐。

Agent 原生研究

把竞技场任务交给你的 agent，让它研究出下一代架构。完整的 agent 原生版本将于 2026 年 11 月 14 日前上线。

从这里开始

快速开始安装、准备数据，并在单机或多机上训练。

协议什么是固定的、什么是对齐的，以及运行如何被审计。

添加方法编写插件、完成校准并获得准入。

排行榜每个完成的运行与 Dense Baseline 的对比。