后继 O/B/M/E 终评口径(v1,结果揭盲前固定)
2026-09-27。本文件固定估计对象、计划槽位和取用规则,不表示模型已训完或评测入口已就绪。当前只有 O42 在训练,没有本轮终评成绩。旧的身份不绑定续跑器不用于本协议。
主比较与报告总体
- 确认性主比较:固定第 80 步的 M−B,在原先保留的 holdout100 上,每题独立采样 16 条。O/B/M 各训练种子 42、314159、271828,三对种子等权平均。不得按分数选择种子、80/81 或中间存点。
- 次比较:同一 holdout100 的 M−O;E 只有预分配的 seed42,因此 M42−E42 是单训练种子对照,不能给它三个种子的误差条。base 没有训练种子。
- 广覆盖补充:所有计划模型在官方 500 题各采样两条,单条均值。分别报告实际训练 149、后继 RL 训练外 351、指定 holdout100、其余原 250,以及原训练 150 和被隔离的 Django7530。500 总体是混合训练/非训练题的指标,351 也不表示预训练未见。
- 500×2 和 holdout100×16 是两个独立评测队列。主结果只取后一个队列的 16 条,不挑取前一个队列的好轨迹,不在看到结果后拼成 n=18。任务/模型/队列/rep 的逻辑身份见
results/evaluation_slots_20260927.json。 - n 是每题 rollout 数,分数为每题的 n 条均值再对任务等权平均;不是 pass@k。所有主表保留每个训练种子的分行成绩和 M−B/M−O 差值。
不确定性与判读
确认性点估计为三个配对训练种子差值的均值。附录预定使用固定随机种子 20260927、10,000 次两维配对 bootstrap:每次对三个训练种子有放回抽样,并独立对 100 个任务有放回抽样;同一次抽样的种子、任务索引同时用于 M/B/O,保留各单元内全部 16 个预定 rollout。报告 2.5%/97.5% 分位数和逐种子差值。任务是成组抽样单位,不把同题 16 条当作 16 个独立任务。
仅三个训练种子的 bootstrap 不能提供可靠的大样本跨种子保证;区间作为近似敏感性描述,与逐种子一致性及效应大小一起解释,不靠单一显著性结论。E42 只做任务配对重采样,范围限该训练种子。补充 500×2 分区使用相同计算规则并标为次要/探索性,不在多个分区中挑最好的作为主结论。不预设“必须成功”的效应阈值,也不以写作调整改变比较方向。
每个逻辑槽位与缺失结果
- 启动前将模型权重/配置/tokenizer/服务配置摘要、任务 profile/评分名单摘要、runner 源码摘要绑定到一个不可覆盖的执行 manifest。API 上的模型名字不足以证明权重身份。缺失绑定拒绝执行;已有目录绑定不同身份拒绝续跑。
- 每个槽位只接受一个首次完成的有效原始报告。报告必须匹配任务身份、固定 expected tests 和奖励;正负结果都终止该槽位。禁止按 mtime、最好分或是否成功选取重复 attempt。
- 一次 agent 生成已经形成补丁后,验证器的明确基础设施失败最多允许一次同补丁、同任务 profile、同标签重新判分。两次原始报告、补丁摘要和故障证据均保存;首次有效报告定稿,合法失败不能再试。
- 在产出完整轨迹前发生明确 API/宿主/容器基础设施故障,最多允许一次生成替补,保留原 attempt 及替补关系。同一逻辑槽位沿用采样种子;不能承诺异步服务逐 token 重现。预算/上下文耗尽、模型格式错误、模型破坏安装环境不因成绩差而重采样。
- 模型导致的终止若仍有合法最终报告,使用真实报告(包括成功);没有可判最终产物的明确模型失败计 0。
RewardFileNotFoundError、VerifierTimeoutError或EnvironmentDead单独不足以判断归因。不能确定归因时标为 unresolved,并附原始证据,在不参考臂间分数的审阅后处理。 - 达到重试上限仍 unresolved 的槽位保留于计划分母,不冒充已测 0,也不删除。若完成 N 个计划槽位中的 K 个、已观察到 S 次成功,绝对分数仅报告界限
[S/N, (S+N−K)/N]。两臂差值按 M 的下界减 B 的上界、M 的上界减 B 的下界报告。存在 unresolved 时不产出“完整主比较”的点估计/显著性结论;部分结果和覆盖率仍公开。 - 基础设施故障认定、重试原因和取用报告引用保存在只追加的 attempt ledger。评分文件保持原样;任何人工归因修订有新记录而不覆盖旧记录。
共同执行条件与尚未完成的绑定
共同解码温度 1、top_p=1、top_k=-1、min_p=0,98,304 上下文,预算提醒 0.35,超时 ×2;使用清 Git 历史、agent 断网、固定 SCM 版本的共同环境。评分标签及官方 500 题成员不修改;训练侧隔离 Django7530 不缩减最终评测分母。所有模型的每题 CPU/线程修正一致。
每个 rollout 的采样种子由固定命名空间、队列、task_id、rep 确定,跨模型相同索引;它用于可追踪性,不能声称使不同策略生成的随机事件完全相同。队列顺序和 host 分片使用公开确定规则,不能按预测难度或初步成绩调换。
以下是执行前待完成项,不由本文件虚构完成:官方 500 题共同 SCM profile 与镜像可用性;严格 attempt runner;导出锚点和权重摘要;基座/候选特殊参数精度的开发侧对照及共同处理;runner 的真实服务小规模冒烟。尚无 checkpoint 80 时,逻辑 manifest 的 execution_ready 必须为 false。精度方案在查看 holdout 结果前冻结,不通过弱化基座制造提升。
成本按实际分配 GPU 小时、生成 token、原判/CF 次数、服务时间、队列等待报告,包含失败 attempt 和未消耗预取轨迹。先完成全部模型的设计与开发侧决定,再读确认性留出成绩;若资源约束改变训练种子数,在揭盲前另建版本并收窄主张,保留本版。