P论文工作台最新版本 ↗
完整资料 / EVAL_PROTOCOL

固定评测协议

paper-rl/EVALUATION_PROTOCOL_20260927.md

definition观察/版本:未指定;不以mtime推断6,088 bytes下载完整原文直接读取

后继 O/B/M/E 终评口径(v1,结果揭盲前固定)

2026-09-27。本文件固定估计对象、计划槽位和取用规则,不表示模型已训完或评测入口已就绪。当前只有 O42 在训练,没有本轮终评成绩。旧的身份不绑定续跑器不用于本协议。

主比较与报告总体

不确定性与判读

确认性点估计为三个配对训练种子差值的均值。附录预定使用固定随机种子 20260927、10,000 次两维配对 bootstrap:每次对三个训练种子有放回抽样,并独立对 100 个任务有放回抽样;同一次抽样的种子、任务索引同时用于 M/B/O,保留各单元内全部 16 个预定 rollout。报告 2.5%/97.5% 分位数和逐种子差值。任务是成组抽样单位,不把同题 16 条当作 16 个独立任务。

仅三个训练种子的 bootstrap 不能提供可靠的大样本跨种子保证;区间作为近似敏感性描述,与逐种子一致性及效应大小一起解释,不靠单一显著性结论。E42 只做任务配对重采样,范围限该训练种子。补充 500×2 分区使用相同计算规则并标为次要/探索性,不在多个分区中挑最好的作为主结论。不预设“必须成功”的效应阈值,也不以写作调整改变比较方向。

每个逻辑槽位与缺失结果

  1. 启动前将模型权重/配置/tokenizer/服务配置摘要、任务 profile/评分名单摘要、runner 源码摘要绑定到一个不可覆盖的执行 manifest。API 上的模型名字不足以证明权重身份。缺失绑定拒绝执行;已有目录绑定不同身份拒绝续跑。
  2. 每个槽位只接受一个首次完成的有效原始报告。报告必须匹配任务身份、固定 expected tests 和奖励;正负结果都终止该槽位。禁止按 mtime、最好分或是否成功选取重复 attempt。
  3. 一次 agent 生成已经形成补丁后,验证器的明确基础设施失败最多允许一次同补丁、同任务 profile、同标签重新判分。两次原始报告、补丁摘要和故障证据均保存;首次有效报告定稿,合法失败不能再试。
  4. 在产出完整轨迹前发生明确 API/宿主/容器基础设施故障,最多允许一次生成替补,保留原 attempt 及替补关系。同一逻辑槽位沿用采样种子;不能承诺异步服务逐 token 重现。预算/上下文耗尽、模型格式错误、模型破坏安装环境不因成绩差而重采样。
  5. 模型导致的终止若仍有合法最终报告,使用真实报告(包括成功);没有可判最终产物的明确模型失败计 0。RewardFileNotFoundError、VerifierTimeoutError 或 EnvironmentDead 单独不足以判断归因。不能确定归因时标为 unresolved,并附原始证据,在不参考臂间分数的审阅后处理。
  6. 达到重试上限仍 unresolved 的槽位保留于计划分母,不冒充已测 0,也不删除。若完成 N 个计划槽位中的 K 个、已观察到 S 次成功,绝对分数仅报告界限 [S/N, (S+N−K)/N]。两臂差值按 M 的下界减 B 的上界、M 的上界减 B 的下界报告。存在 unresolved 时不产出“完整主比较”的点估计/显著性结论;部分结果和覆盖率仍公开。
  7. 基础设施故障认定、重试原因和取用报告引用保存在只追加的 attempt ledger。评分文件保持原样;任何人工归因修订有新记录而不覆盖旧记录。

共同执行条件与尚未完成的绑定

共同解码温度 1、top_p=1、top_k=-1、min_p=0,98,304 上下文,预算提醒 0.35,超时 ×2;使用清 Git 历史、agent 断网、固定 SCM 版本的共同环境。评分标签及官方 500 题成员不修改;训练侧隔离 Django7530 不缩减最终评测分母。所有模型的每题 CPU/线程修正一致。

每个 rollout 的采样种子由固定命名空间、队列、task_id、rep 确定,跨模型相同索引;它用于可追踪性,不能声称使不同策略生成的随机事件完全相同。队列顺序和 host 分片使用公开确定规则,不能按预测难度或初步成绩调换。

以下是执行前待完成项,不由本文件虚构完成:官方 500 题共同 SCM profile 与镜像可用性;严格 attempt runner;导出锚点和权重摘要;基座/候选特殊参数精度的开发侧对照及共同处理;runner 的真实服务小规模冒烟。尚无 checkpoint 80 时,逻辑 manifest 的 execution_ready 必须为 false。精度方案在查看 holdout 结果前冻结,不通过弱化基座制造提升。

成本按实际分配 GPU 小时、生成 token、原判/CF 次数、服务时间、队列等待报告,包含失败 attempt 和未消耗预取轨迹。先完成全部模型的设计与开发侧决定,再读确认性留出成绩;若资源约束改变训练种子数,在揭盲前另建版本并收窄主张,保留本版。

公开内容 SHA-256 9065159e575781bb3880cf3e2ad3368562b5a071c6ff1fd0765f642b76797a6b

返回资料与接手