Dots-【Ace顶尖实习生】可扩展监督的 AI 对齐方法

Dots-【Ace顶尖实习生】可扩展监督的 AI 对齐方法 大模型 北京市，上海市，杭州市 Ace 顶尖实习生计划 本课题聚焦于一个随模型能力提升而愈发紧迫的根本性问题：当 AI 在越来越多任务上超越人类判断能力时，如何维持有效的对齐监督。传统 RLHF 依赖人类对模型输出的直接评估，但这一前提在模型能力持续增强后逐渐失效——人类既无法高效覆盖海量反馈需求，也难以可靠判断超出自身认知边界的输出质量。研究将围绕以下核心问题展开：如何通过 AI 辅助人类完成超出其独立判断能力的监督任务（弱监督者监督强模型）；如何设计递归自我批评、辩论等机制，使模型输出的质量评估本身可被自动化验证；如何在对齐传递链条中保证价值观的稳定性与一致性，防止逐级放大的偏差；以及如何在产品真实场景中收集高效的人类反馈信号，形成研究与产品协同迭代的闭环。