混元基座模型-复杂合成数据研究

课题背景： 随着LLM能力的提升，高难度推理题目与各种长尾知识评测逐渐陷入瓶颈，单纯靠人力标注和题目收集已经很难满足需求，作为替代，合成数据受到了广泛的关注 课题挑战： 如何建立可靠的链路来生成具有研究级别难度的问题仍是个开放问题 具体工作： 本课题致力于复杂长尾合成数据研究，包括但不限于研究级别STEM题目合成、长尾知识题目合成、高质量rubrics合成等方面

学历和专业要求： 自然语言处理/机器学习/模式识别/人工智能/计算机等相关专业硕士以上学历； 技术技能要求：

1. 01

   在NLP、LLM领域有深入实践，对生成式AI、复杂推理或特定垂域（如代码生成、数学定理证明等）有丰富的数据构建与模型调优经验；

2. 02

   较强的工程实现能力，熟练掌握Python、C/C++等至少一种语言，熟悉指令演化（如Self-Instruct等）及合成数据Pipeline架构；

3. 03

   熟悉DeepSpeed、Megatron等分布式训练框架，熟练使用至少一种深度学习框架(如PyTorch等)；

4. 04

   有高质量论文发表者优先（如ACL、EMNLP、NeurIPS、ICML、ICLR等），特别是在数据合成、模型微调或特定垂域能力突破方向； 软性素质要求： 具备强烈的进取心、自驱力及跨领域学习能力，团队合作精神极佳，对实现AGI核心能力跃迁充满热情。 此课题同时招聘应届实习生和低年级实习生。