大模型数据研发工程师

负责参与实验室语言大模型的数据准备、模型训练、模型评测等工作，重点构建新一代质量高，安全性好，内容全面的十万亿Token数据集，工作内容包括：

1. 01

   面向大规模网页、代码、论文、书籍等数据，复现相关大模型数据相关论文，并在此基础上制定更加严格的数据质量标准，对训练数据进行分析和分类，对数据质量进行评估，解决数据主题分布、内容合规、反毒性、反偏见等问题。

2. 02

   深入了解并调研与预训练数据集相关的最新文献或资料，为构建更优质的数据集提供理论支撑，构建data-centric数据闭环，研究在固定模型和评测的情况下提高大模型数据语料质量，包括持续优化数据质量，研究数据和模型的scaling law，研究数据配比，数据混入策略与混入时机。

3. 03

   围绕更具体细分类数据（如CC、代码、论文、书籍等等）构建相应大模型的数据-训练-评测链条，并针对细分类数据建立数据质量评估与优化体系，使得细分类数据质量超越已公开的数据集。

1. 01

   计算机／数学／统计学／模式识别相关专业本科及以上学历；

2. 02

   三年以上NLP相关方向工作经验 ，有发表顶会论文、大模型相关经验、一线互联网公司NLP算法开发经验优先；

3. 03

   具备能够快速阅读论文和复现论文的能力，能够系统性对比研究领域的相关成果，并制定改进计划。

4. 04

   熟练掌握Python/C++等语言，熟悉常用数据结构及算法；对数据结构和算法有深入理解和研究，对算法有较强的实现能力；

5. 05

   具有大规模数据集处理相关的工程经验，熟悉Hadoop，Spark等分布式框架的使用。

6. 06

   有强烈的上进心和求知欲，善于学习新事物，渴望用技术改变未来；有优秀的分析问题和解决问题的能力，对解决具有挑战性问题充满激情；具备良好的团队合作精神和沟通意识。