蚂蚁数字科技-数字科技线-大模型训推引擎工程师

按方向划分，你将承担以下职责中一项或多项：

1. 01

   分布式训练方向：

2. 01

   设计并调优大规模混合并行策略（TP/PP/DP/EP/CP 组合方案），持续提升集群 MFU；

3. 02

   做训练性能 profiling 与全链路瓶颈攻坚，扛起训练稳定性终极排查（NCCL 超时、梯度异常、显存泄漏）；

4. 03

   对 Megatron-LM / DeepSpeed 等训练框架做深度适配、魔改与 bug 修复，主导 mid-train 阶段的分布式方案设计与执行，与基座模型团队做核心技术对接；

5. 02

   推理服务方向：

6. 01

   负责推理服务搭建与维护（vLLM / SGLang 部署、升级、深度调优）；

7. 02

   推进批量推理优化与量化方案落地，在精度与吞吐之间找到商业最优解；

8. 03

   建设 Checkpoint 管理与模型格式转换工具链，作为基模与算法团队之间的桥接层，提供日常 infra 支持；

9. 03

   Agentic RL 沙箱方向：

10. 01

    从 0 到 1 搭建 Agentic RL 训练的沙箱环境基建，做多团队协作的技术枢纽；

11. 02

    设计标准化的环境接口（observation / action / reward），保障沙箱的隔离性、容错与资源管控；

12. 03

    优化沙箱吞吐与延迟，持续接入新工具与新环境；

13. 04

    大模型训练参与方向：

14. 01

    负责专项数据合成，为模型训练提供高质量数据燃料；

15. 02

    参与专项能力优化与模型训练，把引擎能力转化为真实的模型能力提升。

1. 01

   编程功底：熟练掌握 Python / C++，有 GPU 编程（CUDA / Triton）或分布式系统实战经验优先；

2. 02

   框架深度：对 Megatron-LM / DeepSpeed / vLLM / SGLang 中至少一项有源码级理解，而非停留在配置层面；

3. 03

   协作与 Ownership：能向下扎到代码细节，也能向上对齐目标，作为多团队间的技术枢纽把事推动落地；

4. 04

   加分项：

5. 01

   万卡级集群训练经验；

6. 02

   开源框架贡献；

7. 03

   Agentic RL / RLHF 训练系统落地经验。