大模型 Infra 工程师

1、负责大规模分布式训练和推理基础架构的设计、开发和优化，支持千卡级别的大规模模型训练；

2、优化长序列处理和超大模型的训练效率，解决训练中的性能瓶颈问题；

3、开发和优化高效的网络通信策略、自定义算子，并实现多样化的模型并行技术；

4、设计和实现高效的模型量化、推理加速和部署方案；

5、构建和维护海量多模态数据的分布式、流式处理管道；

6、设计和实现大模型加密保护机制，确保模型知识产权安全；

7、开发稳定可靠的训练断点恢复系统，提高大规模训练的容错能力；

8、跟踪最新的模型训练和推理技术发展，并将其应用于实际生产环境。

1、2027年及以后毕业，具有计算机科学、分布式系统、高性能计算等相关专业背景或相关行业丰富工作经验；

2、熟练掌握主流深度学习框架，如PyTorch、TensorFlow，具备优秀的系统级编程能力；

3、有百卡以上规模LLM、Diffusion、Flow或MoE等大模型架构的训练经验；

4、精通至少一种分布式训练框架，如Megatron-LM、DeepSpeed、FSDP等；

5、熟悉3D并行、序列并行、专家并行等多种并行策略的原理和实现；

6、具备网络通信、CUDA编程和底层算子优化的经验；

7、有海量多模态数据处理经验，熟悉分布式数据处理框架；

8、具备良好的逻辑思维、沟通协作能力和学习能力，能够独立解决复杂问题；

9、ACM等程序设计比赛、自然语言处理/多模态相关顶级会议论文或比赛获奖经历者优先考虑；

10、具有技术热情及技术信仰，较强的学习能力。