AI Infra算法工程师-实习

团队介绍： 我们是ai基础设施团队，面向不同的ai业务提供高效的基础设置，打造从高效训练到高效推理的基础设置：从大模型的高效训练、高效强化学习，到大模型的高效推理系统，形成高效的大模型训练推理系统。团队针对垂类领域的部署，以实现企业级生产为标准，注重训练与推理系统的效率提升，目标是提供高效的训练与推理系统，支持实际模型的训练与推理。 岗位方向：ai infra，包括大模型的高效训练（微调、强化学习）与高效推理。 岗位职责：

1. 01

   针对大模型在生产环境进行高效推理，进行大模型的压缩，包括量化、剪枝、蒸馏

2. 02

   针对大模型的推理系统，进行效率的提升，包括kv cache、pd分离、调度、并行策略的优化、算子融合、投机采样；

3. 03

   针对大模型的训练与强化学习，进行训练框架的优化，包括不同并行策略的优化、算子的优化、负载均衡等

4. 04

   推动高效训练与推理系统框架在实际业务场景中落地，包括大语言模型、多模态模型、以及全模型模型

5. 05

   与工程、测试团队紧密协作，支持实际业务的稳定与高效迭代。

岗位要求

1. 01

   2026届获得硕士以上学历，计算机、软件工程、人工智能等相关专业优先；

2. 02

   具备优秀的问题分析与解决能力，能够深入进行大模型的训练、推理性能优化方面的工作；

3. 03

   熟悉大模型训练或者推理框架，对大模型架构有一定的了解；

4. 04

   熟悉大模型的分布式训练或者推理，对训练或者推理的效率有一定的了解；

5. 05

   工程能力扎实：熟练使用 python / pytorch、了解或者熟练进行cuda编程；

6. 06

   有分布式系统的经验，对不同的并行方式、负载均衡有深入的了解。

加分项

1. 01

   在acm/icpc、noi/ioi、kaggle 等竞赛中获奖者优先；

2. 02

   有大模型分布式训练（比如deepspeed、megatron、verl、slime等）或者推理框架（比如tgi、vllm、sglang）优化经验，在开源社区有提交过代码者优先；

3. 03

   在sc、osdi、ipdps、tpds、等系统类顶会顶刊发表过文章或者在人工智能顶会顶刊，比如icml、iclr、neurips、acl、cvpr 发表过文章者优先；

4. 04

   有大模型大规模预训练者优先。