【2027校招】AI框架软件开发工程师

1.深入参与PyTorch主流AI框架的底层开发，将Aten算子高效映射并部署到自研GCU硬件上，并参与PyTorch官方生态库（如torchtitan、torchvision及torchlighting等）在GCU上的部署实现

2.负责将SGLang、vLLM、Megatron等高性能训练推理框架与GCU硬件进行集成和打通，针对大语言模型（LLM）等场景进行深度性能调优和功能增强。包括但不限于计算内核优化、内存管理与优化、调度策略改进等，极致提升GCU的利用率和性能表现。

3.参与设计和开发支持GCU硬件的分布式训练与推理框架，支持数据并行、模型并行、流水线并行等多种并行策略，优化多卡和多节点的扩展性与效率。

4.与硬件、编译器、驱动团队紧密合作，进行软硬件协同设计，支持客户等解决框架层的技术问题

1.计算机科学、人工智能或相关专业本科及以上学历，对AI框架、深度学习或高性能计算（HPC）等相关领域有一定认知和了解

2.精通C++和Python编程，具备良好的软件工程能力、代码风格和调试技巧

3.有Pytorch框架用户使用经验，关注Pytorch社区信息以及演进；

4.了解大模型分布式常见分布式策略

5.具备良好的英文技术文档阅读能力

进阶要求：

1.有大语言模型（LLM）推理框架（如vLLM等）或服务框架（如SGLang）的开发或优化经验者优先

2.有大规模分布式训练（如DeepSpeed, FSDP, Megatron-LM）或推理的实践经验，理解其底层通信和并行原理

3.熟悉编译器技术（如MLIR, LLVM, TVM）或计算图优化（Graph Optimization）技术者优先