大模型AI编译器工程师-北京

开发将AI加速平台的模型优化算子库，一些工作职责包括：

1. 01

   开发转化、融合、拆解算子、以及分配资源的AI模型加速工具；

2. 02

   了解计算平台的指令集和体系结构，开发平台上的算子、并设计内存分配、执行顺序和分区的优化策略；

3. 03

   利用通用运算平台 （CPU/GPU） 开发算子/模型的运行库，模拟其在AI加速平台上的精度和性能；

4. 04

   制定测试计划和测试框架，以验证软件工具链的正确性和有效性。

5. 05

   参与AI编译器的设计和开发，实现各种编译优化pass。

6. 06

   参与编译器算子库开发，与编译器逻辑配合实现高性能计算

1. 01

   计算机科学或相关领域的硕士/博士学位或同等学历；

2. 02

   熟练使用C / C ++ /Python 编程。在AI模型开发框架（如Tensorflow / PyTorch / MxNet）方面有经验； 对AI和深度学习算法有深入理解

3. 03

   了解常见AI模型算子的概念。具备类似 TensorRT / TVM / TF-Lite / MNN / NCNN / ARM-NN 等 AI 推理框架的经验者为佳；

4. 04

   具备 MLIR/ TVM / XLA / Glow / NGraph / LLVM之类的 AI 编译器方面的经验者为佳；

5. 05

   具有优化数值计算库（例如CUDNN / MKL）经验者为佳；

6. 06

   熟悉AI芯片架构/微架构为佳;

7. 07

   熟悉主流LLM serving（如vLLM/TensorRT-LLM/SGlang）系统为佳;

8. 08

   对主流大模型/多模态模型有了解为佳； 如LLama/Qwen/DeepSeek等；

9. 09

   对大模型推理假设方案有了解为佳；如FlashAttention等；

10. 10

    较强的沟通能力，领导能力和职业道德