AI Infra 开发工程师（北京）

1、围绕公司自研 3D-NPU 芯片，参与 AI 推理基础设施的设计与开发，包括 PyTorch Backend、算子库、运行时及推理框架适配等；

2、负责大模型推理系统的工程化落地与性能优化，涵盖模型加载、显存管理、计算调度、算子融合、连续批处理和 KV Cache 管理等关键模块；

3、参与多卡、多机及超节点推理能力建设，开发和优化设备通信、集合通信、任务调度及分布式部署等基础组件；

4、打通硬件、编译器、运行时/驱动和框架全链路，定位计算、访存、通信及资源调度等方面的性能瓶颈，推动问题闭环和产品性能持续提升。；

5、建设 AI Infra 相关工程平台与工具链，包括自动化测试、性能评测、故障诊断、监控分析及持续集成体系；

6、参与推理框架及基础软件的架构设计、代码开发和质量建设，保障系统的高性能、稳定性、可扩展性与易用性。

1、熟练使用 AI 编程及研发辅助工具，具备运用 AI 工具分析和解决复杂工程问题的能力。

计算机、电子工程、微电子、自动化等相关专业本科及以上学历；

2、具备扎实的编程基础，熟练掌握 C/C++、Python，熟悉数据结构、算法、操作系统及计算机体系结构；

3、具备良好的工程实践能力，熟悉 Linux 开发环境及 Git、CMake 等常用工具，能够独立完成代码调试、性能分析和问题定位；

4、熟悉 GPU、NPU 等异构计算体系结构及内存层次，掌握 CUDA 编程；或具有 Triton、OpenCL、ROCm 等相关开发经验；

5、熟悉 PyTorch 等主流深度学习框架，了解模型执行、算子调度、显存管理及分布式通信等底层机制；

6、具备良好的沟通协作能力、责任心和技术学习能力，能够参与复杂系统的协同开发与交付