AI 推理 Infra 研究员（北京）

1、围绕公司 3D-NPU 芯片产品，研究 PyTorch Backend 及推理框架的优化策略，推动 NUMA 显存管理、多芯互连、分布式通信等方向的技术方案落地；

2、研究面向千亿至万亿参数模型的分布式部署与超节点架构设计，设计适配公司产品的集合通信策略；

3、从硬件执行、编译器、运行时/驱动到框架进行全链路分析，围绕计算编排、内存管理、主机管理及南北向通信网络等环节挖掘性能瓶颈，并提出解决方案；

4、搭建并维护超节点或集群环境下的仿真器原型，有效评估大规模分布式场景下的通信策略；

5、跟踪相关顶级会议研究成果和行业动态，推动前沿技术落地，并产出高水平论文。

1、熟练使用 AI 工具，具备运用 AI 工具解决复杂疑难问题的经验；

2、计算机、电子工程、微电子、自动化等相关专业本科及以上学历，硕士、博士优先；

3、编程基础扎实，熟练掌握 C/C++、Python，具备良好的数据结构与算法基础以及代码调试能力；

4、熟悉 GPU 体系结构及内存层次，熟练掌握 CUDA 编程；或具有 Triton、OpenCL、ROCm 等异构计算开发经验；

5、熟悉 PyTorch 等主流深度学习框架；了解 vLLM、SGLang、TensorRT-LLM 等大模型推理框架及其底层运行机制者优先；

6、具备项目主导能力；在 OSDI、ASPLOS、EuroSys、SC、NSDI、ISCA、MICRO、HPCA 等顶级会议发表过论文者优先