AI推理平台-AI 性能研发工程师-杭州/北京

本岗位隶属于我们是阿里巴巴大模型推理团队，团队负责集团内部大语言模型 AI Infra推理系统建设和维护，为淘宝、天猫、聚划算、优酷、闲鱼等多个集团业务部门提供强有力的技术支撑和底层服务能力。AI 性能工程师工作内容包括但不限于：

1. 01

   参与大模型推理系统的研发，聚焦于推理框架与各种类型异构硬件的适配和性能优化工作。

2. 02

   实现各类型“卡-模型”匹配度的自动化观测，指导资源调度策略，评估新硬件引入价值。

3. 03

   线上服务的监控与问题定位，加速大模型能力在集团内落地。 如果您是一位后端研发工程师，具有丰富的性能优化经验，希望投身于AI Infra事业又苦于缺少相关经历，也欢迎投递本岗位，我们更看重您的学习和解决问题的能力！

• 计算机及相关专业背景，扎实的计算机基础知识，精通Python/Java中至少一门语言。

• 具有1年以上分布式系统或后端服务系统相关工作经验，具备复杂系统软件的设计和调试能力。

• 熟悉主流深度学习框架（PyTorch/TensorFlow），了解大模型推理技术栈（如 vLLM, TensorRT-LLM, TGI, ONNX Runtime, Triton 等）的基本原理与使用方式。

• 加分项 ○ 有 大模型推理服务（LLM Serving） 开发和落地经验，或熟悉推理引擎架构者优先。 ○ 有高性能计算（HPC）、大规模分布式系统落地应用经验者优先。 ○ 熟悉主流 AI 基础设施开源项目，或有开源社区贡献者优先。