推理优化工程师

团队介绍：我们是京东云事业部基础云业务部AI Infra团队，致力于前沿的大模型技术创新与应用。我们专注于研发业界领先的大模型算法，构建极致高效的大模型训练与推理平台，提供高吞吐高可用、低成本低延迟的大模型服务。我们的核心使命是高效支持和驱动京东集团内外部的大模型业务生态及智能体应用，涵盖业界主流开源模型和京东自研模型的训练与推理服务。我们团队秉承技术驱动、创新为本的理念，为每一位成员提供广阔的成长空间和富有挑战性的项目。 岗位职责：

1. 01

   负责推理框架与引擎的研发与优化，深入理解业务场景需求，设计并实现高性能、低延迟的推理解决方案，以支撑大规模AI应用的高效部署；

2. 02

   参与模型部署与推理流程的工程化落地，通过代码优化、算子融合、内存管理等技术手段，持续提升推理服务的吞吐量与稳定性；

3. 03

   跟踪并研究模型压缩、量化、编译器等推理优化技术，推动先进技术在实际业务中的转化应用，助力业务模型的高效运行；

4. 04

   与算法及工程团队紧密协作，参与从模型训练到线上服务的全链路建设，确保推理环节与整体系统架构的契合与高效协同；

5. 05

   负责相关工具链与平台的开发维护，建立性能监控与评估体系，为业务迭代提供可靠的技术支撑；

6. 06

   参与技术方案评审与团队知识分享，推动团队在推理优化领域的技术积累与专业能力提升。

1. 01

   学历要求：本科及以上学历，计算机科学、软件工程、人工智能、数学等相关专业；

2. 02

   工作经验：具备0-3年软件开发或相关领域工作经验，有推理优化、模型部署、高性能计算或分布式系统项目经验者优先；

3. 03

   能力要求： 技术基础：熟练掌握至少一门编程语言（如Python、C++），熟悉常用数据结构和算法； 推理优化能力：理解机器学习模型推理原理，具备模型量化、算子融合、内存优化等实践经验； 系统能力：熟悉Linux开发环境，了解CUDA、TensorRT、ONNX等推理框架或工具，具备性能调优经验； 工程能力：具备良好的代码规范和文档习惯，能够独立完成模块设计、开发与测试；

4. 04

   基本素质： 团队协作：具备良好的沟通能力和团队合作精神，能够与跨职能团队高效协作； 问题解决：具备独立分析和解决问题的能力，能针对性能瓶颈提出有效优化方案； 学习能力：对AI基础设施领域有浓厚兴趣，能持续学习新技术并应用于实际工作； 责任心：工作认真负责，能承受一定工作压力，积极推动项目进展。 符合京东价值观：客户为先、创新、拼搏、担当、感恩、诚信。