京东云推理服务软件开发工程师

团队介绍： 我们是京东云事业部AI Infra团队，致力于前沿的大模型技术创新与应用。我们专注于研发业界领先的大模型算法，构建极致高效的大模型训练与推理平台，提供高吞吐高可用、低成本低延迟的大模型服务。我们的核心使命是高效支持和驱动京东集团内外部的大模型业务生态及智能体应用，涵盖业界主流开源模型和京东自研模型的训练与推理服务。我们团队秉承技术驱动、创新为本的理念，为每一位成员提供广阔的成长空间和富有挑战性的项目。

1. 01

   设计AI推理服务全流程测试方案，覆盖模型接入、请求调度与结果返回等关键链路；

2. 02

   搭建性能与稳定性测试框架，针对延迟、吞吐、并发等核心指标实施压测分析；

3. 03

   构建自动化测试体系，开发可复用的测试脚本与数据集，提升回归测试效率；

4. 04

   制定灰度发布验证机制，协同算法与工程团队确保版本上线质量闭环。

1. 01

   具备AI推理服务全链路测试设计能力，能围绕模型接入、请求调度等环节构建功能与稳定性验证方案；

2. 02

   掌握性能压测与指标分析方法，能够针对延迟、吞吐等核心指标搭建压测框架并识别系统瓶颈；

3. 03

   具备问题定位能力，可结合日志与监控快速定位推理服务异常的根本原因；

4. 04

   拥有技术探索意识，能主动跟进AI Infra领域新工具与最佳实践并应用于测试体系优化；

5. 05

   致力于构建高可靠的大模型推理质量保障体系，以严谨作风追求卓越，将提升服务稳定性视为重要价值贡献；

6. 06

   符合京东价值观：客户为先、创新、拼搏、担当、感恩、诚信。