推理架构算法工程师

团队介绍 我们是京东云事业部AI Infra团队，致力于前沿的大模型技术创新与应用。我们专注于研发业界领先的大模型算法，构建极致高效的大模型训练与推理平台，提供高吞吐高可用、低成本低延迟的大模型服务。我们的核心使命是高效支持和驱动京东集团内外部的大模型业务生态及智能体应用，涵盖业界主流开源模型和京东自研模型的训练与推理服务。我们团队秉承技术驱动、创新为本的理念，为每一位成员提供广阔的成长空间和富有挑战性的项目。

1. 01

   主导AI推理服务架构设计，实施PD分离、KV池化等技术方案以支撑高并发低延迟场景；

2. 02

   构建AI原生网关与高可用系统，实现异构资源调度、动态路由及安全管控等核心能力；

3. 03

   建立全链路稳定性保障机制，通过监控告警与巡检提升服务可靠性；

4. 04

   将业务诉求抽象为算法问题，推动创新技术方案落地以优化系统性能；

5. 05

   引领架构与稳定性最佳实践，指导团队技术成长并提升交付质量。

1. 01

   具备AI推理架构设计能力，可以主导分布式推理服务架构规划，能针对高并发、低延迟场景落地PD分离、KV池化、通信优化等关键技术方案；

2. 02

   具备云原生平台能力建设经验，统筹AI原生网关及高可用系统，包括异构资源调度、动态模型路由、推理容器镜像加速、安全变更管控等核心能力；

3. 03

   具备系统问题洞察能力，能在复杂分布式系统中识别性能瓶颈与稳定性风险，定位底层缺陷并形成可验证的优化方案；

4. 04

   具备技术方案创新能力，能将业务诉求抽象为算法问题，设计创新性技术方案以提升系统性能与稳定性；

5. 05

   以构建业界领先的AI推理基础设施为长期目标，致力于为客户与业务创造高可靠、高性能的推理服务价值；

6. 06

   符合京东价值观：客户为先、创新、拼搏、担当、感恩、诚信。