京东
推理/训练引擎研发专家(大模型/CTR/端)
RESPONSIBILITIES
岗位职责
负责大模型、CTR模型及端侧模型的推理性能优化与部署,根据业务场景(如LLM多模态生成、推荐/搜索/广告、移动端/嵌入式设备)定制高性能推理解决方案;
针对大模型推理场景,优化推理引擎性能,支持文生图、文生视频等多模态任务的低延迟、高吞吐部署;
在CTR场景中,优化推荐/广告系统的分布式推理框架,通过GPU算子优化、编译优化、图优化等技术提升大规模稀疏模型的服务效率;
负责端侧模型的轻量化部署,通过模型量化、蒸馏、压缩及端上编译优化实现模型在资源受限环境的高效运行;
跟踪前沿推理技术,主导开源项目或关键技术攻关,推动团队在推理性能、成本效率上的持续突破。
REQUIREMENTS
任职要求
本科及以上学历,3-5年机器学习/推理优化研发经验;
LLM方向:需熟练掌握大模型推理引擎的优化技术、大模型多模态/文生图/文生视频等大模型算法;具备扎实的学术能力或者是大模型推理引擎开源项目的负责人,具有大模型推理引擎领域发展的前瞻能力;
CTR方向:需熟练掌握CTR场景的模型推理的优化技术,熟悉推荐、搜索、广告场景的引擎框架和分布式系统;具备扎实的高性能计算、分布式、GPU算子、编译优化、图优化、存储等经验者优先;
端方向:需熟练掌握端上推理的优化技术,熟悉编译优化、端上高性能代码生成、内存优化等;熟练掌握模型优化能力,熟悉模型量化、模型蒸馏、模型压缩等经验者优先。 符合京东价值观:客户为先、创新、拼搏、担当、感恩、诚信。
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。
