上海人工智能实验室
资深推理系统架构师
RESPONSIBILITIES
岗位职责
负责面向下一代大模型推理系统的核心架构设计与研发,探索并实现更高效率、更低成本的推理服务方案。
深入研究并应用前沿推理优化技术(如模型量化、剪枝、稀疏化、Continuous Batching、PagedAttention 等),并将其落地于实际生产环境。
负责推理框架在复杂负载下的性能调优与稳定性建设,系统性解决高并发、长序列场景中的计算、显存与延迟瓶颈。
带领技术团队攻克推理系统研发中的关键技术难题,输出高质量的代码实现与系统设计文档。
参与制定推理系统的技术演进路线图(Roadmap),推动关键节点的规划与落地。
积极参与开源社区建设,与业界技术专家保持交流,持续跟踪前沿技术动态。
指导团队成员进行技术方案选型、系统设计与代码评审,提升团队整体技术能力。
与模型训练团队、算法团队及基础设施团队紧密协同,推动大模型在复杂业务场景中的高效部署与规模化落地。
REQUIREMENTS
任职要求
计算机科学或相关领域硕士及以上学历,博士优先。
5年以上系统软件研发经验,其中至少3年以上大模型推理或深度学习系统相关经验。
精通C++与Python编程,深入理解CUDA编程模型及GPU硬件体系架构。
对主流推理框架(如vLLM、SGLang、TensorRT-LLM)有深入理解和丰富的二次开发或优化经验。
熟悉常见的推理优化技术体系,对显存管理、计算调度、模型压缩等方向有实践经验。
具备优秀的系统问题分析与复杂问题排查能力,能够独立主导大型模块的研发与交付。
有带领技术团队完成复杂项目的实际管理经验,具备良好的跨团队沟通与协作能力。
有AI系统或高性能计算领域开源项目核心贡献者经验者优先。
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。
