阿里云
阿里云智能-异构计算软硬件结合开发高级工程师-深圳/杭州
RESPONSIBILITIES
岗位职责
负责大模型推理系统与全链路仿真领域的技术规划与核心研发,制定仿真技术路线,主导震旦从模型、算子到调度和服务的仿真架构演进。
构建请求调度、KV Cache、并行计算、通信及分离架构的系统模型,刻画异构AI服务器在真实业务负载下的时延、吞吐和资源效率。
贯通流量画像、算子性能模型和系统仿真,形成异构AI服务器的部署策略、容量规划方案、瓶颈归因及系统优化方案,并推动业务应用。
交付仿真引擎、系统模型库、标准接口和方案分析结论,并推动核心技术进入主流推理框架及开源社区。
REQUIREMENTS
任职要求
3年大模型推理系统、分布式系统、性能建模或仿真平台研发经验,能够独立负责仿真模块从设计、实现到校准验收的完整交付。
精通C++和Python,源码级熟悉SGLang、vLLM等推理框架的请求调度、KV Cache、批处理和多机多卡执行机制。
熟悉离散事件仿真、虚拟时钟、Hook/Mock或Trace驱动建模方法,具备P/D分离、TP/PP/EP、通信或容量规划经验。
具备数据分析、开源协作和跨团队推动能力,能够准确区分实测、校准与预测结果;有Serving系统或开源项目贡献经验者优先。
能够熟练使用AI工具辅助代码理解、日志与Trace分析,具备良好的沟通协调能力,能推动开源社区、芯片厂商和业务团队对齐接口、数据口径及验收标准。
有强烈技术热情和好奇心,自驱力和学习力强;
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。