宁德时代
训推平台及引擎研发工程师
RESPONSIBILITIES
岗位职责
主导推理引擎技术选型与架构设计（vLLM/SGLang/TensorRT-LLM）
设计PD Disaggregation、Mooncake KV Transfer、HiCache三级缓存等高级推理架构
制定TP/PP/EP并行策略与MoE模型部署方案
推动INT4/FP8量化、MTP/投机解码等推理加速技术落地
与GPU厂商（NVIDIA、Moore Threads、华为）对接技术验证
REQUIREMENTS
任职要求
5年以上大规模LLM推理系统经验，精通vLLM/SGLang/TRT-LLM内核
深入理解Transformer/MoE架构、KV Cache机制、CUDA编程
有千卡以上集群推理部署实战经验
熟悉英伟达GPU架构及HBM内存管理
有PD分离架构或分布式KV Cache系统设计经验优先
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理，最终申请以企业官方页面为准。