滴滴
云平台事业群-(1)后端研发实习生
RESPONSIBILITIES
岗位职责
参与大模型推理引擎的架构设计与核心模块开发,支撑千亿参数模型的高效分布式推理。
研发面向GPU/NPU等异构计算平台的高性能算子,提升硬件利用效率。
参与模型低精度量化,图优化,编译优化等性能优化工作。
攻克分布式推理中的动态负载均衡、通信优化、显存管理等核心技术难题。
跟踪学术界与工业界前沿技术(如vLLM、TGI、TensorRT-LLM等),推进框架迭代
REQUIREMENTS
任职要求
计算机、人工智能、数学或相关专业,硕士及以上在读优先,优秀本科生亦可;
熟练掌握C++/Python,具备大型项目代码架构设计能力.
熟悉Transformer架构及大模型推理相关技术(如FlashAttention、PagedAttention、Continuous Batching).
有实际大模型部署及调优经验,熟悉量化(INT8/FP8)等优化手段.
有GPU/NPU 算子优化经验,有并行计算相关背景者优先.
期望学生毕业时间
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。
