腾讯集团
企业微信-大模型训练框架开发工程师-AI Infra(成都/北京)
岗位职责
负责大模型训练/推理场景下的性能分析与优化,重点优化 NVIDIA GPU 及 国产芯片 的计算、显存、通信和调度瓶颈;
负责 CUDA / Triton / C++ 高性能算子开发与优化,包括 GEMM、Attention、MoE、KV Cache、通信融合等方向;
负责多卡、多机训练/推理性能调优,优化 NCCL、NVLink、NVSwitch、InfiniBand/RDMA 等通信链路;
负责基于 NVIDIA GPU 和 国产芯加速卡 的性能调优,提升 GPU 利用率、吞吐、延迟和显存效率;
负责 PyTorch、TensorRT-LLM、vLLM、SGLang、Megatron-LM 等框架下的大模型性能优化落地;
结合 Nsight Systems、Nsight Compute、CUDA Profiler 等工具进行性能分析,定位并解决性能瓶颈。
任职要求
熟悉 C/C++、CUDA 或 Triton 编程,有 GPU 算子开发或性能优化经验;
熟悉 NVIDIA GPU 架构,理解 SM、Warp、Tensor Core、Shared Memory、Memory Coalescing、Occupancy 等概念;
熟悉大模型训练或推理流程,了解 Attention、GEMM、MoE、KV Cache、并行策略等核心模块;
熟悉分布式训练/推理优化,理解 TP、PP、DP、EP、NCCL、RDMA 等技术;
有实际 profiling 和性能调优经验,能够通过工具定位瓶颈并给出优化方案;
有 NVIDIA GPU 或 国产加速卡 实际优化经验者优先;
不要求候选人覆盖 AI 全栈所有方向,只要在大模型训练/推理、GPU 算子优化、分布式通信、性能调优、推理框架等任一方向有较深入理解和实践经验,均欢迎投递。 加分项
有 FlashAttention、GEMM、MoE、通信算子、KV Cache 管理等优化经验;
有大规模训练或推理集群优化经验,参与过百卡、千卡级任务优先;
有 TensorRT-LLM、vLLM、SGLang、Megatron-LM、DeepSpeed 等框架经验;
有国产 AI 芯片适配或优化经验者加分;
熟悉 GPU 通信拓扑、NVLink/NVSwitch/IB 网络优化者优先。
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。