腾讯集团
腾讯游戏-大模型训练框架研发工程师/专家
RESPONSIBILITIES
岗位职责
负责构建和优化大规模预训练框架,支持多模态理解、视频生成模型的高效预训练;
支持超长上下文训练,深入优化长序列场景下的分布式训练效率;
深入优化分布式训练框架效率,提升算力利用率与模型吞吐性能;
跟踪前沿研究趋势,探索高效预训练策略,如混合精度训练、稀疏训练等;
与算法、数据、平台团队协作,形成从数据处理到训练部署的全流程自动化解决方案。
REQUIREMENTS
任职要求
计算机科学、人工智能、模式识别、计算语言学等相关专业硕士及以上学历;
精通一种或多种主流深度学习框架(PyTorch、JAX、TensorFlow),具备大规模分布式训练经验;
熟悉LLM/DiT等模型的训练流程,有 Megatron、DeepSpeed、FSDP等大规模训练框架使用经验者优先;
具备扎实的工程实现能力与代码规范意识,熟悉CUDA优化、参数并行、流水线并行等技术。 加分项
有超大规模集群训练优化经验和成功案例;
参与过知名开源项目的开发维护,包括深度学习框架、分布式训练框架等方向;
熟悉大规模训练的可观测建设、诊断分析、故障解决,有稳定性治理经验。
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。