【Ace顶尖实习生】Large Scale Machine Learning Model训练和推理性能极致优化

【Ace顶尖实习生】Large Scale Machine Learning Model训练和推理性能极致优化 大模型 北京市，上海市 Ace 顶尖实习生计划 本课题研究面向超大规模机器学习模型的极致训练与推理性能优化，覆盖搜索、广告、推荐（搜广推）系统与大语言模型（LLM）两大核心方向。随着模型参数规模从十亿级跃升至万亿级、训练数据从 TB 迈向 PB、在线推理 QPS 持续攀升，底层算力、显存带宽、通信效率与系统稳定性面临前所未有的挑战。本课题致力于在算法、系统、硬件三层协同维度上构建业界领先的端到端解决方案，打造面向异构超大规模集群的极致性能基础设施。 在搜广推方向，研究内容涵盖稀疏 Embedding 的分布式存储与动态扩缩容、HugeCTR/TorchRec 级别的 GPU 训练加速、参数服务器与 AllReduce 混合并行架构、Embedding 通信压缩与流水化、特征工程与样本流的零拷贝优化，以及在线推理的低延迟图编译、算子融合、量化蒸馏与多模型共置调度，目标是在万亿参数稀疏模型下实现训练吞吐与推理时延的双重突破。 在 LLM 方向，研究内容覆盖 3D/4D 混合并行（DP/TP/PP/EP/SP）、MoE 专家路由与 All-to-All 通信优化、长上下文训练（Ring/Context Parallel）、FP8/FP4 低精度训练、RLHF 与强化学习训练框架；推理侧聚焦 PD 分离、Continuous Batching、PagedAttention、Speculative Decoding、KV Cache 分级缓存、量化（GPTQ/AWQ/SmoothQuant）以及面向 H 系列/国产芯片的 Kernel 极致优化（CUTLASS/Triton/CUDA）。