万亿参数科学基础模型训练系统与算力底座

课题简介

1. 01

   3D并行与MoE通信-计算协同优化，长序列训练的显存与通信体系；

2. 02

   集群级容错、断点续训与MFU极限优化；

3. 03

   面向科学发现在线闭环的推理serving架构（KV Cache/投机采样/量化）。 招聘要求：

4. 01

   博士学历，全球顶尖院校（国内C9/海外QS前50），计算机系统/体系结构/高性能计算方向；

5. 02

   在训练/推理系统方向有国际影响力成果（系统顶会一作或核心开源项目主导者）；

6. 03

   精通CUDA与GPU体系结构，有万卡级集群实战与故障治理经验；

7. 04

   具备系统方向定义与团队带领能力。