视频号-AI Infra超大规模训练推理系统研究

课题背景： 团队支撑视频号推荐（千亿样本/天、十TB稀疏模型、十万卡GPU集群）、视频生成模型（预训练/后训练/数据管线）、AI Agent（小微toC）。训练与推理双链路均处于行业最前沿，亟需顶尖人才同时突破训练效率与推理成本天花板。 课题挑战： 【训练侧】十万卡集群训练稳定性与通信拓扑优化；千亿级稀疏模型高效参数服务器与显存管理；视频生成长序列高分辨率训练的内存/算力瓶颈。

【推理侧】视频生成扩散模型多步采样的高时延与高算力成本；十TB稀疏模型在线serving的显存与带宽瓶颈；十万卡训练集群与在线推理混部的资源隔离与时延保障；toC 场景下高并发低时延推理的吞吐/成本极致优化。 具体工作： 主导超大规模训练与推理系统架构设计，攻克分布式训练效率、稀疏模型serving、异构算力调度及高并发推理加速等核心难题。

学历和专业要求： 来自计算机/系统/AI 相关专业的博士同学。 技术技能要求： 精通分布式系统、GPU 集群编程（CUDA/NCCL）、大模型训练框架（Megatron/DeepSpeed）与推理引擎（vLLM/TensorRT-LLM），掌握 C++/Python。 软性素质要求： 技术视野顶尖、攻克硬核难题驱动力强、跨团队技术领导力突出。 竞赛加分： 有 ICPC/CCPC 区域赛金牌、超算三大赛（ASC/ISC/SC）获奖者优先。