腾讯云-高性能大模型训练/推理网络

课题背景： 随着大语言模型参数量级的爆炸式增长，超大规模AI集群的算力瓶颈已逐渐从单卡算力转移到集群通信能力上。本项目聚焦“高性能大模型训练 / 推理网络”，基于腾讯自研的星脉网络2.0，致力于打通端侧计算节点与网侧交换机，构建端到端的高性能网络架构。通过在芯片、硬件、软件及集群网络算法等关键技术上的全栈自研，全面提升GPU集群的数据吞吐与协同效率，为腾讯内部应用及公有云业务AI大模型训练与推理场景提供坚实底层网络支撑。 课题挑战： 端网协同的极致性能优化：如何在硬件网卡、驱动、传输层协议与网侧交换机之间进行全栈协同设计，打破传统网络协议瓶颈，实现底层通信效率的极限突破； 复杂流量下的动态拥塞控制：在大模型训练的 All‑to‑All、All‑Reduce 等高频突发流量场景下，如何设计并实现高效、灵活的网卡可编程拥塞控制（CC）算法，避免网络拥塞导致的算力闲置； vRDMA协议栈的深度定制与虚拟化：在云原生环境下，如何兼顾 RDMA 的高性能与虚拟化的灵活性，解决vRDMA在多租户隔离、连接大规模扩展及高可靠传输上的技术挑战； 全路径性能瓶颈定位与观测：在复杂的分布式环境下，如何建立从底层网络协议到上层AI框架的端到端观测体系，实现对网络波动、协议异常及计算通信重叠问题的精准识别与快速定位。 具体工作： 你将深入参与到超大规模AI集群高性能网络的架构设计、协议开发与端到端优化中，具体包括： vRDMA核心传输协议开发：深入参与vRDMA传输层的设计与实现，涵盖多路径负载均衡、快速重传机制、大规模连接状态机管理逻辑优化； 端到端训练性能优化：基于vRDMA平台及商业网卡，优化大模型训练中的集合通信库（如 NCCL/RCCL），提升有效带宽与并行效率； 低延迟推理网络优化：针对大语言模型推理场景，利用vRDMA硬件卸载与轻量化协议栈特性，优化Prefill与Decode阶段的通信逻辑，并结合商业网卡技术栈实现高并发场景下的端到端性能加速； 全路径观测与性能分析体系建设：构建跨层次的性能监控方案，打通从网卡硬件计数器、驱动层、传输层协议到AI框架通信算子的全路径数据，实现对训练/推理任务中性能瓶颈的准确识别与根因分析； 可编程拥塞控制与闭环调优：参与自研可编程拥塞控制模块（如DCQCN或新型CC协议）的开发与在线调优，针对不同业务流量特征实现精细化的带宽分配。

1. 01

   包含但不限于计算机、软件工程、人工智能等相关专业博士或优秀硕士；

2. 02

   熟悉高性能网络相关技术，包括 RDMA, IB, libfabric, mpi等；

3. 03

   熟悉机器学习训练过程，特别是训练中的网络通信过程及相关技术和组件，包括 NCCL, DP/PP/TP, Megatron等；

4. 04

   追求极致性能，主动寻求突破。