AI Infra 研究工程师（弹性算力与大模型推理方向）

岗位介绍 我们正在建设面向大模型的弹性算力与推理基础设施，通过资源池化、动态调度和推理系统优化，将分散、动态可用的 GPU 资源转化为高性价比的模型推理能力，提高集群资源利用率，降低推理服务成本。该系统有望在中国电信体系内的多个万卡级算力集群推广应用。 你将参与这一系统从设计、原型验证到生产落地的完整过程，解决算力资源动态变化条件下的资源管理、服务伸缩、运行稳定性与推理效率问题。我们期待你在集群系统或模型推理方向具有扎实积累，并具备跨方向学习与独立解决问题的能力。 核心职责

1. 01

   参与弹性 GPU 资源池建设，研发资源状态感知、动态分配与回收、多租户调度等能力，提高集群资源利用率。

2. 02

   建设适应动态算力供给的大规模分布式推理服务，完善模型部署、资源编排、弹性伸缩与运行恢复能力，在资源变化时保障服务质量。

3. 03

   结合模型特征、硬件资源和网络条件，优化并行策略、请求调度、计算与通信协同及缓存管理，并降低模型加载与资源切换开销，提高有效吞吐与单位算力产出。

4. 04

   完善集群与推理服务的可观测性、故障诊断和自动化运维能力，提升系统可靠性，减少人工干预。

5. 05

   跟踪弹性计算、Serverless 和模型推理领域的研究与开源技术，通过实验评估和工程实现，推动技术方案落地。

硕士研究生及以上 计算机、软件工程、电子信息或相关专业 任职要求

1. 01

   计算机、软件工程、电子信息或相关专业，硕士及以上学历；具备扎实的计算机系统基础，理解操作系统、计算机网络与分布式系统的基本原理。

2. 02

   熟练掌握 Python、Go、C++、Rust 中至少一种编程语言，具备良好的软件工程能力，能够独立完成模块设计、开发、调试与验证。

3. 03

   在以下至少一个方向具有深入的项目实践，并愿意向相关方向拓展： ●集群与资源管理：熟悉 Linux、容器与 Kubernetes，具有资源调度、集群管理、平台控制面或自动化运维系统的研发经验。 ●模型推理系统：理解大模型推理流程及主要性能瓶颈，了解常见分布式推理并行策略及其适用条件，具有推理引擎、模型服务平台或分布式推理系统的开发与优化经验。

4. 04

   理解模型推理服务的性能调优原理，能够结合Nsight System等性能分析工具定位问题，并通过实验验证优化效果。

5. 05

   具备较强的动手能力、自主学习能力和工作主动性，能够通过阅读源码、技术文档与论文快速理解陌生系统，将不明确的问题拆解为可实施、可验证的方案。

6. 06

   具备严谨的研究与实验习惯，能够设计对照实验、分析结果并说明方案局限；具有良好的沟通协作能力，能够推动技术方案从原型验证走向实际应用。 加分项 ●弹性计算与资源调度：具有 GPU 资源池化虚拟化、超分超卖、抢占式调度等技术研发经验；参与过 Kubernetes 调度器、Controller/Operator 等组件开发。 ●Serverless 与动态推理：具有自动扩缩容、冷启动优化、模型快速加载、状态迁移或中断恢复等实践，探索过在动态或可回收资源上运行模型服务。 ●可靠性与智能运维：具有 GPU 集群可观测性、故障根因分析、自动恢复或 AIOps 系统的研发与落地经验。 ●科研与开源：在计算机系统、分布式计算或机器学习系统方向接受过系统科研训练，具有高质量研究成果、开源贡献，或独立承担复杂系统项目的经历。