上海天数智芯半导体股份有限公司
AI Infra开发工程师(2027届)
RESPONSIBILITIES
岗位职责
1. 参与超节点集群调度系统建设,结合GPU硬件拓扑、网络与存储特性,协助实现拓扑感知调度、资源分配与负载均衡能力。
2. 配合调度层与大模型推理框架协同,参与KV Cache共享、PD分离调度策略的设计与落地,优化大模型在线推理延迟,提升GPU资源利用率。
3. 参与GPU集群监控、拓扑可视化与控制平面系统开发,基于Prometheus、Grafana、OpenTelemetry搭建覆盖GPU、高速网络、硬件健康和业务负载的可观测体系。
4. 参与基于BMC/IPMI/Redfish的集群带外管理能力建设,开发集群告警引擎与故障联动机制,支撑硬件故障节点自动隔离、负载迁移与故障自动恢复。
5. 参与千卡/万卡级大模型推理集群部署,协助大规模分布式系统性能调优,排查集群、硬件与推理链路中的各类疑难问题
REQUIREMENTS
任职要求
1. 计算机、电子、自动化等相关专业,本科及以上学历;扎实掌握Linux操作系统与计算机网络基础,熟练使用Go/Python/C++至少一门编程语言。
2. 了解Kubernetes、Docker等容器与云原生技术;接触过Volcano、Slurm、Ray等分布式作业调度框架。
3. 了解Transformer基础原理,熟悉PyTorch,对vLLM或sglang等大模型推理框架有学习或项目实践。
4. 了解大模型分布式推理、KV Cache、跨节点调度等基础概念。
5. 具备较强的问题排查能力与自驱力,能够主动钻研底层软硬件问题,良好的团队协作能力
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。
