云尖信息
系统运维工程师(AI算力方向) 026
岗位职责
1. 系统与服务器:负责Linux/Windows Server及物理服务器的日常运维、安全加固与容量管理。
2. 数据库与中间件:维护MySQL/PG/Oracle/SQL Server及Redis、Kafka、Nginx等中间件集群,保障高可用与备份恢复。
3. 云原生与虚拟化:管理KVM虚拟化集群,负责K8s/Docker容器集群的部署、排障与弹性策略,熟悉GPU设备插件与GPU Operator。
4. 算力基础运维:负责GPU服务器集群全生命周期运维,包括NVIDIA GPU驱动、CUDA、cuDNN、NCCL、RDMA/InfiniBand网络的部署与调优;使用DCGM等工具监控GPU利用率、显存、温度、功耗,快速定位GPU硬件、网络及软件环境故障。
5. 大模型部署与推理优化:负责大模型(LLM)私有化部署与推理环境维护,掌握vLLM、sglang、TGI、TensorRT-LLM等推理引擎,实施量化(AWQ/GPTQ)、连续批处理等优化,封装OpenAI兼容API,保障推理服务SLA。
6. 算力调度与资源管理:负责Slurm、Volcano、Kueue等调度系统的配置与运维,实施资源配额、优先级抢占、弹性训练、Gang Scheduling等策略;利用MIG/MPS实现GPU隔离与混部,提升集群整体利用率。
7. 化与CICD:熟练编写Shell/Python脚本实现自动化运维,维护Jenkins/GitLab CI流水线。
8. 监控与应急:维护Zabbix、Prometheus+Grafana监控体系,落实备份容灾策略,快速响应并闭环生产故障。
任职要求
1. 学历经验:本科,计算机相关专业,3年以上生产级运维经验(制造业背景优先),有AI算力平台运维经验者优先。
2. 硬核技术:
- 精通Linux系统及常用诊断工具,熟悉Windows管理;
- 精通至少2种关系型数据库的高可用架构(复制/集群);
- 具备K8s生产环境独立运维经验,熟悉容器网络、存储及GPU设备插件(Device Plugin)、GPU Operator;
- Shell脚本能力必须扎实,熟悉Python/Go更佳;
- 熟悉CICD流水线配置及Prometheus监控体系。
3. AI算力专项要求(重点):
-算力基础运维:熟悉NVIDIA GPU硬件架构,掌握CUDA、NCCL、RDMA/InfiniBand、NVLink等部署与调优;熟练使用DCGM、nvidia-smi等工具进行GPU监控与故障排查(如XID报错、NCCL超时)。
-大模型部署:熟悉vLLM、TGI、TensorRT-LLM等推理引擎,掌握模型量化(AWQ/GPTQ/bitsandbytes)、PagedAttention、Continuous Batching等技术;有OpenAI兼容API服务化及SLA保障经验。
- 算力调度:熟悉Slurm、Volcano、Kueue等至少一种调度系统,理解资源配额、优先级抢占、弹性训练、Gang Scheduling;了解MIG、MPS等GPU隔离与混部技术。
4. 加分项:
- 有千卡规模GPU集群运维经验;
- 有AICoding成果用于实际生产解决问题;
- 善于利用AI辅助编程工具提效;
- 有NVIDIA认证、CKA/CKS证书;
- 有开源社区贡献(vLLM、Volcano、DCGM等)。
5. 软素质:适应紧急故障On-Call,逻辑清晰,严谨细心,具备较好的沟通及文档沉淀能力。
招聘信息
招聘部门:基础架构与信息安全部
招聘人数:若干
岗位类别:研发
工作地点:杭州市-萧山区
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。
