AI Infra 资深工程师(J11720)

负责 GPU 服务器集群的搭建、监控、日常运维、故障处理，管理多卡算力资源，保障集群稳定；

本地私有化部署开源大模型，搭建推理、微调环境，使用 vLLM 等框架做推理服务，进行量化、并行性能调优；

维护 Linux、CUDA、Docker 环境，使用 Slurm/K8s 做算力调度，编写运维 SOP 和部署文档；

和算法团队配合，解决训练、推理阶段底层算力和环境问题，规划算力扩容。

3 年以上 GPU 集群运维 + 大模型本地部署经验；精通 Linux、Docker；熟悉 CUDA、NCCL；

熟悉 Slurm 或 K8s 算力调度，熟悉 GPU 监控，能排查硬件、网络、显存故障；

实战落地过本地大模型推理，掌握模型量化、推理加速；有 LoRA 微调环境搭建经验优先；

能写 Shell/Python 脚本，具备独立问题排查能力。