AI Infra 工程师（上海）

训练：在PyTorch DDP/FSDP等已有框架上跑通单机多卡到多机多卡训练，处理通信同步问题，做吞吐调优（batch size/梯度累积/学习率）；

推理：用TensorRT/ONNX Runtime完成模型部署，做INT8/FP16/AWQ量化、剪枝，分析延迟和吞吐瓶颈到达标；

CUDA：能编写功能正确的CUDA kernel，理解warp调度和shared memory bank conflict，做基础kernel性能分析；

框架：在已有框架代码库中做bug修复和功能添加，能独立开发新算子和优化Pass；

性能：用Nsight/PyTorch Profiler收集profile，系统分析计算/通信/IO瓶颈，量化优化收益。

本科及以上学历，计算机、软件工程、电子工程、通信工程等相关专业；

精通C/C++、Python、Go中至少一种编程语言，具备良好的编码习惯和工程规范意识；

具备扎实的计算机理论基础，深入理解数据结构、算法、操作系统、计算机网络；

熟悉Linux开发环境，了解基本系统工具和Shell脚本的使用；

了解分布式系统基本原理，对大规模集群的调度、容错、通信机制有一定认知；

了解PyTorch、CUDA编程、NCCL、vLLM、TensorRT、DeepSpeed，或有GPU性能调优经验，加分；

熟悉Kubernetes、Docker等容器化技术及其在AI场景下的应用，加分。