AI Infra 工程师（28届）

根据个人经验和团队方向，参与以下一个或多个方向： - 建设大模型预训练、微调及强化学习基础设施，支持多机多卡任务编排、资源调度、断点恢复和故障容错。 - 优化分布式训练性能，分析计算、通信、显存、数据读取和负载不均衡等瓶颈，提升 GPU 利用率与训练吞吐。 - 参与大模型推理服务和推理引擎研发，优化批处理、KV Cache、并行策略、模型加载、请求调度及显存管理。 - 建设 GPU 集群的任务调度、监控告警和可观测性能力，定位训练或推理过程中跨框架、网络、存储及硬件的复杂问题。 - 将重复的排障和交付过程沉淀为工具、自动化流程与工程规范，提升算法团队的实验和迭代效率。 - 跟进分布式训练、推理系统、AI 编译器和高性能计算方向的前沿工作，完成工程验证并推动落地

• 计算机、软件工程、人工智能、电子工程或相关专业，本科及以上学历。 - 具备扎实的计算机基础，理解操作系统、计算机网络、数据结构、并发编程中的基本概念。 - 熟悉 Linux 开发环境，熟练使用 Python，并掌握 C++、Go、Rust 中至少一种语言。 - 使用过 PyTorch、JAX、PaddlePaddle 等至少一种深度学习框架，对大模型训练或推理流程有基本理解。 - 具备良好的工程能力，能够编写可维护的代码，并通过日志、监控、Profiler 和最小化实验定位问题。 - 对性能数据敏感，能够使用吞吐、延迟、显存、资源利用率、任务成功率等指标验证优化效果。 - 具备良好的学习能力、责任心和协作意识，愿意处理跨模型、框架与基础设施边界的复杂问题。 实践经验（满足以下任意一个方向即可，不要求全部具备）： - 实现或优化过分布式训练、模型并行、数据并行或强化学习训练流程。 - 使用过 Megatron-LM、DeepSpeed、FSDP、Ray、verl 等训练或调度框架。 - 使用过 vLLM、SGLang、TensorRT-LLM 等推理框架，并做过吞吐、延迟或显存分析。 - 有 CUDA、Triton、算子融合、量化或其他 GPU 性能优化经验。 - 排查过 NCCL、RDMA、网络、存储或多机多卡训练问题。 - 使用 Kubernetes、Slurm 等系统管理过 GPU 任务，或建设过监控、容错与自动恢复能力。 - 有相关开源贡献、技术项目、竞赛成果或系统/机器学习方向的科研经历。 加分项 - 理解张量并行、流水线并行、数据并行、序列并行或专家并行等技术。 - 熟悉连续批处理、Paged Attention、KV Cache、量化、投机解码或计算通信重叠。 - 使用过 Nsight Systems、PyTorch Profiler、Prometheus、Grafana 等性能分析或可观测性工具。 - 对 GPU 架构、NCCL Collective、RDMA、GPUDirect 或高性能存储有实践经验。 - 在 PyTorch、vLLM、SGLang、Megatron-LM、DeepSpeed、verl 等项目中有贡献。 - 有 MLSys、OSDI、SOSP、NSDI、EuroSys、NeurIPS、ICML 等相关论文或高质量技术成果