大模型Infra工程师【2027届】

1. 01

   建设支撑视频大模型的数据、训练、推理、评测和实验平台，包括 GPU 作业调度、分布式训练、模型 serving、多模态数据管线、实验管理、可观测性、成本分析、自动报告和 agent-native research tooling。 你的目标是让研究和数据团队迭代更快、成本更低、系统更稳定；

2. 02

   独立负责一个平台模块，如数据加载、任务调度、实验系统、推理服务

1.2027届本科及以上学历，熟练使用AI agent能力者优先；

2. 02

   熟悉 CUDA/Triton、vLLM、TensorRT-LLM、DeepSpeed、FSDP、Megatron、RDMA、GPUDirect、异构 GPU 资源管理者优先 ；

3. 03

   熟悉 Python/Go/C++，理解 Linux、Docker、Kubernetes、Ray、Slurm、Spark、Kafka、对象存储、PFS、Prometheus、Grafana 等系统；理解 GPU、显存、通信、NCCL、训练吞吐、推理延迟、数据 IO 和系统瓶颈；能主动用 coding agents 提升开发效率