【2027校招】大模型推理引擎研发工程师

1. 推理引擎核心研发

• 参与vLLM、SGLang等开源推理框架的定制开发，包括调度器、KV Cache管理、显存优化等
• 参与高性能算子实现与优化，深入理解Transformer/MoE/MLA等模型在芯片上的运行

2.SOTA模型快速适配

• 建设自动化模型接入流水线，确保新模型发布当天完成国产芯片适配与性能验证
• 负责模型精度验证、性能基准测试与瓶颈定位

3.开源社区贡献

• 向开源项目提交代码（从Bugfix到新特性），逐步成长为社区Contributor
• 跟踪前沿技术（FlashAttention-3、FP8推理、推测解码等）并落地实践

4.性能优化实战

• 运用量化、Continuous Batching、PD分离等技术在真实场景中实现推理加速
• 结合国产芯片架构特性进行算子级调优 开发者生态建设 参与推理SDK设计与开发，编写高质量文档和示例代码，服务全球开发者

★ 必备基础

• 2027届本科/硕士/博士，计算机、AI、软件工程、电子等相关专业
• 扎实的数据结构与算法、操作系统（内存管理、并发、I/O）、计算机体系结构基础
• 熟练掌握C++ 和Python，编码习惯良好
• 了解深度学习基础（PyTorch使用、Transformer基本原理）
• 对LLM/VLM等大模型有基本认知，关注AI前沿
• 良好的英文文献阅读能力，自驱力强，善于独立解决问题

★ 加分项（非必需，但会让你更闪光）

• 有GitHub开源项目贡献（哪怕小PR）或个人技术博客
• 使用过vLLM、SGLang、TensorRT-LLM等推理框架
• 了解CUDA/OpenCL或国产芯片编程
• 有模型量化、剪枝、蒸馏等优化实践
• 有ACM、超算、AI竞赛获奖或相关论文发表

我们更看重你的潜力和热情，而非已有经验。

工作地点：北京 / 上海 / 成都（任选）