推理系统工程师

负责下一代大模型推理系统中具体功能模块（如计算调度、显存管理、模型加载、算子优化等方向）的研发、性能优化与日常维护，确保该模块在高并发、低延迟场景下的稳定与高效。

深入理解并应用推理优化技术（如Continuous Batching、PagedAttention、KV Cache管理等），在资深工程师的指导下将技术方案落地为高质量代码。

承担所负责模块的性能分析与问题定位工作，针对显存、计算、通信等瓶颈进行系统性调优。

参与模块的技术方案设计、代码评审与文档撰写，保证代码的可维护性与可扩展性。

理解并遵循系统的整体架构设计，参与架构相关的技术讨论与评审。

与模型团队、系统团队紧密协作，理解上层业务需求，完成推理系统与周边组件的对接与集成。

关注Agent应用场景对推理系统的需求（如多轮对话状态保持、工具调用、长上下文推理等），确保推理框架能够高效支撑Agent类业务。

持续跟踪vLLM、SGLang等主流框架的最新进展，保持对技术演进的敏感度。

计算机科学或相关领域本科及以上学历。

2年以上系统软件研发经验，有深度学习推理或训练系统相关经验者优先。

熟练掌握C++（现代C++17/20标准）与Python，具备良好的工程编码习惯与调试能力，熟悉CMake构建体系。

熟悉CUDA编程模型（包括内存层次、Warp调度、Kernel优化等），有实际GPU性能分析和调优经验者优先；了解Cutlass模板库或Tensor Core编程者加分；熟悉NVIDIA Nsight Systems等性能分析工具者优先。

对至少一种主流推理框架（如vLLM、SGLang、TensorRT-LLM）有使用或阅读源码的经验，理解其核心数据结构和调度流程。

了解Agent应用的基本形态（如ReAct循环、工具调用、多轮对话状态管理等），对推理系统如何支撑Agent工作负载有基本的认知和兴趣。

对大型分布式系统或推理系统的整体架构有基本了解者优先。

具备扎实的计算机基础知识（操作系统、计算机网络、数据结构与算法）。

具备良好的问题分析和解决能力，能够在指导下独立完成模块级别的研发任务。

有良好的团队沟通与协作意识，乐于分享与学习。