研发储备生（模型推理）

模型推理方向

1. 01

   推理性能攻坚：负责大模型推理系统的架构设计与性能优化，主攻高吞吐、低延迟、高并发，让每一张GPU榨出最大价值；

2. 02

   引擎深度适配：推进 vLLM/SGLang/TensorRT-LLM 等推理引擎在帆一智算平台的深度适配，支持多种模型结构与异构硬件（NVIDIA/国产芯片）；

3. 03

   部署流程产品化：优化模型一键部署流程，支撑7日内新模型快速上架，推动大模型在MaaS生产环境的低延迟、高并发落地；

4. 04

   成本优化创新：参与 Prefix Caching、Continuous Batching、投机采样等前沿优化，直接降低平台单Token推理成本。

1. 01

   计算机、人工智能、软件工程及相关专业，本科或硕士应届毕业生。

2. 02

   熟悉Go/Java/Python/C++中至少一门语言，具备扎实的编程和AI Coding能力，熟悉高性能计算相关技术;

3. 03

   熟悉主流深度学习框架，了解模型推理流水线及底层执行机制;

4. 04

   vLLM/SGLang等推理框架实际使用经验;

5. 05

   有大模型推理框架源码优化、CUDA Kernel 优化、FlashAttention、FlashInfer 等相关经验优先