大模型推理优化工程师

参与自研AI推理芯片的软件系统开发，包括推理Runtime、多芯片多卡协同及模型部署等模块； 负责模型执行框架的开发与维护，参与内存管理与KV Cache优化； 参与多芯片通信调度与分布式推理能力的开发与验证； 参与主流大模型（Llama、Qwen、DeepSeek、MiniCPM等）在自研芯片上的适配、部署与性能调优； 参与面向云端、PC及边缘设备的大模型推理平台的建设与迭代。

硕士及以上学历，计算机科学、软件工程、电子工程或相关专业，2027届毕业生； 熟练掌握C/C++编程语言，熟悉Linux开发环境，具备扎实的数据结构与算法基础； 深入理解计算机体系结构与操作系统原理，对CPU/GPU/NPU等硬件架构有基本认知； 了解PyTorch等主流AI框架，对Transformer架构及大模型推理流程有较深入的理解； 了解vLLM、SGLang、TensorRT-LLM、CUDA、Triton、TVM、MLIR等相关技术或项目者优先； 对系统性能优化有浓厚兴趣，乐于解决从单芯片到多卡集群的大模型推理挑战； 具备良好的团队协作能力和学习能力，能够快速掌握新技术。