集团安全部-高级AI infra 工程师-大模型推理方向

岗位描述： 负责AI基础设施底层设施的基础研究和技术优化，打造高性能、高可用、高稳定的AI大模型推理全栈架构，支持高并发、超长上下文、agent等场景。 岗位职责：

1. 01

   大模型前沿的推理加速相关的技术的调研和研究，并结合实际业务场景，在实际生产中落地。

2. 02

   大模型底层服务引擎的研发和优化，持续保障服务稳定运行，并且能处理高并发场景。

3. 03

   持续迭代和改进已有的大模型服务的性能和调优，具备创新精神，能抗住压力解决行业内tough的问题。

4. 04

   分别站在算法和工程的视角，对现有的大模型推理服务进行改进，用极致的性价比完成大模型的推理和优化。

岗位要求： ● 精通vllm、sglang、tensorrt-llm的框架。

• 研究生以上学历 ● 有良好的算法功底 ● 具备的大模型服务经验 ● 有大模型优化相关的经验（包括但不限于： 模型量化、模型裁剪、投机解码、扩散模型、MTP、mudusa、模型蒸馏、算子融合、GPU kernel优化等） ● 能有自己在模型性能调优相关的方法论，能熟练借助各种性能分析和评测工具解决性能瓶颈问题的分析。

• 具备强大的工程落地能力。