【快Star】大模型分布式推理框架工程师-【可灵AI】

1. 01

   和领域内最顶尖的算法工程师合作，一起研发业内领先的高性能分布式推理系统，优化目标包括但不限于视频生成大模型、多模态大模型；

2. 02

   对自研多模态推理引擎进行深度优化，提升分布式推理的效率和稳定性；

3. 03

   持续关注并跟进业界技术发展，调研大模型推理优化方向最新论文。

1. 01

   计算机、软件工程、人工智能相关专业，熟悉计算机体系结构基础知识；

2. 02

   具备扎实的分布式推理引擎、调度、网络、存储开发经验，了解模型压缩算法（量化/稀疏等）、高性能Kernel开发技术；

3. 03

   具有良好的团队合作精神和沟通能力，积极乐观、具备抗压能力、自驱能力。

加分项

1. 01

   有Nvidia GPU 算子开发经验者优先；

2. 02

   有突出的学术背景和创新研究能力，在相关领域发表过高水平论文、专利；

3. 03

   对大语言系统优化及相关前沿算法有深入务实的实战经验；

4. 04

   熟悉Kubernetes、Mooncake、Ray、AIBrix、Dynamo、vLLM、SGlang等开源项目。