【快Star】大模型高性能推理算子工程师-【可灵AI】

1. 01

   和领域内最顶尖的算法工程师合作，一起研发业内领先的大模型推理优化方案，优化目标包括但不限于视频生成大模型、多模态大模型；

2. 02

   调研大模型推理优化方向最新论文，方向包括但不限于低bit量化、通算融合、高性能sparse attention算子等。

1. 01

   计算机、人工智能相关专业，熟悉Linux开发环境，熟练掌握 Python编程语言，熟悉常见算法与数据结构；

2. 02

   熟练使用NSYS、NCU等性能分析工具，有使用vLLM、SGLang、TensorRT-LLM、xDiT等开源框架经验；

3. 03

   熟悉分布式推理场景下的各类通信机制，能够针对特定场景设计最优通信方案，了解 DeepEP、Triton-distributed 等开源通信方案原理；

4. 04

   具有良好的团队合作精神和沟通能力，积极乐观、具备抗压能力、自驱能力；

加分项

1. 01

   有Nvidia GPU （ Hopper、Blackwell ）算子开发经验者优先；

2. 02

   具备Cute、TileLang、Triton等DSL开发经验；

3. 03

   具备低bit量化 kernel 开发经验；

4. 04

   在 ICLR、NeurIPS、ICML 等顶会发表过相关论文。