大模型推理优化工程师(J10995)

欢迎加入摩尔线程！我们深耕大模型推理场景与底层算子优化，依托自研 GPU 完成各类 AI 模型适配加速，落地高性能推理解决方案，助力 AI 算力产品商业化落地与开发者生态建设。 岗位职责：

1. 01

   负责各类大模型在自研 GPU 上的推理适配、性能调优与业务部署，解决高并发、长文本、多轮对话等场景的性能与稳定性瓶颈。

2. 02

   聚焦大模型推理全链路优化，落地分布式推理、量化、KV 缓存等核心策略，持续提升推理吞吐、降低推理时延。

3. 03

   跟进 LLM、VLM 等前沿模型技术，完成新模型适配加速与推理能力迭代升级。

4. 04

   结合自研 GPU 架构特性，基于并行编程工具完成高性能推理算子开发与极致调优。

5. 05

   对接业务与研发团队，输出可落地的推理解决方案，沉淀技术内容，共建开发者生态。

任职资格

1. 01

   计算机、人工智能、电子信息等相关专业，本科及以上学历。

2. 02

   熟悉 C++/Python，熟练使用 Linux 开发环境，具备扎实编程基础。

3. 03

   了解 GPU 并行计算原理与 Transformer 大模型基础架构。

4. 04

   具备大模型推理、模型部署或性能优化相关认知与学习热情。

5. 05

   具备良好的学习分析能力、责任心与团队协作意识。