大模型推理部署工程师-福州

1. 01

   负责 LLM / VLM 模型转换与推理工具链的多核计算图与执行链路优化；

2. 02

   解决大模型落地过程中的关键技术挑战，包括动态 Shape、多卡通信效率、内存瓶颈等问题；

3. 03

   面向异构多核（CPU/NPU/GPU）架构，设计高性能、可扩展的推理部署方案；

4. 04

   深度参与模型量化、图优化、运行时调度等全流程，构建端到端性能优势；

5. 05

   与多团队协作，推动大模型在实际产品中的规模化部署与持续演进

1、3 年以上机器学习算法或工程开发经验；

2. 02

   深刻理解 AI 模型部署全流程（模型转换、量化、图优化、运行时执行），具备实际落地经验；

3. 03

   具备扎实的 C/C++ 编程能力，良好的数据结构与算法基础；

4. 04

   对并行计算或分布式系统有系统认知，具备从全局视角进行软件架构设计的能力；

5. 05

   具备优秀的复杂系统问题拆解能力、沟通协调能力和团队合作意识；

6. 06

   对前沿大模型与系统架构保持高度技术热情。 加分项

7. 01

   有 LLM 推理系统（Prefill / Decode / KV Cache）优化经验；

8. 02

   熟悉多卡通信、异构计算或编译器后端；

9. 03

   有端侧或高性能推理系统落地案例