AI研究员（端侧大模型 -量化压缩）

面向手机等资源受限设备，开展模型量化、剪枝与压缩技术研发，在保持模型能力的同时降低计算和存储开销，推动大模型及多模态模型在智能终端落地。 岗位职责

1. 01

   研究大模型及多模态模型的低比特量化技术，包括权重、激活及缓存等关键模块的精度与效率优化。

2. 02

   研究训练后量化、量化感知训练、混合精度等方法，解决量化过程中的误差累积、异常值和能力退化问题。

3. 03

   研究结构化剪枝、非结构化剪枝与稀疏化技术，探索层、通道、注意力模块等不同粒度的模型压缩方法。

4. 04

   研究量化、剪枝与知识蒸馏的联合优化，在降低模型参数量和计算量的同时保持关键任务能力。

5. 05

   结合终端芯片、算子和推理运行环境开展软硬件协同优化，提升压缩模型的实际执行效率。

6. 06

   建设模型压缩与真机评测流程，综合评估模型效果、运行速度、内存占用及功耗表现，推动技术落地。

1. 01

   硕士及以上学历，计算机、人工智能、软件工程、数学、电子工程等相关专业优先。

2. 02

   具备扎实的机器学习、深度学习基础和良好的编程能力，熟练掌握 Python，了解 C++ 者优先。

3. 03

   对模型压缩、端侧推理及软硬件协同优化等方向有浓厚兴趣，并具备一定项目、科研或实习经历。

4. 04

   以下任一方向具有相关经验即可：模型量化、模型剪枝、稀疏计算、知识蒸馏、模型压缩或推理优化。

5. 05

   在相关领域国际顶级会议或期刊发表过论文，或在头部科技公司、研究机构具有相关实习经历者优先。

6. 06

   具备较强的问题分析和工程实践能力，能够围绕模型效果与运行效率开展持续优化。

【AI能力要求】 具备 AI 系统调优与集成能力，可进行模型调参、 pipeline 优化，持续提升 AI 功能的效果与效率（支持模型微调与部署）。