高级AI研究员（端侧大模型 -量化压缩）-博士

面向手机等资源受限设备，开展模型量化、剪枝与压缩技术研发，在保持模型能力的同时降低计算和存储开销，推动大模型及多模态模型在智能终端落地。

岗位职责

1. 研究大模型及多模态模型的低比特量化技术，包括权重、激活及缓存等关键模块的精度与效率优化。

2. 研究训练后量化、量化感知训练、混合精度等方法，解决量化过程中的误差累积、异常值和能力退化问题。

3. 研究结构化剪枝、非结构化剪枝与稀疏化技术，探索层、通道、注意力模块等不同粒度的模型压缩方法。

4. 研究量化、剪枝与知识蒸馏的联合优化，在降低模型参数量和计算量的同时保持关键任务能力。

5. 结合终端芯片、算子和推理运行环境开展软硬件协同优化，提升压缩模型的实际执行效率。

6. 建设模型压缩与真机评测流程，综合评估模型效果、运行速度、内存占用及功耗表现，推动技术落地。