大模型推理优化算法岗(领航者实习)

研发多模态大模型、世界模型推理加速技术，包括蒸馏、投机采样、并行解码、量化压缩、KV-Cache优化等；

负责端到端模型、物理AI大模型的量化算法研究与落地，包括但不限于PTQ、QAT 等；

针对不同硬件后端设计并开发大模型低精度量化算法，支持FP4、FP8、INT8 等精度量化，优化模型计算量与DDR占用；

研发与迭代大模型量化工具链，包括自动量化流程、精度分析工具、误差调试工具等；

与高性能计算工程师协作，针对端/云不同业务场景的模型推理进行软硬协同优化。

计算机科学、信息工程、电子工程、软件工程等专业本科及以上学历；

具备扎实的编程能力，熟练使用C++/Python进行开发；

深入理解模型量化原理与误差分析方法，熟悉大模型常见的推理优化技术；

具备良好的编程风格习惯、文档撰写能力、团队协作和沟通表达能力；

有ACM/ICPC竞赛经验者优先。