助理工程师（大模型量化部署方向）(J33828)

负责具身智能大模型在资源受限的机器人本体芯片上的落地问题，确保实时性、精度与功耗的平衡。

1. 模型量化与精度恢复

- 负责将高精度浮点模型（Float32/16）转换为低精度整型模型（Int8/Int4）。

- 应用PTQ（训练后量化）和QAT（量化感知训练技术），解决量化过程中的精度损失问题，确保机器人在复杂场景下的操作准确性。

- 针对特定硬件架构（如英伟达Jetson系列、地平线、华为昇腾等）进行定制化量化适配。

2. 推理引擎优化与算子开发

- 基于TensorRT、ONNX Runtime或自研推理框架，优化模型推理性能。

- 开发自定义高性能算子，解决带宽瓶颈和显存限制，提升吞吐量（Tokens/s或FPS）。

- 利用性能分析工具定位计算瓶颈，实施延迟优化。

3. 模型轻量化与架构改进

- 跟进学界前沿，对现有模型结构进行剪枝、蒸馏等轻量化改造。

- 探索稀疏化技术，以适应机器人端侧有限的算力与功耗约束。

4. 全链路工程落地协同

- 打通从云端训练到端侧部署的全流程链路，配合嵌入式与芯片工程师完成真机验证。

- 构建数据闭环，通过分析Bad Case反向指导数据清洗与增强策略，提升模型泛化能力。

1、生源资质：本科及以上学历。

2、专业要求：计算机、自动化、机器人、人工智能、机械电子工程等相关专业。

3、证书要求：能正常取得国家颁发的毕业证及学位证。

4、在校表现：党员、优秀毕业生、学生干部等优先考虑。

5、其他要求：身体健康，热爱机器人行业，乐于奉献，敢于挑战。