端侧大模型部署与推理优化工程师（具身智能方向）

完成 PyTorch 模型到 ONNX、TensorRT、ONNX Runtime、RKNN 等目标推理引擎的转换、适配和数值验证。

负责 FP16、INT8/INT4、PTQ/QAT、剪枝和蒸馏等优化，平衡任务效果、时延、内存和功耗。

对视觉编码器、语言模型、KV Cache、导航策略、数据预处理和后处理进行端到端 Profiling。

优化算子、数据搬运、内存复用、零拷贝、CUDA Stream、异步流水线及多模型并发调度。

将模型封装为 ROS 2 节点或本地推理服务，建设模型版本管理、性能回归和长时间稳定性验证流程。

计算机、电子、人工智能等相关专业硕士及以上，具有模型部署、推理引擎或嵌入式 AI 经验。

熟练掌握 C++、Python、Linux；深入掌握 TensorRT、ONNX Runtime、RKNN、QNN/SNPE、TVM 中至少一条部署链路。

理解 CNN、Transformer、LLM/VLM 的主要计算与内存瓶颈，能够进行性能分析。

交付过真实端侧项目，能够用 P50/P95 时延、峰值内存、功耗、吞吐和任务精度说明优化结果。 加分项: 具备 Jetson Orin、Rockchip 或国产 NPU 经验；熟悉 CUDA、自定义算子、TensorRT-LLM；有流式多模态、VLA 实时策略、Action Chunking 或机器人多模型调度经验。