端侧AI系统架构工程师

负责大模型、多模态模型及其他 AI 模型的端侧部署、性能优化和工程化。

围绕 Quantization、Pruning、Distillation、KV Cache、Operator Fusion 等技术降低模型计算和存储开销。

针对 CPU / GPU / NPU / DSP 等异构硬件优化模型执行，提升时延、吞吐、内存占用和能效。

参与 AI Compiler、Runtime、Kernel 和算子优化，解决模型在不同硬件平台上的性能瓶颈和兼容性问题。

建立端侧 AI Benchmark、Profiling 和回归测试体系，持续评估模型与系统版本变化。

推动模型、数据、算法与系统协同优化，在模型效果和系统约束之间形成可量化的取舍。

建设跨平台部署与工具链能力，提高模型从训练环境到产品设备的交付效率。

与模型、AI Infra、系统架构和产品团队协作，推动端侧 AI 能力稳定上线并持续迭代。

硕士及以上，计算机、电子工程、自动化、通信或相关专业背景。

熟练掌握 C / C++ 和 Python，具备扎实的系统编程与性能优化能力。

熟悉 PyTorch、ONNX、TensorRT、TFLite、OpenVINO、MNN、NCNN 等一个或多个模型部署 / 推理框架。

理解深度学习模型结构及推理过程，熟悉量化、蒸馏、模型压缩和图优化中的一种或多种技术。

熟悉 CPU / GPU / NPU 等硬件体系及性能特征，能够使用 Profiling 工具定位系统瓶颈。

具备良好的工程质量意识，重视稳定性、可维护性、自动化测试和跨平台兼容性。

能够与算法和系统团队共同定位问题并推动端到端优化。