AI训推系统

负责大模型/深度学习模型在AI硬件平台上的推理部署、性能调优和交付落地，提升吞吐、降低延迟和资源成本。

负责 vLLM、TGI、TensorRT-LLM、MindIE 等推理框架的适配、优化和问题定位。

设计并落地量化、混合精度、蒸馏、剪枝、算子融合、KV Cache 优化等推理加速方案。

定位并解决推理过程中的性能瓶颈、精度下降、显存不足、算子不支持、服务稳定性等复杂问题。

沉淀推理调优方法论、Benchmark 规范、最佳实践和交付文档，支持重点客户项目落地。

本科及以上学历，并取得相应学位，计算机相关专业，具备扎实的编程能力；

具备对应岗位方向的知识储备，熟悉业界及开源常见解决方案者优先（之一)；

有LLM（大语言模型）推理系统开发或优化经验者优先。