苏州异格技术有限公司
AI推理算法工程师
RESPONSIBILITIES
岗位职责
- 负责AI推理算法的设计与实现
- 配合团队，对推理全链路架构和一体机方案进行评估和优化，推动推理算法与一体机的深度融合，支撑产品迭代。
- 主导推理算法与公司推理一体机硬件的适配优化，进行算子优化、图优化、KV Cache优化，最大化硬件算力利用率。
- 基于主流推理框架（vLLM/TensorRT-LLM等），进行二次开发与算法适配，提升模型推理速度、降低延迟，满足产品性能要求。
- 构建推理性能评估体系，定位并解决推理的性能瓶颈，保障推理服务低延迟、高吞吐运行。
- 跟踪大模型推理算法前沿技术（如MoE推理，长文本推理等）
REQUIREMENTS
任职要求
- 本科及以上学历，计算机、人工智能、软件工程等相关专业，1-3年大模型推理算法相关实战经验。
- 精通Python/C++/CUDA，具备扎实的算法编程基础与良好的工程实践习惯。
- 熟悉主流神经网络架构（CNN/Transformer等)，深入理解大模型推理原理，精通至少一种主流推理框架（vLLM/TensorRT-LLM/LMDeploy/SGLang等），理解其核心机制。
- 熟悉GPU/NPU硬件架构，具备丰富的推理算法与硬件适配经验，有FPGA芯片经验者优先。
- 具备独立解决技术难题的能力，有良好的跨团队沟通协作能力、项目推进能力，对技术有强烈的钻研精神，有突出的持续学习能力和态度。
- 有大模型推理一体机、软硬一体产品相关经验优先
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理，最终申请以企业官方页面为准。