曙光信息产业股份有限公司
【2027】AI模型系统工程师-天津(J14491)
岗位职责
岗位职责
分析AI模型性能特征:聚焦主流AI模型(如LLMs、多模态大模型、OCR、ASR等),从计算、通信、仿存、I/O四大维度进行模型分析,并结合硬件架构实现软硬协同,定位性能瓶颈,构建依托自研芯片的模型特征图谱。
调研大模型上下游生态技术,包括训练框架、推理框架、评测工具等,筛选和建议适配自身业务优化方向的技术栈;
收集不同客户针对不同模型的SLA/SLO要求,比对分析自身产品与主流产品的差异和优劣势,为性能优化提供建设性建议;
优化方案设计:结合特征分析结果和硬件架构,提出针对模型训练/推理的计算加速、通信优化、I/O效率提升等优化方案,并推动落地验证;
工具链开发与应用:构建自动化性能分析框架,集成PyTorch Profiler等性能分析测试工具,实现端到端的AI模型性能测试与根因定位;
协助和推动研发解决训练不稳定、loss spike、幻觉、灾难性遗忘等核心工程难题;
制定大模型推理性能、效果、稳定性监控标准,搭建可观测、可迭代的推理优化体系;
技术输出:撰写性能分析报告与优化建议,为AI集群设计和优化提供关键数据支持;
任职要求
学历要求:博士学历,人工智能/计算机科学与技术/电子工程/微电子等相关专业;
技术能力:深入理解Transformer系列模型计算原理,了解Megatron、DeepSpeed、vLLM、SGLang等AI框架源码级特性;
熟悉通用大语言模型、多模态大模型的整体算法架构、技术体系;
全面理解AI全链条技术栈,如AI编译,算子,框架,模型应用等;
熟练使用AI模型/芯片/集群相关的性能分析工具链,掌握MPI/NCCL通信协议性能调优方法;
熟悉大模型混合并行策略(TP/PP/EP)及通信优化技术(如AllReduce算法改进);
具备软件与硬件结合的分析能力,可根据模型特性拆解对硬件系统的需求,通过软硬协同优化性能;
具备脚本开发(Python/Bash)或自动化分析工具设计能力,分析模型性能瓶颈,提供优化方向;
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。