上海天数智芯半导体股份有限公司
大模型推理工程师
岗位职责
1. 基于天数智芯软硬件产品,跟进业界最新模型与推理技术进展,完成大语言模型及多模态/全模态模型的 Day0(新模型发布即可用)适配与定制化开发;打通模型执行路径,完成功能与精度验证,推动新模型快速落地;
2. 负责模型在天数平台的部署上线,开展性能/精度分析与调优,并提供客户侧技术支持与问题闭环;
3. 参与天数智芯大语言模型及多模态/全模态模型推理框架研发,包括服务框架、调度执行、并行/通信与算子开发及集成等能力建设与工程落地
任职要求
1. 计算机、软件工程、人工智能、自动化、通信、微电子、数学等相关专业优先;
2. 扎实的编程能力,熟练掌握 Python,熟悉 C/C++ ,了解 CUDA 编程及 GPU 算子开发基础,具备良好的代码风格与工程规范意识;有 AI Agent 开发经验更佳;
3. 熟悉至少一种主流大模型推理框架(如 vLLM、SGLang、LMDeploy、TensorRT-LLM 等)或多模态/全模态推理框架(如 vLLM-Omni、Diffusers、xDiT 等),有二次开发或深度调优经历;
4. 深入理解大模型推理核心机制与常见优化技术:熟悉 MoE、各类变种 Attention 等模型机制,清楚各种优化方案的原理与适用场景;
5. 逻辑思维清晰,善于拆解复杂问题;具备强烈的责任心、自驱力与持续学习新技术的热情;沟通表达清楚,能与内部研发及外部客户有效协作。
加分项
1. 对一种推理框架(如 vLLM、SGLang、xDiT、vLLM-Omni 等)具备源码级理解,能独立完成关键路径问题定位或模块级改造;
2. 有 CUDA 编程经验,具备手写算子或 kernel 性能调优经历;
3. 有面向客户的技术支持、交付或问题排查经验,能独立完成从复现、定位到方案落地的闭环;
4. 有高性能计算、分布式系统或 GPU 通信相关工程经验;
5. 有高质量开源项目贡献,包括但不限于特性开发、Bug 修复等实质性贡献。e
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。
