大模型推理工程师
上海天数智芯半导体股份有限公司岗位职责:1. 基于天数智芯软硬件产品,跟进业界最新模型与推理技术进展,完成大语言模型及多模态/全模态模型的 Day0(新模型发布即可用)适配与定制化开发;打通模型执行路径,完成功能与精度验证,推动新模型快速落地; 2. 负责模型在天数平台的部署上线,开展性能/精度分析与调优,并提供客户侧技术支持与问题闭环; 3. 参与天数智芯大语言模型及多模态/全模态模型推理框架研发,包括服务框架、调度执行、并行/通信与算子开发及集成等能力建设与工程落地 岗位要求:1. 计算机、软件工程、人工智能、自动化、通信、微电子、数学等相关专业优先; 2. 扎实的编程能力,熟练掌握 Python,熟悉 C/C++ ,了解 CUDA 编程及 GPU 算子开发基础,具备良好的代码风格与工程规范意识;有 AI Agent 开发经验更佳; 3. 熟悉至少一种主流大模型推理框架(如 vLLM、SGLang、LMDeploy、TensorR…
