科大讯飞
AI研究算法工程师-大模型训推框架优化方向(J13368)
RESPONSIBILITIES
岗位职责
负责多个领域的大模型推理加速算法在云端和嵌入式场景研发,包括量化、PD分离、算子优化等技术,支撑讯飞主要的云端和嵌入式推理业务,提升用户体验,降低部署成本;
负责多个领域的大模型训练方案的设计和研发,基于超大训练集群,针对不同任务设计高效分布式系统,联合芯片底座优化训练效率,支撑讯飞星火大模型的长时稳定训练;
负责跟进业界最前沿技术方案(并行技术、量化技术、MoE算法、稳定性保障等),结合实际任务需求和硬件特性,探索业务落地场景;
参与新的大模型结构的设计、性能评估,从训练和推理的成本角度参与模型结构设计和优化。
REQUIREMENTS
任职要求
重点院校硕士及以上学历,计算机、信号处理、自动化、应用数学等相关专业,具备一定的数理统计、模式识别、图像处理等理论知识;
推理方向掌握C/C++和数据结构,了解大语言模型,有CUDA/AscendC/BangC等使用经验优先;训练方向掌握Python/Pytorch,了解工程加速技术,掌握大模型并行训练技术优先;
对大模型训练和推理框架有使用和掌握者优先,如vLLM、SGLang、Megatron等;有AI芯片效率优化和使用经验者优先;
学习能力强,可快速学习掌握新的方案,对LLM的业界新技术和新算法有求知欲。 此岗位为科大讯飞集团统一招聘岗位,人员通过简历筛选、初试、复试、终审等环节后录用
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。