飞腾信息技术有限公司
大模型训练框架开发
RESPONSIBILITIES
岗位职责
大模型并行训练框架适配开发与优化
大模型推理框架适配开发与优化
根据大模型框架的开发优化需要,对底层计算支撑提出开发需求。
REQUIREMENTS
任职要求
熟悉大模型训练或微调技术,熟悉并行训练框架,对 DeepSpeed、Megatron-LM、Colossal-AI 等框架中一种或多种的内部结构有较深入的分析,有实际项目经验者优先;
熟悉大模型推理优化技术,熟悉大模型推理框架,对 vLLM 或其他大模型推理框架的内部结构有较深入的分析,有实际项目经验者优先;
熟悉 HuggingFace 库,对 Transformers、Diffusers、Accelerate、PEFT、TRL 等中一种或多种的内部实现有较深入研究者优先;
熟练掌握 Python 和 C/C++,了解 Python 与 C/C++ 相互调用方法;熟悉 Linux,熟练掌握 Shell。 薪资: 面议 学历要求(及以上): 本科 工作经验: 5-8年 年龄要求: 不限 其他要求: 无
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。