卓驭
多模态大模型预训练算法岗(领航者实习)
RESPONSIBILITIES
岗位职责
构建下一代具备通用场景移动能力的大模型,负责移动基座场景下原生多模态大模型的预训练算法研发,探索基于世界模型、自回归/Diffusion/FM等生成式架构在端侧/云端的高效训练方案,支撑通用场景移动能力的底座建设;
设计并优化大规模分布式预训练框架,支持十亿至百亿级参数模型的持续Scale Up,解决训练稳定性、收敛效率及长序列建模等核心问题;
研发面向移动场景的视觉-语言-动作联合预训练范式,提升模型在动态环境感知、空间推理及指令遵循方面的基础能力,让模型具备跨场景的通用移动理解能力;
参与预训练数据配比策略研究,设计数据过滤、去重及质量评估机制,构建覆盖多样化移动场景的大规模预训练数据集;
跟踪多模态预训练领域前沿进展(如MoE、多模态融合架构、高效Attention机制等),推动新技术在移动基座场景的快速原型验证与落地,持续夯实通用物理AI的技术底座。
REQUIREMENTS
任职要求
计算机科学、人工智能、电子信息等相关专业本科及以上学历,具有多模态大模型预训练项目经验;
深入理解Transformer架构及预训练技术(如Masked Modeling、CLIP-style对比学习、多模态对齐等),具备从零搭建预训练pipeline的能力;
熟练使用DeepSpeed/Megatron/LLaMA-Factory等分布式训练框架,熟悉模型并行、数据并行、流水线并行等加速策略;
精通PyTorch/Python,具备大规模数据处理及高性能计算优化经验,在顶级会议(CVPR/ICML/NeurIPS/ICLR)发表过相关论文者优先。
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。