腾讯营销-广告推荐模型 Scaling Up（序列和非序列统一建模方向）

课题背景： 当前主流范式将序列建模与非序列特征交互拆分为独立模块，导致信息流动割裂、优化目标分散、工程维护复杂，模型扩展（Scaling）边际收益快速递减。 而大模型时代的统一骨干架构与缩放定律（Scaling Law） 已在 NLP/CV 领域验证：通过统一表示、统一训练、统一推理，可实现模型能力随参数、数据、算力增长而提升。本课题面向工业级广告推荐，以序列与非序列统一建模为核心，突破传统分治架构瓶颈，构建具备高效扩展能力的新一代广告推荐模型体系，支撑千亿特征、亿级用户、毫秒级推理的规模化落地，提升广告精准度、平台收益与系统效率。 当前挑战：

1. 01

   工程落地的Infa依赖重，广告系统延迟敏感，线上约束严苛；

2. 02

   序列与非序列特征表示异构：行为序列强时序、用户 / 广告 / 上下文高基数稀疏，难以在同一空间对齐与融合。 工作内容：

3. 01

   负责广告推荐模型的Scaling Up，通过千亿样本、特征，结合模型Dense Scaling Up、超长序列建模和多模态技术，持续推动建模技术的升级突破；

4. 02

   跟踪国际顶会与业界最新进展，形成技术路线与专利布局，输出高水平学术论文与技术报告；

1. 01

   硕士研究生及以上学历，计算机科学、人工智能、自然语言处理、多模态等相关领域；

2. 02

   对推荐算法和大模型技术有浓厚兴趣，有较好的算法和数据结构基础，有较好的编程能力；

3. 03

   拥有扎实的机器学习基础，在深度学习、大语言模型（LLM）、多模态等方向有深入的理解，有推荐研究经历者优先；

4. 04

   有国际竞赛经验（包括但不限制与ACM-ICPC、数学建模大赛）或在国际会议发表论文者（包括但不限于KDD、NeurIPS、ICML、ICLR、CVPR等）优先；

5. 05

   优秀的分析问题和解决问题的能力，对解决挑战性问题充满激情。