腾讯营销—优化算法在广告推荐场景的应用研究

课题背景： 在计算广告系统中，点击率（CTR）和转化率（CVR）预估模型是驱动流量变现和保障广告主ROI的核心引擎。现代工业级广告模型通常包含海量的离散特征（如用户ID、广告ID），模型参数量高达千亿甚至万亿级别（主要集中在Embedding层）。 广告数据具有极强的时效性和非平稳性（Non-stationary），广告主的预算调整、新广告的频繁上下线要求模型必须具备极快的响应能力。因此，基于流式数据的在线学习（Online Learning）已成为标配。然而，在面对极度稀疏的高维特征、严重的标签延迟（尤其是CVR转化延迟）以及庞大的分布式计算集群时，传统的优化算法（如基础的Adam、Adagrad或FTRL）在收敛速度、解的稀疏性、泛化能力以及通信效率上逐渐显露出瓶颈。探索更适配广告场景特性的新一代优化算法，是突破当前广告预估精度天花板的关键底层技术。 工作内容：

1. 01

   训练性能与资源优化 参与大规模广告训练平台的性能剖析，识别 GPU/CPU、网络、存储等瓶颈环节并优化； 在给定资源约束下，设计并验证不同模型规模、批大小、并行策略（数据/模型/流水线并行等）的组合方案，提升端到端训练效率。

2. 02

   效果–成本联合优化策略 探索利用 scaling law 进行“效果–成本”联合优化的策略，如自动化选择最优模型规模、训练步数和采样策略； 将相关策略在离线训练及小流量线上实验中进行验证，评估对 AUC、CTR/CVR、收益等指标的影响。

3. 03

   工程实现与平台落地 协助将验证有效的策略沉淀至训练平台配置、调度策略或自动化推荐工具中； 配合团队完成实验系统、可视化分析工具等工程模块的开发与维护。

1. 01

   具备扎实的机器学习 / 深度学习基础，了解推荐系统或广告预估相关概念；

2. 02

   熟练使用至少一种深度学习框架（如 PyTorch / TensorFlow），掌握 Python 编程，具备良好的代码规范与调试能力；

3. 03

   对 scaling law、大模型训练、训练效率优化等方向有兴趣，能阅读相关英文论文并进行复现或改进；

4. 04

   具备较强的数据分析能力，熟练使用常用数据处理与可视化工具（如 Pandas、SQL、Matplotlib 等）；

5. 05

   对分布式训练、GPU 计算、参数服务器 / Embedding 服务等有一定了解者优先；

6. 06

   有大规模训练、推荐/广告实习或项目经历者优先；

7. 07

   自驱力强，能够在不确定问题下主动探索与迭代；

8. 08

   具备良好的沟通协作能力与文档撰写能力，乐于在团队中分享与讨论。