微信 -跨平台大模型计算基础设施

课题背景 随着语言模型、多模态模型及 AIGC 技术的快速发展，AI 正在深刻重塑微信生态中的内容理解、生成、推荐、问答、交互等核心能力。围绕这些场景，上百种不同规模的模型已经被部署在移动、桌面及服务器等端侧与云侧环境的 CPU/GPU/NPU 等异构硬件之上，并适配多种操作系统与复杂业务环境。 面向大语言模型、多模态模型与 AIGC 应用的极致推理与图形图像处理等并行计算与 Co-design 能力及其配套设施，是微信持续投入、打磨和夯实的重要基础能力模块之一，对于丰富产品能力、提升用户体验、降低功耗和节省成本至关重要。 课题挑战

1. 01

   硬件微架构与体系结构层面：大模型对硬件微架构的效率极为敏感。然而不少关键平台的微架构细节并不完全公开，充分挖掘各平台的真实潜力需要深入剖析硬件行为并设计针对性的软硬件协同优化方案。

2. 02

   大模型结构与并行计算层面：大模型的结构与计算模式复杂且持续演进，需要持续跟进算法进展，快速识别工程落地机会，将学术创新转化为系统优化方向。

3. 03

   软件系统框架与架构层面：不同场景和平台在功耗、吞吐、时延等目标上差异显著。如何围绕微信实际业务目标实现合理折衷，同时保持架构的灵活性与可扩展性。

4. 04

   学科交叉层面：要求研究者具备跨层次、跨方向的综合能力，完成从模型到系统的闭环优化。 具体工作 核心目标是面向手机、PC 等终端以及国产 GPU / NPU 加速卡，进行高性能算子开发、推理框架建设与大模型推理优化。 在算子与推理引擎层面，实现跨平台的通用推理性能提升。在端侧与加速卡 NPU 上进行针对性加速的同时，也探索通用的 CPU / GPU 优化方案，从编译、算子、推理引擎多个维度协同发力。在部署形态上，覆盖端云协同、多机多卡推理等多种方案，追求极致的端到端性能。 在模型演进层面，传统 LLM 和 DiT 的结构已趋近成熟，自回归视频模型、扩散语言模型、生成理解统一模型等新兴架构将是重点优化方向。同时，已有模型在我们这里并非"只读"的——我们也会面向推理场景，通过微调、蒸馏、量化、剪枝等手段优化性能、保证质量、降低成本，推动系统与模型的 Co-design。

招聘要求 学历和专业要求：本科及以上学历，专业不限。 加分项： - 在 ACM / ICPC 等代码竞赛中获得银牌及以上，或在 ASC / CPC / PAC 等超算竞赛中取得前 30% 名次 - 以第一作者或主要工程贡献者身份，在 SC、PPoPP、ATC、EuroSys、IPDPS、ICCD、MLSys 等系统方向会议，或 CCF-A 类算法方向会议上发表过论文 技术技能要求 - 对 CPU/GPU/NPU 等硬件体系结构有实践层面的理解，能分析其对算子性能与模型部署的影响 - 能够在端侧或服务端独立完成模型的部署、调试与性能分析 - 在以下一个或多个方向有深入了解：C/C++/CUDA 高性能编程、图编译与算子优化、KV Cache / MoE / DiT 等模型结构的 Training-free 推理优化 软性素质要求 - 具备独立思考与自驱能力，能够围绕研究课题进行深入探索 - 面对新领域能快速上手，具备系统化学习与构建知识体系的能力 - 拥抱 AI，善于利用 AI 工具辅助工作流，对大模型的落地应用有热情与愿景