AI芯片AI-infra训推优化研究

课题背景： AI大模型的热度持续高涨，多种业务场景对AI芯片需求也日渐增长，为了更好的发挥芯片性能，同时提升易用性，芯片软件团队深入挖掘多种算力芯片的极致性能。目前对算力芯片的编译优化和计算加速库优化等关键技术，在业界尚未完全形成统一，仍需专门人才进行创新性的探索。加入我们，结合腾讯内部充满挑战性的应用场景，不断通过技术以提升资源利用率，节省海量算力成本，持续加速全社会云上创新。 课题挑战： DSA芯片上部署模型在计算访存方式未达到最优，需要结合硬件特性在软件实现方面提供创新型和突破型的性能优化方法，尤其比如大模型训练推理场景，如何在硬件限制下最大化的发挥硬件能力是业界难题。持续从框架、计算、集合通信的全局视角优化模型端到端训练和推理的性能。 具体工作： 你将参与到DSA架构AI芯片的性能瓶颈分析工作中，并设计和实现创新型优化方案，涉及方向涵盖高性能算子优化、自动融合算子生成、通信库以及框架层优化。

1. 01

   包括但不限于计算机、电子信息、人工智能、软件工程等专业的博士与优秀硕士；

2. 02

   掌握Python/C++编程语言，熟悉PyTorch、TensorFlow框架以及常用的算子优化手段，具备良好的编程基础与系统设计能力；

3. 03

   加分项：有线性代数和概率论基础，熟悉数学建模、算法设计和优化方法者优先；有FasterTransformer、TensorRT等使用和分析经验者优先。