【Ace顶尖实习生】向量检索在大模型场景的应用和KVCache优化研究

本课题研究如何优化向量检索技术以增强AR模型和扩散语言模型（Diffusion LLM）的推理能力。主要方向包括：

1. 01

   充分利用高性能网络和分布式存储设施，实现千亿级多模态数据的高效检索，结合PD分离、块扩散、并行解码、分层缓存等技术探索检索结果与大模型上下文的最优融合方法；

2. 02

   研究基于向量检索优化大模型推理过程中的KV Cache机制，并打造业界领先的工业级大规模分布式多级KVCache推理架构，为实现小红书AI业务场景下的大规模、低成本、高性能推理提供关键技术支持。

1. 01

   不限年级，本科及以上在读，计算机/人工智能/软件工程等相关专业优先；

2. 02

   编程基本功扎实，具有扎实的数据结构和算法功底，熟悉常用的设计模式、软件架构模式、计算网络、操作系统，擅长Java/C++至少一门语言；

3. 03

   在Github上拥有有影响力的开源项目，或者是行业著名开源项目的核心贡献者优先，参加过ACM竞赛者优先，对推荐前沿技术有了解的优先；

4. 04

   在国际会议或期刊发表论文者（包括但不限于 ACL、EMNLP、NeurIPS、ICML、ICLR等）优先；

5. 05

   良好的沟通协作能力，责任心强，积极主动，能和团队一起探索新技术，推进技术进步。