智能引擎-AI 存储研发工程师-大模型推理 / KV Cache / KV 存储方向

面向大模型在线推理场景，建设高性能、低成本、高可靠的推理加速基础设施，支撑高并发、大规模模型服务。你将参与以下工作：

1. 01

   参与大模型推理基础设施研发，围绕 KV Cache 管理、缓存复用、数据存储与传输，提升推理效率和资源利用率。

2. 02

   设计和优化高性能缓存及 KV 存储系统，包括内存管理、并发访问、数据组织、缓存淘汰和持久化等核心能力。

3. 03

   优化跨 GPU、CPU 内存及存储介质的数据流转，支持分布式缓存、存储与资源调度。

4. 04

   定位并解决线上性能与稳定性问题，持续优化系统吞吐、延迟和可靠性。

1. 01

   计算机相关专业本科及以上学历，精通 C/C++，熟悉 Linux 系统开发、调试及性能分析。

2. 02

   具备扎实的数据结构、算法、操作系统、并发编程和网络基础，有高性能系统或分布式系统研发经验。

3. 03

   具备以下任一方向的经验： -大模型推理 / KV Cache：理解 Transformer 推理、Attention 和 KV Cache 等核心机制，有显存管理、推理调度、缓存复用或分布式资源调度经验。 - KV 存储 / 缓存系统：有高性能 KV 存储、存储引擎或分布式缓存研发经验，熟悉索引结构、内存管理、并发控制、缓存淘汰或持久化机制。

4. 04

   具备良好的问题拆解和工程落地能力，能够定位复杂性能与稳定性问题，并推动持续优化。

5. 05

   对大模型推理、AI 基础设施和性能优化有浓厚兴趣，愿意深入理解业务场景并解决系统瓶颈。

加分项

1. 01

   熟悉 vLLM、SGLang、TensorRT-LLM 等推理框架，或有 KV Cache 分层存储、前缀缓存、跨节点复用经验。

2. 02

   有 Redis、RocksDB、LevelDB 等缓存或存储系统的内核研发、深度优化经验。

3. 03

   有 CUDA、RDMA、高性能网络、异步 I/O 或 GPU 与存储协同优化经验。