AI推理平台-AI 推理系统工程师（Harness方向）-杭州

围绕 Agent Harness 与推理系统的协同开展分析和优化。通过观测不同 Agent 的请求模式、上下文变化、工具调用和执行流程，识别推理侧的优化机会。结合 Harness 特性，探索缓存复用、缓存生命周期管理、请求调度和上下文组织等方案，提升 Agent 的执行效率与任务效果。

1. 计算机或相关专业本科及以上学历，具备扎实的编程能力，熟练使用 Python，具备系统开发和数据分析能力。

2. 熟悉大模型推理的基本原理，了解 KV Cache、Prefix Cache、请求调度等机制，有推理框架使用或开发经验。

3. 熟悉 Agent 的基本执行流程，理解上下文管理、工具调用、多轮交互等 Harness 行为及其对推理负载的影响。

4. 能够采集和分析 Agent 执行轨迹与推理指标，识别重复计算、缓存失效、上下文增长和等待时间等问题。

5. 能够基于分析结果实现优化原型，并通过实验评估缓存命中率、响应时延、资源开销及任务效果的变化。

6. 有 Agent 框架开发、推理缓存优化、性能分析或可观测性系统建设经验者优先。