AI推理平台-AI 推理系统工程师（数据化与可观测性方向）-杭州

1. 负责大规模 AI 推理系统的数据化与可观测性能力建设，设计和开发统一的数据采集、处理、存储与分析平台，支持 Metrics、Logs、Traces、Events、Profiles 等多种运行数据的低成本采集和高效使用。

2. 深入推理引擎和平台的运行机制，建设端到端请求追踪、性能分析和问题诊断能力，实现模型请求、推理执行、资源使用及系统运行状态的关联分析，提升研发效率和线上服务质量。

3. 建设自动化 Benchmark、性能分析和回归检测能力，结合理论性能模型、压测数据和线上实际运行数据，分析系统性能差异，识别性能瓶颈和优化机会，支持新模型、新硬件和新推理引擎的快速适配与性能优化。

4. 基于真实推理 Workload 和运行数据，建立请求特征、实际执行行为与资源消耗之间的量化分析能力，研究 Prefill/Decode、KV Cache、请求调度等关键机制对性能和成本的影响，支持推理系统的容量规划、配置优化和资源效率提升。

5. 建设推理系统的可视化分析和自助诊断工具，帮助研发和运维人员快速发现、定位和分析系统问题；探索利用 AI Agent 实现自动化问题分析、性能诊断和优化建议，持续提升系统研发与运维效率。

6. 与推理引擎、平台、算法及基础设施团队紧密协作，将实际研发和业务问题转化为可复用的数据产品与分析能力，并为 Agent Harness、RSI 等持续优化场景提供数据基础和分析支撑。

1. 计算机或相关专业本科及以上学历，具备扎实的计算机基础、系统设计能力和良好的工程实践能力，熟练掌握 Go、Python、C++、Java 等语言中的至少一种。

2. 具备大规模分布式系统、数据基础设施或可观测性系统的开发经验，熟悉 Metrics、Logs、Traces 等数据模型，理解高吞吐数据采集、流式处理、存储和查询系统的设计原理。

3. 熟悉 Prometheus、OpenTelemetry、ClickHouse、Grafana 等相关技术或同类系统，有监控、日志、分布式追踪、Profiling 或数据分析平台建设经验。

4. 具备较强的数据分析和问题定位能力，能够利用 SQL、Python 等工具分析复杂系统的运行数据，结合 Metrics、Logs、Traces 和 Profiles 定位性能瓶颈、资源浪费及稳定性问题。

5. 理解大模型推理的基本原理，熟悉 Prefill、Decode、KV Cache、Batching、请求调度等核心机制，了解 GPU 计算和资源管理的基本原理。

6. 具备良好的定量分析和实验验证能力，能够设计 Benchmark 和性能分析方案，通过数据和实验评估系统优化的实际收益。

7. 具备较强的自主学习和跨团队协作能力，能够深入理解推理引擎、平台和算法团队的实际需求，独立完成从问题分析、方案设计到工程落地的工作。

加分项

1. 有 vLLM、SGLang 等大模型推理框架的开发、性能分析或优化经验。

2. 有大规模时序数据库、日志系统、分布式 Tracing 或 Continuous Profiling 系统建设经验。

3. 熟悉 GPU Profiling、CUDA、NCCL、eBPF 等底层性能分析技术。

4. 有推理系统容量规划、资源调度、成本分析或自动扩缩容相关经验。

5. 有大规模 AI 训练、推理或 Agent 系统的数据化与可观测性建设经验。

6. 有利用 AI Agent 实现自动化问题诊断、性能分析或研发效率工具的经验。