大模型算法与性能工程师

1. 模型分析与性能优化

面向真实客户场景及主流、前沿模型，分析模型结构、执行流程与工作负载，建立性能基线，定位计算、访存、通信和调度瓶颈，明确优化目标与实施路径。

2. 核心算法与算子协同优化

围绕低精度量化、Sparse Attention、KV Cache 压缩与管理及投机解码等方向，开展算法研究、原型实现与验证；协同加速库和算法团队，将优化落实到实际模型，兼顾模型效果与执行效率。

3. 训练与推理端到端优化及验证

协同框架、编译器和通信团队，优化并行策略、显存使用、执行调度及通信计算重叠，提升单卡与多机的吞吐、响应速度和资源利用率；通过可复现的测试，验证优化对数值正确性、训练收敛、推理质量及稳定性的影响。

4. AI 辅助芯片研发与迭代

围绕目标应用，综合模型、运行场景、软件实现、芯片配置及系统拓扑，探索利用 AI 分析芯片设计方案对应用延迟与吞吐的影响，识别关键耗时及与应用目标的差距，为芯片成形前的设计取舍和后续研发迭代提供依据

1. 在以下至少一个方向有较深入的理解或实践：大模型训练与推理优化，低精度量化或 Sparse Attention，KV Cache 压缩与管理或投机解码，GPU 体系结构与性能分析。

2. 理解 GPU 的并行执行机制、存储层次及计算与访存特征，能够结合 vLLM、SGLang 等框架中的模型执行流程，分析工作负载与硬件的匹配关系，定位性能瓶颈并提出可落地的优化方案。

3. 具备良好的技术判断力，能够拆解复杂问题，识别方案中的关键假设、潜在风险和不必要的复杂性，在性能、精度及工程成本之间做出合理取舍。

4. 能设计可复现、可比较的性能与模型效果评测，结合应用需求与硬件约束验证关键假设，判断优化的实际收益及适用边界。

5. 能有效组织 AI 工具参与研发，完成方案探索、实现与调试，并独立审查设计和代码质量，通过可靠的实验验证结果