Ai Infra 专家
优刻得科技股份有限公司岗位职责:职位描述 负责LLM/VLM大模型的部署与推理性能优化,系统性降低硬件延迟瓶颈,保障高并发下线上服务稳定性(TTFT与TPOT满足SLA要求)。 探索前沿推理加速技术,推动在新型GPU/NPU等硬件上的落地。 岗位要求:职位要求 1. 精通Python,熟悉C++,具备高性能代码开发与算法实现能力。 2. 至少具备以下2个领域中的实践经验: a. Transformers与Diffusers库,深入理解Attention变体(GQA、MLA、KDA、Sparse Attn)及其优化技术(FlashAttention、PagedAttention); b. GPU编程(CUD…