阶跃StepFun
端侧大模型推理优化工程师
RESPONSIBILITIES
岗位职责
核心职责 负责端侧大模型在手机、驾舱及智能硬件等终端的推理部署工作，追求业界领先的端侧推理性能 紧跟端侧大模型推理的前沿技术，将前沿优化方案落地到实际项目中，提升端侧推理性能，减少资源占用 构建全栈端侧大模型推理工具链，保证极致推理性能的同时提升业务交付效率
REQUIREMENTS
任职要求
熟悉LLM、VLM、Omni等主流大模型的架构及演进方向，掌握KV（GQA、MLA）、线性Attention（GDA、KDA）、稀疏Attention（QSA、DSA）、模型结构（MoE、Dense）等主流模块的结构 熟悉ASR（Whisper、Qwen-Audio）和TTS（CosyVoice、Moss-TTS）的主流模型架构，具备语音模型工业落地的部署经验 熟悉Genie、NeuralPilot、llama.cpp、MNN、TensorRT、SGLang、vLLM等至少一款大模型推理框架，掌握投机解码、KVCache内存优化、PromptCache、LMHead分离、ExpertOffload等大模型推理加速技术 掌握CPU（Neon）、GPU（Cuda、OpenCL）、NPU（HVX）侧的高性能算子开发，熟练使用算子开发Agent编写出高效率的底层算子 熟悉高通、联发科、英伟达、国产等至少一款平台，并有丰富的端侧大模型落地经验
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理，最终申请以企业官方页面为准。