阶跃StepFun
Stepstar实习-大模型推理优化系统工程师
RESPONSIBILITIES
岗位职责
参与分布式大模型推理框架的开发与优化,提升推理性能与吞吐量;
针对不同场景的LLM请求特点,优化GPU计算流程,打造业内领先的高效LLM推理引擎;
调研并引入前沿机器学习系统技术,推动系统架构的持续优化升级;
与算法团队深度合作,探索算法-系统协同优化方案,提升整体推理效率
REQUIREMENTS
任职要求
国内外计算机、电子、自动化、软件等相关专业本科及以上学历在校生;
具备操作系统、计算机体系结构等基础知识,对底层性能优化有浓厚兴趣;
熟悉SGLang、vLLM、Megatron等框架,有开源项目贡献或相关经验者优先;
熟悉CUDA编程和GPU上性能优化,有Triton、CUTLASS等开发经验者优先;
具备良好的沟通能力和团队协作精神
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。
