哔哩哔哩集团
bilibili-多模态推理优化工程师
RESPONSIBILITIES
岗位职责
推理引擎架构自研:针对视频大模型时空迭代、长序列生成特性,设计端到端专属推理架构,完成链路拆解、模块标准化,搭建适配视频场景的训推一体推理底座。
底层模块与算子开发:独立研发视频模型专属时序推理、扩散采样、帧间交互等核心模块,手写高性能CUDA自定义算子,补齐通用框架能力短板,保障推理链路稳定可扩展。
推理工程化落地:负责模型权重适配、格式转换与推理链路闭环,实现视频生成、视频理解全场景推理标准化,支撑模型快速迭代与批量上线。
分布式推理底座搭建:完成 GPU全系列适配,设计实现单机高性能、多机分布式并行推理架构,支撑高清、长视频大规模推理部署场景。
工具链与体系建设:搭建推理评测、调试、效果对齐工具链,制定研发与部署规范,构建完整的视频大模型推理工程体系,赋能团队高效迭代
REQUIREMENTS
任职要求
本科及以上学历,计算机、人工智能等相关专业,3年以上大模型推理引擎架构自研、底层开发经验,有视频/多模态时空模型开发经验优先。
精通C++/CUDA与GPU并行计算,具备独立开发自定义高性能算子、重构推理链路的实战能力。
熟悉TensorRT、ONNX Runtime、vLLM等主流推理框架底层原理,具备框架二次开发与定制化改造能力。
深入理解Transformer、Diffusion模型架构,熟悉视频大模型时序推理、帧迭代生成、时空注意力机制核心逻辑。 加分项
有视频生成/理解大模型推理引擎从零搭建、工业级落地经验。
具备分布式推理、动态调度底座自研经验,可独立搭建端到端推理工程体系。
熟悉训推协同优化,可联动训练团队解决训推不一致、模型适配等底层问题。
有开源推理框架贡献、算子开源、技术专利等相关沉淀
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。
