联宝(合肥)电子科技有限公司
端侧模型推理优化实习生
RESPONSIBILITIES
岗位职责
参与端侧大模型(VLM/VLA)推理优化相关工作,包括但不限于量化、剪枝、蒸馏、KV Cache 优化、跨模态推理调度、动作序列生成加速等方向。
参与VLM/VLA模型在端侧部署链路的优化与验证,包括模型转换、图优化、算子融合、内存优化、调度优化与性能分析。
跟进主流VLM/VLA模型推理优化技术进展,结合业务场景探索兼顾效果、时延、吞吐、功耗与内存占用的优化方案。
基于真实硬件设备(Jetson等)开展实验,分析不同模型结构、推理策略与硬件平台之间的性能差异,形成可复用的方法论。
REQUIREMENTS
任职要求
计算机、电子、自动化、数学等相关专业硕士及以上,研三优先。
对 VLA / VLM 架构(PI0.5、OpenVLA、RDT、Lingbot-VLA 等)有深入理解,对大模型原理有较好理解,熟悉 Transformer、Attention、KV Cache、主流大模型推理流程者优先。
熟悉至少一个算法或系统相关方向:模型压缩与加速(量化 / 剪枝 / 蒸馏 / 低秩分解)、推理优化算法(speculative decoding / prefix cache / 长序列优化 / 多模态推理拆分与调度)、或高性能计算与系统优化(并行计算 / 算子优化 / 编译优化 / 内存带宽分析)。
熟悉 Python,具备一定 C++ 基础,有 PyTorch 等深度学习框架使用经验。有CUDA编程经验者优先。
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。