大模型压缩与后训练算法工程师
影微创新岗位职责:岗位概述 我们做大模型在端侧芯片和板卡上的落地,覆盖量化、编译和推理运行时,模型最终在客户的板子上运行。这个岗位负责让小模型“又小又准”:用蒸馏、量化感知训练(QAT)和剪枝恢复,把模 型压到端侧算力能承受的规模,同时守住精度。 需要能独立跑通“数据 → 训练 → 评测 → 量化上板”的完整闭环。 1. 负责端侧大模型(1B–8B,含多模态 VLM)的压缩训练,包括知识蒸馏(logits 蒸馏、数据蒸馏、推理链蒸馏)、量化感知训练(int4 / int8)和结构化剪枝后的精度恢复。 2. 针对客户场景做领域适配:构… 岗位要求:1. 计算机、人工智能、电子或数学等相关专业,硕士及以上;实战经验突出的本科亦可。 2. 2 年以上大模型或深度学习训练经验,至少主导过一个蒸馏、QAT、剪枝或 SFT 项目,并做过完整的精度评测。 3. 熟练使用 PyTorch,理解 Transformer 结构和训练细节(优化器、学习率调度、混合精度、显存优化)。 4. 用过 Hugging Face…