47 天前发布已超出 7 天窗口
AI存力芯片工程师(校招)(J10186)
得一微电子岗位职责:负责Transformer大模型在AI芯片端的推理优化与落地,包括模型量化(INT4/INT8)、稀疏化、算子融合、内存复用等核心技术攻关。 参与AI推理框架(如MindSpore、vLLM、TensorRT-LLM等)的开发与适配,完成大模型pipeline的编写、优化与稳定性保障。 对接芯片硬件架构,分析Transformer模型的访存与算力瓶颈,提出硬件友好的算法优化方案。 主导多模块协同开发与跨部门协作,确保大模型推理项目在端侧/边缘设备上的高效交付与性能达标。 持续跟踪AI推理与芯片技术前沿,迭代优化大模… 岗位要求:任职要求 (一)核心硬性要求 底层能力:精通Transformer底层原理,深入理解自注意力机制、多头注意力等核心模块,能从数学与工程层面分析大模型推理瓶颈。 工程经验:具备3年及以上大模型推理优化或AI芯片算子开发经验,有端侧/边缘设备部署实战案例。 技术栈:熟悉至少一种主流AI推理框架(MindSpore/PyTorch/TensorRT),掌握模型量化…
查看详情