清微智能
AI软件系统架构师
岗位职责
1. 负责端侧AI SoC上的大模型推理软件系统架构、需求分解和技术路线,明确推理框架、算子、编译器、Runtime、驱动固件及部署工具的职责与接口。2. 结合模型特征与片上CPU/NPU计算能力、DDR及片上存储条件,分析Prefill、Decode和视觉语音路径,制定性能、内存及带宽预算与优化计划。
3. 设计片上CPU与NPU之间的任务执行、数据共享、缓存一致性、同步与异常恢复机制,明确Runtime、驱动和NPU固件的接口及资源归属。
4. 组织模型格式、量化与布局、KV及循环状态、CPU回退和编译算子协同等方案比较,明确适用条件、资源约束、兼容目标及验证方法。
5. 组织关键设计与代码评审,参与核心代码和性能原型,推动最小推理链路及端到端集成;协调芯片、硬件、外部BSP和测试团队定位跨层问题。
6. 将架构工作分解为迭代任务与接口交付,建立需求、设计和验证追溯,维护技术文档,指导后续同架构SoC的资源与指令差异适配。
任职要求
1. 负责端侧AI SoC上的大模型推理软件系统架构、需求分解和技术路线,明确推理框架、算子、编译器、Runtime、驱动固件及部署工具的职责与接口。2. 结合模型特征与片上CPU/NPU计算能力、DDR及片上存储条件,分析Prefill、Decode和视觉语音路径,制定性能、内存及带宽预算与优化计划。
3. 设计片上CPU与NPU之间的任务执行、数据共享、缓存一致性、同步与异常恢复机制,明确Runtime、驱动和NPU固件的接口及资源归属。
4. 组织模型格式、量化与布局、KV及循环状态、CPU回退和编译算子协同等方案比较,明确适用条件、资源约束、兼容目标及验证方法。
5. 组织关键设计与代码评审,参与核心代码和性能原型,推动最小推理链路及端到端集成;协调芯片、硬件、外部BSP和测试团队定位跨层问题。
6. 将架构工作分解为迭代任务与接口交付,建立需求、设计和验证追溯,维护技术文档,指导后续同架构SoC的资源与指令差异适配。
加分项
1. 有NPU/GPU/DSP从仿真、FPGA到芯片联调和软件交付经历。
2. 有[外部招聘链接已隐藏]、LLVM、推理框架或加速器SDK的核心开发及开源贡献。
3. 有端侧推测解码、低比特计算、编译与Runtime协同优化或多代芯片适配经历。
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。