上海人工智能实验室
服务端开发工程师
岗位职责
负责司南 OpenCompass 评测产品的后端架构设计、功能开发和持续迭代,建设稳定、易用、可扩展的大模型评测平台;
与评测算法及研究团队紧密协作,理解评测算法的原理、输入输出和运行流程,将算法原型转化为可配置、可复用的产品功能和后端服务;
负责评测平台评测任务全生命周期管理,包括任务创建、参数校验、资源申请、调度执行、进度跟踪、异常处理、结果回收及任务重试;
建立数据与模型服务的规范化访问接口,保障产品前端和算法服务的稳定调用。支持开源模型、内部模型及外部模型 API 的统一评测;
负责评测结果的存储、查询、聚合和对比分析,支持排行榜、实验对比、能力画像和评测报告等产品功能;
优化大规模评测场景下的系统性能和稳定性,解决高并发、长耗时任务、分布式调度、服务容错及海量实验数据管理等问题;
建设平台的日志、监控、告警、权限控制、操作审计和故障排查能力,保障系统稳定、安全运行;
参与需求分析、技术方案设计、代码评审、测试发布和技术文档建设,持续提升研发效率和代码质量;
负责各类大语言模型及多模态模型的评测任务,完成评测方案设计、任务配置、资源调度、结果校验和分析报告输出;
优化大规模评测任务的执行效率与稳定性,解决分布式推理、并发调用、显存管理、任务容错和结果复现等工程问题;
建设评测数据、配置、实验结果和模型版本的管理机制,保证评测过程可追踪、可复现、可对比;
参与评测基准和数据集建设,包括数据清洗、质量检查、污染检测、样本分析及评测指标设计;
与算法研究、模型训练及产品团队紧密协作,根据模型迭代需求设计评测方案,为模型能力分析提供依据;
跟踪国内外大模型评测技术的发展,推动优秀评测方法和工程实践在司南OpenCompass评测平台中落地。
任职要求
计算机、软件工程、人工智能或相关专业本科及以上学历;
具备扎实的计算机基础,熟悉数据结构、网络编程、操作系统、数据库和常用软件设计模式;
熟练掌握 Python、Go 或 Java 中至少一种后端开发语言,具备良好的代码设计和工程实现能力;熟悉 Python 者优先;
熟悉 FastAPI、Django、Flask、Gin、Spring Boot 等至少一种主流后端开发框架;
熟悉 MySQL、PostgreSQL 等关系型数据库,具备数据库表设计、事务处理、索引设计和 SQL 性能优化能力;
熟悉 Redis、消息队列及异步任务框架中的一种或多种,能够设计长耗时任务的异步执行、状态管理、重试和容错机制;
具备 Kubernetes 基本概念与使用经验,理解 Pod、Deployment、Service、容器化部署等基础机制;
熟悉任务调度、分布式系统或数据处理系统相关经验者优先;
具备良好的系统设计能力,能够设计高并发、高可靠的服务架构;
具备评测算法技术的理解与工程转化能力,能够阅读算法方案、原型代码,梳理算法流程和工程边界,并将其封装为稳定、可配置、可维护的产品功能;
有AI平台、机器学习平台、评测系统、实验管理平台(Experiment / Benchmark) 相关经验者优先。
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。
