小米
服务端工程师
RESPONSIBILITIES
岗位职责
负责大模型网关核心研发与架构设计,完成需求分析、功能开发、迭代优化,搭建高可用、高性能、可扩展的大模型统一接入管控平台,支撑业务侧模型稳定调用。
设计并实现网关核心能力,涵盖多模型统一适配、路由调度、负载均衡、限流熔断、权限鉴权、协议转换等功能,实现各类大模型服务的标准化接入与集中管理。
优化网关性能与调用体验,针对模型推理耗时、并发承载能力、响应延迟等指标做专项优化,完善缓存与异步处理机制,提升系统吞吐量与稳定性,保障高并发场景平稳运行。
整合上下游服务与外部接口,对接私有化模型、第三方模型API、业务系统、监控平台等,打通模型调用全链路,搭建日志统计、用量核算、监控告警等配套模块。
参与技术评审与技术攻坚,解决研发和上线中的核心技术问题,保障系统稳定性、安全性与可扩展性,跟进行业前沿技术,推动网关持续迭代升级。
REQUIREMENTS
任职要求
本科及以上学历,计算机相关专业,具备扎实的计算机基础与分布式系统基础知识。
精通至少一种主流后端编程语言(Java/Go/Python优先),编码功底扎实,熟悉常用设计模式。
具备良好的跨团队协作能力,能与产品、测试等角色高效配合,快速推进项目落地,具备技术攻坚意识。
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。