阿里巴巴
面向 AI Coding 的下一代高性能推理引擎与智能成本治理体系-阿里星
岗位职责
大模型推理与调度平台建设:主导多模态/LLM 推理服务化与模型调度中台建设,支持多模型共存、降级容错与弹性扩缩容,保障高并发低时延的线上推理体验;
推理加速与资源效率优化:推进推理加速与 GPU 资源复用等优化策略落地,提升模型利用率并降低单位推理成本;
模型成本治理体系:建设模型资源可视化与治理闭环,推动降本动作落地并形成可持续的成本优化机制;
服务端基础架构演进与全球化支撑:负责全球多 Region 架构规划与服务端架构演进,建设统一网关与用户服务体系,支撑业务快速迭代;
SRE 稳定性与可观测性建设:构建全链路监控与自动化运维能力,完善异常响应、容量管理与弹性扩容机制,提升平台可用性;
架构融合与平台化治理:推动团队多款 AI 产品服务端架构融合与服务复用,减少重复投入并沉淀统一能力。
任职要求
学历背景:硕士及以上学历,计算机科学、软件工程或相关专业;具备大模型服务平台/推理系统/分布式系统工程化经验者优先;
编程能力:精通 Go/Java 至少一门语言,代码风格优良,具备良好的工程素养;
架构设计:深度掌握服务化架构设计,主导过复杂分布式系统架构设计与落地;熟悉资源弹性调度算法、成本优化策略及容灾方案设计;
基础设施:熟悉多 Region 架构设计,掌握服务网格、全链路监控、混沌工程实践;具备容量规划、故障自愈系统开发经验,熟悉 K8S 集群部署与优化;
前沿技术:熟悉 AIOps 技术栈,有 AI Agent 框架开发经验者优先;在高并发场景下主导过架构优化,或实现过千万级用户服务端系统者优先。
【加分项】
有大规模 LLM 推理服务(如 vLLM, TGI 等)优化经验者优先;
有开源社区贡献(如 Kubernetes, Istio, Prometheus 等)经验者优先;
在顶级技术会议发表过相关技术论文或拥有核心技术专利者优先;
具备极强的成本意识与数据驱动优化经验者优先。
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。