【2027校招】大模型MaaS架构研发工程师

1. 01

   MaaS 平台架构与研发： 参与 MaaS 系统架构设计与研发，建设公司统一的大模型 API 服务入口。

2. 02

   模型服务治理能力建设： 负责模型接入、请求路由、鉴权、限流、配额、TPM / RPM、灰度发布、SLO、成本统计等核心能力。

3. 03

   请求调度与稳定性建设： 建设多模型、多租户、高并发场景下的请求调度与服务治理能力，提升模型服务稳定性和资源效率。

4. 04

   推理引擎与业务打通： 打通底层推理引擎与上层业务应用，为社区、搜索、审核、企效、AI 应用等场景提供开箱即用的大模型服务能力。

5. 05

   开发者体验优化： 持续优化统一 API、SDK、文档、监控、问题诊断和接入流程，提升内部 AI 应用开发效率。

6. 06

   成本与效率优化： 与推理、压缩、调度团队协同，持续优化模型调用成本、服务延迟和资源利用率。

任职资格

1. 01

   熟悉 Go / Java / Python / C++ 中至少一门语言，具备扎实的服务端研发能力。

2. 02

   有大规模分布式系统、高并发 API 网关、服务治理、流控限流、鉴权、多租户系统等相关经验。

3. 03

   能对复杂业务问题进行系统建模和抽象，具备良好的稳定性、可观测性和工程质量意识。

4. 04

   了解大模型推理服务基本链路，对模型部署、请求调度、服务高可用、SLO 保障等有基本认知。

5. 05

   具备良好的沟通协作能力，能与推理框架、平台、算法和业务团队协同推进项目落地。

加分项

1. 01

   有 LLM / MLLM 模型服务平台、MaaS 平台、API 网关、云服务平台开发经验。

2. 02

   熟悉 vLLM、SGLang、TensorRT-LLM 等大模型推理框架，有模型推理部署或优化经验。

3. 03

   熟悉 Kubernetes、服务发现、负载均衡、弹性扩缩容、限流熔断、灰度发布等服务治理能力。

4. 04

   有面向开发者的平台产品建设经验，理解 API、SDK、文档、接入体验对平台效率的影响。

5. 05

   有成本治理、资源调度、请求路由、模型路由相关经验优先。