腾讯云—微服务平台—AI 服务流量接入与治理基础设施研究

课题背景： 随着大模型和智能体的快速发展，传统微服务难以满足 AI 服务化、智能体协作、动态能力发现和统一治理需求。模型调用、Agent 协作和工具访问存在接口异构、流式交互、Token 计费及上下文管理等特性，为此，提出 “AI 服务流量接入与治理基础设施”课题，旨在构建一个统一的 AI 基础设施能力，提供服务接入、能力发现、流量治理和生态协同等能力，实现面向未来的 AI 服务治理与平台化支撑 课题挑战：

1. 01

   AI 服务类型复杂，包括 模型（LLM）、Agent、Tool、Skills、Workflow 等多种服务形态，其接口协议（如 OpenAI API、MCP、A2A 等）与调用模式高度异构，统一抽象与标准化治理难度较大

2. 02

   AI 请求具有长连接、流式返回、Token 计费、上下文状态等特征，传统流量治理模型难以直接复用

3. 03

   服务发现转换为动态能力发现、Tool 自动调用、跨 Agent 协作等问题，对AI基础设施元数据建模、能力标签、基于能力的服务发现机制提出更高要求。

4. 04

   在保证高性能与低延迟的同时，实现多模型智能路由、能力统一发现和治理是该课题的关键技术挑战 具体工作： 参与AI 服务流量接入与治理基础设施的核心架构与关键技术研发，建设 AI 网关、Agent 网关与 AI 注册中心，实现模型、Agent、Tool 、Skills等 AI 服务的统一接入、注册发现与治理；研究多模型路由、Agent 协作、MCP 等协议集成，提升 AI 服务的稳定性与生态协同能力，包括以下三方面：

5. 01

   LLM/MCP智能网关：用于优化、管理和保护AI模型的API访问与推理服务，能够优化完善如路由、认证、限流等功能，还能对大模型、深度学习推理进行了增强，提供动态负载均衡、智能流量调度、模型版本管理、A/B测试等能力

6. 02

   智能体网关：集合 AI 注册中心，解决智能体如何行动、协作和完成指定的任务目标。重点解决AI智能体应用在智能体网关的注册、 发现 、注销、以及协同与管理问题，并能够完成存量应用向 A2A 协议的自动化升级能力

7. 03

   统一管理大模型、Agent、MCP、Tool、Skills 等 AI 服务的智能路由与治理，构建统一的 AI 服务接入、能力发现、协议互操作、流量智能控制和治理、智能编排平台能力，保障 AI 服务的稳定运行与生态协同

1. 01

   招聘硕士或博士，专业方向包括但不限于 计算机、人工智能、信息工程、软件工程、自动化、电子工程、应用数学、信息安全；

2. 02

   熟悉大模型（LLM）、智能体（Agent）、多模型网关与服务注册发现相关理论与实践，了解 MCP、A2A 等协议；

3. 03

   扎实的编程与工程能力，熟练掌握 Java、Go、C/C++、Python等至少一门语言；

4. 04

   熟悉分布式系统和云原生架构开发，具备模型调用、路由与流量治理、Agent协作等开发经验者优先；

5. 05

   具备良好的 算法分析、系统设计、架构实现能力，能够承担复杂SI平台及基础设施模块研发。