九号公司
AI网关产品工程师
RESPONSIBILITIES
岗位职责
负责公司统一AI网关的架构设计、开发与持续运营,作为全公司大模型调用的统一入口与治理中枢;
对接华为云、阿里云、百度智能云、DeepSeek等主流MaaS厂商API,建立统一模型接入层与适配层;
设计并实现智能路由策略,基于成本、延迟、质量、合规要求进行模型动态路由与流量调度;
建立Token成本治理体系,包括预算管理、限流控制、成本分摊、多维度(部门/项目/用户)报表与分析;
保障AI网关高可用性,实现多MaaS厂商容灾切换、降级策略与全链路SLA监控告警;
为内部业务团队提供统一SDK、API文档与技术支持,推动AI能力在业务侧高效落地
REQUIREMENTS
任职要求
本科及以上学历,计算机、软件工程等相关专业;
3-5年后端开发或API网关相关经验,有AI网关/LLM API网关项目经验者优先;
熟悉主流MaaS厂商API(阿里云、Azure OpenAI等),了解大模型调用机制与Token计费逻辑;
熟悉API网关技术(如Kong、APISIX等),有高并发、低延迟系统设计与调优经验;
熟练掌握至少一门主流编程语言(Go/Java/Python),有良好的编码习惯与工程素养;
有大模型应用开发或LangChain/LlamaIndex等框架使用经验者优先
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。
