上海人工智能实验室
大模型安全智能体青年研究员/工程师
RESPONSIBILITIES
岗位职责
参与安全场景下的大模型训练和智能体研发,围绕模型后训练、Agent 能力构建、任务环境及自动化评测开展研究与工程实践,将算法方案转化为可训练、可运行和可验证的智能体系统。
参与大模型训练与后训练,包括数据及轨迹构建、SFT、强化学习、奖励设计和效果评测;
研发安全场景智能体,实现任务规划、工具调用、环境交互、记忆管理和反思纠错等能力;
构建安全、代码和长程复杂任务,研究模型的风险识别、权限理解、可靠执行和异常恢复能力;
参与 rollout、模型推理、任务环境和自动验证等训推框架建设,保障实验效率、稳定性和可复现性;
分析模型训练与 Agent 执行轨迹,定位任务失败、奖励投机、工具异常和安全风险,并形成数据及算法改进闭环。
REQUIREMENTS
任职要求
了解大语言模型的训练与后训练流程,在模型训练或 LLM Agent 开发方面具有实践经验;
熟练使用 Python、PyTorch 等工具,能够独立完成模型实验或多模块智能体系统开发;
熟悉 SFT、强化学习、工具调用、RAG、规划或自动化评测中的一种或多种技术;
具备基本的 Linux、Docker 和工程环境搭建能力,能够完成可复现的训练与评测实验;
具备良好的问题分析和任务拆解能力,对安全智能体、Agentic RL 或模型安全有长期兴趣。 加分项 有 Agentic RL、Coding Agent、Computer-Use Agent 或长程任务智能体经验; 有分布式训练、模型推理、rollout 系统或自动验证器开发经验; 有模型红队、提示注入防御、权限控制、网络安全或代码安全经验; 有高质量论文、开源项目、竞赛或完整 AI 系统交付经历。
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。
