上海人工智能实验室
前沿智能体安全青年科学家/青年研究员
RESPONSIBILITIES
岗位职责
研究AI驱动的自动化漏洞挖掘与利用技术,包括构建智能攻防Agent框架,实现多工具协同编排(调试器、反编译器、模糊测试框架、符号执行引擎等),完成从漏洞发现到PoC/Exploit生成的全自动化转化;
参与智能体安全评测相关工作,构建数据测试智能体的安全性能,分析新一代AI的潜在安全风险边界,设计评测体系;
参与解决智能体安全对齐的问题,包括内对齐、外对齐等,和团队合作开发RLVR等强化学习技术,以及对前沿强化学习路线研究,通过训练或推理时对齐提升智能体安全;
主攻前沿AI风险建模、量化识别及可信治理研究,重点攻坚模型对齐失效、数据污染、失控衍生安全风险等关键课题,构建全维度动态风险研判与感知体系。
REQUIREMENTS
任职要求
硕士及以上学历,计算机科学、人工智能、网络空间安全或相关专业背景优先;
ACM等编程竞赛获奖者,熟悉大模型相关研究的前沿进展,有顶会论文(如NeurIPS, CVPR, CCS等)优先;
扎实的编程基础,对数据结构、算法设计基础有深度了解,熟练掌握Python/C++等主流语言一种或多种;
熟悉SFT、RLHF、GRPO等后训练方法和框架,能基于实际业务问题,设计合理、高效训练流程;
有安全领域相关攻防或对齐经验优先。
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。
