阿里巴巴
智能体威胁识别与对抗防御研究-阿里星
RESPONSIBILITIES
岗位职责
负责集团端管云全链路场景下的智能体安全能力建设,针对不同意图与形态的智能体(GUI Agent、API Agent 等)构建高效的威胁识别、行为分析与对抗防御体系;
探索面向 VLA 的对抗样本生成与防御技术,包括跨模型/跨任务可迁移的通用对抗攻击、感知-决策链路的鲁棒性评估及防御机制设计;
探索智能体幻觉问题的检测与缓解,覆盖感知幻觉(界面元素误识别、属性/关系错误)与推理幻觉(指令偏离、逻辑谬误、事实捏造),构建幻觉诊断基准并设计缓解机制;
参与基础安全域模型的安全能力建设与迭代,探索解决安全域样本标注昂贵稀缺、可读性差等核心瓶颈问题。
REQUIREMENTS
任职要求
对大模型相关技术有项目实操及研究经历,有智能体安全、大模型安全、VLA 对抗样本相关经历优先;
对安全攻防领域有较深入的理解,对以下至少一个领域有相关经历优先:移动安全、Web 安全、协议安全、IoT 安全;
具备优秀的研究能力,在 NDSS、IEEE S&P、CCS、USENIX Security 等顶级安全会议有工作发表优先;
在安全风控领域相关比赛中有获奖经历优先;
具备良好的合作与沟通能力,能够推进较为复杂的跨团队协作项目。
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。