美图集团
AI安全策略运营
RESPONSIBILITIES
岗位职责
推进全链路安全策略建设与落地：针对Prompt注入、深度伪造、隐形违规等新型AI风险，设计并落地覆盖多模态图文视频生成与智能Agent交互场景的防控策略，平衡合规风控与用户体验；
优化智能审核规则与安全Prompt工程：持续迭代审核规则，独立评估策略效果，拆解漏拦、误拦Badcase，研判模型能力边界，联动算法团队提升风险识别精准度与场景覆盖率；
跟进风控数据监控与策略迭代：常态化关注拦截率、召回率、体验损耗等核心指标，完成案例复盘和结构化复盘报告，输出优化方案并推动策略迭代，实现风控能力闭环；
开展大模型红队测试与攻防沉淀：常态化开展红队测试与红蓝对抗，主动挖掘模型越狱、提示词攻击、隐性风险等漏洞，沉淀攻防案例库与防御策略，前置防控未知风险；
推进合规策略落地与突发事件处置：跟进AI行业合规监管政策，动态更新安全规则与应急处置流程，协同业务、算法团队推进落地，高效处置线上突发安全事件
REQUIREMENTS
任职要求
本科及以上学历，3年及以上AIGC内容安全、大模型风控、AI安全策略相关经验；
熟悉大模型基础原理与常见安全风险，掌握Prompt工程、模型对齐、红队测试等实操能力，具备风控策略设计、调优及落地经验；
熟悉国内生成式AI、网络内容安全相关法规标准，具备合规落地、风险治理及突发事件处置实战经验；
风险敏感度高，擅长案例拆解与归因分析，能够独立承接专项攻坚，跨团队推动问题闭环。 加分项： · 有多模态产品安全治理经验；
有智能Agent安全治理经验
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理，最终申请以企业官方页面为准。