Agent在生成内容识别、人机对抗中的应用研究

课题背景： 随着生成式AI技术的爆发，安全领域的边界正在被重塑。一是AIGC内容的泛滥与风险，AI生成的文本、图像、视频等内容被广泛传播，识别内容本质已成为维护网络信任体系的关键；二是LLM和Agent的应用，大大降低了黑产对抗的成本，传统CV与基于规则的人机对抗手段在面对具备自主洞察能力的AI攻击者时显得捉襟见肘。构建能够实时演化、自主决策的安全对抗体系迫在眉睫。 课题挑战： 设计能够兼容多源数据流、具备实时学习反馈机制、进行自主决策的AI生成内容识别及人机对抗工作流，支撑不同业务场景的快速切入，人力与AI高效协同，提升业务场景效果。 具体工作： 研究AI生成内容识别、人机对抗或其它AI安全场景中的先进做法，引入Agent提效工作流，提升相关能力在具体业务场景中的落地效果。

学历和专业要求： 来自网络安全、计算机科学等相关专业的博士同学。 技术技能要求：

1. 01

   有AI+安全相关项目经验（包括但不限于AI生成内容识别、人机对抗等）；

2. 02

   有Agent自学习落地经验，关注前沿技术，学习能力、动手能力及沟通能力强。