千问事业部-安全大模型算法专家-LLM方向

1. 01

   负责内容安全防控体系搭建，负责语言大模型防控能力及链路建设，包括风险内容识别能力、越狱识别能力、意图识别能力、安全代答能力等，保证业务安全及大模型应用安全；探索前沿LLM应用方案，落地千问等全业务审核场景；

2. 02

   参与语言大模型风控的数据、算法、决策完整体系建设，端到端拦截业务生成风险的同时，通过安全干预方式提升用户使用体验；负责审核模型的post-training，通过SFT/DPO/GRPO等方式实现审核规则输入及细粒度单轮/多轮风险内容识别；

3. 03

   负责搭建&迭代应急响应机制，实现对突发应急事件的实时拦截、应急处置，搭建自动迭代机制分钟/小时级闭环覆盖新增风险；

4. 04

   负责“数据生成/评估（Synthetic data/LLM-as-a-Judge）-审核模型训练-护栏攻击/风险挖掘（Agent）”的自动化迭代流程搭建，在业务场景打造行业一流的语言大模型安全风控体系。

1、3年以上算法研发经历，计算机相关专业研究生及以上学历；

2. 02

   熟悉LLM后训练方法，具有SFT/DPO/GRPO等模型微调经验；熟悉Chain-of-Thought、LLM蒸馏等大模型业务落地方案；熟悉RAG、Agent等LLM应用方法；

3. 03

   具有LLM应用、内容安全、大模型安全领域相关工作经验优先；

4. 04

   责任心强，积极主动，有良好的沟通能力和团队合作能力；

5. 05

   在机器学习/人工智能相关领域会议或期刊发表过论文或者有竞赛经验者优先。