主分类：平台治理与风险运营
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "千问事业部-安全大模型运营专家-北京",
"job_level": "专家",AI生成
"work_category": "全职",AI生成
"department": "阿里集团",
"location": "北京",
"work_mode": "未披露",AI生成
"job_category": "运营-产品运营"AI生成
},
"company": {
"company_name": "夸克",
"company_industry": "互联网 / 人工智能应用",
"company_size": "未披露",
"company_website": "alibaba.com",
"company_description": "夸克提供AI搜索等人工智能应用服务。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": 3,
"degree": "本科及以上学历",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1、深入研究大模型在对话交互、内容生成等场景下的潜在安全风险（如幻觉、偏见、诱导违规、价值观偏差等）。结合国家相关法律法规及监管要求，制定并持续迭代千问大模型的内容安全审核规则、风险分类分级标准及防御策略；\n2、负责日常及突发风险事件的监测与处置，通过Badcase挖掘与归因分析，快速响应并解决模型输出中的安全问题。针对提示词注入、越狱攻击等新型攻击手段，设计针对性的防御机制与拦截策略，持续降低模型回复的风险率；\n3、协同算法与产品团队，构建高质量的“红队测试”数据集与安全对齐语料。通过Prompt优化、RAG（检索增强生成）干预、安全代答策略等手段，推动模型在安全维度的持续调优，实现“以模护模”的自动化风险拦截；\n4、建立大模型内容安全评估体系，在模型迭代、备案及上线前开展全方位的安全评测与压力测试，输出风险评估报告，确保模型在全生命周期内的合规性与鲁棒性。",
"requirements_text": "1、本科及以上学历，3年及以上互联网内容安全、风控运营或大模型相关经验，熟悉生成式人工智能服务管理暂行办法等相关法律法规；\n2、对大语言模型（LLM）的技术原理有深入理解，熟悉Prompt Engineering（提示词工程）、RAG、SFT（监督微调）等技术在内容风控中的应用；具备极强的风险敏锐度，能够精准识别政治敏感、伦理道德、隐私泄露等各类潜在风险；\n3、具备优秀的数据分析能力，能够通过数据洞察发现风险本质，逻辑清晰，能够独立输出系统性的风险治理方案与策略文档；\n4、具备出色的跨部门沟通协调能力，能够高效联动算法、研发、产品等团队推动策略落地；具备良好的抗压能力和责任心，对内容安全红线有高度的敬畏感。\n加分项\n1、有头部大模型厂商、内容平台安全风控经验者优先；\n2、熟悉红蓝对抗演练，有实际的大模型攻防实战经验者优先。",
"skills": [AI生成
"数据分析",
"沟通协调",
"沟通能力",
"分析能力",
"大语言模型",
"检索增强生成"
],
"preferred_qualifications": "加分项；1、有头部大模型厂商、内容平台安全风控经验者优先；2、熟悉红蓝对抗演练，有实际的大模型攻防实战经验者优先",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://talent.quark.cn/off-campus/position-detail?positionId=100018640028"
}
]
},
"posting": {
"posting_id": "100018640028",
"post_date": "2026-08-24",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://talent.quark.cn/off-campus/position-detail?positionId=100018640028"
},
"fulltext": "千问事业部-安全大模型运营专家-北京\n千问事业部-安全大模型运营专家-北京\n\n基础信息\n职位类别：运营-产品运营\n工作地点：北京\n\n职位描述\n1、深入研究大模型在对话交互、内容生成等场景下的潜在安全风险（如幻觉、偏见、诱导违规、价值观偏差等）。结合国家相关法律法规及监管要求，制定并持续迭代千问大模型的内容安全审核规则、风险分类分级标准及防御策略；\n2、负责日常及突发风险事件的监测与处置，通过Badcase挖掘与归因分析，快速响应并解决模型输出中的安全问题。针对提示词注入、越狱攻击等新型攻击手段，设计针对性的防御机制与拦截策略，持续降低模型回复的风险率；\n3、协同算法与产品团队，构建高质量的“红队测试”数据集与安全对齐语料。通过Prompt优化、RAG（检索增强生成）干预、安全代答策略等手段，推动模型在安全维度的持续调优，实现“以模护模”的自动化风险拦截；\n4、建立大模型内容安全评估体系，在模型迭代、备案及上线前开展全方位的安全评测与压力测试，输出风险评估报告，确保模型在全生命周期内的合规性与鲁棒性。\n\n职位要求\n1、本科及以上学历，3年及以上互联网内容安全、风控运营或大模型相关经验，熟悉生成式人工智能服务管理暂行办法等相关法律法规；\n2、对大语言模型（LLM）的技术原理有深入理解，熟悉Prompt Engineering（提示词工程）、RAG、SFT（监督微调）等技术在内容风控中的应用；具备极强的风险敏锐度，能够精准识别政治敏感、伦理道德、隐私泄露等各类潜在风险；\n3、具备优秀的数据分析能力，能够通过数据洞察发现风险本质，逻辑清晰，能够独立输出系统性的风险治理方案与策略文档；\n4、具备出色的跨部门沟通协调能力，能够高效联动算法、研发、产品等团队推动策略落地；具备良好的抗压能力和责任心，对内容安全红线有高度的敬畏感。\n加分项\n1、有头部大模型厂商、内容平台安全风控经验者优先；\n2、熟悉红蓝对抗演练，有实际的大模型攻防实战经验者优先。\n1、深入研究大模型在对话交互、内容生成等场景下的潜在安全风险（如幻觉、偏见、诱导违规、价值观偏差等）。结合国家相关法律法规及监管要求，制定并持续迭代千问大模型的内容安全审核规则、风险分类分级标准及防御策略；\n2、负责日常及突发风险事件的监测与处置，通过Badcase挖掘与归因分析，快速响应并解决模型输出中的安全问题。针对提示词注入、越狱攻击等新型攻击手段，设计针对性的防御机制与拦截策略，持续降低模型回复的风险率；\n3、协同算法与产品团队，构建高质量的“红队测试”数据集与安全对齐语料。通过Prompt优化、RAG（检索增强生成）干预、安全代答策略等手段，推动模型在安全维度的持续调优，实现“以模护模”的自动化风险拦截；\n4、建立大模型内容安全评估体系，在模型迭代、备案及上线前开展全方位的安全评测与压力测试，输出风险评估报告，确保模型在全生命周期内的合规性与鲁棒性。\n1、本科及以上学历，3年及以上互联网内容安全、风控运营或大模型相关经验，熟悉生成式人工智能服务管理暂行办法等相关法律法规；\n2、对大语言模型（LLM）的技术原理有深入理解，熟悉Prompt Engineering（提示词工程）、RAG、SFT（监督微调）等技术在内容风控中的应用；具备极强的风险敏锐度，能够精准识别政治敏感、伦理道德、隐私泄露等各类潜在风险；\n3、具备优秀的数据分析能力，能够通过数据洞察发现风险本质，逻辑清晰，能够独立输出系统性的风险治理方案与策略文档；\n4、具备出色的跨部门沟通协调能力，能够高效联动算法、研发、产品等团队推动策略落地；具备良好的抗压能力和责任心，对内容安全红线有高度的敬畏感。\n加分项\n1、有头部大模型厂商、内容平台安全风控经验者优先；\n2、熟悉红蓝对抗演练，有实际的大模型攻防实战经验者优先。",
"standard_classification": {
"std_category_code": "B008",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}