主分类：网络信息安全
辅助：AI模型评测工程（仅展示）
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "阿里控股-大模型安全架构师 / 资深专家-杭州/北京",
"job_level": "专家",AI生成
"work_category": "全职",AI生成
"department": "阿里集团",
"location": "北京 / 杭州",
"work_mode": "未披露",AI生成
"job_category": "技术类-安全"AI生成
},
"company": {
"company_name": "阿里巴巴控股集团",
"company_industry": "电子商务 / 云计算 / 人工智能",
"company_size": "未披露",
"company_website": "alibaba.com",
"company_description": "阿里巴巴集团面向消费者和企业提供电子商务、云计算及人工智能服务。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": 5,
"degree": "● 硕士及以上学历",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "作为先进大模型安全体系的核心驱动力，负责构建覆盖“数据-训练-推理-应用”全生命周期的大模型安全防御体系。重点结合评测优先和内生安全等理念，从根本上设计并落地具备安全基因的大模型架构，对抗提示注入、越狱攻击、数据泄露及滥用等新型AI安全威胁，确保大模型在高风险业务场景下的可信、可控与合规。\n【核心职责】\n1. 安全评测体系建设\n● 主导构建面向大模型和智能体（LLM/VLM/Agent）的多维度、自动化安全评测平台，覆盖鲁棒性、合规性、偏见歧视、隐私保护、有害内容生成等关键维度\n● 设计并维护动态更新的对抗性测试集与红队（Red Teaming）攻击库，包括但不限于提示注入、越狱攻击、多轮对话诱导等高级攻击手法\n● 研究前沿性AI的风险滥用和失控问题，例如CBRN、伦理、多智能体失控、AI发展提升网络攻击威胁等问题并进行科学和有效的检测度量\n● 建立客观、可量化的安全评分体系及安全等级认证标准，支撑模型上线准入、灰度发布及持续监控。跟踪前沿对抗攻击与防御技术，定期组织针对内部模型的实战对抗演练\n2. 内生安全机制设计\n● 从架构层面推动“安全左移”，将安全机制内生融入模型预训练、微调（SFT/RLHF）、检索增强生成（RAG）及智能体（Agent）等环节。\n● 研发并落地可插拔的安全对齐技术，如指令鲁棒性增强、安全向量控制、动态系统提示词硬化、自我反思（Self-Correction）机制等。设计针对模型参数、中间激活及梯度的安全检测和隐私保护方案等\n● 探索可解释性安全方法，构建模型决策的内部监控与预警机制，实现安全风险的早期发现与自动响应\n3. 标准制定与生态合作\n● 主导或参与阿里巴巴在制定企业级大模型安全开发规范、评测标准等方面的工作\n● 代表阿里巴巴参与国内外AI安全标准组织的研讨与标准制定。\n● 建立与学界、业界安全社区的联动机制，持续引入前沿攻击防御技术，输出安全白皮书或专利",
"requirements_text": "1. 基础能力\n● 硕士及以上学历，计算机、信息安全、人工智能等相关专业，博士优先。5年以上安全或AI领域研发或研究经验，近期经历专注大模型/生成式AI安全\n● 精通大模型技术栈（Transformer架构、RLHF、PEFT、RAG、Agent）\n● 深入理解对抗机器学习、差分隐私、鲁棒优化、安全对齐、因果与可解释性等核心安全理论\n2. 专业能力\n● 评测方向： 精通主流大模型安全评测基准（如SafetyBench, Do-Not-Answer, AdvBench等），并有自主构建高覆盖度、高难度评测集的实际项目经验\n● 攻防方向： 熟练掌握提示注入、越狱、后门攻击等攻击原理，并能设计有效的防御策略（如输入过滤、输出检测、模型硬化等）\n● 对齐方向： 对“安全-性能平衡”有深刻洞见，具备在模型训练或推理阶段无损或低损植入安全机制的成功案例\n● 工程能力： 扎实的编程能力（Python/C++），熟悉PyTorch/TensorFlow；有大规模分布式训练或推理服务（vLLM, TensorRT-LLM）性能调优经验者优先\n3. 亮点与加分项\n● 在顶级安全/AI会议（S&P, CCS, USENIX Security, NeurIPS, ICML, ACL）上发表过多篇大模型安全相关论文\n● 主导过国家级或行业级AI安全攻防竞赛并取得优异成绩，或相关产品和项目获得国内国际同行的认可\n● 拥有大模型安全相关专利或开源项目核心贡献，关键标准的核心贡献者",
"skills": [AI生成
"Python",
"C++",
"PyTorch",
"TensorFlow",
"机器学习",
"模型训练",
"性能调优",
"大语言模型",
"检索增强生成"
],
"preferred_qualifications": "● 硕士及以上学历，计算机、信息安全、人工智能等相关专业，博士优先；有大规模分布式训练或推理服务（vLLM, TensorRT-LLM）性能调优经验者优先；3. 亮点与加分项",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://talent-holding.alibaba.com/off-campus/position-detail?positionId=100013060011"
}
]
},
"posting": {
"posting_id": "100013060011",
"post_date": "2026-09-16",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://talent-holding.alibaba.com/off-campus/position-detail?positionId=100013060011"
},
"fulltext": "阿里控股-大模型安全架构师 / 资深专家-杭州/北京\n阿里控股-大模型安全架构师 / 资深专家-杭州/北京\n\n基础信息\n职位类别：技术类-安全\n工作地点：北京 / 杭州\n\n职位描述\n作为先进大模型安全体系的核心驱动力，负责构建覆盖“数据-训练-推理-应用”全生命周期的大模型安全防御体系。重点结合评测优先和内生安全等理念，从根本上设计并落地具备安全基因的大模型架构，对抗提示注入、越狱攻击、数据泄露及滥用等新型AI安全威胁，确保大模型在高风险业务场景下的可信、可控与合规。\n【核心职责】\n1. 安全评测体系建设\n● 主导构建面向大模型和智能体（LLM/VLM/Agent）的多维度、自动化安全评测平台，覆盖鲁棒性、合规性、偏见歧视、隐私保护、有害内容生成等关键维度\n● 设计并维护动态更新的对抗性测试集与红队（Red Teaming）攻击库，包括但不限于提示注入、越狱攻击、多轮对话诱导等高级攻击手法\n● 研究前沿性AI的风险滥用和失控问题，例如CBRN、伦理、多智能体失控、AI发展提升网络攻击威胁等问题并进行科学和有效的检测度量\n● 建立客观、可量化的安全评分体系及安全等级认证标准，支撑模型上线准入、灰度发布及持续监控。跟踪前沿对抗攻击与防御技术，定期组织针对内部模型的实战对抗演练\n2. 内生安全机制设计\n● 从架构层面推动“安全左移”，将安全机制内生融入模型预训练、微调（SFT/RLHF）、检索增强生成（RAG）及智能体（Agent）等环节。\n● 研发并落地可插拔的安全对齐技术，如指令鲁棒性增强、安全向量控制、动态系统提示词硬化、自我反思（Self-Correction）机制等。设计针对模型参数、中间激活及梯度的安全检测和隐私保护方案等\n● 探索可解释性安全方法，构建模型决策的内部监控与预警机制，实现安全风险的早期发现与自动响应\n3. 标准制定与生态合作\n● 主导或参与阿里巴巴在制定企业级大模型安全开发规范、评测标准等方面的工作\n● 代表阿里巴巴参与国内外AI安全标准组织的研讨与标准制定。\n● 建立与学界、业界安全社区的联动机制，持续引入前沿攻击防御技术，输出安全白皮书或专利\n\n职位要求\n1. 基础能力\n● 硕士及以上学历，计算机、信息安全、人工智能等相关专业，博士优先。5年以上安全或AI领域研发或研究经验，近期经历专注大模型/生成式AI安全\n● 精通大模型技术栈（Transformer架构、RLHF、PEFT、RAG、Agent）\n● 深入理解对抗机器学习、差分隐私、鲁棒优化、安全对齐、因果与可解释性等核心安全理论\n2. 专业能力\n● 评测方向： 精通主流大模型安全评测基准（如SafetyBench, Do-Not-Answer, AdvBench等），并有自主构建高覆盖度、高难度评测集的实际项目经验\n● 攻防方向： 熟练掌握提示注入、越狱、后门攻击等攻击原理，并能设计有效的防御策略（如输入过滤、输出检测、模型硬化等）\n● 对齐方向： 对“安全-性能平衡”有深刻洞见，具备在模型训练或推理阶段无损或低损植入安全机制的成功案例\n● 工程能力： 扎实的编程能力（Python/C++），熟悉PyTorch/TensorFlow；有大规模分布式训练或推理服务（vLLM, TensorRT-LLM）性能调优经验者优先\n3. 亮点与加分项\n● 在顶级安全/AI会议（S&P, CCS, USENIX Security, NeurIPS, ICML, ACL）上发表过多篇大模型安全相关论文\n● 主导过国家级或行业级AI安全攻防竞赛并取得优异成绩，或相关产品和项目获得国内国际同行的认可\n● 拥有大模型安全相关专利或开源项目核心贡献，关键标准的核心贡献者\n作为先进大模型安全体系的核心驱动力，负责构建覆盖“数据-训练-推理-应用”全生命周期的大模型安全防御体系。重点结合评测优先和内生安全等理念，从根本上设计并落地具备安全基因的大模型架构，对抗提示注入、越狱攻击、数据泄露及滥用等新型AI安全威胁，确保大模型在高风险业务场景下的可信、可控与合规。\n【核心职责】\n1. 安全评测体系建设\n● 主导构建面向大模型和智能体（LLM/VLM/Agent）的多维度、自动化安全评测平台，覆盖鲁棒性、合规性、偏见歧视、隐私保护、有害内容生成等关键维度\n● 设计并维护动态更新的对抗性测试集与红队（Red Teaming）攻击库，包括但不限于提示注入、越狱攻击、多轮对话诱导等高级攻击手法\n● 研究前沿性AI的风险滥用和失控问题，例如CBRN、伦理、多智能体失控、AI发展提升网络攻击威胁等问题并进行科学和有效的检测度量\n● 建立客观、可量化的安全评分体系及安全等级认证标准，支撑模型上线准入、灰度发布及持续监控。跟踪前沿对抗攻击与防御技术，定期组织针对内部模型的实战对抗演练\n2. 内生安全机制设计\n● 从架构层面推动“安全左移”，将安全机制内生融入模型预训练、微调（SFT/RLHF）、检索增强生成（RAG）及智能体（Agent）等环节。\n● 研发并落地可插拔的安全对齐技术，如指令鲁棒性增强、安全向量控制、动态系统提示词硬化、自我反思（Self-Correction）机制等。设计针对模型参数、中间激活及梯度的安全检测和隐私保护方案等\n● 探索可解释性安全方法，构建模型决策的内部监控与预警机制，实现安全风险的早期发现与自动响应\n3. 标准制定与生态合作\n● 主导或参与阿里巴巴在制定企业级大模型安全开发规范、评测标准等方面的工作\n● 代表阿里巴巴参与国内外AI安全标准组织的研讨与标准制定。\n● 建立与学界、业界安全社区的联动机制，持续引入前沿攻击防御技术，输出安全白皮书或专利\n1. 基础能力\n● 硕士及以上学历，计算机、信息安全、人工智能等相关专业，博士优先。5年以上安全或AI领域研发或研究经验，近期经历专注大模型/生成式AI安全\n● 精通大模型技术栈（Transformer架构、RLHF、PEFT、RAG、Agent）\n● 深入理解对抗机器学习、差分隐私、鲁棒优化、安全对齐、因果与可解释性等核心安全理论\n2. 专业能力\n● 评测方向： 精通主流大模型安全评测基准（如SafetyBench, Do-Not-Answer, AdvBench等），并有自主构建高覆盖度、高难度评测集的实际项目经验\n● 攻防方向： 熟练掌握提示注入、越狱、后门攻击等攻击原理，并能设计有效的防御策略（如输入过滤、输出检测、模型硬化等）\n● 对齐方向： 对“安全-性能平衡”有深刻洞见，具备在模型训练或推理阶段无损或低损植入安全机制的成功案例\n● 工程能力： 扎实的编程能力（Python/C++），熟悉PyTorch/TensorFlow；有大规模分布式训练或推理服务（vLLM, TensorRT-LLM）性能调优经验者优先\n3. 亮点与加分项\n● 在顶级安全/AI会议（S&P, CCS, USENIX Security, NeurIPS, ICML, ACL）上发表过多篇大模型安全相关论文\n● 主导过国家级或行业级AI安全攻防竞赛并取得优异成绩，或相关产品和项目获得国内国际同行的认可\n● 拥有大模型安全相关专利或开源项目核心贡献，关键标准的核心贡献者",
"standard_classification": {
"std_category_code": "T023",
"std_aux_codes": [
"T015"
],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}