主分类:AI模型评测工程
来源 JD 数据(旧分类保留,当前主分类见上方)
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "晓天衡宇-大模型评测工程师-代码方向(北京)",
"job_level": "未披露",AI生成
"work_category": "全职",AI生成
"department": "晓天衡宇",
"location": "北京",
"work_mode": "未披露",AI生成
"job_category": "算法研发"AI生成
},
"company": {
"company_name": "阿里巴巴控股集团",
"company_industry": "电子商务 / 云计算 / 人工智能",
"company_size": "未披露",
"company_website": "alibaba.com",
"company_description": "阿里巴巴集团面向消费者和企业提供电子商务、云计算及人工智能服务。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "计算机相关专业本科及以上学历",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1、负责代码评测集的建设、维护与迭代,覆盖 SWE-bench 系、Terminal-Bench、LiveCodeBench、BigCodeBench、SciCode 等主流评测集,把控子指标权重与维度聚合口径。\n2、负责 CodeArena 人工对战评测的设计与运营,制定打分标准与评委质检机制。\n3、负责代码 badcase 的人工分析与三轴归因体系落地,即表现层(可运行性、内容、功能、视觉)、根因层(意图偏差、指令遵循、知识缺失、能力不足、幻觉)及对战相对结论,产出 Coding 能力榜与短板诊断报告。\n4、负责评测数据的采集、清洗、去重、脱敏与格式标准化,保障数据质量与样本代表性。\n5、负责标注任务的设计、质检与一致性管理,建立评测结果的入库、聚合与可视化流程,维护题库版本与数据溯源机制。\n6、负责评测数据结构设计与自动化能力建设,包括模型、成本、token 消耗等数据表设计及批量编辑入口,支撑各方向榜单数据的自动更新。",
"requirements_text": "1、计算机相关专业本科及以上学历,具备扎实的编程能力,熟练掌握 Python 及至少一门主流开发语言。\n2、具备代码审阅能力,能够准确评判模型生成代码的正确性、可运行性与工程质量。\n3、熟悉主流代码评测集及其区分度与局限,理解分层评测设计思路,熟悉沙箱执行或 Agentic 代码评测流程。\n4、具备代码 badcase 人工归因经验,能够独立完成结构化根因分析并形成结论。\n5、熟练进行大规模数据处理(pandas 等),掌握数据清洗、去重、脱敏与质检方法,熟悉 JSON/JSONL 等评测数据格式。\n6、理解标注一致性(IAA)度量与抽检机制,具备数据管线搭建能力,重视流程可复现性与数据溯源。",
"skills": [AI生成
"Python",
"数据清洗"
],
"preferred_qualifications": "未披露",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://talent-holding.alibaba.com/off-campus/position-detail?positionId=100032200001"
}
]
},
"posting": {
"posting_id": "100032200001",
"post_date": "2026-08-14",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://talent-holding.alibaba.com/off-campus/position-detail?positionId=100032200001"
},
"fulltext": "晓天衡宇-大模型评测工程师-代码方向(北京)\n晓天衡宇-大模型评测工程师-代码方向(北京)\n\n基础信息\n工作地点:北京\n\n职位描述\n1、负责代码评测集的建设、维护与迭代,覆盖 SWE-bench 系、Terminal-Bench、LiveCodeBench、BigCodeBench、SciCode 等主流评测集,把控子指标权重与维度聚合口径。\n2、负责 CodeArena 人工对战评测的设计与运营,制定打分标准与评委质检机制。\n3、负责代码 badcase 的人工分析与三轴归因体系落地,即表现层(可运行性、内容、功能、视觉)、根因层(意图偏差、指令遵循、知识缺失、能力不足、幻觉)及对战相对结论,产出 Coding 能力榜与短板诊断报告。\n4、负责评测数据的采集、清洗、去重、脱敏与格式标准化,保障数据质量与样本代表性。\n5、负责标注任务的设计、质检与一致性管理,建立评测结果的入库、聚合与可视化流程,维护题库版本与数据溯源机制。\n6、负责评测数据结构设计与自动化能力建设,包括模型、成本、token 消耗等数据表设计及批量编辑入口,支撑各方向榜单数据的自动更新。\n\n职位要求\n1、计算机相关专业本科及以上学历,具备扎实的编程能力,熟练掌握 Python 及至少一门主流开发语言。\n2、具备代码审阅能力,能够准确评判模型生成代码的正确性、可运行性与工程质量。\n3、熟悉主流代码评测集及其区分度与局限,理解分层评测设计思路,熟悉沙箱执行或 Agentic 代码评测流程。\n4、具备代码 badcase 人工归因经验,能够独立完成结构化根因分析并形成结论。\n5、熟练进行大规模数据处理(pandas 等),掌握数据清洗、去重、脱敏与质检方法,熟悉 JSON/JSONL 等评测数据格式。\n6、理解标注一致性(IAA)度量与抽检机制,具备数据管线搭建能力,重视流程可复现性与数据溯源。\n1、负责代码评测集的建设、维护与迭代,覆盖 SWE-bench 系、Terminal-Bench、LiveCodeBench、BigCodeBench、SciCode 等主流评测集,把控子指标权重与维度聚合口径。\n2、负责 CodeArena 人工对战评测的设计与运营,制定打分标准与评委质检机制。\n3、负责代码 badcase 的人工分析与三轴归因体系落地,即表现层(可运行性、内容、功能、视觉)、根因层(意图偏差、指令遵循、知识缺失、能力不足、幻觉)及对战相对结论,产出 Coding 能力榜与短板诊断报告。\n4、负责评测数据的采集、清洗、去重、脱敏与格式标准化,保障数据质量与样本代表性。\n5、负责标注任务的设计、质检与一致性管理,建立评测结果的入库、聚合与可视化流程,维护题库版本与数据溯源机制。\n6、负责评测数据结构设计与自动化能力建设,包括模型、成本、token 消耗等数据表设计及批量编辑入口,支撑各方向榜单数据的自动更新。\n1、计算机相关专业本科及以上学历,具备扎实的编程能力,熟练掌握 Python 及至少一门主流开发语言。\n2、具备代码审阅能力,能够准确评判模型生成代码的正确性、可运行性与工程质量。\n3、熟悉主流代码评测集及其区分度与局限,理解分层评测设计思路,熟悉沙箱执行或 Agentic 代码评测流程。\n4、具备代码 badcase 人工归因经验,能够独立完成结构化根因分析并形成结论。\n5、熟练进行大规模数据处理(pandas 等),掌握数据清洗、去重、脱敏与质检方法,熟悉 JSON/JSONL 等评测数据格式。\n6、理解标注一致性(IAA)度量与抽检机制,具备数据管线搭建能力,重视流程可复现性与数据溯源。",
"standard_classification": {
"std_category_code": "T015",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}