主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "AML-火山方舟大模型推理系统工程师",
"job_level": "未披露",AI生成
"work_category": "全职",AI生成
"department": "未披露",
"location": "上海",
"work_mode": "未披露",AI生成
"job_category": "后端"AI生成
},
"company": {
"company_name": "字节跳动",
"company_industry": "互联网 / 数字内容 / 电商",
"company_size": "10000人以上",
"company_website": "bytedance.com",
"company_description": "字节跳动提供内容创作、信息分发、电商和协作产品，旗下产品包括抖音、今日头条、TikTok和飞书。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "有硕士研究生或博士研究生阶段的计算机系统方向（包含分布式系统",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1、负责火山引擎大模型训练和推理系统的研发与性能优化，包括但不限于：模型计算性能优化、千卡训练集群调优、分布式大模型推理系统、大规模推理流量调度等；\n2、负责解决系统高并发、高可靠性、高可扩展性等技术难关，支撑火山引擎千亿级别的日均Token训练推理流量；\n3、负责大模型训练和推理前瞻性技术架构的调研和引入，技术方案不限于子图匹配、编译优化、模型量化等；\n4、负责异构硬件的引入与训练推理框架的集成，包括但不限于GPU、NPU、TPU等；\n5、面向海内外多地域超大规模GPU算力集群，通过弹性调度、GPU超卖、任务编排等方式不断提升算力利用率；\n6、与算法部门深度合作，进行算法与系统的联合优化。",
"requirements_text": "1、熟练掌握Linux环境下的C/C++与Python语言，有大规模机器学习系统或搜广推推荐系统相关经验；\n2、熟悉至少一种机器学习框架（Tensorflow/PyTorch/MxNet或其他自研框架）；\n3、熟悉至少一种大模型训练/推理框架，包括但不限于：vLLM、TensorRT-LLM、SGLang、Megatron-LM等；\n4、具有独立解决问题的能力，良好的团队合作精神，具备优秀的复杂问题拆解能力；\n5、有强烈的工作责任心，较好的学习能力、沟通能力和自驱力。\n\n加分项：\n1、有大规模分布式系统架构设计经验；\n2、理解GPU硬件架构，理解GPU软件栈（CUDA，cuDNN)，具备GPU性能分析的经验；\n3、有硕士研究生或博士研究生阶段的计算机系统方向（包含分布式系统，并行计算，编程语言与编译器，网络，存储等）研究背景。",
"skills": [AI生成
"Python",
"C++",
"Linux",
"PyTorch",
"TensorFlow",
"CUDA",
"机器学习",
"分布式系统",
"模型训练",
"系统架构",
"架构设计",
"团队协作",
"沟通能力",
"解决问题",
"学习能力",
"大语言模型"
],
"preferred_qualifications": "加分项：",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://jobs.bytedance.com/experienced/position/7424067290041239817/detail"
}
]
},
"posting": {
"posting_id": "7424067290041239817",
"post_date": "2024-10-10",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://jobs.bytedance.com/experienced/position/7424067290041239817/detail"
},
"fulltext": "AML-火山方舟大模型推理系统工程师\n职位描述\n1、负责火山引擎大模型训练和推理系统的研发与性能优化，包括但不限于：模型计算性能优化、千卡训练集群调优、分布式大模型推理系统、大规模推理流量调度等；\n2、负责解决系统高并发、高可靠性、高可扩展性等技术难关，支撑火山引擎千亿级别的日均Token训练推理流量；\n3、负责大模型训练和推理前瞻性技术架构的调研和引入，技术方案不限于子图匹配、编译优化、模型量化等；\n4、负责异构硬件的引入与训练推理框架的集成，包括但不限于GPU、NPU、TPU等；\n5、面向海内外多地域超大规模GPU算力集群，通过弹性调度、GPU超卖、任务编排等方式不断提升算力利用率；\n6、与算法部门深度合作，进行算法与系统的联合优化。\n\n职位要求\n1、熟练掌握Linux环境下的C/C++与Python语言，有大规模机器学习系统或搜广推推荐系统相关经验；\n2、熟悉至少一种机器学习框架（Tensorflow/PyTorch/MxNet或其他自研框架）；\n3、熟悉至少一种大模型训练/推理框架，包括但不限于：vLLM、TensorRT-LLM、SGLang、Megatron-LM等；\n4、具有独立解决问题的能力，良好的团队合作精神，具备优秀的复杂问题拆解能力；\n5、有强烈的工作责任心，较好的学习能力、沟通能力和自驱力。\n\n加分项：\n1、有大规模分布式系统架构设计经验；\n2、理解GPU硬件架构，理解GPU软件栈（CUDA，cuDNN)，具备GPU性能分析的经验；\n3、有硕士研究生或博士研究生阶段的计算机系统方向（包含分布式系统，并行计算，编程语言与编译器，网络，存储等）研究背景。\n1、负责火山引擎大模型训练和推理系统的研发与性能优化，包括但不限于：模型计算性能优化、千卡训练集群调优、分布式大模型推理系统、大规模推理流量调度等；\n2、负责解决系统高并发、高可靠性、高可扩展性等技术难关，支撑火山引擎千亿级别的日均Token训练推理流量；\n3、负责大模型训练和推理前瞻性技术架构的调研和引入，技术方案不限于子图匹配、编译优化、模型量化等；\n4、负责异构硬件的引入与训练推理框架的集成，包括但不限于GPU、NPU、TPU等；\n5、面向海内外多地域超大规模GPU算力集群，通过弹性调度、GPU超卖、任务编排等方式不断提升算力利用率；\n6、与算法部门深度合作，进行算法与系统的联合优化。\n1、熟练掌握Linux环境下的C/C++与Python语言，有大规模机器学习系统或搜广推推荐系统相关经验；\n2、熟悉至少一种机器学习框架（Tensorflow/PyTorch/MxNet或其他自研框架）；\n3、熟悉至少一种大模型训练/推理框架，包括但不限于：vLLM、TensorRT-LLM、SGLang、Megatron-LM等；\n4、具有独立解决问题的能力，良好的团队合作精神，具备优秀的复杂问题拆解能力；\n5、有强烈的工作责任心，较好的学习能力、沟通能力和自驱力。\n\n加分项：\n1、有大规模分布式系统架构设计经验；\n2、理解GPU硬件架构，理解GPU软件栈（CUDA，cuDNN)，具备GPU性能分析的经验；\n3、有硕士研究生或博士研究生阶段的计算机系统方向（包含分布式系统，并行计算，编程语言与编译器，网络，存储等）研究背景。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}