主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "公有云机器学习系统工程师-推理方向",
"job_level": "未披露",AI生成
"work_category": "全职",AI生成
"department": "未披露",
"location": "北京",
"work_mode": "未披露",AI生成
"job_category": "后端"AI生成
},
"company": {
"company_name": "字节跳动",
"company_industry": "互联网 / 数字内容 / 电商",
"company_size": "10000人以上",
"company_website": "bytedance.com",
"company_description": "字节跳动提供内容创作、信息分发、电商和协作产品，旗下产品包括抖音、今日头条、TikTok和飞书。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "未披露",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1、负责机器学习系统推理架构和产品的设计开发，支持火山方舟大模型平台和机器学习平台的产品业务；\n2、负责深度模型推理任务为核心的在线架构设计与优化，充分利用各种异构计算（GPU、CPU、其他异构硬件）、存储（各种云存储）、网络（VPC、RDMA）等资源，构建多租环境下的稳定性、观测体系，实现高并发、高吞吐的大规模在线系统；\n3、负责推理系统的产品化落地，打造稳定、可观测、体验一流的公有云推理平台。",
"requirements_text": "1、熟练掌握Linux环境下的Go/Java/Python等1-2种语言；\n2、具备扎实的计算机科学功底和编程能力，熟悉常见算法和数据结构，具有良好的编程习惯；\n3、熟悉至少一种主流的机器学习框架（TensorFlow / PyTorch 或其他自研框架）；\n4、熟悉 Kubernetes 架构和生态，有丰富的云原生机器学习系统实践和开发经验，对在线服务治理、 部署架构有深入理解和落地经验；\n5、掌握分布式系统原理，参与过大规模分布式系统的设计、开发和维护；\n6、有优秀的逻辑分析能力，能够对业务逻辑进行合理的抽象和拆分；\n7、有强烈的工作责任心，较好的学习能力、沟通能力和自驱力，能够快速的响应和行动；\n8、有良好的工作文档习惯，及时按要求撰写更新工作流程及技术文档。\n\n加分项：\n1、有在线GPU推理系统的工程架构落地经验，熟悉常见的在线推理优化手段（Batch、量化、分布式推理等），熟悉GPU、大模型相关软硬件技术栈；\n2、熟悉公有云推理产品架构，对该领域用户画像和用户故事有深入理解，有打造世界级产品的热情；\n3、有以下某一方向领域的经验：CUDA，RDMA，AI Infrastructure，HW/SW Co-Design，High Performance Computing，ML Hardware Architecture (GPU, Accelerators, Networking)，ML for System，Distributed Storage。",
"skills": [AI生成
"Python",
"Java",
"Linux",
"Kubernetes",
"PyTorch",
"TensorFlow",
"CUDA",
"机器学习",
"数据结构",
"分布式系统",
"沟通能力",
"学习能力",
"分析能力",
"大语言模型"
],
"preferred_qualifications": "加分项：",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://jobs.bytedance.com/experienced/position/7385594920923187466/detail"
}
]
},
"posting": {
"posting_id": "7385594920923187466",
"post_date": "2024-06-29",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://jobs.bytedance.com/experienced/position/7385594920923187466/detail"
},
"fulltext": "公有云机器学习系统工程师-推理方向\n职位描述\n1、负责机器学习系统推理架构和产品的设计开发，支持火山方舟大模型平台和机器学习平台的产品业务；\n2、负责深度模型推理任务为核心的在线架构设计与优化，充分利用各种异构计算（GPU、CPU、其他异构硬件）、存储（各种云存储）、网络（VPC、RDMA）等资源，构建多租环境下的稳定性、观测体系，实现高并发、高吞吐的大规模在线系统；\n3、负责推理系统的产品化落地，打造稳定、可观测、体验一流的公有云推理平台。\n\n职位要求\n1、熟练掌握Linux环境下的Go/Java/Python等1-2种语言；\n2、具备扎实的计算机科学功底和编程能力，熟悉常见算法和数据结构，具有良好的编程习惯；\n3、熟悉至少一种主流的机器学习框架（TensorFlow / PyTorch 或其他自研框架）；\n4、熟悉 Kubernetes 架构和生态，有丰富的云原生机器学习系统实践和开发经验，对在线服务治理、 部署架构有深入理解和落地经验；\n5、掌握分布式系统原理，参与过大规模分布式系统的设计、开发和维护；\n6、有优秀的逻辑分析能力，能够对业务逻辑进行合理的抽象和拆分；\n7、有强烈的工作责任心，较好的学习能力、沟通能力和自驱力，能够快速的响应和行动；\n8、有良好的工作文档习惯，及时按要求撰写更新工作流程及技术文档。\n\n加分项：\n1、有在线GPU推理系统的工程架构落地经验，熟悉常见的在线推理优化手段（Batch、量化、分布式推理等），熟悉GPU、大模型相关软硬件技术栈；\n2、熟悉公有云推理产品架构，对该领域用户画像和用户故事有深入理解，有打造世界级产品的热情；\n3、有以下某一方向领域的经验：CUDA，RDMA，AI Infrastructure，HW/SW Co-Design，High Performance Computing，ML Hardware Architecture (GPU, Accelerators, Networking)，ML for System，Distributed Storage。\n1、负责机器学习系统推理架构和产品的设计开发，支持火山方舟大模型平台和机器学习平台的产品业务；\n2、负责深度模型推理任务为核心的在线架构设计与优化，充分利用各种异构计算（GPU、CPU、其他异构硬件）、存储（各种云存储）、网络（VPC、RDMA）等资源，构建多租环境下的稳定性、观测体系，实现高并发、高吞吐的大规模在线系统；\n3、负责推理系统的产品化落地，打造稳定、可观测、体验一流的公有云推理平台。\n1、熟练掌握Linux环境下的Go/Java/Python等1-2种语言；\n2、具备扎实的计算机科学功底和编程能力，熟悉常见算法和数据结构，具有良好的编程习惯；\n3、熟悉至少一种主流的机器学习框架（TensorFlow / PyTorch 或其他自研框架）；\n4、熟悉 Kubernetes 架构和生态，有丰富的云原生机器学习系统实践和开发经验，对在线服务治理、 部署架构有深入理解和落地经验；\n5、掌握分布式系统原理，参与过大规模分布式系统的设计、开发和维护；\n6、有优秀的逻辑分析能力，能够对业务逻辑进行合理的抽象和拆分；\n7、有强烈的工作责任心，较好的学习能力、沟通能力和自驱力，能够快速的响应和行动；\n8、有良好的工作文档习惯，及时按要求撰写更新工作流程及技术文档。\n\n加分项：\n1、有在线GPU推理系统的工程架构落地经验，熟悉常见的在线推理优化手段（Batch、量化、分布式推理等），熟悉GPU、大模型相关软硬件技术栈；\n2、熟悉公有云推理产品架构，对该领域用户画像和用户故事有深入理解，有打造世界级产品的热情；\n3、有以下某一方向领域的经验：CUDA，RDMA，AI Infrastructure，HW/SW Co-Design，High Performance Computing，ML Hardware Architecture (GPU, Accelerators, Networking)，ML for System，Distributed Storage。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}