主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "多模态大模型推理框架优化工程师-Data AML（北京/上海/杭州/深圳）",
"job_level": "未披露",AI生成
"work_category": "全职",AI生成
"department": "未披露",
"location": "北京",
"work_mode": "未披露",AI生成
"job_category": "基础架构"AI生成
},
"company": {
"company_name": "字节跳动",
"company_industry": "互联网 / 数字内容 / 电商",
"company_size": "10000人以上",
"company_website": "bytedance.com",
"company_description": "字节跳动提供内容创作、信息分发、电商和协作产品，旗下产品包括抖音、今日头条、TikTok和飞书。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "计算机相关专业本科及以上学历",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1、推理性能优化：负责Seedance、Seedream、Seed3D等SOTA模型推理链路的端到端性能优化，围绕GPU利用率、推理吞吐(tokens/s)、延迟(TTFT/TPOT)、显存效率等核心指标，系统性地定位瓶颈并推动优化落地；\n2、多卡通信优化：设计与优化多卡推理场景下的通信策略(TP/PP/EP)，降低集合通信开销，实现通信与计算的高效Overlap，提升多卡线性扩展效率；\n3、GPU架构理解与适配：深入理解GPU硬件架构特性，针对新硬件能力做推理策略适配与性能调优，充分释放硬件算力；\n4、多模型推理加速：支持多模态(VLM)/视频生成(DiT/VAE)/MoE等多种模型架构的推理加速，设计通用可扩展的优化方案；\n5、前沿技术预研：跟踪推理加速前沿方向，推动技术选型与生产落地。",
"requirements_text": "1、计算机相关专业本科及以上学历，精通C++/Python中的至少一门，有扎实的系统编程与性能优化基础；\n2、熟悉GPU体系结构：理解SM调度、显存层次（HBM/L2/Shared Memory）、计算与访存瓶颈分析模型（如Roofline Model）；\n3、熟悉Transformer模型推理流程，理解KV Cache、Attention计算模式、Tensor Parallelism通信拓扑等核心概念；\n4、具备较强的性能分析能力：能熟练使用性能分析工具，系统性定位计算、访存、通信瓶颈；\n5、对推理加速有浓厚兴趣，善于从硬件原理和系统全局出发思考优化策略，有较强的分析和解决问题的能力。\n\n加分项：\n1、有大模型推理优化实战经验、有多卡通信优化经验、熟悉多代GPU微架构差异、有跨硬件性能适配经验；\n2、有视频生成模型（DiT/VAE）或MoE模型的推理加速经验；\n3、熟悉Kubernetes/Docker，有GPU集群资源调度与推理服务部署经验。",
"skills": [AI生成
"Python",
"C++",
"Docker",
"Kubernetes",
"性能优化",
"解决问题",
"分析能力",
"大语言模型"
],
"preferred_qualifications": "加分项：",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://jobs.bytedance.com/experienced/position/7623403439169521925/detail"
}
]
},
"posting": {
"posting_id": "7623403439169521925",
"post_date": "2026-03-31",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://jobs.bytedance.com/experienced/position/7623403439169521925/detail"
},
"fulltext": "多模态大模型推理框架优化工程师-Data AML（北京/上海/杭州/深圳）\n职位描述\n1、推理性能优化：负责Seedance、Seedream、Seed3D等SOTA模型推理链路的端到端性能优化，围绕GPU利用率、推理吞吐(tokens/s)、延迟(TTFT/TPOT)、显存效率等核心指标，系统性地定位瓶颈并推动优化落地；\n2、多卡通信优化：设计与优化多卡推理场景下的通信策略(TP/PP/EP)，降低集合通信开销，实现通信与计算的高效Overlap，提升多卡线性扩展效率；\n3、GPU架构理解与适配：深入理解GPU硬件架构特性，针对新硬件能力做推理策略适配与性能调优，充分释放硬件算力；\n4、多模型推理加速：支持多模态(VLM)/视频生成(DiT/VAE)/MoE等多种模型架构的推理加速，设计通用可扩展的优化方案；\n5、前沿技术预研：跟踪推理加速前沿方向，推动技术选型与生产落地。\n\n职位要求\n1、计算机相关专业本科及以上学历，精通C++/Python中的至少一门，有扎实的系统编程与性能优化基础；\n2、熟悉GPU体系结构：理解SM调度、显存层次（HBM/L2/Shared Memory）、计算与访存瓶颈分析模型（如Roofline Model）；\n3、熟悉Transformer模型推理流程，理解KV Cache、Attention计算模式、Tensor Parallelism通信拓扑等核心概念；\n4、具备较强的性能分析能力：能熟练使用性能分析工具，系统性定位计算、访存、通信瓶颈；\n5、对推理加速有浓厚兴趣，善于从硬件原理和系统全局出发思考优化策略，有较强的分析和解决问题的能力。\n\n加分项：\n1、有大模型推理优化实战经验、有多卡通信优化经验、熟悉多代GPU微架构差异、有跨硬件性能适配经验；\n2、有视频生成模型（DiT/VAE）或MoE模型的推理加速经验；\n3、熟悉Kubernetes/Docker，有GPU集群资源调度与推理服务部署经验。\n1、推理性能优化：负责Seedance、Seedream、Seed3D等SOTA模型推理链路的端到端性能优化，围绕GPU利用率、推理吞吐(tokens/s)、延迟(TTFT/TPOT)、显存效率等核心指标，系统性地定位瓶颈并推动优化落地；\n2、多卡通信优化：设计与优化多卡推理场景下的通信策略(TP/PP/EP)，降低集合通信开销，实现通信与计算的高效Overlap，提升多卡线性扩展效率；\n3、GPU架构理解与适配：深入理解GPU硬件架构特性，针对新硬件能力做推理策略适配与性能调优，充分释放硬件算力；\n4、多模型推理加速：支持多模态(VLM)/视频生成(DiT/VAE)/MoE等多种模型架构的推理加速，设计通用可扩展的优化方案；\n5、前沿技术预研：跟踪推理加速前沿方向，推动技术选型与生产落地。\n1、计算机相关专业本科及以上学历，精通C++/Python中的至少一门，有扎实的系统编程与性能优化基础；\n2、熟悉GPU体系结构：理解SM调度、显存层次（HBM/L2/Shared Memory）、计算与访存瓶颈分析模型（如Roofline Model）；\n3、熟悉Transformer模型推理流程，理解KV Cache、Attention计算模式、Tensor Parallelism通信拓扑等核心概念；\n4、具备较强的性能分析能力：能熟练使用性能分析工具，系统性定位计算、访存、通信瓶颈；\n5、对推理加速有浓厚兴趣，善于从硬件原理和系统全局出发思考优化策略，有较强的分析和解决问题的能力。\n\n加分项：\n1、有大模型推理优化实战经验、有多卡通信优化经验、熟悉多代GPU微架构差异、有跨硬件性能适配经验；\n2、有视频生成模型（DiT/VAE）或MoE模型的推理加速经验；\n3、熟悉Kubernetes/Docker，有GPU集群资源调度与推理服务部署经验。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}