主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "AI Infra工程师-Commercial AI",
"job_level": "未披露",AI生成
"work_category": "全职",AI生成
"department": "未披露",
"location": "上海",
"work_mode": "未披露",AI生成
"job_category": "研发"AI生成
},
"company": {
"company_name": "字节跳动",
"company_industry": "互联网 / 数字内容 / 电商",
"company_size": "10000人以上",
"company_website": "bytedance.com",
"company_description": "字节跳动提供内容创作、信息分发、电商和协作产品，旗下产品包括抖音、今日头条、TikTok和飞书。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "本科及以上学历",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1、负责LLM/VLM/AIGC大规模分布式训练与推理基础设施的研发，深度优化计算、通信与存储性能，保障（多至）千卡任务集群的高效运行；\n2、针对NVIDIA GPU（CUDA/Triton）、NPU进行深度性能调优，包括算子融合、显存管理优化、通信算子重叠（Overlap）等，将硬件算力发挥到极致；\n3、设计并实现高性能LLM/VLM/AIGC模型推理引擎，优化计算图编译、动态Batching及KV Cache管理，打造极致低延迟与高吞吐的线上服务架构；\n4、技术演进与落地：持续跟进业界最新的Infra技术（如FlashAttention演进、高效通信库、FP8/INT8量化、稀疏蒸馏等训练部署方案），配合实际业务驱动技术预研并转化为生产力。",
"requirements_text": "1、本科及以上学历，计算机相关专业优先，熟练掌握C++/Python，精通数据结构与算法，并有并发编程基础；\n2、熟练使用PyTorch/TensorFlow或其他深度学习框架，熟练掌握深度学习性能加速技术包括但不限于计算图优化，算子性能优化，通信优化等；\n3、具有AIGC（VLM、Diffusion）模型训练/推理优化经验，熟悉TensorRT-LLM、vLLM、LightX2V等推理效率优化工具；\n4、积极主动有热情，具备较强的沟通能力以及优秀的团队协作能力。",
"skills": [AI生成
"Python",
"C++",
"PyTorch",
"TensorFlow",
"深度学习",
"数据结构",
"模型训练",
"性能优化",
"团队协作",
"沟通能力",
"大语言模型"
],
"preferred_qualifications": "1、本科及以上学历，计算机相关专业优先，熟练掌握C++/Python，精通数据结构与算法，并有并发编程基础",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://jobs.bytedance.com/experienced/position/7623376910307641605/detail"
}
]
},
"posting": {
"posting_id": "7623376910307641605",
"post_date": "2026-03-31",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://jobs.bytedance.com/experienced/position/7623376910307641605/detail"
},
"fulltext": "AI Infra工程师-Commercial AI\n职位描述\n1、负责LLM/VLM/AIGC大规模分布式训练与推理基础设施的研发，深度优化计算、通信与存储性能，保障（多至）千卡任务集群的高效运行；\n2、针对NVIDIA GPU（CUDA/Triton）、NPU进行深度性能调优，包括算子融合、显存管理优化、通信算子重叠（Overlap）等，将硬件算力发挥到极致；\n3、设计并实现高性能LLM/VLM/AIGC模型推理引擎，优化计算图编译、动态Batching及KV Cache管理，打造极致低延迟与高吞吐的线上服务架构；\n4、技术演进与落地：持续跟进业界最新的Infra技术（如FlashAttention演进、高效通信库、FP8/INT8量化、稀疏蒸馏等训练部署方案），配合实际业务驱动技术预研并转化为生产力。\n\n职位要求\n1、本科及以上学历，计算机相关专业优先，熟练掌握C++/Python，精通数据结构与算法，并有并发编程基础；\n2、熟练使用PyTorch/TensorFlow或其他深度学习框架，熟练掌握深度学习性能加速技术包括但不限于计算图优化，算子性能优化，通信优化等；\n3、具有AIGC（VLM、Diffusion）模型训练/推理优化经验，熟悉TensorRT-LLM、vLLM、LightX2V等推理效率优化工具；\n4、积极主动有热情，具备较强的沟通能力以及优秀的团队协作能力。\n1、负责LLM/VLM/AIGC大规模分布式训练与推理基础设施的研发，深度优化计算、通信与存储性能，保障（多至）千卡任务集群的高效运行；\n2、针对NVIDIA GPU（CUDA/Triton）、NPU进行深度性能调优，包括算子融合、显存管理优化、通信算子重叠（Overlap）等，将硬件算力发挥到极致；\n3、设计并实现高性能LLM/VLM/AIGC模型推理引擎，优化计算图编译、动态Batching及KV Cache管理，打造极致低延迟与高吞吐的线上服务架构；\n4、技术演进与落地：持续跟进业界最新的Infra技术（如FlashAttention演进、高效通信库、FP8/INT8量化、稀疏蒸馏等训练部署方案），配合实际业务驱动技术预研并转化为生产力。\n1、本科及以上学历，计算机相关专业优先，熟练掌握C++/Python，精通数据结构与算法，并有并发编程基础；\n2、熟练使用PyTorch/TensorFlow或其他深度学习框架，熟练掌握深度学习性能加速技术包括但不限于计算图优化，算子性能优化，通信优化等；\n3、具有AIGC（VLM、Diffusion）模型训练/推理优化经验，熟悉TensorRT-LLM、vLLM、LightX2V等推理效率优化工具；\n4、积极主动有热情，具备较强的沟通能力以及优秀的团队协作能力。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}