主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "公有云模型训推加速工程师（J104555）",
"job_level": "未披露",AI生成
"work_category": "全职",AI生成
"department": "ACG",
"location": "北京市,上海市",
"work_mode": "未披露",AI生成
"job_category": "技术"AI生成
},
"company": {
"company_name": "百度",
"company_industry": "互联网 / 人工智能",
"company_size": "10000人以上",
"company_website": "baidu.com",
"company_description": "百度围绕搜索发展人工智能技术，业务涉及语音、图像、知识图谱、自然语言处理、自动驾驶和AI芯片。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "本科及以上学历",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "-负责大模型训练阶段（SFT&RL）的性能优化，包括数据并行、张量并行、流水线并行等分布式训练策略的设计与实现\n-负责大模型推理阶段的加速优化，涵盖模型量化（INT8/INT4/FP8）、算子融合、KV Cache 优化、投机解码等技术落地\n-掌握cuda/cutlass dsl等编程，发掘GPU硬件特性，完成常见算子flashattention/gemm等优化工作\n-熟练使用Nsight Systems/Compute对算法的运行效率如速度、显存占用等进行优化，保证模型精度下提升模型的计算效率\n-跟踪业界前主流框架（如 DeepSpeed、Megatron-LM、vLLM、SGLang 等），评估并引入最佳实践",
"requirements_text": "-计算机科学、电子信息或相关专业，本科及以上学历\n-掌握 PyTorch 框架及底层机制，了解 autograd、dispatcher、CUDA graph 等原理\n-掌握大模型分布式训练方案，理解 NCCL 通信原语、混合精度训练（BF16/FP8）原理\n-掌握主流推理加速框架（vLLM / TensorRT-LLM / TGI / SGLang 等），有实际部署优化经验\n-具备性能调优实战经验，能熟练使用 Nsight Systems / Compute、PyTorch Profiler 等工具\n-良好的工程能力与团队协作意识，能推动优化方案从原型到生产落地",
"skills": [AI生成
"PyTorch",
"CUDA",
"性能调优",
"团队协作",
"大语言模型"
],
"preferred_qualifications": "未披露",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://talent.baidu.com/jobs/detail/SOCIAL/25e9e578-eaa4-45af-b67c-1e36fa87237d"
}
]
},
"posting": {
"posting_id": "25e9e578-eaa4-45af-b67c-1e36fa87237d",
"post_date": "2026-08-17",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://talent.baidu.com/jobs/detail/SOCIAL/25e9e578-eaa4-45af-b67c-1e36fa87237d"
},
"fulltext": "公有云模型训推加速工程师（J104555）\n公有云模型训推加速工程师（J104555）\n\n基础信息\n部门：ACG\n地点：北京市,上海市\n类别：技术\n招聘人数：2\n发布时间：2026-08-18\n\n工作职责\n-负责大模型训练阶段（SFT&RL）的性能优化，包括数据并行、张量并行、流水线并行等分布式训练策略的设计与实现\n-负责大模型推理阶段的加速优化，涵盖模型量化（INT8/INT4/FP8）、算子融合、KV Cache 优化、投机解码等技术落地\n-掌握cuda/cutlass dsl等编程，发掘GPU硬件特性，完成常见算子flashattention/gemm等优化工作\n-熟练使用Nsight Systems/Compute对算法的运行效率如速度、显存占用等进行优化，保证模型精度下提升模型的计算效率\n-跟踪业界前主流框架（如 DeepSpeed、Megatron-LM、vLLM、SGLang 等），评估并引入最佳实践\n\n职责要求\n-计算机科学、电子信息或相关专业，本科及以上学历\n-掌握 PyTorch 框架及底层机制，了解 autograd、dispatcher、CUDA graph 等原理\n-掌握大模型分布式训练方案，理解 NCCL 通信原语、混合精度训练（BF16/FP8）原理\n-掌握主流推理加速框架（vLLM / TensorRT-LLM / TGI / SGLang 等），有实际部署优化经验\n-具备性能调优实战经验，能熟练使用 Nsight Systems / Compute、PyTorch Profiler 等工具\n-良好的工程能力与团队协作意识，能推动优化方案从原型到生产落地\n-负责大模型训练阶段（SFT&RL）的性能优化，包括数据并行、张量并行、流水线并行等分布式训练策略的设计与实现\n-负责大模型推理阶段的加速优化，涵盖模型量化（INT8/INT4/FP8）、算子融合、KV Cache 优化、投机解码等技术落地\n-掌握cuda/cutlass dsl等编程，发掘GPU硬件特性，完成常见算子flashattention/gemm等优化工作\n-熟练使用Nsight Systems/Compute对算法的运行效率如速度、显存占用等进行优化，保证模型精度下提升模型的计算效率\n-跟踪业界前主流框架（如 DeepSpeed、Megatron-LM、vLLM、SGLang 等），评估并引入最佳实践\n-计算机科学、电子信息或相关专业，本科及以上学历\n-掌握 PyTorch 框架及底层机制，了解 autograd、dispatcher、CUDA graph 等原理\n-掌握大模型分布式训练方案，理解 NCCL 通信原语、混合精度训练（BF16/FP8）原理\n-掌握主流推理加速框架（vLLM / TensorRT-LLM / TGI / SGLang 等），有实际部署优化经验\n-具备性能调优实战经验，能熟练使用 Nsight Systems / Compute、PyTorch Profiler 等工具\n-良好的工程能力与团队协作意识，能推动优化方案从原型到生产落地",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}