主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "大模型推理研发专家-基础设施",
"job_level": "专家",AI生成
"work_category": "全职",AI生成
"department": "未披露",
"location": "杭州",
"work_mode": "未披露",AI生成
"job_category": "研发"AI生成
},
"company": {
"company_name": "字节跳动",
"company_industry": "互联网 / 数字内容 / 电商",
"company_size": "10000人以上",
"company_website": "bytedance.com",
"company_description": "字节跳动提供内容创作、信息分发、电商和协作产品，旗下产品包括抖音、今日头条、TikTok和飞书。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "未披露",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1、负责构建性能领先的LLM推理服务引擎与平台，大模型推理性能优化，参与Servingkit的研发等开发工作；\n2、负责LLM推理服务的全链路性能分析、瓶颈定位与优化，能够深入理解大模型推理服务，通过极致的系统优化，在满足SLO/SLA要求的前提下，最大化推理系统的吞吐、降低时延，并实现成本与性能的最佳平衡；\n3、负责大模型推理前瞻性技术架构的调研和引入，技术方案不限于编译优化、模型量化等。",
"requirements_text": "1、熟练掌握Linux环境下的C/C++与Python语言，有大规模机器学习系统相关经验；\n2、熟悉至少一种大模型训练/推理框架，包括但不限于：推理（vLLM、TensorRT-LLM、SGLang等）、机器学习框架（Tensorflow/PyTorch等）；\n3、具备定位和解决复杂系统性能瓶颈的丰富经验，善于运用各类性能分析工具（Perf、eBPF、Nsight等）；\n4、优秀的跨团队沟通与协作能力，独立负责并推进大型技术项目。\n\n加分项\n1、在主流大模型推理框架（SGlang、vLLM、TensorRT-LLM 等）有深入使用或二次开发经验者优先；\n2、理解GPU硬件架构，理解GPU软件栈（CUDA，cuDNN），具备GPU性能分析的经验；\n3、对InfiniBand/RDMA网络编程与性能调优有实践经验。",
"skills": [AI生成
"Python",
"C++",
"Linux",
"PyTorch",
"TensorFlow",
"CUDA",
"机器学习",
"模型训练",
"性能调优",
"大语言模型"
],
"preferred_qualifications": "加分项；1、在主流大模型推理框架（SGlang、vLLM、TensorRT-LLM 等）有深入使用或二次开发经验者优先",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://jobs.bytedance.com/experienced/position/7595090762887350581/detail"
}
]
},
"posting": {
"posting_id": "7595090762887350581",
"post_date": "2026-01-14",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://jobs.bytedance.com/experienced/position/7595090762887350581/detail"
},
"fulltext": "大模型推理研发专家-基础设施\n职位描述\n1、负责构建性能领先的LLM推理服务引擎与平台，大模型推理性能优化，参与Servingkit的研发等开发工作；\n2、负责LLM推理服务的全链路性能分析、瓶颈定位与优化，能够深入理解大模型推理服务，通过极致的系统优化，在满足SLO/SLA要求的前提下，最大化推理系统的吞吐、降低时延，并实现成本与性能的最佳平衡；\n3、负责大模型推理前瞻性技术架构的调研和引入，技术方案不限于编译优化、模型量化等。\n\n职位要求\n1、熟练掌握Linux环境下的C/C++与Python语言，有大规模机器学习系统相关经验；\n2、熟悉至少一种大模型训练/推理框架，包括但不限于：推理（vLLM、TensorRT-LLM、SGLang等）、机器学习框架（Tensorflow/PyTorch等）；\n3、具备定位和解决复杂系统性能瓶颈的丰富经验，善于运用各类性能分析工具（Perf、eBPF、Nsight等）；\n4、优秀的跨团队沟通与协作能力，独立负责并推进大型技术项目。\n\n加分项\n1、在主流大模型推理框架（SGlang、vLLM、TensorRT-LLM 等）有深入使用或二次开发经验者优先；\n2、理解GPU硬件架构，理解GPU软件栈（CUDA，cuDNN），具备GPU性能分析的经验；\n3、对InfiniBand/RDMA网络编程与性能调优有实践经验。\n1、负责构建性能领先的LLM推理服务引擎与平台，大模型推理性能优化，参与Servingkit的研发等开发工作；\n2、负责LLM推理服务的全链路性能分析、瓶颈定位与优化，能够深入理解大模型推理服务，通过极致的系统优化，在满足SLO/SLA要求的前提下，最大化推理系统的吞吐、降低时延，并实现成本与性能的最佳平衡；\n3、负责大模型推理前瞻性技术架构的调研和引入，技术方案不限于编译优化、模型量化等。\n1、熟练掌握Linux环境下的C/C++与Python语言，有大规模机器学习系统相关经验；\n2、熟悉至少一种大模型训练/推理框架，包括但不限于：推理（vLLM、TensorRT-LLM、SGLang等）、机器学习框架（Tensorflow/PyTorch等）；\n3、具备定位和解决复杂系统性能瓶颈的丰富经验，善于运用各类性能分析工具（Perf、eBPF、Nsight等）；\n4、优秀的跨团队沟通与协作能力，独立负责并推进大型技术项目。\n\n加分项\n1、在主流大模型推理框架（SGlang、vLLM、TensorRT-LLM 等）有深入使用或二次开发经验者优先；\n2、理解GPU硬件架构，理解GPU软件栈（CUDA，cuDNN），具备GPU性能分析的经验；\n3、对InfiniBand/RDMA网络编程与性能调优有实践经验。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}