主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "大模型推理框架开发工程师",
"job_level": "校招",AI生成
"work_category": "全职",AI生成
"department": "未披露",
"location": "北京",
"work_mode": "未披露",AI生成
"job_category": "算法研发"AI生成
},
"company": {
"company_name": "小米集团",
"company_industry": "消费电子 / 智能制造 / 物联网",
"company_size": "10000人以上",
"company_website": "xiaomi.com",
"company_description": "小米是一家消费电子和智能制造企业，以智能手机、智能硬件和物联网平台为核心。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "硕士及以上学历",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1.负责基于 vLLM、SGLang 等技术的大模型推理框架的开发工作，包括但不限于设计和实现高效的推理引擎架构，优化推理过程中的计算流程，提高推理性能，以满足不同规模大模型的实时推理需求；\n2.复杂大模型框架性能评估和调优工作，构建并完善性能监控体系，通过实时监测训练指标，定位性能瓶颈，提出优化方案，确保在不同硬件上达到最优性能；\n3.负责Cuda Kernel优化，开发高性能的GPU算子, 提升大模型推理性能。",
"requirements_text": "1.硕士及以上学历，计算机、软件工程、数学等相关专业，具备扎实计算机理论基础和丰富编程经验；\n2.熟悉 C++ / Python，掌握至少一种深度学习框架（如 PyTorch），理解Transformer系统深度学习原理算法；\n3.熟悉 GPU 和其他加速硬件的使用，有基本的性能调优经验，有FastTransformer、CUDA优化、TensorRT、Triton经验优先；\n4.熟悉大模型推理框架的基本原理和流程，了解 vLLM、SGLang 等大模型推理框架的核心技术和实现优先；\n5.有良好团队协作与沟通能力，有强烈的上进心和自我驱动，学习适应能力强，乐观自信，能挑战自我不断追求卓越。",
"skills": [AI生成
"Python",
"C++",
"PyTorch",
"CUDA",
"深度学习",
"性能调优",
"团队协作",
"沟通能力",
"大语言模型"
],
"preferred_qualifications": "3.熟悉 GPU 和其他加速硬件的使用，有基本的性能调优经验，有FastTransformer、CUDA优化、TensorRT、Triton经验优先；4.熟悉大模型推理框架的基本原理和流程，了解 vLLM、SGLang 等大模型推理框架的核心技术和实现优先",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://xiaomi.jobs.f.mioffice.cn/campus/m/position/7670924463541782810/detail"
}
]
},
"posting": {
"posting_id": "7670924463541782810",
"post_date": "2026-08-06",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://xiaomi.jobs.f.mioffice.cn/campus/m/position/7670924463541782810/detail"
},
"fulltext": "大模型推理框架开发工程师\n职位描述\n1.负责基于 vLLM、SGLang 等技术的大模型推理框架的开发工作，包括但不限于设计和实现高效的推理引擎架构，优化推理过程中的计算流程，提高推理性能，以满足不同规模大模型的实时推理需求；\n2.复杂大模型框架性能评估和调优工作，构建并完善性能监控体系，通过实时监测训练指标，定位性能瓶颈，提出优化方案，确保在不同硬件上达到最优性能；\n3.负责Cuda Kernel优化，开发高性能的GPU算子, 提升大模型推理性能。\n\n职位要求\n1.硕士及以上学历，计算机、软件工程、数学等相关专业，具备扎实计算机理论基础和丰富编程经验；\n2.熟悉 C++ / Python，掌握至少一种深度学习框架（如 PyTorch），理解Transformer系统深度学习原理算法；\n3.熟悉 GPU 和其他加速硬件的使用，有基本的性能调优经验，有FastTransformer、CUDA优化、TensorRT、Triton经验优先；\n4.熟悉大模型推理框架的基本原理和流程，了解 vLLM、SGLang 等大模型推理框架的核心技术和实现优先；\n5.有良好团队协作与沟通能力，有强烈的上进心和自我驱动，学习适应能力强，乐观自信，能挑战自我不断追求卓越。\n1.负责基于 vLLM、SGLang 等技术的大模型推理框架的开发工作，包括但不限于设计和实现高效的推理引擎架构，优化推理过程中的计算流程，提高推理性能，以满足不同规模大模型的实时推理需求；\n2.复杂大模型框架性能评估和调优工作，构建并完善性能监控体系，通过实时监测训练指标，定位性能瓶颈，提出优化方案，确保在不同硬件上达到最优性能；\n3.负责Cuda Kernel优化，开发高性能的GPU算子, 提升大模型推理性能。\n1.硕士及以上学历，计算机、软件工程、数学等相关专业，具备扎实计算机理论基础和丰富编程经验；\n2.熟悉 C++ / Python，掌握至少一种深度学习框架（如 PyTorch），理解Transformer系统深度学习原理算法；\n3.熟悉 GPU 和其他加速硬件的使用，有基本的性能调优经验，有FastTransformer、CUDA优化、TensorRT、Triton经验优先；\n4.熟悉大模型推理框架的基本原理和流程，了解 vLLM、SGLang 等大模型推理框架的核心技术和实现优先；\n5.有良好团队协作与沟通能力，有强烈的上进心和自我驱动，学习适应能力强，乐观自信，能挑战自我不断追求卓越。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}