主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "智能引擎-大模型推理与 KV Cache 系统研发工程师-存储服务方向",
"job_level": "未披露",AI生成
"work_category": "全职",AI生成
"department": "阿里集团",
"location": "北京",
"work_mode": "未披露",AI生成
"job_category": "算法研发"AI生成
},
"company": {
"company_name": "阿里巴巴控股集团",
"company_industry": "电子商务 / 云计算 / 人工智能",
"company_size": "未披露",
"company_website": "alibaba.com",
"company_description": "阿里巴巴集团面向消费者和企业提供电子商务、云计算及人工智能服务。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "计算机相关专业本科及以上学历",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "面向大模型在线推理场景，建设高性能、低成本、高可靠的推理加速基础设施，支撑高并发、大规模模型服务。\n你将参与以下工作：\n1. 设计和研发 KV Cache 存储、复用、调度与加速系统，优化 Prefill/Decode 阶段的缓存管理与资源利用率。\n2. 协同 GPU 显存、主存、SSD 及远端存储等多级资源，优化 KV Cache 换入换出、跨节点迁移、共享复用和生命周期管理。\n3. 优化首 Token 延迟、端到端时延、推理吞吐和集群资源成本，提升大模型服务的稳定性与弹性能力。\n4. 分析并解决推理服务在线上的性能瓶颈、显存碎片、长尾延迟和稳定性问题，持续推动系统架构演进。",
"requirements_text": "1. 计算机相关专业本科及以上学历，精通 C/C++，熟悉 Linux 系统开发、调试和性能分析。\n2. 具备扎实的数据结构、算法、操作系统、并发编程和网络基础，有高性能系统或分布式系统研发经验。\n3. 理解 Transformer 推理、Attention 和 KV Cache 等核心机制；对显存管理、推理调度、缓存系统或分布式资源调度有实践经验者优先。\n4. 具备良好的问题拆解和工程落地能力，能够定位复杂线上性能与稳定性问题，并推动持续优化。\n5. 对大模型推理、AI 基础设施和极致性能优化有浓厚兴趣。",
"skills": [AI生成
"C++",
"Linux",
"数据结构",
"分布式系统",
"性能优化",
"大语言模型",
"C语言"
],
"preferred_qualifications": "对显存管理、推理调度、缓存系统或分布式资源调度有实践经验者优先",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://talent-holding.alibaba.com/off-campus/position-detail?positionId=100025260003"
}
]
},
"posting": {
"posting_id": "100025260003",
"post_date": "2026-09-09",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://talent-holding.alibaba.com/off-campus/position-detail?positionId=100025260003"
},
"fulltext": "智能引擎-大模型推理与 KV Cache 系统研发工程师-存储服务方向\n智能引擎-大模型推理与 KV Cache 系统研发工程师-存储服务方向\n\n基础信息\n工作地点：北京\n\n职位描述\n面向大模型在线推理场景，建设高性能、低成本、高可靠的推理加速基础设施，支撑高并发、大规模模型服务。\n你将参与以下工作：\n1. 设计和研发 KV Cache 存储、复用、调度与加速系统，优化 Prefill/Decode 阶段的缓存管理与资源利用率。\n2. 协同 GPU 显存、主存、SSD 及远端存储等多级资源，优化 KV Cache 换入换出、跨节点迁移、共享复用和生命周期管理。\n3. 优化首 Token 延迟、端到端时延、推理吞吐和集群资源成本，提升大模型服务的稳定性与弹性能力。\n4. 分析并解决推理服务在线上的性能瓶颈、显存碎片、长尾延迟和稳定性问题，持续推动系统架构演进。\n\n职位要求\n1. 计算机相关专业本科及以上学历，精通 C/C++，熟悉 Linux 系统开发、调试和性能分析。\n2. 具备扎实的数据结构、算法、操作系统、并发编程和网络基础，有高性能系统或分布式系统研发经验。\n3. 理解 Transformer 推理、Attention 和 KV Cache 等核心机制；对显存管理、推理调度、缓存系统或分布式资源调度有实践经验者优先。\n4. 具备良好的问题拆解和工程落地能力，能够定位复杂线上性能与稳定性问题，并推动持续优化。\n5. 对大模型推理、AI 基础设施和极致性能优化有浓厚兴趣。\n面向大模型在线推理场景，建设高性能、低成本、高可靠的推理加速基础设施，支撑高并发、大规模模型服务。\n你将参与以下工作：\n1. 设计和研发 KV Cache 存储、复用、调度与加速系统，优化 Prefill/Decode 阶段的缓存管理与资源利用率。\n2. 协同 GPU 显存、主存、SSD 及远端存储等多级资源，优化 KV Cache 换入换出、跨节点迁移、共享复用和生命周期管理。\n3. 优化首 Token 延迟、端到端时延、推理吞吐和集群资源成本，提升大模型服务的稳定性与弹性能力。\n4. 分析并解决推理服务在线上的性能瓶颈、显存碎片、长尾延迟和稳定性问题，持续推动系统架构演进。\n1. 计算机相关专业本科及以上学历，精通 C/C++，熟悉 Linux 系统开发、调试和性能分析。\n2. 具备扎实的数据结构、算法、操作系统、并发编程和网络基础，有高性能系统或分布式系统研发经验。\n3. 理解 Transformer 推理、Attention 和 KV Cache 等核心机制；对显存管理、推理调度、缓存系统或分布式资源调度有实践经验者优先。\n4. 具备良好的问题拆解和工程落地能力，能够定位复杂线上性能与稳定性问题，并推动持续优化。\n5. 对大模型推理、AI 基础设施和极致性能优化有浓厚兴趣。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}