主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "大语言模型高性能推理系统关键技术研究-阿里星/A Star",
"job_level": "校招",AI生成
"work_category": "全职",AI生成
"department": "阿里云",
"location": "杭州",
"work_mode": "未披露",AI生成
"job_category": "技术类"AI生成
},
"company": {
"company_name": "阿里云",
"company_industry": "云计算 / 人工智能",
"company_size": "10000人以上",
"company_website": "alibaba.com",
"company_description": "阿里云提供云基础设施、AI模型、智能体和计算服务。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "未披露",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1. 参与大模型推理系统的架构设计与开发，包括推理网关、请求调度、流量路由等核心模块的建设\n2. 负责推理引擎（vLLM/SGLang等）的深度优化与定制化开发，提升推理吞吐与延迟表现\n3. 参与PD分离（Prefill-Decode）架构的设计与开发，优化Prefill与Decode阶段的资源分配与协同调度\n4. 负责KV Cache存储与管理系统开发，包括KV Cache迁移、共享、淘汰策略的设计与实现\n5. 参与模型分发系统开发，支持大模型在多节点间的高效分发与加载\n6. 基于线上监控与用户反馈，持续优化推理链路的性能、稳定性与成本效率",
"requirements_text": "1. 计算机相关专业，具有Golang、Python或C++开发经验\n2. 熟悉vLLM、SGLang等开源推理引擎的架构与实现，了解Continuous Batching、PagedAttention等核心机制\n3. 深入理解LLM推理场景下的请求调度策略，熟悉 KV Cache 管理、PD分离等前沿架构\n4. 具备高性能系统开发经验，熟悉GPU编程（CUDA/Triton等）者优先\n5. 具备复杂系统的设计与调试能力，能够系统性分析推理链路中的性能瓶颈\n6. 良好的学习和自我驱动能力，具备良好的跨团队沟通协作能力\n7. 积极拥抱AI辅助编程工具，善于利用AI提升开发效率与代码质量",
"skills": [AI生成
"Python",
"C++",
"Golang",
"CUDA"
],
"preferred_qualifications": "4. 具备高性能系统开发经验，熟悉GPU编程（CUDA/Triton等）者优先",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://campus-talent.alibaba.com/campus/position/199907780099?deptCodes="
}
]
},
"posting": {
"posting_id": "199907780099",
"post_date": "2026-07-30",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://campus-talent.alibaba.com/campus/position/199907780099?deptCodes="
},
"fulltext": "大语言模型高性能推理系统关键技术研究-阿里星/A Star\n大语言模型高性能推理系统关键技术研究-阿里星/A Star\n\n基础信息\n毕业起止时间要求：2026-11-01 - 2027-10-31\n职位类别：技术类\n招聘项目：阿里巴巴2027届应届生\n工作地点：杭州\n\n职位描述\n1. 参与大模型推理系统的架构设计与开发，包括推理网关、请求调度、流量路由等核心模块的建设\n2. 负责推理引擎（vLLM/SGLang等）的深度优化与定制化开发，提升推理吞吐与延迟表现\n3. 参与PD分离（Prefill-Decode）架构的设计与开发，优化Prefill与Decode阶段的资源分配与协同调度\n4. 负责KV Cache存储与管理系统开发，包括KV Cache迁移、共享、淘汰策略的设计与实现\n5. 参与模型分发系统开发，支持大模型在多节点间的高效分发与加载\n6. 基于线上监控与用户反馈，持续优化推理链路的性能、稳定性与成本效率\n\n职位要求\n1. 计算机相关专业，具有Golang、Python或C++开发经验\n2. 熟悉vLLM、SGLang等开源推理引擎的架构与实现，了解Continuous Batching、PagedAttention等核心机制\n3. 深入理解LLM推理场景下的请求调度策略，熟悉 KV Cache 管理、PD分离等前沿架构\n4. 具备高性能系统开发经验，熟悉GPU编程（CUDA/Triton等）者优先\n5. 具备复杂系统的设计与调试能力，能够系统性分析推理链路中的性能瓶颈\n6. 良好的学习和自我驱动能力，具备良好的跨团队沟通协作能力\n7. 积极拥抱AI辅助编程工具，善于利用AI提升开发效率与代码质量\n\n在招业务\n阿里云\n1. 参与大模型推理系统的架构设计与开发，包括推理网关、请求调度、流量路由等核心模块的建设\n2. 负责推理引擎（vLLM/SGLang等）的深度优化与定制化开发，提升推理吞吐与延迟表现\n3. 参与PD分离（Prefill-Decode）架构的设计与开发，优化Prefill与Decode阶段的资源分配与协同调度\n4. 负责KV Cache存储与管理系统开发，包括KV Cache迁移、共享、淘汰策略的设计与实现\n5. 参与模型分发系统开发，支持大模型在多节点间的高效分发与加载\n6. 基于线上监控与用户反馈，持续优化推理链路的性能、稳定性与成本效率\n1. 计算机相关专业，具有Golang、Python或C++开发经验\n2. 熟悉vLLM、SGLang等开源推理引擎的架构与实现，了解Continuous Batching、PagedAttention等核心机制\n3. 深入理解LLM推理场景下的请求调度策略，熟悉 KV Cache 管理、PD分离等前沿架构\n4. 具备高性能系统开发经验，熟悉GPU编程（CUDA/Triton等）者优先\n5. 具备复杂系统的设计与调试能力，能够系统性分析推理链路中的性能瓶颈\n6. 良好的学习和自我驱动能力，具备良好的跨团队沟通协作能力\n7. 积极拥抱AI辅助编程工具，善于利用AI提升开发效率与代码质量",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}