主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "面向多模态大模型的分布式推理架构与极致性能优化-阿里星",
"job_level": "校招",AI生成
"work_category": "全职",AI生成
"department": "阿里巴巴控股集团",
"location": "北京 / 杭州 / 上海",
"work_mode": "未披露",AI生成
"job_category": "技术类"AI生成
},
"company": {
"company_name": "阿里巴巴控股集团",
"company_industry": "电子商务 / 云计算 / 人工智能",
"company_size": "未披露",
"company_website": "alibaba.com",
"company_description": "阿里巴巴集团面向消费者和企业提供电子商务、云计算及人工智能服务。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "计算机/人工智能相关专业硕士及以上学历",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1、分布式推理架构的研发，包括多机推理架构设计，P/D分离、A/F分离、VL模型分离架构的落地； \n2、推理引擎服务化，包括推理引擎如何接入线上服务平台，自动扩缩容和可观测性的适配，以及提升线上服务稳定性； \n3、多模态模型的推理功能开发和性能优化，包括对Qwen-VL、Qwen-Audio、Qwen-Omni等多模态输入/输出模型的功能支持和推理性能优化； \n4、分布式 KV Cache Store 的设计与研发，构建高吞吐、低延迟的全局 KV Cache 池化管理机制，实现跨计算节点（显存/内存）的高效数据传输与共享。",
"requirements_text": "1、计算机/人工智能相关专业硕士及以上学历，熟练掌握C++和Python编程语言，和软件工程面向对象设计（OOP、OOD）等相关技术， 有很好的抽象能力； \n2、掌握性能优化方法论，能够快速定位系统瓶颈的原因，能够利用Roofline Model来计算IO、计算和带宽的理论极限，并用编程技术逼近极限； \n3、良好的技术洞察力、拥有技术激情、快速学习和协同落地能力，自我驱动力强，具有创新精神。 \u2028\n加分项： \n1、熟悉开源LLM推理引擎的架构和实现， 对推理引擎领域开源项目有持续关注； \n2、有分布式推理系统架构设计和性能优化经验； \n3、有CUDA编程基础和算子性能优化经验； \n4、有过高性能计算领域文章发表等相关经验。",
"skills": [AI生成
"Python",
"C++",
"CUDA",
"性能优化",
"系统架构",
"架构设计"
],
"preferred_qualifications": "加分项：",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://campus-talent.alibaba.com/campus/position/199907640049?deptCodes="
}
]
},
"posting": {
"posting_id": "199907640049",
"post_date": "2026-08-13",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://campus-talent.alibaba.com/campus/position/199907640049?deptCodes="
},
"fulltext": "面向多模态大模型的分布式推理架构与极致性能优化-阿里星\n面向多模态大模型的分布式推理架构与极致性能优化-阿里星\n\n基础信息\n毕业起止时间要求：2026-11-01 - 2027-10-31\n职位类别：技术类\n招聘项目：阿里巴巴2027届应届生\n工作地点：北京 / 杭州 / 上海\n\n职位描述\n1、分布式推理架构的研发，包括多机推理架构设计，P/D分离、A/F分离、VL模型分离架构的落地； \n2、推理引擎服务化，包括推理引擎如何接入线上服务平台，自动扩缩容和可观测性的适配，以及提升线上服务稳定性； \n3、多模态模型的推理功能开发和性能优化，包括对Qwen-VL、Qwen-Audio、Qwen-Omni等多模态输入/输出模型的功能支持和推理性能优化； \n4、分布式 KV Cache Store 的设计与研发，构建高吞吐、低延迟的全局 KV Cache 池化管理机制，实现跨计算节点（显存/内存）的高效数据传输与共享。\n\n职位要求\n1、计算机/人工智能相关专业硕士及以上学历，熟练掌握C++和Python编程语言，和软件工程面向对象设计（OOP、OOD）等相关技术， 有很好的抽象能力； \n2、掌握性能优化方法论，能够快速定位系统瓶颈的原因，能够利用Roofline Model来计算IO、计算和带宽的理论极限，并用编程技术逼近极限； \n3、良好的技术洞察力、拥有技术激情、快速学习和协同落地能力，自我驱动力强，具有创新精神。 \u2028\n加分项： \n1、熟悉开源LLM推理引擎的架构和实现， 对推理引擎领域开源项目有持续关注； \n2、有分布式推理系统架构设计和性能优化经验； \n3、有CUDA编程基础和算子性能优化经验； \n4、有过高性能计算领域文章发表等相关经验。\n\n在招业务\n阿里巴巴控股集团\n1、分布式推理架构的研发，包括多机推理架构设计，P/D分离、A/F分离、VL模型分离架构的落地； \n2、推理引擎服务化，包括推理引擎如何接入线上服务平台，自动扩缩容和可观测性的适配，以及提升线上服务稳定性； \n3、多模态模型的推理功能开发和性能优化，包括对Qwen-VL、Qwen-Audio、Qwen-Omni等多模态输入/输出模型的功能支持和推理性能优化； \n4、分布式 KV Cache Store 的设计与研发，构建高吞吐、低延迟的全局 KV Cache 池化管理机制，实现跨计算节点（显存/内存）的高效数据传输与共享。\n1、计算机/人工智能相关专业硕士及以上学历，熟练掌握C++和Python编程语言，和软件工程面向对象设计（OOP、OOD）等相关技术， 有很好的抽象能力； \n2、掌握性能优化方法论，能够快速定位系统瓶颈的原因，能够利用Roofline Model来计算IO、计算和带宽的理论极限，并用编程技术逼近极限； \n3、良好的技术洞察力、拥有技术激情、快速学习和协同落地能力，自我驱动力强，具有创新精神。 \u2028\n加分项： \n1、熟悉开源LLM推理引擎的架构和实现， 对推理引擎领域开源项目有持续关注； \n2、有分布式推理系统架构设计和性能优化经验； \n3、有CUDA编程基础和算子性能优化经验； \n4、有过高性能计算领域文章发表等相关经验。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}