主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "大模型推理及后训练关键技术研究-阿里星/A Star",
"job_level": "校招",AI生成
"work_category": "全职",AI生成
"department": "阿里云",
"location": "北京 / 杭州",
"work_mode": "未披露",AI生成
"job_category": "技术类"AI生成
},
"company": {
"company_name": "阿里云",
"company_industry": "云计算 / 人工智能",
"company_size": "10000人以上",
"company_website": "alibaba.com",
"company_description": "阿里云提供云基础设施、AI模型、智能体和计算服务。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "计算机相关专业博士",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "在这里，你将深入大模型推理系统的核心腹地，从推理引擎内核、KV Cache存储体系，到模型微调与部署的全链路打通，打造高性能、低成本的推理与定制化交付引擎。\n1.参与大模型推理引擎（vLLM/SGLang等）的深度优化与定制化开发，包括Continuous Batching、PD分离、投机采样、低比特量化等核心机制，持续提升推理吞吐与延迟表现；\n2.负责KV Cache存储与管理体系建设，包括多级缓存架构（HBM/DRAM/SSD）、Prefix Cache复用、迁移/共享/淘汰策略、分布式KV Cache高效传输；\n3.参与多模态大模型的推理与后训练技术建设，包括ViT/DiT等异构结构的推理加速、多模态场景的Cache优化与显存管理、图文/视频数据的微调链路适配；\n4.参与大模型后训练与微调系统建设，包括SFT全参微调与参数高效微调（LoRA/QLoRA等）训练链路、数据流水线与效果评估，打通\"\"微调→压缩→部署→推理\"\"闭环，支持Multi-LoRA推理服务；\n5.基于线上真实负载持续优化推理链路的性能、稳定性与成本效率，在生产环境实现延迟与吞吐的数量级提升。",
"requirements_text": "1.计算机相关专业博士；\n2.熟悉vLLM、SGLang、TensorRT-LLM等开源推理引擎的架构与实现，深入理解Continuous Batching、PagedAttention、KV Cache管理、PD分离、量化、投机采样等关键技术；\n3.了解大模型微调技术（SFT、LoRA/QLoRA等），熟悉Megatron-LM、FSDP、DeepSpeed等训练框架者优先；\n4.了解多模态大模型架构（视觉理解/视觉生成等），有多模态模型推理优化或微调实践经验者优先；\n5.具备高性能系统开发经验，熟悉GPU编程（CUDA/Triton）与NCCL等通信技术者优先，能够系统性分析推理链路中的性能瓶颈；\n6.良好的学习与自驱能力和跨团队协作能力，积极拥抱AI辅助编程工具提升开发效率。\n加分项：\n1.在OSDI/SOSP/ATC/NeurIPS/ICML/ICLR等顶会/顶刊发表过高质量论文；\n2.深度参与或主导贡献过顶级开源项目（vLLM/SGLang/TensorRT-LLM/Megatron-LM等）；\n3.有KV Cache分布式存储、微调模型量化部署等实战经验，或了解RLHF/DPO等模型对齐技术。",
"skills": [AI生成
"CUDA",
"模型微调",
"团队协作",
"大语言模型"
],
"preferred_qualifications": "3.了解大模型微调技术（SFT、LoRA/QLoRA等），熟悉Megatron-LM、FSDP、DeepSpeed等训练框架者优先；4.了解多模态大模型架构（视觉理解/视觉生成等），有多模态模型推理优化或微调实践经验者优先；5.具备高性能系统开发经验，熟悉GPU编程（CUDA/Triton）与NCCL等通信技术者优先，能够系统性分析推理链路中的性能瓶颈；加分项：",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://campus-talent.alibaba.com/campus/position/199908300009?deptCodes="
}
]
},
"posting": {
"posting_id": "199908300009",
"post_date": "2026-08-04",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://campus-talent.alibaba.com/campus/position/199908300009?deptCodes="
},
"fulltext": "大模型推理及后训练关键技术研究-阿里星/A Star\n大模型推理及后训练关键技术研究-阿里星/A Star\n\n基础信息\n毕业起止时间要求：2026-11-01 - 2027-10-31\n职位类别：技术类\n招聘项目：阿里巴巴2027届应届生\n工作地点：北京 / 杭州\n\n职位描述\n在这里，你将深入大模型推理系统的核心腹地，从推理引擎内核、KV Cache存储体系，到模型微调与部署的全链路打通，打造高性能、低成本的推理与定制化交付引擎。\n1.参与大模型推理引擎（vLLM/SGLang等）的深度优化与定制化开发，包括Continuous Batching、PD分离、投机采样、低比特量化等核心机制，持续提升推理吞吐与延迟表现；\n2.负责KV Cache存储与管理体系建设，包括多级缓存架构（HBM/DRAM/SSD）、Prefix Cache复用、迁移/共享/淘汰策略、分布式KV Cache高效传输；\n3.参与多模态大模型的推理与后训练技术建设，包括ViT/DiT等异构结构的推理加速、多模态场景的Cache优化与显存管理、图文/视频数据的微调链路适配；\n4.参与大模型后训练与微调系统建设，包括SFT全参微调与参数高效微调（LoRA/QLoRA等）训练链路、数据流水线与效果评估，打通\"\"微调→压缩→部署→推理\"\"闭环，支持Multi-LoRA推理服务；\n5.基于线上真实负载持续优化推理链路的性能、稳定性与成本效率，在生产环境实现延迟与吞吐的数量级提升。\n\n职位要求\n1.计算机相关专业博士；\n2.熟悉vLLM、SGLang、TensorRT-LLM等开源推理引擎的架构与实现，深入理解Continuous Batching、PagedAttention、KV Cache管理、PD分离、量化、投机采样等关键技术；\n3.了解大模型微调技术（SFT、LoRA/QLoRA等），熟悉Megatron-LM、FSDP、DeepSpeed等训练框架者优先；\n4.了解多模态大模型架构（视觉理解/视觉生成等），有多模态模型推理优化或微调实践经验者优先；\n5.具备高性能系统开发经验，熟悉GPU编程（CUDA/Triton）与NCCL等通信技术者优先，能够系统性分析推理链路中的性能瓶颈；\n6.良好的学习与自驱能力和跨团队协作能力，积极拥抱AI辅助编程工具提升开发效率。\n加分项：\n1.在OSDI/SOSP/ATC/NeurIPS/ICML/ICLR等顶会/顶刊发表过高质量论文；\n2.深度参与或主导贡献过顶级开源项目（vLLM/SGLang/TensorRT-LLM/Megatron-LM等）；\n3.有KV Cache分布式存储、微调模型量化部署等实战经验，或了解RLHF/DPO等模型对齐技术。\n\n在招业务\n阿里云\n在这里，你将深入大模型推理系统的核心腹地，从推理引擎内核、KV Cache存储体系，到模型微调与部署的全链路打通，打造高性能、低成本的推理与定制化交付引擎。\n1.参与大模型推理引擎（vLLM/SGLang等）的深度优化与定制化开发，包括Continuous Batching、PD分离、投机采样、低比特量化等核心机制，持续提升推理吞吐与延迟表现；\n2.负责KV Cache存储与管理体系建设，包括多级缓存架构（HBM/DRAM/SSD）、Prefix Cache复用、迁移/共享/淘汰策略、分布式KV Cache高效传输；\n3.参与多模态大模型的推理与后训练技术建设，包括ViT/DiT等异构结构的推理加速、多模态场景的Cache优化与显存管理、图文/视频数据的微调链路适配；\n4.参与大模型后训练与微调系统建设，包括SFT全参微调与参数高效微调（LoRA/QLoRA等）训练链路、数据流水线与效果评估，打通\"\"微调→压缩→部署→推理\"\"闭环，支持Multi-LoRA推理服务；\n5.基于线上真实负载持续优化推理链路的性能、稳定性与成本效率，在生产环境实现延迟与吞吐的数量级提升。\n1.计算机相关专业博士；\n2.熟悉vLLM、SGLang、TensorRT-LLM等开源推理引擎的架构与实现，深入理解Continuous Batching、PagedAttention、KV Cache管理、PD分离、量化、投机采样等关键技术；\n3.了解大模型微调技术（SFT、LoRA/QLoRA等），熟悉Megatron-LM、FSDP、DeepSpeed等训练框架者优先；\n4.了解多模态大模型架构（视觉理解/视觉生成等），有多模态模型推理优化或微调实践经验者优先；\n5.具备高性能系统开发经验，熟悉GPU编程（CUDA/Triton）与NCCL等通信技术者优先，能够系统性分析推理链路中的性能瓶颈；\n6.良好的学习与自驱能力和跨团队协作能力，积极拥抱AI辅助编程工具提升开发效率。\n加分项：\n1.在OSDI/SOSP/ATC/NeurIPS/ICML/ICLR等顶会/顶刊发表过高质量论文；\n2.深度参与或主导贡献过顶级开源项目（vLLM/SGLang/TensorRT-LLM/Megatron-LM等）；\n3.有KV Cache分布式存储、微调模型量化部署等实战经验，或了解RLHF/DPO等模型对齐技术。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}