主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "大模型推理优化-阿里星/A Star",
"job_level": "校招",AI生成
"work_category": "全职",AI生成
"department": "阿里云",
"location": "北京 / 杭州",
"work_mode": "未披露",AI生成
"job_category": "技术类"AI生成
},
"company": {
"company_name": "阿里云",
"company_industry": "云计算 / 人工智能",
"company_size": "10000人以上",
"company_website": "alibaba.com",
"company_description": "阿里云提供云基础设施、AI模型、智能体和计算服务。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "学历背景：计算机科学、人工智能、电子工程、数学等相关专业硕士",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1.参与大模型推理引擎（基于SGLang 框架）的设计与核心模块开发，支持 Transformer、MoE、DiffusionLLM 等多种架构及 LLM/VLM 等模型的高性能推理。\n2.运用低比特量化、投机采样、稀疏计算、分布式推理等技术，加速大模型推理速度并降低部署成本， 并优化其稳定性、易用性。\n3.针对 GPU/AI 芯片架构（含自研硬件），开展针对性性能调优，优化算子、内存管理、KV Cache 管理等核心模块。\n4.与算法、产品及业务团队协作，推动不同模型场景下的系统端到端性能优化。\n5.关注并引入前沿大模型推理技术，参与 SGLang 及相关开源生态的维护与贡献。",
"requirements_text": "1. 学历背景：计算机科学、人工智能、电子工程、数学等相关专业硕士，博士优先。\n2. 编程能力：精通 C++/CUDA，熟练掌握 Python，具备扎实的数据结构与算法基础，能够编写高性能、高质量的工程代码。\n3. 深度学习框架：熟悉 PyTorch 等主流深度学习框架，了解其底层实现机制及计算图优化原理。\n4. 专业技能：推理引擎经验：熟悉至少一种主流大模型推理框架（如 SGLang、vLLM、TensorRT-LLM、LMDeploy 等），了解其核心架构与优化原理者优先。\n5. 模型架构理解：深入理解 Transformer 架构，熟悉 MoE、Diffusion、LLM/VLM 等模型的原理与推理特性。\n6. 推理优化技术：掌握以下至少一项核心优化技术：\n- 低比特量化（INT8/INT4/FP8 等）；\n- 投机采样（Speculative Decoding）；\n- 稀疏计算 / 稀疏注意力；\n- 分布式推理（TP/PP/EP/DP 等并行策略）；\n- KV Cache 管理与优化；\n- 硬件性能调优：熟悉 GPU（NVIDIA/AMD）或 AI 芯片架构，具备算子开发、内存管理、Kernel 优化等性能调优经验；有自研硬件适配经验者优先。\n7.综合素质\n- 工程能力：具备良好的系统设计能力和工程实践经验，能够独立完成核心模块的设计与开发；\n- 协作沟通：具备良好的团队协作精神和跨团队沟通能力，能够与算法、产品及业务团队高效配合；\n- 学习能力：对大模型推理技术有强烈的兴趣和热情，关注前沿技术动态，具备快速学习与落地能力。\n【加分项】\n1. 有 SGLang、vLLM 等知名开源项目的贡献经验（PR、Issue、Commit 等）。\n2. 在顶级会议/期刊（如 NeurIPS、ICML、ICLR、MLSys、OSDI 等）发表过相关论文。\n3. 有大规模模型生产环境部署与性能优化的实战经验。\n4. 熟悉 CUDA 高级特性（如 Tensor Core、CUTLASS、Triton 等）。\n5. 参与过推理相关算子库（如 FlashAttention、FlashInfer 等）的开发或优化。\n6. 有 MoE 大规模分布式推理或多模态模型（VLM）推理优化经验。",
"skills": [AI生成
"Python",
"C++",
"PyTorch",
"CUDA",
"深度学习",
"数据结构",
"性能优化",
"性能调优",
"团队协作",
"沟通能力",
"学习能力",
"大语言模型"
],
"preferred_qualifications": "1. 学历背景：计算机科学、人工智能、电子工程、数学等相关专业硕士，博士优先；4. 专业技能：推理引擎经验：熟悉至少一种主流大模型推理框架（如 SGLang、vLLM、TensorRT-LLM、LMDeploy 等），了解其核心架构与优化原理者优先；有自研硬件适配经验者优先；【加分项】",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://campus-talent.alibaba.com/campus/position/199907800044?deptCodes="
}
]
},
"posting": {
"posting_id": "199907800044",
"post_date": "2026-07-30",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://campus-talent.alibaba.com/campus/position/199907800044?deptCodes="
},
"fulltext": "大模型推理优化-阿里星/A Star\n大模型推理优化-阿里星/A Star\n\n基础信息\n毕业起止时间要求：2026-11-01 - 2027-10-31\n职位类别：技术类\n招聘项目：阿里巴巴2027届应届生\n工作地点：北京 / 杭州\n\n职位描述\n1.参与大模型推理引擎（基于SGLang 框架）的设计与核心模块开发，支持 Transformer、MoE、DiffusionLLM 等多种架构及 LLM/VLM 等模型的高性能推理。\n2.运用低比特量化、投机采样、稀疏计算、分布式推理等技术，加速大模型推理速度并降低部署成本， 并优化其稳定性、易用性。\n3.针对 GPU/AI 芯片架构（含自研硬件），开展针对性性能调优，优化算子、内存管理、KV Cache 管理等核心模块。\n4.与算法、产品及业务团队协作，推动不同模型场景下的系统端到端性能优化。\n5.关注并引入前沿大模型推理技术，参与 SGLang 及相关开源生态的维护与贡献。\n\n职位要求\n1. 学历背景：计算机科学、人工智能、电子工程、数学等相关专业硕士，博士优先。\n2. 编程能力：精通 C++/CUDA，熟练掌握 Python，具备扎实的数据结构与算法基础，能够编写高性能、高质量的工程代码。\n3. 深度学习框架：熟悉 PyTorch 等主流深度学习框架，了解其底层实现机制及计算图优化原理。\n4. 专业技能：推理引擎经验：熟悉至少一种主流大模型推理框架（如 SGLang、vLLM、TensorRT-LLM、LMDeploy 等），了解其核心架构与优化原理者优先。\n5. 模型架构理解：深入理解 Transformer 架构，熟悉 MoE、Diffusion、LLM/VLM 等模型的原理与推理特性。\n6. 推理优化技术：掌握以下至少一项核心优化技术：\n- 低比特量化（INT8/INT4/FP8 等）；\n- 投机采样（Speculative Decoding）；\n- 稀疏计算 / 稀疏注意力；\n- 分布式推理（TP/PP/EP/DP 等并行策略）；\n- KV Cache 管理与优化；\n- 硬件性能调优：熟悉 GPU（NVIDIA/AMD）或 AI 芯片架构，具备算子开发、内存管理、Kernel 优化等性能调优经验；有自研硬件适配经验者优先。\n7.综合素质\n- 工程能力：具备良好的系统设计能力和工程实践经验，能够独立完成核心模块的设计与开发；\n- 协作沟通：具备良好的团队协作精神和跨团队沟通能力，能够与算法、产品及业务团队高效配合；\n- 学习能力：对大模型推理技术有强烈的兴趣和热情，关注前沿技术动态，具备快速学习与落地能力。\n【加分项】\n1. 有 SGLang、vLLM 等知名开源项目的贡献经验（PR、Issue、Commit 等）。\n2. 在顶级会议/期刊（如 NeurIPS、ICML、ICLR、MLSys、OSDI 等）发表过相关论文。\n3. 有大规模模型生产环境部署与性能优化的实战经验。\n4. 熟悉 CUDA 高级特性（如 Tensor Core、CUTLASS、Triton 等）。\n5. 参与过推理相关算子库（如 FlashAttention、FlashInfer 等）的开发或优化。\n6. 有 MoE 大规模分布式推理或多模态模型（VLM）推理优化经验。\n\n在招业务\n阿里云\n1.参与大模型推理引擎（基于SGLang 框架）的设计与核心模块开发，支持 Transformer、MoE、DiffusionLLM 等多种架构及 LLM/VLM 等模型的高性能推理。\n2.运用低比特量化、投机采样、稀疏计算、分布式推理等技术，加速大模型推理速度并降低部署成本， 并优化其稳定性、易用性。\n3.针对 GPU/AI 芯片架构（含自研硬件），开展针对性性能调优，优化算子、内存管理、KV Cache 管理等核心模块。\n4.与算法、产品及业务团队协作，推动不同模型场景下的系统端到端性能优化。\n5.关注并引入前沿大模型推理技术，参与 SGLang 及相关开源生态的维护与贡献。\n1. 学历背景：计算机科学、人工智能、电子工程、数学等相关专业硕士，博士优先。\n2. 编程能力：精通 C++/CUDA，熟练掌握 Python，具备扎实的数据结构与算法基础，能够编写高性能、高质量的工程代码。\n3. 深度学习框架：熟悉 PyTorch 等主流深度学习框架，了解其底层实现机制及计算图优化原理。\n4. 专业技能：推理引擎经验：熟悉至少一种主流大模型推理框架（如 SGLang、vLLM、TensorRT-LLM、LMDeploy 等），了解其核心架构与优化原理者优先。\n5. 模型架构理解：深入理解 Transformer 架构，熟悉 MoE、Diffusion、LLM/VLM 等模型的原理与推理特性。\n6. 推理优化技术：掌握以下至少一项核心优化技术：\n- 低比特量化（INT8/INT4/FP8 等）；\n- 投机采样（Speculative Decoding）；\n- 稀疏计算 / 稀疏注意力；\n- 分布式推理（TP/PP/EP/DP 等并行策略）；\n- KV Cache 管理与优化；\n- 硬件性能调优：熟悉 GPU（NVIDIA/AMD）或 AI 芯片架构，具备算子开发、内存管理、Kernel 优化等性能调优经验；有自研硬件适配经验者优先。\n7.综合素质\n- 工程能力：具备良好的系统设计能力和工程实践经验，能够独立完成核心模块的设计与开发；\n- 协作沟通：具备良好的团队协作精神和跨团队沟通能力，能够与算法、产品及业务团队高效配合；\n- 学习能力：对大模型推理技术有强烈的兴趣和热情，关注前沿技术动态，具备快速学习与落地能力。\n【加分项】\n1. 有 SGLang、vLLM 等知名开源项目的贡献经验（PR、Issue、Commit 等）。\n2. 在顶级会议/期刊（如 NeurIPS、ICML、ICLR、MLSys、OSDI 等）发表过相关论文。\n3. 有大规模模型生产环境部署与性能优化的实战经验。\n4. 熟悉 CUDA 高级特性（如 Tensor Core、CUTLASS、Triton 等）。\n5. 参与过推理相关算子库（如 FlashAttention、FlashInfer 等）的开发或优化。\n6. 有 MoE 大规模分布式推理或多模态模型（VLM）推理优化经验。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}