主分类:AI训练推理与计算优化
来源 JD 数据(旧分类保留,当前主分类见上方)
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "面向AI芯片推理系统优化-阿里星",
"job_level": "校招",AI生成
"work_category": "全职",AI生成
"department": "阿里巴巴控股集团",
"location": "北京 / 成都 / 杭州 / 上海",
"work_mode": "未披露",AI生成
"job_category": "技术类"AI生成
},
"company": {
"company_name": "阿里巴巴控股集团",
"company_industry": "电子商务 / 云计算 / 人工智能",
"company_size": "未披露",
"company_website": "alibaba.com",
"company_description": "阿里巴巴集团面向消费者和企业提供电子商务、云计算及人工智能服务。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "硕士及以上学历(博士优先)",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "大模型时代,推理效率已成为 AI 落地的核心瓶颈。我们正在构建面向自研 AI 芯片的高性能推理系统,目标是在千亿参数大模型上实现业界领先的推理吞吐和延迟。\n你将参与设计推理引擎的核心模块,包括图执行引擎、内存管理、批处理调度、分布式推理等。你需要在算法、系统和硬件三个层面寻找最优解——从模型量化、KV Cache 优化、Speculative Decoding 等算法创新,到算子调度、显存复用、流水线并行等系统优化,再到与编译器、驱动团队协作榨干硬件的每一分性能。\n岗位职责\n• 设计并实现高性能推理引擎,支持主流大模型(LLaMA/Qwen/GPT 等)的高效推理\n• 研究和落地推理优化技术,包括但不限于:KV Cache 管理、Continuous Batching、Speculative Decoding、模型量化(INT8/INT4/FP8)、稀疏化推理\n• 设计高效的显存管理策略,优化大模型推理的显存占用和碎片问题\n• 开发分布式推理框架,支持张量并行(Tensor Parallelism)、流水线并行(Pipeline Parallelism)、专家并行(Expert Parallelism)等策略\n• 与算子库团队协作,定义高性能算子的接口和性能目标\n• 与编译器团队协作,优化推理场景下的编译策略和代码生成\n• 构建推理性能基准测试框架,持续跟踪和优化推理性能",
"requirements_text": "• 计算机科学、软件工程、人工智能或相关专业,硕士及以上学历(博士优先)\n• 深入理解深度学习模型的推理过程,熟悉 Transformer/LLM 的架构和计算特性\n• 扎实的 C/C++ 和 Python 编程能力,有高性能系统开发经验\n• 熟悉 CUDA/ROCm 等 GPU 编程模型,或有其他 AI 加速器编程经验\n• 对操作系统内存管理、多线程并发、分布式系统有深入理解\n• 有强烈的性能优化意识,习惯用数据驱动决策\n加分项\n• 在 MLSys、系统、体系结构等领域发表过顶级论文(OSDI/SOSP/ASPLOS/EuroSys/MLSys 等)\n• 参与过 vLLM、SGLang、TensorRT-LLM、LMDeploy 等开源推理框架的核心开发\n• 有 GPU/NPU 上的高性能算子开发经验(如 FlashAttention、FlashInfer 等)\n• 熟悉分布式训练/推理框架(Megatron-LM、DeepSpeed、Ray 等)\n• 有大规模模型部署经验,处理过千卡级别的推理集群",
"skills": [AI生成
"Python",
"C++",
"CUDA",
"深度学习",
"分布式系统",
"性能优化",
"大语言模型",
"C语言"
],
"preferred_qualifications": "计算机科学、软件工程、人工智能或相关专业,硕士及以上学历(博士优先);加分项",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://campus-talent.alibaba.com/campus/position/199907720115?deptCodes="
}
]
},
"posting": {
"posting_id": "199907720115",
"post_date": "2026-07-30",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://campus-talent.alibaba.com/campus/position/199907720115?deptCodes="
},
"fulltext": "面向AI芯片推理系统优化-阿里星\n面向AI芯片推理系统优化-阿里星\n\n基础信息\n毕业起止时间要求:2026-11-01 - 2027-10-31\n职位类别:技术类\n招聘项目:阿里巴巴2027届应届生\n工作地点:北京 / 成都 / 杭州 / 上海\n\n职位描述\n大模型时代,推理效率已成为 AI 落地的核心瓶颈。我们正在构建面向自研 AI 芯片的高性能推理系统,目标是在千亿参数大模型上实现业界领先的推理吞吐和延迟。\n你将参与设计推理引擎的核心模块,包括图执行引擎、内存管理、批处理调度、分布式推理等。你需要在算法、系统和硬件三个层面寻找最优解——从模型量化、KV Cache 优化、Speculative Decoding 等算法创新,到算子调度、显存复用、流水线并行等系统优化,再到与编译器、驱动团队协作榨干硬件的每一分性能。\n岗位职责\n• 设计并实现高性能推理引擎,支持主流大模型(LLaMA/Qwen/GPT 等)的高效推理\n• 研究和落地推理优化技术,包括但不限于:KV Cache 管理、Continuous Batching、Speculative Decoding、模型量化(INT8/INT4/FP8)、稀疏化推理\n• 设计高效的显存管理策略,优化大模型推理的显存占用和碎片问题\n• 开发分布式推理框架,支持张量并行(Tensor Parallelism)、流水线并行(Pipeline Parallelism)、专家并行(Expert Parallelism)等策略\n• 与算子库团队协作,定义高性能算子的接口和性能目标\n• 与编译器团队协作,优化推理场景下的编译策略和代码生成\n• 构建推理性能基准测试框架,持续跟踪和优化推理性能\n\n职位要求\n• 计算机科学、软件工程、人工智能或相关专业,硕士及以上学历(博士优先)\n• 深入理解深度学习模型的推理过程,熟悉 Transformer/LLM 的架构和计算特性\n• 扎实的 C/C++ 和 Python 编程能力,有高性能系统开发经验\n• 熟悉 CUDA/ROCm 等 GPU 编程模型,或有其他 AI 加速器编程经验\n• 对操作系统内存管理、多线程并发、分布式系统有深入理解\n• 有强烈的性能优化意识,习惯用数据驱动决策\n加分项\n• 在 MLSys、系统、体系结构等领域发表过顶级论文(OSDI/SOSP/ASPLOS/EuroSys/MLSys 等)\n• 参与过 vLLM、SGLang、TensorRT-LLM、LMDeploy 等开源推理框架的核心开发\n• 有 GPU/NPU 上的高性能算子开发经验(如 FlashAttention、FlashInfer 等)\n• 熟悉分布式训练/推理框架(Megatron-LM、DeepSpeed、Ray 等)\n• 有大规模模型部署经验,处理过千卡级别的推理集群\n\n在招业务\n阿里巴巴控股集团\n大模型时代,推理效率已成为 AI 落地的核心瓶颈。我们正在构建面向自研 AI 芯片的高性能推理系统,目标是在千亿参数大模型上实现业界领先的推理吞吐和延迟。\n你将参与设计推理引擎的核心模块,包括图执行引擎、内存管理、批处理调度、分布式推理等。你需要在算法、系统和硬件三个层面寻找最优解——从模型量化、KV Cache 优化、Speculative Decoding 等算法创新,到算子调度、显存复用、流水线并行等系统优化,再到与编译器、驱动团队协作榨干硬件的每一分性能。\n岗位职责\n• 设计并实现高性能推理引擎,支持主流大模型(LLaMA/Qwen/GPT 等)的高效推理\n• 研究和落地推理优化技术,包括但不限于:KV Cache 管理、Continuous Batching、Speculative Decoding、模型量化(INT8/INT4/FP8)、稀疏化推理\n• 设计高效的显存管理策略,优化大模型推理的显存占用和碎片问题\n• 开发分布式推理框架,支持张量并行(Tensor Parallelism)、流水线并行(Pipeline Parallelism)、专家并行(Expert Parallelism)等策略\n• 与算子库团队协作,定义高性能算子的接口和性能目标\n• 与编译器团队协作,优化推理场景下的编译策略和代码生成\n• 构建推理性能基准测试框架,持续跟踪和优化推理性能\n• 计算机科学、软件工程、人工智能或相关专业,硕士及以上学历(博士优先)\n• 深入理解深度学习模型的推理过程,熟悉 Transformer/LLM 的架构和计算特性\n• 扎实的 C/C++ 和 Python 编程能力,有高性能系统开发经验\n• 熟悉 CUDA/ROCm 等 GPU 编程模型,或有其他 AI 加速器编程经验\n• 对操作系统内存管理、多线程并发、分布式系统有深入理解\n• 有强烈的性能优化意识,习惯用数据驱动决策\n加分项\n• 在 MLSys、系统、体系结构等领域发表过顶级论文(OSDI/SOSP/ASPLOS/EuroSys/MLSys 等)\n• 参与过 vLLM、SGLang、TensorRT-LLM、LMDeploy 等开源推理框架的核心开发\n• 有 GPU/NPU 上的高性能算子开发经验(如 FlashAttention、FlashInfer 等)\n• 熟悉分布式训练/推理框架(Megatron-LM、DeepSpeed、Ray 等)\n• 有大规模模型部署经验,处理过千卡级别的推理集群",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}