主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "AI推理平台-AIGC推理基础设施研发工程师-北京/杭州",
"job_level": "未披露",AI生成
"work_category": "全职",AI生成
"department": "阿里集团",
"location": "北京 / 杭州",
"work_mode": "未披露",AI生成
"job_category": "工程建设/设施管理"AI生成
},
"company": {
"company_name": "阿里巴巴控股集团",
"company_industry": "电子商务 / 云计算 / 人工智能",
"company_size": "未披露",
"company_website": "alibaba.com",
"company_description": "阿里巴巴集团面向消费者和企业提供电子商务、云计算及人工智能服务。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "硕士",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "具体职责包括：\n1. 模型服务架构：负责 AIGC 模型服务框架的设计与研发，建设统一的模型接入协议、Stage 编排、Engine 管理和 Runtime 能力，支持图像、视频生成等模型快速接入，降低能力形态与硬件组合增长带来的交付复杂度。\n2. 分布式推理与性能优化：围绕 DiT 等计算密集型模型，参与并行方案设计，分析计算、通信、显存和 Pipeline Bubble 等核心瓶颈；结合 Profiling、通信计算重叠、Batching、CUDA Graph、算子融合等手段，持续优化任务时延、吞吐、显存占用、GPU 利用率和单位推理成本。\n3. 调度与资源效率：面向分辨率、视频时长、采样步数等差异化请求，建设请求调度队列、批处理、QoS、流量路由和弹性伸缩能力；探索 Cohort Scheduling、动态 Pipeline、异构资源池调度等方案，在保障服务质量的前提下提升闲置资源和低成本资源的使用效率。\n4. 下一代推理架构：参与 NVLink/NVSwitch等高速互联环境下的 Supernode-Native Serving 探索，建设拓扑感知的进程组管理、角色编排、进程生命周期和请求调度能力，推动新硬件、新并行方案在更大并行域下继续scale的平台能力。",
"requirements_text": "1. 计算机、软件工程、人工智能等相关专业，熟练使用 Python；具备 C++、CUDA、Rust 等开发经验者优先。\n2. 具备 2 年及以上 AI Infra、模型推理、分布式系统或 GPU 服务相关经验，熟悉 PyTorch 及其分布式执行机制。\n3. 熟悉多机多卡系统中的进程组、集合通信、显存管理和并行计算，有 FSDP、TP、SP、EP、PP 等多种并行方案的实践经验。\n4. 具备良好的系统设计和抽象能力，能够从单模型需求中识别共性问题，设计可扩展、可观测、可灰度和可回滚的平台能力。\n5. 有责任心和结果意识，具备良好的沟通、执行与跨团队协作能力，能够推动复杂技术方案从设计、验证走向生产落地。\n加分项\n● 有图像、视频生成、Diffusion 或 DiT 模型服务经验。\n● 熟悉 Diffusers、xDiT、vLLM、SGLang 或其他推理框架。\n● 有 CUDA、Triton、NCCL、Nsight Systems/Compute 等性能优化与 Profiling 经验。\n● 有 Kubernetes、大规模在线服务、异构 GPU 调度、弹性伸缩或超节点相关经验。\n● 有推理框架、分布式系统或性能优化方向的开源贡献。",
"skills": [AI生成
"Python",
"C++",
"Rust",
"Kubernetes",
"PyTorch",
"CUDA",
"分布式系统",
"性能优化",
"团队协作"
],
"preferred_qualifications": "具备 C++、CUDA、Rust 等开发经验者优先；加分项",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://talent-holding.alibaba.com/off-campus/position-detail?positionId=100034060005"
}
]
},
"posting": {
"posting_id": "100034060005",
"post_date": "2026-09-16",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://talent-holding.alibaba.com/off-campus/position-detail?positionId=100034060005"
},
"fulltext": "AI推理平台-AIGC推理基础设施研发工程师-北京/杭州\nAI推理平台-AIGC推理基础设施研发工程师-北京/杭州\n\n基础信息\n工作地点：北京 / 杭州\n\n职位描述\n具体职责包括：\n1. 模型服务架构：负责 AIGC 模型服务框架的设计与研发，建设统一的模型接入协议、Stage 编排、Engine 管理和 Runtime 能力，支持图像、视频生成等模型快速接入，降低能力形态与硬件组合增长带来的交付复杂度。\n2. 分布式推理与性能优化：围绕 DiT 等计算密集型模型，参与并行方案设计，分析计算、通信、显存和 Pipeline Bubble 等核心瓶颈；结合 Profiling、通信计算重叠、Batching、CUDA Graph、算子融合等手段，持续优化任务时延、吞吐、显存占用、GPU 利用率和单位推理成本。\n3. 调度与资源效率：面向分辨率、视频时长、采样步数等差异化请求，建设请求调度队列、批处理、QoS、流量路由和弹性伸缩能力；探索 Cohort Scheduling、动态 Pipeline、异构资源池调度等方案，在保障服务质量的前提下提升闲置资源和低成本资源的使用效率。\n4. 下一代推理架构：参与 NVLink/NVSwitch等高速互联环境下的 Supernode-Native Serving 探索，建设拓扑感知的进程组管理、角色编排、进程生命周期和请求调度能力，推动新硬件、新并行方案在更大并行域下继续scale的平台能力。\n\n职位要求\n1. 计算机、软件工程、人工智能等相关专业，熟练使用 Python；具备 C++、CUDA、Rust 等开发经验者优先。\n2. 具备 2 年及以上 AI Infra、模型推理、分布式系统或 GPU 服务相关经验，熟悉 PyTorch 及其分布式执行机制。\n3. 熟悉多机多卡系统中的进程组、集合通信、显存管理和并行计算，有 FSDP、TP、SP、EP、PP 等多种并行方案的实践经验。\n4. 具备良好的系统设计和抽象能力，能够从单模型需求中识别共性问题，设计可扩展、可观测、可灰度和可回滚的平台能力。\n5. 有责任心和结果意识，具备良好的沟通、执行与跨团队协作能力，能够推动复杂技术方案从设计、验证走向生产落地。\n加分项\n● 有图像、视频生成、Diffusion 或 DiT 模型服务经验。\n● 熟悉 Diffusers、xDiT、vLLM、SGLang 或其他推理框架。\n● 有 CUDA、Triton、NCCL、Nsight Systems/Compute 等性能优化与 Profiling 经验。\n● 有 Kubernetes、大规模在线服务、异构 GPU 调度、弹性伸缩或超节点相关经验。\n● 有推理框架、分布式系统或性能优化方向的开源贡献。\n具体职责包括：\n1. 模型服务架构：负责 AIGC 模型服务框架的设计与研发，建设统一的模型接入协议、Stage 编排、Engine 管理和 Runtime 能力，支持图像、视频生成等模型快速接入，降低能力形态与硬件组合增长带来的交付复杂度。\n2. 分布式推理与性能优化：围绕 DiT 等计算密集型模型，参与并行方案设计，分析计算、通信、显存和 Pipeline Bubble 等核心瓶颈；结合 Profiling、通信计算重叠、Batching、CUDA Graph、算子融合等手段，持续优化任务时延、吞吐、显存占用、GPU 利用率和单位推理成本。\n3. 调度与资源效率：面向分辨率、视频时长、采样步数等差异化请求，建设请求调度队列、批处理、QoS、流量路由和弹性伸缩能力；探索 Cohort Scheduling、动态 Pipeline、异构资源池调度等方案，在保障服务质量的前提下提升闲置资源和低成本资源的使用效率。\n4. 下一代推理架构：参与 NVLink/NVSwitch等高速互联环境下的 Supernode-Native Serving 探索，建设拓扑感知的进程组管理、角色编排、进程生命周期和请求调度能力，推动新硬件、新并行方案在更大并行域下继续scale的平台能力。\n1. 计算机、软件工程、人工智能等相关专业，熟练使用 Python；具备 C++、CUDA、Rust 等开发经验者优先。\n2. 具备 2 年及以上 AI Infra、模型推理、分布式系统或 GPU 服务相关经验，熟悉 PyTorch 及其分布式执行机制。\n3. 熟悉多机多卡系统中的进程组、集合通信、显存管理和并行计算，有 FSDP、TP、SP、EP、PP 等多种并行方案的实践经验。\n4. 具备良好的系统设计和抽象能力，能够从单模型需求中识别共性问题，设计可扩展、可观测、可灰度和可回滚的平台能力。\n5. 有责任心和结果意识，具备良好的沟通、执行与跨团队协作能力，能够推动复杂技术方案从设计、验证走向生产落地。\n加分项\n● 有图像、视频生成、Diffusion 或 DiT 模型服务经验。\n● 熟悉 Diffusers、xDiT、vLLM、SGLang 或其他推理框架。\n● 有 CUDA、Triton、NCCL、Nsight Systems/Compute 等性能优化与 Profiling 经验。\n● 有 Kubernetes、大规模在线服务、异构 GPU 调度、弹性伸缩或超节点相关经验。\n● 有推理框架、分布式系统或性能优化方向的开源贡献。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}