主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "AI推理平台-大模型推理效能与稳定性专家-效能提升",
"job_level": "专家",AI生成
"work_category": "全职",AI生成
"department": "阿里集团",
"location": "北京 / 杭州",
"work_mode": "未披露",AI生成
"job_category": "技术类-开发"AI生成
},
"company": {
"company_name": "阿里巴巴控股集团",
"company_industry": "电子商务 / 云计算 / 人工智能",
"company_size": "未披露",
"company_website": "alibaba.com",
"company_description": "阿里巴巴集团面向消费者和企业提供电子商务、云计算及人工智能服务。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "本科及以上",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "聚焦推理引擎底层与集群稳定性，通过深度分析、压测注入、可观测数据挖掘，主动发现性能瓶颈与隐患，协同研发团队闭环解决，系统性提升推理SLA与资源效能\n1. 引擎底层问题挖掘与根因分析\n深入vLLM、SGLang、TensorRT-LLM等推理引擎源码，通过Profile、Trace、日志分析等手段，主动识别算子调度、显存分配、KV Cache管理、通信同步等底层性能缺陷与逻辑异常。\n对线上偶发超时、吞吐抖动、显存泄漏等问题进行深度根因定位，输出清晰的问题复现路径与修复建议。\n2. 推理集群稳定性治理\n构建混沌工程与故障注入体系，系统性验证服务在节点故障、网络分区、负载突增等场景下的容灾与自愈能力，提前暴露架构脆弱点。\n主导线上故障应急排查与复盘，推动建立稳定性防护网（限流、降级、重试风暴防护等）。\n3. 可观测性与效能分析体系建设\n参与全链路可观测性平台（Metrics/Tracing/Logging）的建设，如提炼TTFT、TPOT、并发上限、GPU利用率等关键效能与稳定性指标，建立异常检测与智能告警规则等\n通过数据分析发现容量冗余、调度不均衡、资源碎片等成本效能问题，推动调度策略优化。\n4. 性能瓶颈攻坚与协同优化\n主导端到端压测与长稳测试，定位并发增长下的性能拐点，联合研发制定优化方案（如PD分离、Prefix Caching、Speculative Decoding工程化适配）。\n作为效能问题的技术人员，推动研发团队优先级排期与问题闭环，跟踪优化效果并量化收益。",
"requirements_text": "1. 本科及以上，计算机相关专业\n2. 具有5年以上系统性能分析、稳定性保障或分布式系统疑难问题排查经验。\n3. 深度掌握vLLM、SGLang、TensorRT-LLM任一引擎的内部架构（调度器、显存管理、KV Cache策略），能通过源码级别分析定位性能异常。\n4. 精通Linux性能工具（perf、py-spy、NVIDIA Nsight、nvprof）及分布式追踪（Jaeger、OpenTelemetry），具备从CPU/GPU/网络/存储全栈定位瓶颈的能力。\n5. 精通Python/Go至少一种，能编写复杂分析脚本、压测工具或可观测性算子，不依赖现成工具完成深度诊断。\n6. 熟悉GPU集群调度（Kubernetes）与高可用架构，有大规模在线推理服务稳定性治理实战经验。",
"skills": [AI生成
"Python",
"Linux",
"Kubernetes",
"分布式系统"
],
"preferred_qualifications": "未披露",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://talent-holding.alibaba.com/off-campus/position-detail?positionId=100022940008"
}
]
},
"posting": {
"posting_id": "100022940008",
"post_date": "2026-07-30",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://talent-holding.alibaba.com/off-campus/position-detail?positionId=100022940008"
},
"fulltext": "AI推理平台-大模型推理效能与稳定性专家-效能提升\nAI推理平台-大模型推理效能与稳定性专家-效能提升\n\n基础信息\n职位类别：技术类-开发\n工作地点：北京 / 杭州\n\n职位描述\n聚焦推理引擎底层与集群稳定性，通过深度分析、压测注入、可观测数据挖掘，主动发现性能瓶颈与隐患，协同研发团队闭环解决，系统性提升推理SLA与资源效能\n1. 引擎底层问题挖掘与根因分析\n深入vLLM、SGLang、TensorRT-LLM等推理引擎源码，通过Profile、Trace、日志分析等手段，主动识别算子调度、显存分配、KV Cache管理、通信同步等底层性能缺陷与逻辑异常。\n对线上偶发超时、吞吐抖动、显存泄漏等问题进行深度根因定位，输出清晰的问题复现路径与修复建议。\n2. 推理集群稳定性治理\n构建混沌工程与故障注入体系，系统性验证服务在节点故障、网络分区、负载突增等场景下的容灾与自愈能力，提前暴露架构脆弱点。\n主导线上故障应急排查与复盘，推动建立稳定性防护网（限流、降级、重试风暴防护等）。\n3. 可观测性与效能分析体系建设\n参与全链路可观测性平台（Metrics/Tracing/Logging）的建设，如提炼TTFT、TPOT、并发上限、GPU利用率等关键效能与稳定性指标，建立异常检测与智能告警规则等\n通过数据分析发现容量冗余、调度不均衡、资源碎片等成本效能问题，推动调度策略优化。\n4. 性能瓶颈攻坚与协同优化\n主导端到端压测与长稳测试，定位并发增长下的性能拐点，联合研发制定优化方案（如PD分离、Prefix Caching、Speculative Decoding工程化适配）。\n作为效能问题的技术人员，推动研发团队优先级排期与问题闭环，跟踪优化效果并量化收益。\n\n职位要求\n1. 本科及以上，计算机相关专业\n2. 具有5年以上系统性能分析、稳定性保障或分布式系统疑难问题排查经验。\n3. 深度掌握vLLM、SGLang、TensorRT-LLM任一引擎的内部架构（调度器、显存管理、KV Cache策略），能通过源码级别分析定位性能异常。\n4. 精通Linux性能工具（perf、py-spy、NVIDIA Nsight、nvprof）及分布式追踪（Jaeger、OpenTelemetry），具备从CPU/GPU/网络/存储全栈定位瓶颈的能力。\n5. 精通Python/Go至少一种，能编写复杂分析脚本、压测工具或可观测性算子，不依赖现成工具完成深度诊断。\n6. 熟悉GPU集群调度（Kubernetes）与高可用架构，有大规模在线推理服务稳定性治理实战经验。\n聚焦推理引擎底层与集群稳定性，通过深度分析、压测注入、可观测数据挖掘，主动发现性能瓶颈与隐患，协同研发团队闭环解决，系统性提升推理SLA与资源效能\n1. 引擎底层问题挖掘与根因分析\n深入vLLM、SGLang、TensorRT-LLM等推理引擎源码，通过Profile、Trace、日志分析等手段，主动识别算子调度、显存分配、KV Cache管理、通信同步等底层性能缺陷与逻辑异常。\n对线上偶发超时、吞吐抖动、显存泄漏等问题进行深度根因定位，输出清晰的问题复现路径与修复建议。\n2. 推理集群稳定性治理\n构建混沌工程与故障注入体系，系统性验证服务在节点故障、网络分区、负载突增等场景下的容灾与自愈能力，提前暴露架构脆弱点。\n主导线上故障应急排查与复盘，推动建立稳定性防护网（限流、降级、重试风暴防护等）。\n3. 可观测性与效能分析体系建设\n参与全链路可观测性平台（Metrics/Tracing/Logging）的建设，如提炼TTFT、TPOT、并发上限、GPU利用率等关键效能与稳定性指标，建立异常检测与智能告警规则等\n通过数据分析发现容量冗余、调度不均衡、资源碎片等成本效能问题，推动调度策略优化。\n4. 性能瓶颈攻坚与协同优化\n主导端到端压测与长稳测试，定位并发增长下的性能拐点，联合研发制定优化方案（如PD分离、Prefix Caching、Speculative Decoding工程化适配）。\n作为效能问题的技术人员，推动研发团队优先级排期与问题闭环，跟踪优化效果并量化收益。\n1. 本科及以上，计算机相关专业\n2. 具有5年以上系统性能分析、稳定性保障或分布式系统疑难问题排查经验。\n3. 深度掌握vLLM、SGLang、TensorRT-LLM任一引擎的内部架构（调度器、显存管理、KV Cache策略），能通过源码级别分析定位性能异常。\n4. 精通Linux性能工具（perf、py-spy、NVIDIA Nsight、nvprof）及分布式追踪（Jaeger、OpenTelemetry），具备从CPU/GPU/网络/存储全栈定位瓶颈的能力。\n5. 精通Python/Go至少一种，能编写复杂分析脚本、压测工具或可观测性算子，不依赖现成工具完成深度诊断。\n6. 熟悉GPU集群调度（Kubernetes）与高可用架构，有大规模在线推理服务稳定性治理实战经验。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}