主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "阿里健康-AI infra专家（推理方向）-杭州",
"job_level": "专家",AI生成
"work_category": "全职",AI生成
"department": "阿里健康",
"location": "杭州",
"work_mode": "未披露",AI生成
"job_category": "未披露"AI生成
},
"company": {
"company_name": "阿里健康",
"company_industry": "医药电商 / 数字医疗",
"company_size": "未披露",
"company_website": "alibaba.com",
"company_description": "阿里健康提供线上线下药事服务和数字化医疗服务。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "本科",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "推理方向：\n负责模型推理引擎的选型、优化与定制开发，探索PD分离（Prefill-Decode Disaggregation）架构，保障线上推理服务的高吞吐、低延迟和高可用。\n推进推理侧的关键技术优化，包括KV Cache管理（PagedAttention、多级缓存、KV Cache Offload）、量化压缩（FP8/INT8/INT4）、Continuous Batching、Chunked Prefill、Speculative Decoding、CUDA Graph优化等，持续提升推理效率和资源利用率。\n设计和构建模型部署服务平台，涵盖模型版本管理、灰度发布、任务分发与路由、负载均衡、弹性扩缩容、资源池化与应用混部等能力。\n管理高性能GPU计算集群，负责集群资源调度、监控告警、故障恢复等运维保障工作。\n与医学算法、产品、运营以及业务工程团队通力合作，推进医学AI产品和技术的发展和应用，保障客户体验，实现业务落地和成本优化等目标。",
"requirements_text": "1、熟悉业界主流的推理引擎和框架，包括但不限于vLLM/SGLang/TensorRT-LLM等；有PD分离架构部署、大模型推理性能调优经验者优先。\n2、具备推理侧关键技术优化经验，包括KV Cache管理（PagedAttention、Prefix Caching、多级缓存/Offload）、量化压缩（FP8/INT8/INT4/GPTQ/AWQ等）、Continuous Batching、Chunked Prefill、Speculative Decoding、CUDA Graph优化等。\n3、有大模型部署平台设计及模型服务调度系统相关经验，包括模型部署和服务管理、任务分发和路由、负载均衡、弹性扩缩容、资源池化、应用混部等，熟悉K8s、Docker、Ray等技术。\n4、对新的AI技术保持敏感和热情，熟悉主流AI算法，包括LLM大语言模型、多模态模型等；有相关研发经验者优先。\n优先条件：\n1.对主流的开源软件有深入的了解，并且对此有做出贡献；\n2.具有自我驱动和自我管理能力，能够针对系统的不足提出改进方案并推动实现。\"",
"skills": [AI生成
"Docker",
"CUDA",
"性能调优",
"大语言模型"
],
"preferred_qualifications": "有PD分离架构部署、大模型推理性能调优经验者优先；有相关研发经验者优先；优先条件：",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://careers.alihealth.cn/off-campus/position-detail?positionId=100019300005"
}
]
},
"posting": {
"posting_id": "100019300005",
"post_date": "2026-09-02",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://careers.alihealth.cn/off-campus/position-detail?positionId=100019300005"
},
"fulltext": "阿里健康-AI infra专家（推理方向）-杭州\n阿里健康-AI infra专家（推理方向）-杭州\n\n基础信息\n工作地点：杭州\n\n职位描述\n推理方向：\n负责模型推理引擎的选型、优化与定制开发，探索PD分离（Prefill-Decode Disaggregation）架构，保障线上推理服务的高吞吐、低延迟和高可用。\n推进推理侧的关键技术优化，包括KV Cache管理（PagedAttention、多级缓存、KV Cache Offload）、量化压缩（FP8/INT8/INT4）、Continuous Batching、Chunked Prefill、Speculative Decoding、CUDA Graph优化等，持续提升推理效率和资源利用率。\n设计和构建模型部署服务平台，涵盖模型版本管理、灰度发布、任务分发与路由、负载均衡、弹性扩缩容、资源池化与应用混部等能力。\n管理高性能GPU计算集群，负责集群资源调度、监控告警、故障恢复等运维保障工作。\n与医学算法、产品、运营以及业务工程团队通力合作，推进医学AI产品和技术的发展和应用，保障客户体验，实现业务落地和成本优化等目标。\n\n职位要求\n1、熟悉业界主流的推理引擎和框架，包括但不限于vLLM/SGLang/TensorRT-LLM等；有PD分离架构部署、大模型推理性能调优经验者优先。\n2、具备推理侧关键技术优化经验，包括KV Cache管理（PagedAttention、Prefix Caching、多级缓存/Offload）、量化压缩（FP8/INT8/INT4/GPTQ/AWQ等）、Continuous Batching、Chunked Prefill、Speculative Decoding、CUDA Graph优化等。\n3、有大模型部署平台设计及模型服务调度系统相关经验，包括模型部署和服务管理、任务分发和路由、负载均衡、弹性扩缩容、资源池化、应用混部等，熟悉K8s、Docker、Ray等技术。\n4、对新的AI技术保持敏感和热情，熟悉主流AI算法，包括LLM大语言模型、多模态模型等；有相关研发经验者优先。\n优先条件：\n1.对主流的开源软件有深入的了解，并且对此有做出贡献；\n2.具有自我驱动和自我管理能力，能够针对系统的不足提出改进方案并推动实现。\"\n推理方向：\n负责模型推理引擎的选型、优化与定制开发，探索PD分离（Prefill-Decode Disaggregation）架构，保障线上推理服务的高吞吐、低延迟和高可用。\n推进推理侧的关键技术优化，包括KV Cache管理（PagedAttention、多级缓存、KV Cache Offload）、量化压缩（FP8/INT8/INT4）、Continuous Batching、Chunked Prefill、Speculative Decoding、CUDA Graph优化等，持续提升推理效率和资源利用率。\n设计和构建模型部署服务平台，涵盖模型版本管理、灰度发布、任务分发与路由、负载均衡、弹性扩缩容、资源池化与应用混部等能力。\n管理高性能GPU计算集群，负责集群资源调度、监控告警、故障恢复等运维保障工作。\n与医学算法、产品、运营以及业务工程团队通力合作，推进医学AI产品和技术的发展和应用，保障客户体验，实现业务落地和成本优化等目标。\n1、熟悉业界主流的推理引擎和框架，包括但不限于vLLM/SGLang/TensorRT-LLM等；有PD分离架构部署、大模型推理性能调优经验者优先。\n2、具备推理侧关键技术优化经验，包括KV Cache管理（PagedAttention、Prefix Caching、多级缓存/Offload）、量化压缩（FP8/INT8/INT4/GPTQ/AWQ等）、Continuous Batching、Chunked Prefill、Speculative Decoding、CUDA Graph优化等。\n3、有大模型部署平台设计及模型服务调度系统相关经验，包括模型部署和服务管理、任务分发和路由、负载均衡、弹性扩缩容、资源池化、应用混部等，熟悉K8s、Docker、Ray等技术。\n4、对新的AI技术保持敏感和热情，熟悉主流AI算法，包括LLM大语言模型、多模态模型等；有相关研发经验者优先。\n优先条件：\n1.对主流的开源软件有深入的了解，并且对此有做出贡献；\n2.具有自我驱动和自我管理能力，能够针对系统的不足提出改进方案并推动实现。\"",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}