主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "Model Serving开发工程师",
"job_level": "校招",AI生成
"work_category": "全职",AI生成
"department": "未披露",
"location": "北京 / 杭州",
"work_mode": "未披露",AI生成
"job_category": "J1014"AI生成
},
"company": {
"company_name": "快手科技",
"company_industry": "内容社区 / 直播 / 电商 / 人工智能",
"company_size": "10000人以上",
"company_website": "kuaishou.com",
"company_description": "快手是内容社区与技术平台公司，业务覆盖短视频、直播、电商、本地生活与 AI 应用。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "本科及以上学历",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "Model Serving开发工程师\n\n基础信息\n招聘项目：全部校招\n招聘类型：校招\n职位类别：J1014\n工作地点：北京 / 杭州\n发布时间：2026-03-12\n\n岗位职责\n1、负责大模型推理服务平台的架构设计与核心模块开发，实现 Serverless Model 与 GPU 池化技术，通过模型实例的秒级启停和显存复用，显著降低推理成本；\n2、研发弹性高效推理引擎（Scaling-efficient Engine），集成显存池管理、分布式 KV Cache 传输、主机内存预取、模型权重格式转换、CUDA Graph 缓存等关键技术，实现模型权重的快速换入换出和推理实例的秒级启动；\n3、负责大模型推理服务平台与批量推理平台的架构设计与核心模块开发，支持离线批量推理、定时任务、高吞吐异步推理等场景，实现任务级与请求级资源的统一调度与管理；\n4、设计并实现分布式KV缓存池，用于高效存储与复用推理过程中的 KV Cache，支持跨节点、跨模型的 KV Cache 共享与传输，显著降低重复计算开销，提升 Prefix Cache 命中率与推理吞吐。\n\n任职要求\n1、本科及以上学历，计算机相关专业优先；\n2、熟悉至少一种编程语言（如 Golang、Java、Python 等），具备扎实的系统编程与性能调优能力，具备VibeCoding编程认知；\n3、掌握 Kubernetes、Docker 等云原生技术，对 Serverless 架构与 GPU 资源调度有深入理解，有大规模在线服务系统开发经验者优先；\n4、熟悉 PyTorch、TensorFlow 等机器学习框架，掌握 vLLM、TensorRT-LLM、FasterTransformer、SGLang 等推理引擎中的至少一种，有实际性能优化经验；\n5、熟悉 GPU 架构与 CUDA 编程基础，了解显存管理、Kernel 优化、CUDA Graph 等技术，有大模型推理加速经验者优先；\n6、具备优秀的分析问题和解决问题的能力，对 AI Infra 技术有热情，能主动跟踪前沿技术并落地实践。",
"requirements_text": "Model Serving开发工程师\n\n基础信息\n招聘项目：全部校招\n招聘类型：校招\n职位类别：J1014\n工作地点：北京 / 杭州\n发布时间：2026-03-12\n\n岗位职责\n1、负责大模型推理服务平台的架构设计与核心模块开发，实现 Serverless Model 与 GPU 池化技术，通过模型实例的秒级启停和显存复用，显著降低推理成本；\n2、研发弹性高效推理引擎（Scaling-efficient Engine），集成显存池管理、分布式 KV Cache 传输、主机内存预取、模型权重格式转换、CUDA Graph 缓存等关键技术，实现模型权重的快速换入换出和推理实例的秒级启动；\n3、负责大模型推理服务平台与批量推理平台的架构设计与核心模块开发，支持离线批量推理、定时任务、高吞吐异步推理等场景，实现任务级与请求级资源的统一调度与管理；\n4、设计并实现分布式KV缓存池，用于高效存储与复用推理过程中的 KV Cache，支持跨节点、跨模型的 KV Cache 共享与传输，显著降低重复计算开销，提升 Prefix Cache 命中率与推理吞吐。\n\n任职要求\n1、本科及以上学历，计算机相关专业优先；\n2、熟悉至少一种编程语言（如 Golang、Java、Python 等），具备扎实的系统编程与性能调优能力，具备VibeCoding编程认知；\n3、掌握 Kubernetes、Docker 等云原生技术，对 Serverless 架构与 GPU 资源调度有深入理解，有大规模在线服务系统开发经验者优先；\n4、熟悉 PyTorch、TensorFlow 等机器学习框架，掌握 vLLM、TensorRT-LLM、FasterTransformer、SGLang 等推理引擎中的至少一种，有实际性能优化经验；\n5、熟悉 GPU 架构与 CUDA 编程基础，了解显存管理、Kernel 优化、CUDA Graph 等技术，有大模型推理加速经验者优先；\n6、具备优秀的分析问题和解决问题的能力，对 AI Infra 技术有热情，能主动跟踪前沿技术并落地实践。",
"skills": [AI生成
"Python",
"Java",
"Golang",
"Docker",
"Kubernetes",
"PyTorch",
"TensorFlow",
"CUDA",
"机器学习",
"性能优化",
"性能调优",
"架构设计",
"解决问题",
"招聘",
"Go",
"大语言模型"
],
"preferred_qualifications": "1、本科及以上学历，计算机相关专业优先；3、掌握 Kubernetes、Docker 等云原生技术，对 Serverless 架构与 GPU 资源调度有深入理解，有大规模在线服务系统开发经验者优先；5、熟悉 GPU 架构与 CUDA 编程基础，了解显存管理、Kernel 优化、CUDA Graph 等技术，有大模型推理加速经验者优先",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://campus.kuaishou.cn/recruit/campus/e/#/campus/job-info/12134?recruitSubProjectCodes="
}
]
},
"posting": {
"posting_id": "12134",
"post_date": "2026-03-12",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://campus.kuaishou.cn/recruit/campus/e/#/campus/job-info/12134?recruitSubProjectCodes="
},
"fulltext": "Model Serving开发工程师\nModel Serving开发工程师\n\n基础信息\n招聘项目：全部校招\n招聘类型：校招\n职位类别：J1014\n工作地点：北京 / 杭州\n发布时间：2026-03-12\n\n岗位职责\n1、负责大模型推理服务平台的架构设计与核心模块开发，实现 Serverless Model 与 GPU 池化技术，通过模型实例的秒级启停和显存复用，显著降低推理成本；\n2、研发弹性高效推理引擎（Scaling-efficient Engine），集成显存池管理、分布式 KV Cache 传输、主机内存预取、模型权重格式转换、CUDA Graph 缓存等关键技术，实现模型权重的快速换入换出和推理实例的秒级启动；\n3、负责大模型推理服务平台与批量推理平台的架构设计与核心模块开发，支持离线批量推理、定时任务、高吞吐异步推理等场景，实现任务级与请求级资源的统一调度与管理；\n4、设计并实现分布式KV缓存池，用于高效存储与复用推理过程中的 KV Cache，支持跨节点、跨模型的 KV Cache 共享与传输，显著降低重复计算开销，提升 Prefix Cache 命中率与推理吞吐。\n\n任职要求\n1、本科及以上学历，计算机相关专业优先；\n2、熟悉至少一种编程语言（如 Golang、Java、Python 等），具备扎实的系统编程与性能调优能力，具备VibeCoding编程认知；\n3、掌握 Kubernetes、Docker 等云原生技术，对 Serverless 架构与 GPU 资源调度有深入理解，有大规模在线服务系统开发经验者优先；\n4、熟悉 PyTorch、TensorFlow 等机器学习框架，掌握 vLLM、TensorRT-LLM、FasterTransformer、SGLang 等推理引擎中的至少一种，有实际性能优化经验；\n5、熟悉 GPU 架构与 CUDA 编程基础，了解显存管理、Kernel 优化、CUDA Graph 等技术，有大模型推理加速经验者优先；\n6、具备优秀的分析问题和解决问题的能力，对 AI Infra 技术有热情，能主动跟踪前沿技术并落地实践。\nModel Serving开发工程师\n\n基础信息\n招聘项目：全部校招\n招聘类型：校招\n职位类别：J1014\n工作地点：北京 / 杭州\n发布时间：2026-03-12\n\n岗位职责\n1、负责大模型推理服务平台的架构设计与核心模块开发，实现 Serverless Model 与 GPU 池化技术，通过模型实例的秒级启停和显存复用，显著降低推理成本；\n2、研发弹性高效推理引擎（Scaling-efficient Engine），集成显存池管理、分布式 KV Cache 传输、主机内存预取、模型权重格式转换、CUDA Graph 缓存等关键技术，实现模型权重的快速换入换出和推理实例的秒级启动；\n3、负责大模型推理服务平台与批量推理平台的架构设计与核心模块开发，支持离线批量推理、定时任务、高吞吐异步推理等场景，实现任务级与请求级资源的统一调度与管理；\n4、设计并实现分布式KV缓存池，用于高效存储与复用推理过程中的 KV Cache，支持跨节点、跨模型的 KV Cache 共享与传输，显著降低重复计算开销，提升 Prefix Cache 命中率与推理吞吐。\n\n任职要求\n1、本科及以上学历，计算机相关专业优先；\n2、熟悉至少一种编程语言（如 Golang、Java、Python 等），具备扎实的系统编程与性能调优能力，具备VibeCoding编程认知；\n3、掌握 Kubernetes、Docker 等云原生技术，对 Serverless 架构与 GPU 资源调度有深入理解，有大规模在线服务系统开发经验者优先；\n4、熟悉 PyTorch、TensorFlow 等机器学习框架，掌握 vLLM、TensorRT-LLM、FasterTransformer、SGLang 等推理引擎中的至少一种，有实际性能优化经验；\n5、熟悉 GPU 架构与 CUDA 编程基础，了解显存管理、Kernel 优化、CUDA Graph 等技术，有大模型推理加速经验者优先；\n6、具备优秀的分析问题和解决问题的能力，对 AI Infra 技术有热情，能主动跟踪前沿技术并落地实践。\nModel Serving开发工程师\n\n基础信息\n招聘项目：全部校招\n招聘类型：校招\n职位类别：J1014\n工作地点：北京 / 杭州\n发布时间：2026-03-12\n\n岗位职责\n1、负责大模型推理服务平台的架构设计与核心模块开发，实现 Serverless Model 与 GPU 池化技术，通过模型实例的秒级启停和显存复用，显著降低推理成本；\n2、研发弹性高效推理引擎（Scaling-efficient Engine），集成显存池管理、分布式 KV Cache 传输、主机内存预取、模型权重格式转换、CUDA Graph 缓存等关键技术，实现模型权重的快速换入换出和推理实例的秒级启动；\n3、负责大模型推理服务平台与批量推理平台的架构设计与核心模块开发，支持离线批量推理、定时任务、高吞吐异步推理等场景，实现任务级与请求级资源的统一调度与管理；\n4、设计并实现分布式KV缓存池，用于高效存储与复用推理过程中的 KV Cache，支持跨节点、跨模型的 KV Cache 共享与传输，显著降低重复计算开销，提升 Prefix Cache 命中率与推理吞吐。\n\n任职要求\n1、本科及以上学历，计算机相关专业优先；\n2、熟悉至少一种编程语言（如 Golang、Java、Python 等），具备扎实的系统编程与性能调优能力，具备VibeCoding编程认知；\n3、掌握 Kubernetes、Docker 等云原生技术，对 Serverless 架构与 GPU 资源调度有深入理解，有大规模在线服务系统开发经验者优先；\n4、熟悉 PyTorch、TensorFlow 等机器学习框架，掌握 vLLM、TensorRT-LLM、FasterTransformer、SGLang 等推理引擎中的至少一种，有实际性能优化经验；\n5、熟悉 GPU 架构与 CUDA 编程基础，了解显存管理、Kernel 优化、CUDA Graph 等技术，有大模型推理加速经验者优先；\n6、具备优秀的分析问题和解决问题的能力，对 AI Infra 技术有热情，能主动跟踪前沿技术并落地实践。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}