{
    "schema_version": "via_ai_product_manager_jobs_v1",
    "data_type": "ai_product_manager_jobs",
    "job": {
        "job_title": "大模型推理工程师（LLM Inference）",
        "job_level": "未披露",AI生成
        "work_category": "全职",AI生成
        "department": "D7198",
        "location": "Beijing / Shanghai / Shenzhen / Hangzhou",
        "work_mode": "未披露",AI生成
        "job_category": "J0012"AI生成
    },
    "company": {
        "company_name": "快手科技",
        "company_industry": "内容社区 / 直播 / 电商 / 人工智能",
        "company_size": "10000人以上",
        "company_website": "kuaishou.com",
        "company_description": "快手是内容社区与技术平台公司，业务覆盖短视频、直播、电商、本地生活与 AI 应用。"
    },
    "compensation": {
        "salary_range": {
            "min": "",
            "max": "",
            "currency": "未披露",
            "cycle": "未披露"
        },
        "benefits": "未披露"
    },
    "requirements": {
        "working_years": "",
        "degree": "本科及以上学历",
        "language": "未披露",AI生成
        "visa_support": "未披露",
        "responsibilities": "大模型推理工程师（LLM Inference）\n\n基础信息\n招聘类型：社招\n职位类别：J0012\n工作地点：Beijing / Shanghai / Shenzhen / Hangzhou\n所属部门：D7198\n发布时间：2026-08-05\n\n岗位职责\n【关于我们】\n我们全面打造 AI Infra：大模型训练、推理引擎，为公司核心大模型(基模+MaaS)场景提供高速、稳定、可扩展、低成本的大模型训练与推理服务；\n在这里，你将参与推动分布式训练、强化学习（RL）、微调（SFT）、算子优化、混合精度与量化加速、KV Cache 管理、推理调度与 Pipeline 优化等前沿技术落地，让训练更快、推理更省、交付更稳；\n【职位描述】\n1、负责大模型推理引擎的研发与优化，提升吞吐、降低时延与推理成本；\n2、负责推理核心模块建设，包括 KV Cache 管理、Batching/Scheduling、Prefill/Decode Pipeline、PD 分离等；\n3、负责推理性能优化，面向 TTFT/TPOT/TPS/RPM 等指标进行系统级优化（算子、显存、通信、调度）；\n4、负责推理侧算子研发与优化，包括算子融合、Kernel 优化、图优化、推理编译优化，以及 INT8/FP8/FP4 等量化推理加速方案落地；\n5、负责推理稳定性与高可用建设，包括故障恢复、限流降级、容量评估、自动化诊断与 SLA 保障；\n6、推动推理平台化能力建设，包括模型发布流程、灰度、监控、日志、Tracing 与自动化运维工具链。\n\n任职要求\n1、本科及以上学历，计算机/软件相关专业；\n2、熟练掌握 C++/Python，具备高性能系统研发能力；\n3、熟悉 Transformer 推理原理，理解 Attention、KV Cache、采样策略等机制；\n4、熟悉主流推理框架或推理引擎（TensorRT/Sglang/vLLM 等）；\n5、熟悉 GPU/NPU 性能调优与 profiling，能定位性能瓶颈并推动优化落地；\n6、熟悉推理侧算力优化技术，包括算子融合、图优化、Triton/CUDA Kernel、推理量化与推理编译加速等；\n7、熟悉 Linux、网络与容器化（Docker/K8s），具备线上系统运维与稳定性经验优先。\n加分项：\n1、有大规模在线推理落地经验，熟悉高并发、长上下文、多租户调度等场景；\n2、熟悉 KV Cache 压缩/复用、请求迁移恢复、跨实例调度等关键能力；\n3、有通信优化经验（NCCL/HCCL/RDMA）；\n4、有推理量化落地经验（如GPTQ/AWQ 等）或推理加速相关经验；\n5、有国产卡适配经验（昇腾/寒武纪/沐曦等）。",
        "requirements_text": "大模型推理工程师（LLM Inference）\n\n基础信息\n招聘类型：社招\n职位类别：J0012\n工作地点：Beijing / Shanghai / Shenzhen / Hangzhou\n所属部门：D7198\n发布时间：2026-08-05\n\n岗位职责\n【关于我们】\n我们全面打造 AI Infra：大模型训练、推理引擎，为公司核心大模型(基模+MaaS)场景提供高速、稳定、可扩展、低成本的大模型训练与推理服务；\n在这里，你将参与推动分布式训练、强化学习（RL）、微调（SFT）、算子优化、混合精度与量化加速、KV Cache 管理、推理调度与 Pipeline 优化等前沿技术落地，让训练更快、推理更省、交付更稳；\n【职位描述】\n1、负责大模型推理引擎的研发与优化，提升吞吐、降低时延与推理成本；\n2、负责推理核心模块建设，包括 KV Cache 管理、Batching/Scheduling、Prefill/Decode Pipeline、PD 分离等；\n3、负责推理性能优化，面向 TTFT/TPOT/TPS/RPM 等指标进行系统级优化（算子、显存、通信、调度）；\n4、负责推理侧算子研发与优化，包括算子融合、Kernel 优化、图优化、推理编译优化，以及 INT8/FP8/FP4 等量化推理加速方案落地；\n5、负责推理稳定性与高可用建设，包括故障恢复、限流降级、容量评估、自动化诊断与 SLA 保障；\n6、推动推理平台化能力建设，包括模型发布流程、灰度、监控、日志、Tracing 与自动化运维工具链。\n\n任职要求\n1、本科及以上学历，计算机/软件相关专业；\n2、熟练掌握 C++/Python，具备高性能系统研发能力；\n3、熟悉 Transformer 推理原理，理解 Attention、KV Cache、采样策略等机制；\n4、熟悉主流推理框架或推理引擎（TensorRT/Sglang/vLLM 等）；\n5、熟悉 GPU/NPU 性能调优与 profiling，能定位性能瓶颈并推动优化落地；\n6、熟悉推理侧算力优化技术，包括算子融合、图优化、Triton/CUDA Kernel、推理量化与推理编译加速等；\n7、熟悉 Linux、网络与容器化（Docker/K8s），具备线上系统运维与稳定性经验优先。\n加分项：\n1、有大规模在线推理落地经验，熟悉高并发、长上下文、多租户调度等场景；\n2、熟悉 KV Cache 压缩/复用、请求迁移恢复、跨实例调度等关键能力；\n3、有通信优化经验（NCCL/HCCL/RDMA）；\n4、有推理量化落地经验（如GPTQ/AWQ 等）或推理加速相关经验；\n5、有国产卡适配经验（昇腾/寒武纪/沐曦等）。",
        "skills": [AI生成
            "Python",
            "C++",
            "Linux",
            "Docker",
            "CUDA",
            "强化学习",
            "模型训练",
            "性能优化",
            "性能调优",
            "招聘",
            "大语言模型"
        ],
        "preferred_qualifications": "7、熟悉 Linux、网络与容器化（Docker/K8s），具备线上系统运维与稳定性经验优先；加分项：",
        "job_highlights": "未披露"
    },
    "contact": {
        "recruiter_name": "未披露",
        "contact_methods": [
            {
                "type": "apply_link",
                "value": "https://zhaopin.kuaishou.cn/recruit/e/#/official/social/job-info/29268"
            }
        ]
    },
    "posting": {
        "posting_id": "29268",
        "post_date": "2026-08-05",
        "hire_time": "未披露",
        "update_date": "20260917",
        "job_url": "https://zhaopin.kuaishou.cn/recruit/e/#/official/social/job-info/29268"
    },
    "fulltext": "大模型推理工程师（LLM Inference）\n大模型推理工程师（LLM Inference）\n\n基础信息\n招聘类型：社招\n职位类别：J0012\n工作地点：Beijing / Shanghai / Shenzhen / Hangzhou\n所属部门：D7198\n发布时间：2026-08-05\n\n岗位职责\n【关于我们】\n我们全面打造 AI Infra：大模型训练、推理引擎，为公司核心大模型(基模+MaaS)场景提供高速、稳定、可扩展、低成本的大模型训练与推理服务；\n在这里，你将参与推动分布式训练、强化学习（RL）、微调（SFT）、算子优化、混合精度与量化加速、KV Cache 管理、推理调度与 Pipeline 优化等前沿技术落地，让训练更快、推理更省、交付更稳；\n【职位描述】\n1、负责大模型推理引擎的研发与优化，提升吞吐、降低时延与推理成本；\n2、负责推理核心模块建设，包括 KV Cache 管理、Batching/Scheduling、Prefill/Decode Pipeline、PD 分离等；\n3、负责推理性能优化，面向 TTFT/TPOT/TPS/RPM 等指标进行系统级优化（算子、显存、通信、调度）；\n4、负责推理侧算子研发与优化，包括算子融合、Kernel 优化、图优化、推理编译优化，以及 INT8/FP8/FP4 等量化推理加速方案落地；\n5、负责推理稳定性与高可用建设，包括故障恢复、限流降级、容量评估、自动化诊断与 SLA 保障；\n6、推动推理平台化能力建设，包括模型发布流程、灰度、监控、日志、Tracing 与自动化运维工具链。\n\n任职要求\n1、本科及以上学历，计算机/软件相关专业；\n2、熟练掌握 C++/Python，具备高性能系统研发能力；\n3、熟悉 Transformer 推理原理，理解 Attention、KV Cache、采样策略等机制；\n4、熟悉主流推理框架或推理引擎（TensorRT/Sglang/vLLM 等）；\n5、熟悉 GPU/NPU 性能调优与 profiling，能定位性能瓶颈并推动优化落地；\n6、熟悉推理侧算力优化技术，包括算子融合、图优化、Triton/CUDA Kernel、推理量化与推理编译加速等；\n7、熟悉 Linux、网络与容器化（Docker/K8s），具备线上系统运维与稳定性经验优先。\n加分项：\n1、有大规模在线推理落地经验，熟悉高并发、长上下文、多租户调度等场景；\n2、熟悉 KV Cache 压缩/复用、请求迁移恢复、跨实例调度等关键能力；\n3、有通信优化经验（NCCL/HCCL/RDMA）；\n4、有推理量化落地经验（如GPTQ/AWQ 等）或推理加速相关经验；\n5、有国产卡适配经验（昇腾/寒武纪/沐曦等）。\n大模型推理工程师（LLM Inference）\n\n基础信息\n招聘类型：社招\n职位类别：J0012\n工作地点：Beijing / Shanghai / Shenzhen / Hangzhou\n所属部门：D7198\n发布时间：2026-08-05\n\n岗位职责\n【关于我们】\n我们全面打造 AI Infra：大模型训练、推理引擎，为公司核心大模型(基模+MaaS)场景提供高速、稳定、可扩展、低成本的大模型训练与推理服务；\n在这里，你将参与推动分布式训练、强化学习（RL）、微调（SFT）、算子优化、混合精度与量化加速、KV Cache 管理、推理调度与 Pipeline 优化等前沿技术落地，让训练更快、推理更省、交付更稳；\n【职位描述】\n1、负责大模型推理引擎的研发与优化，提升吞吐、降低时延与推理成本；\n2、负责推理核心模块建设，包括 KV Cache 管理、Batching/Scheduling、Prefill/Decode Pipeline、PD 分离等；\n3、负责推理性能优化，面向 TTFT/TPOT/TPS/RPM 等指标进行系统级优化（算子、显存、通信、调度）；\n4、负责推理侧算子研发与优化，包括算子融合、Kernel 优化、图优化、推理编译优化，以及 INT8/FP8/FP4 等量化推理加速方案落地；\n5、负责推理稳定性与高可用建设，包括故障恢复、限流降级、容量评估、自动化诊断与 SLA 保障；\n6、推动推理平台化能力建设，包括模型发布流程、灰度、监控、日志、Tracing 与自动化运维工具链。\n\n任职要求\n1、本科及以上学历，计算机/软件相关专业；\n2、熟练掌握 C++/Python，具备高性能系统研发能力；\n3、熟悉 Transformer 推理原理，理解 Attention、KV Cache、采样策略等机制；\n4、熟悉主流推理框架或推理引擎（TensorRT/Sglang/vLLM 等）；\n5、熟悉 GPU/NPU 性能调优与 profiling，能定位性能瓶颈并推动优化落地；\n6、熟悉推理侧算力优化技术，包括算子融合、图优化、Triton/CUDA Kernel、推理量化与推理编译加速等；\n7、熟悉 Linux、网络与容器化（Docker/K8s），具备线上系统运维与稳定性经验优先。\n加分项：\n1、有大规模在线推理落地经验，熟悉高并发、长上下文、多租户调度等场景；\n2、熟悉 KV Cache 压缩/复用、请求迁移恢复、跨实例调度等关键能力；\n3、有通信优化经验（NCCL/HCCL/RDMA）；\n4、有推理量化落地经验（如GPTQ/AWQ 等）或推理加速相关经验；\n5、有国产卡适配经验（昇腾/寒武纪/沐曦等）。\n大模型推理工程师（LLM Inference）\n\n基础信息\n招聘类型：社招\n职位类别：J0012\n工作地点：Beijing / Shanghai / Shenzhen / Hangzhou\n所属部门：D7198\n发布时间：2026-08-05\n\n岗位职责\n【关于我们】\n我们全面打造 AI Infra：大模型训练、推理引擎，为公司核心大模型(基模+MaaS)场景提供高速、稳定、可扩展、低成本的大模型训练与推理服务；\n在这里，你将参与推动分布式训练、强化学习（RL）、微调（SFT）、算子优化、混合精度与量化加速、KV Cache 管理、推理调度与 Pipeline 优化等前沿技术落地，让训练更快、推理更省、交付更稳；\n【职位描述】\n1、负责大模型推理引擎的研发与优化，提升吞吐、降低时延与推理成本；\n2、负责推理核心模块建设，包括 KV Cache 管理、Batching/Scheduling、Prefill/Decode Pipeline、PD 分离等；\n3、负责推理性能优化，面向 TTFT/TPOT/TPS/RPM 等指标进行系统级优化（算子、显存、通信、调度）；\n4、负责推理侧算子研发与优化，包括算子融合、Kernel 优化、图优化、推理编译优化，以及 INT8/FP8/FP4 等量化推理加速方案落地；\n5、负责推理稳定性与高可用建设，包括故障恢复、限流降级、容量评估、自动化诊断与 SLA 保障；\n6、推动推理平台化能力建设，包括模型发布流程、灰度、监控、日志、Tracing 与自动化运维工具链。\n\n任职要求\n1、本科及以上学历，计算机/软件相关专业；\n2、熟练掌握 C++/Python，具备高性能系统研发能力；\n3、熟悉 Transformer 推理原理，理解 Attention、KV Cache、采样策略等机制；\n4、熟悉主流推理框架或推理引擎（TensorRT/Sglang/vLLM 等）；\n5、熟悉 GPU/NPU 性能调优与 profiling，能定位性能瓶颈并推动优化落地；\n6、熟悉推理侧算力优化技术，包括算子融合、图优化、Triton/CUDA Kernel、推理量化与推理编译加速等；\n7、熟悉 Linux、网络与容器化（Docker/K8s），具备线上系统运维与稳定性经验优先。\n加分项：\n1、有大规模在线推理落地经验，熟悉高并发、长上下文、多租户调度等场景；\n2、熟悉 KV Cache 压缩/复用、请求迁移恢复、跨实例调度等关键能力；\n3、有通信优化经验（NCCL/HCCL/RDMA）；\n4、有推理量化落地经验（如GPTQ/AWQ 等）或推理加速相关经验；\n5、有国产卡适配经验（昇腾/寒武纪/沐曦等）。",
    "standard_classification": {
        "std_category_code": "T014",
        "std_aux_codes": [],
        "std_category_status": null,
        "std_taxonomy_version": "20261104"
    }
}