{
    "schema_version": "via_ai_product_manager_jobs_v1",
    "data_type": "ai_product_manager_jobs",
    "job": {
        "job_title": "千问事业部-大模型推理框架系统研发专家-杭州/北京/广州",
        "job_level": "专家",AI生成
        "work_category": "全职",AI生成
        "department": "阿里集团",
        "location": "北京 / 杭州 / 广州",
        "work_mode": "未披露",AI生成
        "job_category": "算法研发"AI生成
    },
    "company": {
        "company_name": "夸克",
        "company_industry": "互联网 / 人工智能应用",
        "company_size": "未披露",
        "company_website": "alibaba.com",
        "company_description": "夸克提供AI搜索等人工智能应用服务。"
    },
    "compensation": {
        "salary_range": {
            "min": "",
            "max": "",
            "currency": "未披露",
            "cycle": "未披露"
        },
        "benefits": "未披露"
    },
    "requirements": {
        "working_years": "",
        "degree": "本科",
        "language": "未披露",AI生成
        "visa_support": "未披露",
        "responsibilities": "1. 参与大模型推理框架和分布式Serving系统的核心研发，面向语言模型、多模态模型和Agentic应用场景，建设高性能、高稳定性、高扩展性的生产级推理引擎；\n2. 研发并优化Prefill/Decode分离、KV Cache管理、长上下文推理、多租户调度、连续批处理、SLO感知调度等核心系统能力，提升TTFT、TPOT、吞吐和资源利用率；\n3. 参与分布式推理并行与通信优化，包括Tensor Parallel、Pipeline Parallel、Expert Parallel、Context Parallel、MoE All-to-All、跨机通信重叠、负载均衡和故障恢复等；\n4. 协同算子、模型压缩、模型算法和业务团队，推动量化、投机解码、MoE优化、多模态推理、长上下文优化等能力在推理框架中生产落地，解决线上性能、稳定性和成本优化问题。",
        "requirements_text": "1. 精通C++/Python，熟悉CUDA编程和GPU推理系统开发，具备扎实的系统软件、分布式系统、并行计算和高性能服务端开发基础；\n2. 深入理解大模型推理框架核心机制，包括Prefill/Decode、KV Cache管理、Continuous Batching、PagedAttention、Speculative Decoding、Quantization等；\n3. 熟悉分布式推理并行与通信优化，包括Tensor Parallel、Pipeline Parallel、Expert Parallel、Context Parallel、MoE All-to-All、通信计算重叠、负载均衡等；\n4. 熟悉GPU间和跨节点通信机制，了解NCCL、RCCL、MPI、UCX、RDMA、InfiniBand、NVLink、NVSwitch、PCIe等相关技术，具备端到端性能分析和问题定位能力；\n5. 熟悉vLLM、SGLang、TensorRT-LLM等推理或服务框架，有核心模块开发、深度改造或生产级落地经验者优先。",
        "skills": [AI生成
            "Python",
            "C++",
            "CUDA",
            "分布式系统",
            "大语言模型"
        ],
        "preferred_qualifications": "5. 熟悉vLLM、SGLang、TensorRT-LLM等推理或服务框架，有核心模块开发、深度改造或生产级落地经验者优先",
        "job_highlights": "未披露"
    },
    "contact": {
        "recruiter_name": "未披露",
        "contact_methods": [
            {
                "type": "apply_link",
                "value": "https://talent.quark.cn/off-campus/position-detail?positionId=100022100001"
            }
        ]
    },
    "posting": {
        "posting_id": "100022100001",
        "post_date": "2026-07-05",
        "hire_time": "未披露",
        "update_date": "20260917",
        "job_url": "https://talent.quark.cn/off-campus/position-detail?positionId=100022100001"
    },
    "fulltext": "千问事业部-大模型推理框架系统研发专家-杭州/北京/广州\n千问事业部-大模型推理框架系统研发专家-杭州/北京/广州\n\n基础信息\n工作地点：北京 / 杭州 / 广州\n\n职位描述\n1. 参与大模型推理框架和分布式Serving系统的核心研发，面向语言模型、多模态模型和Agentic应用场景，建设高性能、高稳定性、高扩展性的生产级推理引擎；\n2. 研发并优化Prefill/Decode分离、KV Cache管理、长上下文推理、多租户调度、连续批处理、SLO感知调度等核心系统能力，提升TTFT、TPOT、吞吐和资源利用率；\n3. 参与分布式推理并行与通信优化，包括Tensor Parallel、Pipeline Parallel、Expert Parallel、Context Parallel、MoE All-to-All、跨机通信重叠、负载均衡和故障恢复等；\n4. 协同算子、模型压缩、模型算法和业务团队，推动量化、投机解码、MoE优化、多模态推理、长上下文优化等能力在推理框架中生产落地，解决线上性能、稳定性和成本优化问题。\n\n职位要求\n1. 精通C++/Python，熟悉CUDA编程和GPU推理系统开发，具备扎实的系统软件、分布式系统、并行计算和高性能服务端开发基础；\n2. 深入理解大模型推理框架核心机制，包括Prefill/Decode、KV Cache管理、Continuous Batching、PagedAttention、Speculative Decoding、Quantization等；\n3. 熟悉分布式推理并行与通信优化，包括Tensor Parallel、Pipeline Parallel、Expert Parallel、Context Parallel、MoE All-to-All、通信计算重叠、负载均衡等；\n4. 熟悉GPU间和跨节点通信机制，了解NCCL、RCCL、MPI、UCX、RDMA、InfiniBand、NVLink、NVSwitch、PCIe等相关技术，具备端到端性能分析和问题定位能力；\n5. 熟悉vLLM、SGLang、TensorRT-LLM等推理或服务框架，有核心模块开发、深度改造或生产级落地经验者优先。\n1. 参与大模型推理框架和分布式Serving系统的核心研发，面向语言模型、多模态模型和Agentic应用场景，建设高性能、高稳定性、高扩展性的生产级推理引擎；\n2. 研发并优化Prefill/Decode分离、KV Cache管理、长上下文推理、多租户调度、连续批处理、SLO感知调度等核心系统能力，提升TTFT、TPOT、吞吐和资源利用率；\n3. 参与分布式推理并行与通信优化，包括Tensor Parallel、Pipeline Parallel、Expert Parallel、Context Parallel、MoE All-to-All、跨机通信重叠、负载均衡和故障恢复等；\n4. 协同算子、模型压缩、模型算法和业务团队，推动量化、投机解码、MoE优化、多模态推理、长上下文优化等能力在推理框架中生产落地，解决线上性能、稳定性和成本优化问题。\n1. 精通C++/Python，熟悉CUDA编程和GPU推理系统开发，具备扎实的系统软件、分布式系统、并行计算和高性能服务端开发基础；\n2. 深入理解大模型推理框架核心机制，包括Prefill/Decode、KV Cache管理、Continuous Batching、PagedAttention、Speculative Decoding、Quantization等；\n3. 熟悉分布式推理并行与通信优化，包括Tensor Parallel、Pipeline Parallel、Expert Parallel、Context Parallel、MoE All-to-All、通信计算重叠、负载均衡等；\n4. 熟悉GPU间和跨节点通信机制，了解NCCL、RCCL、MPI、UCX、RDMA、InfiniBand、NVLink、NVSwitch、PCIe等相关技术，具备端到端性能分析和问题定位能力；\n5. 熟悉vLLM、SGLang、TensorRT-LLM等推理或服务框架，有核心模块开发、深度改造或生产级落地经验者优先。",
    "standard_classification": {
        "std_category_code": "T014",
        "std_aux_codes": [],
        "std_category_status": null,
        "std_taxonomy_version": "20261104"
    }
}