职位详情

职位列表 链接有效 不适用(官网全量采集) official:alibaba:199907720121

KV Cache分布式存储的网络优化-阿里星/A Star

未披露 · 杭州 · 阿里云

主分类:AI训练推理与计算优化
软件开发与 IT
来源 JD 数据(旧分类保留,当前主分类见上方)
{
    "schema_version": "via_ai_product_manager_jobs_v1",
    "data_type": "ai_product_manager_jobs",
    "job": {
        "job_title": "KV Cache分布式存储的网络优化-阿里星/A Star",
        "job_level": "校招",AI生成
        "work_category": "全职",AI生成
        "department": "阿里云",
        "location": "杭州",
        "work_mode": "未披露",AI生成
        "job_category": "技术类"AI生成
    },
    "company": {
        "company_name": "阿里云",
        "company_industry": "云计算 / 人工智能",
        "company_size": "10000人以上",
        "company_website": "alibaba.com",
        "company_description": "阿里云提供云基础设施、AI模型、智能体和计算服务。"
    },
    "compensation": {
        "salary_range": {
            "min": "",
            "max": "",
            "currency": "未披露",
            "cycle": "未披露"
        },
        "benefits": "未披露"
    },
    "requirements": {
        "working_years": "",
        "degree": "未披露",
        "language": "未披露",AI生成
        "visa_support": "未披露",
        "responsibilities": "负责大模型推理系统中网络性能优化和设计。深入了解计算机体系结构与网络系统相关知识。熟悉推理系统算法及推理基础设施的原理、关键问题与方案。核心工作职责包括:\n1、KV Cache相关的传输优化;\n2、通信协议优化:RDMA、TCP实现高效的分布式传输;\n3、模型特定的优化方案:针对MOE、Prefix KV Cache等特殊模型架构,提供定制化的优化解决方案,支持各类大模型架构;\n4、性能基准测试与监控系统建设:建立完整的性能评估框架,实现实时监控和分析,提供性能优化的数据支撑;\n5、开源社区贡献与技术文档撰写:积极参与vLLM、HiCache等开源项目,撰写详细的技术文档和优化指南。",
        "requirements_text": "1、有GPU计算系统优化经验,熟悉CUDA编程和GPU系统架构;\n2、深入理解PyTorch/vLLM推理框架的架构和工作原理,有框架优化经验;\n3、掌握CUDA、NCCL等并行编程技术,了解GPU间的通信机制;\n4、有大规模分布式系统的设计与实现经验,理解分布式系统的核心问题;\n5、良好的工程能力和代码质量意识,能够编写高性能、可维护的代码。\n加分项:\n1、有顶级开源社区(Linux Kernel、PyTorch、TensorFlow等)的实质性贡献经验;\n2、发表过系统优化或并行计算相关的学术论文(CCF A类以上);\n3、有AWS/GCP/Azure等云服务AI推理优化的实战经验;\n4、深入了解NVLink、RDMA等高性能通信协议,有优化经验。",
        "skills": [AI生成
            "Linux",
            "PyTorch",
            "TensorFlow",
            "CUDA",
            "分布式系统",
            "系统架构"
        ],
        "preferred_qualifications": "加分项:",
        "job_highlights": "未披露"
    },
    "contact": {
        "recruiter_name": "未披露",
        "contact_methods": [
            {
                "type": "apply_link",
                "value": "https://campus-talent.alibaba.com/campus/position/199907720121?deptCodes="
            }
        ]
    },
    "posting": {
        "posting_id": "199907720121",
        "post_date": "2026-08-10",
        "hire_time": "未披露",
        "update_date": "20260917",
        "job_url": "https://campus-talent.alibaba.com/campus/position/199907720121?deptCodes="
    },
    "fulltext": "KV Cache分布式存储的网络优化-阿里星/A Star\nKV Cache分布式存储的网络优化-阿里星/A Star\n\n基础信息\n毕业起止时间要求:2026-11-01 - 2027-10-31\n职位类别:技术类\n招聘项目:阿里巴巴2027届应届生\n工作地点:杭州\n\n职位描述\n负责大模型推理系统中网络性能优化和设计。深入了解计算机体系结构与网络系统相关知识。熟悉推理系统算法及推理基础设施的原理、关键问题与方案。核心工作职责包括:\n1、KV Cache相关的传输优化;\n2、通信协议优化:RDMA、TCP实现高效的分布式传输;\n3、模型特定的优化方案:针对MOE、Prefix KV Cache等特殊模型架构,提供定制化的优化解决方案,支持各类大模型架构;\n4、性能基准测试与监控系统建设:建立完整的性能评估框架,实现实时监控和分析,提供性能优化的数据支撑;\n5、开源社区贡献与技术文档撰写:积极参与vLLM、HiCache等开源项目,撰写详细的技术文档和优化指南。\n\n职位要求\n1、有GPU计算系统优化经验,熟悉CUDA编程和GPU系统架构;\n2、深入理解PyTorch/vLLM推理框架的架构和工作原理,有框架优化经验;\n3、掌握CUDA、NCCL等并行编程技术,了解GPU间的通信机制;\n4、有大规模分布式系统的设计与实现经验,理解分布式系统的核心问题;\n5、良好的工程能力和代码质量意识,能够编写高性能、可维护的代码。\n加分项:\n1、有顶级开源社区(Linux Kernel、PyTorch、TensorFlow等)的实质性贡献经验;\n2、发表过系统优化或并行计算相关的学术论文(CCF A类以上);\n3、有AWS/GCP/Azure等云服务AI推理优化的实战经验;\n4、深入了解NVLink、RDMA等高性能通信协议,有优化经验。\n\n在招业务\n阿里云\n负责大模型推理系统中网络性能优化和设计。深入了解计算机体系结构与网络系统相关知识。熟悉推理系统算法及推理基础设施的原理、关键问题与方案。核心工作职责包括:\n1、KV Cache相关的传输优化;\n2、通信协议优化:RDMA、TCP实现高效的分布式传输;\n3、模型特定的优化方案:针对MOE、Prefix KV Cache等特殊模型架构,提供定制化的优化解决方案,支持各类大模型架构;\n4、性能基准测试与监控系统建设:建立完整的性能评估框架,实现实时监控和分析,提供性能优化的数据支撑;\n5、开源社区贡献与技术文档撰写:积极参与vLLM、HiCache等开源项目,撰写详细的技术文档和优化指南。\n1、有GPU计算系统优化经验,熟悉CUDA编程和GPU系统架构;\n2、深入理解PyTorch/vLLM推理框架的架构和工作原理,有框架优化经验;\n3、掌握CUDA、NCCL等并行编程技术,了解GPU间的通信机制;\n4、有大规模分布式系统的设计与实现经验,理解分布式系统的核心问题;\n5、良好的工程能力和代码质量意识,能够编写高性能、可维护的代码。\n加分项:\n1、有顶级开源社区(Linux Kernel、PyTorch、TensorFlow等)的实质性贡献经验;\n2、发表过系统优化或并行计算相关的学术论文(CCF A类以上);\n3、有AWS/GCP/Azure等云服务AI推理优化的实战经验;\n4、深入了解NVLink、RDMA等高性能通信协议,有优化经验。",
    "standard_classification": {
        "std_category_code": "T014",
        "std_aux_codes": [],
        "std_category_status": null,
        "std_taxonomy_version": "20261104"
    }
}