职位详情

职位列表 链接有效 不适用(官网全量采集) official:alibaba:199907780107

大模型推理KV Cache系统:从存储架构到软硬协同的全栈演进-阿里星/A Star

未披露 · 北京 / 杭州 · 阿里云

主分类:AI训练推理与计算优化
软件开发与 IT
辅助:数据库与存储系统研发(仅展示)
来源 JD 数据(旧分类保留,当前主分类见上方)
{
    "schema_version": "via_ai_product_manager_jobs_v1",
    "data_type": "ai_product_manager_jobs",
    "job": {
        "job_title": "大模型推理KV Cache系统:从存储架构到软硬协同的全栈演进-阿里星/A Star",
        "job_level": "校招",AI生成
        "work_category": "全职",AI生成
        "department": "阿里云",
        "location": "北京 / 杭州",
        "work_mode": "未披露",AI生成
        "job_category": "技术类"AI生成
    },
    "company": {
        "company_name": "阿里云",
        "company_industry": "云计算 / 人工智能",
        "company_size": "10000人以上",
        "company_website": "alibaba.com",
        "company_description": "阿里云提供云基础设施、AI模型、智能体和计算服务。"
    },
    "compensation": {
        "salary_range": {
            "min": "",
            "max": "",
            "currency": "未披露",
            "cycle": "未披露"
        },
        "benefits": "未披露"
    },
    "requirements": {
        "working_years": "",
        "degree": "博士在读或即将毕业",
        "language": "未披露",AI生成
        "visa_support": "未披露",
        "responsibilities": "大模型推理的成本与效率是行业核心挑战,而 KV Cache 管理是突破瓶颈的关键。本岗位将主导构建下一代 LLM 推理存储架构,融合算法优化、系统调度与硬件感知能力,打造高弹性、低成本、高可用的推理基础设施,支撑公司核心大模型业务的规模化落地。\n1. 负责设计和实现面向大规模推理的存储系统,深度融合推理引擎,构建从显存、本地内存至分布式冷存储的全局多级存储池;\n2. 基于特征识别实现数据的智能调度与分布管理,推动计算存储分离、弹性资源池等核心能力落地,建立高扩展、高可靠的推理存储系统底座;\n3. 定义存储与推理引擎间的统一数据访问抽象层,通过零侵入式接口设计实现计算存储解耦,为多级缓存、预取调度等高级策略提供标准化支撑;\n4. 建立 KV Cache 资源评估与治理体系,通过数据驱动的方式识别优化空间,在保障服务品质的前提下持续降低推理成本、提升资源 ROI;\n5. 联合上下游团队,深入 KV Cache 全栈优化和技术攻关,建立端到端 KV Cache 系统;\n6. 跟踪学术界与工业界 KV Cache 最新进展,推动量化、压缩、调度等创新技术在大规模生产环境中的落地。",
        "requirements_text": "1. 博士在读或即将毕业,计算机科学、数据库、人工智能、机器学习等相关专业背景;\n2. 在大模型推理、数据库和存储等领域有深入研究和系统实践经验。熟悉分布式系统原理,熟悉各类存储协议和硬件特性;\n3. 具备扎实的计算机基础,具备良好的编程能力和编程规范,熟悉 C/C++/Python/Go/Rust 至少一门语言;\n4. 学习能力强,自驱、专注、善于拆解复杂问题并推动工程落地,愿意思考问题本质,具备质疑精神;具备良好的学术研究与工程化落地能力。\n加分项:\n1. 有大模型推理 KV Cache 相关的研究或技术落地经验;\n2. 在国际顶会(如 NeurIPS、ICML、VLDB、FAST、SIGMOD 等)发表过高水平论文;\n3. 参与过推理引擎开源社区(如 vLLM、SGLang 等);参与过数据库/存储等相关实践或开源项目;\n4. 熟悉分布式缓存系统,例如(Redis、Alluxio、JuiceFS);\n5. 熟悉NVLink、RDMA、NCCL、GPU Direct等技术,有GPU 和存储性能优化经验。",
        "skills": [AI生成
            "Python",
            "C++",
            "Rust",
            "Redis",
            "机器学习",
            "分布式系统",
            "数据库",
            "性能优化",
            "学习能力",
            "Go",
            "大语言模型",
            "C语言"
        ],
        "preferred_qualifications": "加分项:",
        "job_highlights": "未披露"
    },
    "contact": {
        "recruiter_name": "未披露",
        "contact_methods": [
            {
                "type": "apply_link",
                "value": "https://campus-talent.alibaba.com/campus/position/199907780107?deptCodes="
            }
        ]
    },
    "posting": {
        "posting_id": "199907780107",
        "post_date": "2026-07-30",
        "hire_time": "未披露",
        "update_date": "20260917",
        "job_url": "https://campus-talent.alibaba.com/campus/position/199907780107?deptCodes="
    },
    "fulltext": "大模型推理KV Cache系统:从存储架构到软硬协同的全栈演进-阿里星/A Star\n大模型推理KV Cache系统:从存储架构到软硬协同的全栈演进-阿里星/A Star\n\n基础信息\n毕业起止时间要求:2026-11-01 - 2027-10-31\n职位类别:技术类\n招聘项目:阿里巴巴2027届应届生\n工作地点:北京 / 杭州\n\n职位描述\n大模型推理的成本与效率是行业核心挑战,而 KV Cache 管理是突破瓶颈的关键。本岗位将主导构建下一代 LLM 推理存储架构,融合算法优化、系统调度与硬件感知能力,打造高弹性、低成本、高可用的推理基础设施,支撑公司核心大模型业务的规模化落地。\n1. 负责设计和实现面向大规模推理的存储系统,深度融合推理引擎,构建从显存、本地内存至分布式冷存储的全局多级存储池;\n2. 基于特征识别实现数据的智能调度与分布管理,推动计算存储分离、弹性资源池等核心能力落地,建立高扩展、高可靠的推理存储系统底座;\n3. 定义存储与推理引擎间的统一数据访问抽象层,通过零侵入式接口设计实现计算存储解耦,为多级缓存、预取调度等高级策略提供标准化支撑;\n4. 建立 KV Cache 资源评估与治理体系,通过数据驱动的方式识别优化空间,在保障服务品质的前提下持续降低推理成本、提升资源 ROI;\n5. 联合上下游团队,深入 KV Cache 全栈优化和技术攻关,建立端到端 KV Cache 系统;\n6. 跟踪学术界与工业界 KV Cache 最新进展,推动量化、压缩、调度等创新技术在大规模生产环境中的落地。\n\n职位要求\n1. 博士在读或即将毕业,计算机科学、数据库、人工智能、机器学习等相关专业背景;\n2. 在大模型推理、数据库和存储等领域有深入研究和系统实践经验。熟悉分布式系统原理,熟悉各类存储协议和硬件特性;\n3. 具备扎实的计算机基础,具备良好的编程能力和编程规范,熟悉 C/C++/Python/Go/Rust 至少一门语言;\n4. 学习能力强,自驱、专注、善于拆解复杂问题并推动工程落地,愿意思考问题本质,具备质疑精神;具备良好的学术研究与工程化落地能力。\n加分项:\n1. 有大模型推理 KV Cache 相关的研究或技术落地经验;\n2. 在国际顶会(如 NeurIPS、ICML、VLDB、FAST、SIGMOD 等)发表过高水平论文;\n3. 参与过推理引擎开源社区(如 vLLM、SGLang 等);参与过数据库/存储等相关实践或开源项目;\n4. 熟悉分布式缓存系统,例如(Redis、Alluxio、JuiceFS);\n5. 熟悉NVLink、RDMA、NCCL、GPU Direct等技术,有GPU 和存储性能优化经验。\n\n在招业务\n阿里云\n大模型推理的成本与效率是行业核心挑战,而 KV Cache 管理是突破瓶颈的关键。本岗位将主导构建下一代 LLM 推理存储架构,融合算法优化、系统调度与硬件感知能力,打造高弹性、低成本、高可用的推理基础设施,支撑公司核心大模型业务的规模化落地。\n1. 负责设计和实现面向大规模推理的存储系统,深度融合推理引擎,构建从显存、本地内存至分布式冷存储的全局多级存储池;\n2. 基于特征识别实现数据的智能调度与分布管理,推动计算存储分离、弹性资源池等核心能力落地,建立高扩展、高可靠的推理存储系统底座;\n3. 定义存储与推理引擎间的统一数据访问抽象层,通过零侵入式接口设计实现计算存储解耦,为多级缓存、预取调度等高级策略提供标准化支撑;\n4. 建立 KV Cache 资源评估与治理体系,通过数据驱动的方式识别优化空间,在保障服务品质的前提下持续降低推理成本、提升资源 ROI;\n5. 联合上下游团队,深入 KV Cache 全栈优化和技术攻关,建立端到端 KV Cache 系统;\n6. 跟踪学术界与工业界 KV Cache 最新进展,推动量化、压缩、调度等创新技术在大规模生产环境中的落地。\n1. 博士在读或即将毕业,计算机科学、数据库、人工智能、机器学习等相关专业背景;\n2. 在大模型推理、数据库和存储等领域有深入研究和系统实践经验。熟悉分布式系统原理,熟悉各类存储协议和硬件特性;\n3. 具备扎实的计算机基础,具备良好的编程能力和编程规范,熟悉 C/C++/Python/Go/Rust 至少一门语言;\n4. 学习能力强,自驱、专注、善于拆解复杂问题并推动工程落地,愿意思考问题本质,具备质疑精神;具备良好的学术研究与工程化落地能力。\n加分项:\n1. 有大模型推理 KV Cache 相关的研究或技术落地经验;\n2. 在国际顶会(如 NeurIPS、ICML、VLDB、FAST、SIGMOD 等)发表过高水平论文;\n3. 参与过推理引擎开源社区(如 vLLM、SGLang 等);参与过数据库/存储等相关实践或开源项目;\n4. 熟悉分布式缓存系统,例如(Redis、Alluxio、JuiceFS);\n5. 熟悉NVLink、RDMA、NCCL、GPU Direct等技术,有GPU 和存储性能优化经验。",
    "standard_classification": {
        "std_category_code": "T014",
        "std_aux_codes": [
            "T019"
        ],
        "std_category_status": null,
        "std_taxonomy_version": "20261104"
    }
}