{
    "schema_version": "via_ai_product_manager_jobs_v1",
    "data_type": "ai_product_manager_jobs",
    "job": {
        "job_title": "大模型推理存储系统专家-Seed",
        "job_level": "专家",AI生成
        "work_category": "全职",AI生成
        "department": "未披露",
        "location": "杭州",
        "work_mode": "未披露",AI生成
        "job_category": "机器学习"AI生成
    },
    "company": {
        "company_name": "字节跳动",
        "company_industry": "互联网 / 数字内容 / 电商",
        "company_size": "10000人以上",
        "company_website": "bytedance.com",
        "company_description": "字节跳动提供内容创作、信息分发、电商和协作产品，旗下产品包括抖音、今日头条、TikTok和飞书。"
    },
    "compensation": {
        "salary_range": {
            "min": "",
            "max": "",
            "currency": "未披露",
            "cycle": "未披露"
        },
        "benefits": "未披露"
    },
    "requirements": {
        "working_years": "",
        "degree": "未披露",
        "language": "未披露",AI生成
        "visa_support": "未披露",
        "responsibilities": "团队介绍：字节跳动Seed团队成立于2023年，致力于寻找通用智能的新方法，追求智能上限，为科技和社会发展作出贡献。\nSeed团队在AI领域拥有长期愿景与决心，团队研究方向涵盖MLLM、GenMedia、AI for Science、机器人等，在中国、新加坡、美国等地设有实验室和岗位。目前，团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、即梦、TRAE等超过50个应用场景，并通过火山引擎开放给企业客户。第三方数据显示，豆包App用户量在中国市场排名第一，豆包大模型日均Token调用量行业领先。\n\n1、负责机器学习系统存储相关组件的设计和开发，服务于大模型推理的各业务场景（LLM/S2S/VLM/多模态等），包括模型分发加载、KV Cache存储和优化，数据IO性能优化，提高推理TTFT、TBT等核心性能指标；\n2、负责设计和实现面向大模型推理的多层级存储系统，综合利用显存、本地内存、分布式内存/磁盘、远端大容量存储系统（HDFS/对象存储）等多种介质进行数据的存储和迁移管理，实现「近计算缓存+远端大容量存储」的一体化分级系统；\n3、负责优化大模型KV Cache命中率，从推理框架，流量调度，多级缓存等多个系统纬度入手定制化优化策略；优化数据的读取性能，充分利用近计算侧的NVLink、RDMA高速网络、GPU Direct技术实现数据的高效传输；优化数据副本的存放策略，实现负载流量和存储数据的合理化分布；\n4、负责设计和实现高效、易用的数据访问接口，实现和推理框架、引擎的无缝对接，管理KV Cache的生命周期；\n5、负责Kubernetes场景下多级存储系统的接入、管理、运维、监控及多机房、多地域、多云场景的系统搭建和容灾，确保稳定性并优化跨集群的数据摆放。",
        "requirements_text": "1、熟练掌握Linux环境下的C++/Go/Python/Shell等1至2种以上语言；\n2、熟悉Kubernetes架构和生态，熟悉PV/CSI等云原生容器存储技术，有丰富的机器学习系统实践和开发经验；\n3、掌握分布式系统原理，参与过分布式系统的设计、开发和维护；\n4、有优秀的逻辑分析能力，能够对业务逻辑进行合理的抽象和拆分；\n5、有强烈的工作责任心，较好的学习能力、沟通能力和自驱力，能够快速的响应和行动；\n6、有良好的工作文档习惯，及时按要求撰写更新工作流程及技术文档。\n\n加分项：\n1、熟悉至少一种主流的机器学习框架/推理引擎（例如vLLM/SGLang/PyTorch）；\n2、有大模型推理相关的技术落地经验，比如：KV Cache相关优化的实现；\n3、熟悉分布式缓存系统（例如Alluxio/JuiceFS/GooseFS/JindoFS）等；\n4、熟悉NVLink、RDMA、NCCL、GPU Direct等技术；\n5、在计算机系统存储顶会（包括但不限于OSDI/SOSP/FAST）上有文章发表经验。",
        "skills": [AI生成
            "Python",
            "C++",
            "Linux",
            "Kubernetes",
            "PyTorch",
            "机器学习",
            "分布式系统",
            "沟通能力",
            "学习能力",
            "分析能力",
            "Go",
            "大语言模型"
        ],
        "preferred_qualifications": "加分项：",
        "job_highlights": "未披露"
    },
    "contact": {
        "recruiter_name": "未披露",
        "contact_methods": [
            {
                "type": "apply_link",
                "value": "https://jobs.bytedance.com/experienced/position/7450383628510759186/detail"
            }
        ]
    },
    "posting": {
        "posting_id": "7450383628510759186",
        "post_date": "2024-12-20",
        "hire_time": "未披露",
        "update_date": "20260917",
        "job_url": "https://jobs.bytedance.com/experienced/position/7450383628510759186/detail"
    },
    "fulltext": "大模型推理存储系统专家-Seed\n职位描述\n团队介绍：字节跳动Seed团队成立于2023年，致力于寻找通用智能的新方法，追求智能上限，为科技和社会发展作出贡献。\nSeed团队在AI领域拥有长期愿景与决心，团队研究方向涵盖MLLM、GenMedia、AI for Science、机器人等，在中国、新加坡、美国等地设有实验室和岗位。目前，团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、即梦、TRAE等超过50个应用场景，并通过火山引擎开放给企业客户。第三方数据显示，豆包App用户量在中国市场排名第一，豆包大模型日均Token调用量行业领先。\n\n1、负责机器学习系统存储相关组件的设计和开发，服务于大模型推理的各业务场景（LLM/S2S/VLM/多模态等），包括模型分发加载、KV Cache存储和优化，数据IO性能优化，提高推理TTFT、TBT等核心性能指标；\n2、负责设计和实现面向大模型推理的多层级存储系统，综合利用显存、本地内存、分布式内存/磁盘、远端大容量存储系统（HDFS/对象存储）等多种介质进行数据的存储和迁移管理，实现「近计算缓存+远端大容量存储」的一体化分级系统；\n3、负责优化大模型KV Cache命中率，从推理框架，流量调度，多级缓存等多个系统纬度入手定制化优化策略；优化数据的读取性能，充分利用近计算侧的NVLink、RDMA高速网络、GPU Direct技术实现数据的高效传输；优化数据副本的存放策略，实现负载流量和存储数据的合理化分布；\n4、负责设计和实现高效、易用的数据访问接口，实现和推理框架、引擎的无缝对接，管理KV Cache的生命周期；\n5、负责Kubernetes场景下多级存储系统的接入、管理、运维、监控及多机房、多地域、多云场景的系统搭建和容灾，确保稳定性并优化跨集群的数据摆放。\n\n职位要求\n1、熟练掌握Linux环境下的C++/Go/Python/Shell等1至2种以上语言；\n2、熟悉Kubernetes架构和生态，熟悉PV/CSI等云原生容器存储技术，有丰富的机器学习系统实践和开发经验；\n3、掌握分布式系统原理，参与过分布式系统的设计、开发和维护；\n4、有优秀的逻辑分析能力，能够对业务逻辑进行合理的抽象和拆分；\n5、有强烈的工作责任心，较好的学习能力、沟通能力和自驱力，能够快速的响应和行动；\n6、有良好的工作文档习惯，及时按要求撰写更新工作流程及技术文档。\n\n加分项：\n1、熟悉至少一种主流的机器学习框架/推理引擎（例如vLLM/SGLang/PyTorch）；\n2、有大模型推理相关的技术落地经验，比如：KV Cache相关优化的实现；\n3、熟悉分布式缓存系统（例如Alluxio/JuiceFS/GooseFS/JindoFS）等；\n4、熟悉NVLink、RDMA、NCCL、GPU Direct等技术；\n5、在计算机系统存储顶会（包括但不限于OSDI/SOSP/FAST）上有文章发表经验。\n团队介绍：字节跳动Seed团队成立于2023年，致力于寻找通用智能的新方法，追求智能上限，为科技和社会发展作出贡献。\nSeed团队在AI领域拥有长期愿景与决心，团队研究方向涵盖MLLM、GenMedia、AI for Science、机器人等，在中国、新加坡、美国等地设有实验室和岗位。目前，团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、即梦、TRAE等超过50个应用场景，并通过火山引擎开放给企业客户。第三方数据显示，豆包App用户量在中国市场排名第一，豆包大模型日均Token调用量行业领先。\n\n1、负责机器学习系统存储相关组件的设计和开发，服务于大模型推理的各业务场景（LLM/S2S/VLM/多模态等），包括模型分发加载、KV Cache存储和优化，数据IO性能优化，提高推理TTFT、TBT等核心性能指标；\n2、负责设计和实现面向大模型推理的多层级存储系统，综合利用显存、本地内存、分布式内存/磁盘、远端大容量存储系统（HDFS/对象存储）等多种介质进行数据的存储和迁移管理，实现「近计算缓存+远端大容量存储」的一体化分级系统；\n3、负责优化大模型KV Cache命中率，从推理框架，流量调度，多级缓存等多个系统纬度入手定制化优化策略；优化数据的读取性能，充分利用近计算侧的NVLink、RDMA高速网络、GPU Direct技术实现数据的高效传输；优化数据副本的存放策略，实现负载流量和存储数据的合理化分布；\n4、负责设计和实现高效、易用的数据访问接口，实现和推理框架、引擎的无缝对接，管理KV Cache的生命周期；\n5、负责Kubernetes场景下多级存储系统的接入、管理、运维、监控及多机房、多地域、多云场景的系统搭建和容灾，确保稳定性并优化跨集群的数据摆放。\n1、熟练掌握Linux环境下的C++/Go/Python/Shell等1至2种以上语言；\n2、熟悉Kubernetes架构和生态，熟悉PV/CSI等云原生容器存储技术，有丰富的机器学习系统实践和开发经验；\n3、掌握分布式系统原理，参与过分布式系统的设计、开发和维护；\n4、有优秀的逻辑分析能力，能够对业务逻辑进行合理的抽象和拆分；\n5、有强烈的工作责任心，较好的学习能力、沟通能力和自驱力，能够快速的响应和行动；\n6、有良好的工作文档习惯，及时按要求撰写更新工作流程及技术文档。\n\n加分项：\n1、熟悉至少一种主流的机器学习框架/推理引擎（例如vLLM/SGLang/PyTorch）；\n2、有大模型推理相关的技术落地经验，比如：KV Cache相关优化的实现；\n3、熟悉分布式缓存系统（例如Alluxio/JuiceFS/GooseFS/JindoFS）等；\n4、熟悉NVLink、RDMA、NCCL、GPU Direct等技术；\n5、在计算机系统存储顶会（包括但不限于OSDI/SOSP/FAST）上有文章发表经验。",
    "standard_classification": {
        "std_category_code": "T014",
        "std_aux_codes": [],
        "std_category_status": null,
        "std_taxonomy_version": "20261104"
    }
}