{
    "schema_version": "via_ai_product_manager_jobs_v1",
    "data_type": "ai_product_manager_jobs",
    "job": {
        "job_title": "大模型推理调度编排专家-Seed",
        "job_level": "专家",AI生成
        "work_category": "全职",AI生成
        "department": "未披露",
        "location": "杭州",
        "work_mode": "未披露",AI生成
        "job_category": "机器学习"AI生成
    },
    "company": {
        "company_name": "字节跳动",
        "company_industry": "互联网 / 数字内容 / 电商",
        "company_size": "10000人以上",
        "company_website": "bytedance.com",
        "company_description": "字节跳动提供内容创作、信息分发、电商和协作产品，旗下产品包括抖音、今日头条、TikTok和飞书。"
    },
    "compensation": {
        "salary_range": {
            "min": "",
            "max": "",
            "currency": "未披露",
            "cycle": "未披露"
        },
        "benefits": "未披露"
    },
    "requirements": {
        "working_years": "",
        "degree": "未披露",
        "language": "未披露",AI生成
        "visa_support": "未披露",
        "responsibilities": "团队介绍：字节跳动Seed团队成立于2023年，致力于寻找通用智能的新方法，追求智能上限，为科技和社会发展作出贡献。\nSeed团队在AI领域拥有长期愿景与决心，团队研究方向涵盖MLLM、GenMedia、AI for Science、机器人等，在中国、新加坡、美国等地设有实验室和岗位。目前，团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、即梦、TRAE等超过50个应用场景，并通过火山引擎开放给企业客户。第三方数据显示，豆包App用户量在中国市场排名第一，豆包大模型日均Token调用量行业领先。\n\n1、负责海量大模型异构资源的调度编排、算力池化、弹性资源混布、潮汐资源拆借和Quota管理；\n2、负责大模型推理服务的多角色、多阶段、PD分图/EP调度，KV Cache centric调度，实现动态、及时、准确的扩缩容管理；\n3、负责通过技术手段实现计算资源、RDMA高速网络资源、缓存/存储资源的最优编排，充分发挥大规模分布式集群算力；\n4、负责大模型服务的稳定性，通过线上和线下的多系统联动，实现在多种异构资源（GPU、CPU、其他异构硬件）、多云环境、多种网络流量场景的问题定位、诊断、隔离和快速恢复；\n5、负责多机房、多地域、多云场景的在离线任务/服务调度，实现负载的合理化分布。",
        "requirements_text": "1、熟练掌握Linux环境下的C++/Go/Python/Shell等1至2种以上语言；\n2、熟悉Kubernetes架构和生态，熟悉Docker/Containerd/Kata/Podman等容器技术，有丰富的机器学习系统实践和开发经验；\n3、掌握分布式系统原理，参与过分布式系统的设计、开发和维护；\n4、有优秀的逻辑分析能力，能够对业务逻辑进行合理的抽象和拆分；\n5、有强烈的工作责任心，较好的学习能力、沟通能力和自驱力，能够快速的响应和行动；\n6、有良好的工作文档习惯，及时按要求撰写更新工作流程及技术文档。\n\n加分项：\n1、熟悉至少一种主流的机器学习框架/推理引擎（例如vLLM/SGLang/PyTorch）；\n2、有大模型资源调度/服务编排的落地经验；\n3、熟悉了解GPU系统/体系结构；\n4、在计算机系统顶会（包括但不限于OSDI/NSDI/SOSP/FAST/Eurosys）上有文章发表经验。",
        "skills": [AI生成
            "Python",
            "C++",
            "Linux",
            "Docker",
            "Kubernetes",
            "PyTorch",
            "机器学习",
            "分布式系统",
            "沟通能力",
            "学习能力",
            "分析能力",
            "Go",
            "大语言模型"
        ],
        "preferred_qualifications": "加分项：",
        "job_highlights": "未披露"
    },
    "contact": {
        "recruiter_name": "未披露",
        "contact_methods": [
            {
                "type": "apply_link",
                "value": "https://jobs.bytedance.com/experienced/position/7452259647422122247/detail"
            }
        ]
    },
    "posting": {
        "posting_id": "7452259647422122247",
        "post_date": "2024-12-25",
        "hire_time": "未披露",
        "update_date": "20260917",
        "job_url": "https://jobs.bytedance.com/experienced/position/7452259647422122247/detail"
    },
    "fulltext": "大模型推理调度编排专家-Seed\n职位描述\n团队介绍：字节跳动Seed团队成立于2023年，致力于寻找通用智能的新方法，追求智能上限，为科技和社会发展作出贡献。\nSeed团队在AI领域拥有长期愿景与决心，团队研究方向涵盖MLLM、GenMedia、AI for Science、机器人等，在中国、新加坡、美国等地设有实验室和岗位。目前，团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、即梦、TRAE等超过50个应用场景，并通过火山引擎开放给企业客户。第三方数据显示，豆包App用户量在中国市场排名第一，豆包大模型日均Token调用量行业领先。\n\n1、负责海量大模型异构资源的调度编排、算力池化、弹性资源混布、潮汐资源拆借和Quota管理；\n2、负责大模型推理服务的多角色、多阶段、PD分图/EP调度，KV Cache centric调度，实现动态、及时、准确的扩缩容管理；\n3、负责通过技术手段实现计算资源、RDMA高速网络资源、缓存/存储资源的最优编排，充分发挥大规模分布式集群算力；\n4、负责大模型服务的稳定性，通过线上和线下的多系统联动，实现在多种异构资源（GPU、CPU、其他异构硬件）、多云环境、多种网络流量场景的问题定位、诊断、隔离和快速恢复；\n5、负责多机房、多地域、多云场景的在离线任务/服务调度，实现负载的合理化分布。\n\n职位要求\n1、熟练掌握Linux环境下的C++/Go/Python/Shell等1至2种以上语言；\n2、熟悉Kubernetes架构和生态，熟悉Docker/Containerd/Kata/Podman等容器技术，有丰富的机器学习系统实践和开发经验；\n3、掌握分布式系统原理，参与过分布式系统的设计、开发和维护；\n4、有优秀的逻辑分析能力，能够对业务逻辑进行合理的抽象和拆分；\n5、有强烈的工作责任心，较好的学习能力、沟通能力和自驱力，能够快速的响应和行动；\n6、有良好的工作文档习惯，及时按要求撰写更新工作流程及技术文档。\n\n加分项：\n1、熟悉至少一种主流的机器学习框架/推理引擎（例如vLLM/SGLang/PyTorch）；\n2、有大模型资源调度/服务编排的落地经验；\n3、熟悉了解GPU系统/体系结构；\n4、在计算机系统顶会（包括但不限于OSDI/NSDI/SOSP/FAST/Eurosys）上有文章发表经验。\n团队介绍：字节跳动Seed团队成立于2023年，致力于寻找通用智能的新方法，追求智能上限，为科技和社会发展作出贡献。\nSeed团队在AI领域拥有长期愿景与决心，团队研究方向涵盖MLLM、GenMedia、AI for Science、机器人等，在中国、新加坡、美国等地设有实验室和岗位。目前，团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、即梦、TRAE等超过50个应用场景，并通过火山引擎开放给企业客户。第三方数据显示，豆包App用户量在中国市场排名第一，豆包大模型日均Token调用量行业领先。\n\n1、负责海量大模型异构资源的调度编排、算力池化、弹性资源混布、潮汐资源拆借和Quota管理；\n2、负责大模型推理服务的多角色、多阶段、PD分图/EP调度，KV Cache centric调度，实现动态、及时、准确的扩缩容管理；\n3、负责通过技术手段实现计算资源、RDMA高速网络资源、缓存/存储资源的最优编排，充分发挥大规模分布式集群算力；\n4、负责大模型服务的稳定性，通过线上和线下的多系统联动，实现在多种异构资源（GPU、CPU、其他异构硬件）、多云环境、多种网络流量场景的问题定位、诊断、隔离和快速恢复；\n5、负责多机房、多地域、多云场景的在离线任务/服务调度，实现负载的合理化分布。\n1、熟练掌握Linux环境下的C++/Go/Python/Shell等1至2种以上语言；\n2、熟悉Kubernetes架构和生态，熟悉Docker/Containerd/Kata/Podman等容器技术，有丰富的机器学习系统实践和开发经验；\n3、掌握分布式系统原理，参与过分布式系统的设计、开发和维护；\n4、有优秀的逻辑分析能力，能够对业务逻辑进行合理的抽象和拆分；\n5、有强烈的工作责任心，较好的学习能力、沟通能力和自驱力，能够快速的响应和行动；\n6、有良好的工作文档习惯，及时按要求撰写更新工作流程及技术文档。\n\n加分项：\n1、熟悉至少一种主流的机器学习框架/推理引擎（例如vLLM/SGLang/PyTorch）；\n2、有大模型资源调度/服务编排的落地经验；\n3、熟悉了解GPU系统/体系结构；\n4、在计算机系统顶会（包括但不限于OSDI/NSDI/SOSP/FAST/Eurosys）上有文章发表经验。",
    "standard_classification": {
        "std_category_code": "T014",
        "std_aux_codes": [],
        "std_category_status": null,
        "std_taxonomy_version": "20261104"
    }
}