主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "多模态大模型推理服务研发工程师-Data AML（北京/上海/杭州/深圳）",
"job_level": "未披露",AI生成
"work_category": "全职",AI生成
"department": "未披露",
"location": "北京",
"work_mode": "未披露",AI生成
"job_category": "基础架构"AI生成
},
"company": {
"company_name": "字节跳动",
"company_industry": "互联网 / 数字内容 / 电商",
"company_size": "10000人以上",
"company_website": "bytedance.com",
"company_description": "字节跳动提供内容创作、信息分发、电商和协作产品，旗下产品包括抖音、今日头条、TikTok和飞书。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "计算机相关专业本科及以上学历",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1、在线推理服务开发：负责Seedance、Seedream、Seed3D等SOTA模型在线Serving系统的设计与开发，构建高并发、低延迟、高可用的推理服务，支撑多模态、视频生成等模型的线上实时推理；\n2、推理框架研发：参与推理框架功能开发，包括请求调度、模型并行(TP/PP)、多模型混合部署等能力建设；\n3、服务架构演进：设计并落地推理服务的核心架构，涵盖流量调度、负载均衡、弹性扩缩容等，保障大规模GPU集群上的服务稳定性；\n4、性能与效率优化：针对端到端推理链路进行系统级优化，提升GPU利用率、提升服务吞吐；\n5、工程质量与稳定性：主导推理服务的可观测性建设（监控、告警、链路追踪），参与线上问题诊断与专项治理，持续提升系统稳定性和运维效率。",
"requirements_text": "1、计算机相关专业本科及以上学历，精通Go/Python/C++中至少一门，具备良好的系统设计与编码能力；\n2、扎实的后端开发基础：熟悉高并发服务架构设计，有RPC框架、异步并发、连接池、限流熔断等实战经验；\n3、熟悉分布式系统核心概念：负载均衡、服务发现、消息队列、分布式缓存等，能独立设计和落地高可用服务；\n4、具备性能分析与调优意识：熟悉Profiling工具，有系统级性能瓶颈定位和优化经验；\n5、对大模型推理服务有浓厚兴趣，具备较强的自驱力、学习能力和跨团队协作能力。\n\n加分项：\n1、有大模型在线推理服务实战经验；\n2、了解主流模型架构(Transformer/DiT/MoE)及推理优化技术；\n3、有在线服务研发经验，处理过GPU集群调度问题；\n4、有推理框架插件开发或模型Serving工具链建设经验。",
"skills": [AI生成
"Python",
"C++",
"分布式系统",
"架构设计",
"团队协作",
"学习能力",
"大语言模型"
],
"preferred_qualifications": "加分项：",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://jobs.bytedance.com/experienced/position/7644816375681665333/detail"
}
]
},
"posting": {
"posting_id": "7644816375681665333",
"post_date": "2026-05-28",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://jobs.bytedance.com/experienced/position/7644816375681665333/detail"
},
"fulltext": "多模态大模型推理服务研发工程师-Data AML（北京/上海/杭州/深圳）\n职位描述\n1、在线推理服务开发：负责Seedance、Seedream、Seed3D等SOTA模型在线Serving系统的设计与开发，构建高并发、低延迟、高可用的推理服务，支撑多模态、视频生成等模型的线上实时推理；\n2、推理框架研发：参与推理框架功能开发，包括请求调度、模型并行(TP/PP)、多模型混合部署等能力建设；\n3、服务架构演进：设计并落地推理服务的核心架构，涵盖流量调度、负载均衡、弹性扩缩容等，保障大规模GPU集群上的服务稳定性；\n4、性能与效率优化：针对端到端推理链路进行系统级优化，提升GPU利用率、提升服务吞吐；\n5、工程质量与稳定性：主导推理服务的可观测性建设（监控、告警、链路追踪），参与线上问题诊断与专项治理，持续提升系统稳定性和运维效率。\n\n职位要求\n1、计算机相关专业本科及以上学历，精通Go/Python/C++中至少一门，具备良好的系统设计与编码能力；\n2、扎实的后端开发基础：熟悉高并发服务架构设计，有RPC框架、异步并发、连接池、限流熔断等实战经验；\n3、熟悉分布式系统核心概念：负载均衡、服务发现、消息队列、分布式缓存等，能独立设计和落地高可用服务；\n4、具备性能分析与调优意识：熟悉Profiling工具，有系统级性能瓶颈定位和优化经验；\n5、对大模型推理服务有浓厚兴趣，具备较强的自驱力、学习能力和跨团队协作能力。\n\n加分项：\n1、有大模型在线推理服务实战经验；\n2、了解主流模型架构(Transformer/DiT/MoE)及推理优化技术；\n3、有在线服务研发经验，处理过GPU集群调度问题；\n4、有推理框架插件开发或模型Serving工具链建设经验。\n1、在线推理服务开发：负责Seedance、Seedream、Seed3D等SOTA模型在线Serving系统的设计与开发，构建高并发、低延迟、高可用的推理服务，支撑多模态、视频生成等模型的线上实时推理；\n2、推理框架研发：参与推理框架功能开发，包括请求调度、模型并行(TP/PP)、多模型混合部署等能力建设；\n3、服务架构演进：设计并落地推理服务的核心架构，涵盖流量调度、负载均衡、弹性扩缩容等，保障大规模GPU集群上的服务稳定性；\n4、性能与效率优化：针对端到端推理链路进行系统级优化，提升GPU利用率、提升服务吞吐；\n5、工程质量与稳定性：主导推理服务的可观测性建设（监控、告警、链路追踪），参与线上问题诊断与专项治理，持续提升系统稳定性和运维效率。\n1、计算机相关专业本科及以上学历，精通Go/Python/C++中至少一门，具备良好的系统设计与编码能力；\n2、扎实的后端开发基础：熟悉高并发服务架构设计，有RPC框架、异步并发、连接池、限流熔断等实战经验；\n3、熟悉分布式系统核心概念：负载均衡、服务发现、消息队列、分布式缓存等，能独立设计和落地高可用服务；\n4、具备性能分析与调优意识：熟悉Profiling工具，有系统级性能瓶颈定位和优化经验；\n5、对大模型推理服务有浓厚兴趣，具备较强的自驱力、学习能力和跨团队协作能力。\n\n加分项：\n1、有大模型在线推理服务实战经验；\n2、了解主流模型架构(Transformer/DiT/MoE)及推理优化技术；\n3、有在线服务研发经验，处理过GPU集群调度问题；\n4、有推理框架插件开发或模型Serving工具链建设经验。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}