主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "AI系统性能工程师-国际化内容安全平台",
"job_level": "未披露",AI生成
"work_category": "全职",AI生成
"department": "未披露",
"location": "上海",
"work_mode": "未披露",AI生成
"job_category": "后端"AI生成
},
"company": {
"company_name": "字节跳动",
"company_industry": "互联网 / 数字内容 / 电商",
"company_size": "10000人以上",
"company_website": "bytedance.com",
"company_description": "字节跳动提供内容创作、信息分发、电商和协作产品，旗下产品包括抖音、今日头条、TikTok和飞书。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "未披露",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1、新一代多模态推理架构设计与开发：面向极其庞大且复杂的线上流量，设计并实现支持海量异构算力的高效全局调度系统；解决真实高并发场景下的计算负载均衡与极致的Batch组装难题；\n2、超大规模推理引擎深度优化：面向千亿级（200B+）超大模型以及复杂的视觉语言模型（VLM），开发并优化分布式推理策略（TP/EP/DP等）；在生产环境中突破内存与算力瓶颈，实现业界领先的吞吐量与超低延迟；\n3、前沿模型算子级优化：针对前沿业务模型架构（如MoE、各类新型Attention机制、多模态融合层等），开发并打磨高性能底层算子（CUDA/Triton等），深度挖掘硬件潜力；\n4、AI驱动的基础设施（AI for AI Infra）：探索AI Agent在系统性能调优、全链路一致性校验、部署流水线中的落地，构建高度智能化的大模型服务与运维体系，AI Agent for Kernel Optimization。",
"requirements_text": "1、具备2年以上高性能计算、分布式调度系统或大模型推理引擎开发经验，熟悉大模型模型结构；\n2、对业界前沿的大模型推理框架（如vLLM、SGLang等）的底层源码有深入理解，具备生产环境下的定制开发与性能调优经验；\n3、具备较强的复杂系统架构设计能力，对高并发微服务系统中的异步调度、资源池化、负载均衡有深刻理解与实战经验；\n4、熟悉GPU底层微架构，熟练使用CUDA、Triton、CUTLASS等工具进行算子级别极限优化者优先；\n5、有大语言模型优化（PTQ/QAT/KV Cache优化/PD分裂）或多模态模型（VLM）线上工程落地经验者优先。",
"skills": [AI生成
"CUDA",
"微服务",
"性能调优",
"系统架构",
"架构设计",
"大语言模型"
],
"preferred_qualifications": "4、熟悉GPU底层微架构，熟练使用CUDA、Triton、CUTLASS等工具进行算子级别极限优化者优先；5、有大语言模型优化（PTQ/QAT/KV Cache优化/PD分裂）或多模态模型（VLM）线上工程落地经验者优先",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://jobs.bytedance.com/experienced/position/7571352376075110661/detail"
}
]
},
"posting": {
"posting_id": "7571352376075110661",
"post_date": "2025-11-11",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://jobs.bytedance.com/experienced/position/7571352376075110661/detail"
},
"fulltext": "AI系统性能工程师-国际化内容安全平台\n职位描述\n1、新一代多模态推理架构设计与开发：面向极其庞大且复杂的线上流量，设计并实现支持海量异构算力的高效全局调度系统；解决真实高并发场景下的计算负载均衡与极致的Batch组装难题；\n2、超大规模推理引擎深度优化：面向千亿级（200B+）超大模型以及复杂的视觉语言模型（VLM），开发并优化分布式推理策略（TP/EP/DP等）；在生产环境中突破内存与算力瓶颈，实现业界领先的吞吐量与超低延迟；\n3、前沿模型算子级优化：针对前沿业务模型架构（如MoE、各类新型Attention机制、多模态融合层等），开发并打磨高性能底层算子（CUDA/Triton等），深度挖掘硬件潜力；\n4、AI驱动的基础设施（AI for AI Infra）：探索AI Agent在系统性能调优、全链路一致性校验、部署流水线中的落地，构建高度智能化的大模型服务与运维体系，AI Agent for Kernel Optimization。\n\n职位要求\n1、具备2年以上高性能计算、分布式调度系统或大模型推理引擎开发经验，熟悉大模型模型结构；\n2、对业界前沿的大模型推理框架（如vLLM、SGLang等）的底层源码有深入理解，具备生产环境下的定制开发与性能调优经验；\n3、具备较强的复杂系统架构设计能力，对高并发微服务系统中的异步调度、资源池化、负载均衡有深刻理解与实战经验；\n4、熟悉GPU底层微架构，熟练使用CUDA、Triton、CUTLASS等工具进行算子级别极限优化者优先；\n5、有大语言模型优化（PTQ/QAT/KV Cache优化/PD分裂）或多模态模型（VLM）线上工程落地经验者优先。\n1、新一代多模态推理架构设计与开发：面向极其庞大且复杂的线上流量，设计并实现支持海量异构算力的高效全局调度系统；解决真实高并发场景下的计算负载均衡与极致的Batch组装难题；\n2、超大规模推理引擎深度优化：面向千亿级（200B+）超大模型以及复杂的视觉语言模型（VLM），开发并优化分布式推理策略（TP/EP/DP等）；在生产环境中突破内存与算力瓶颈，实现业界领先的吞吐量与超低延迟；\n3、前沿模型算子级优化：针对前沿业务模型架构（如MoE、各类新型Attention机制、多模态融合层等），开发并打磨高性能底层算子（CUDA/Triton等），深度挖掘硬件潜力；\n4、AI驱动的基础设施（AI for AI Infra）：探索AI Agent在系统性能调优、全链路一致性校验、部署流水线中的落地，构建高度智能化的大模型服务与运维体系，AI Agent for Kernel Optimization。\n1、具备2年以上高性能计算、分布式调度系统或大模型推理引擎开发经验，熟悉大模型模型结构；\n2、对业界前沿的大模型推理框架（如vLLM、SGLang等）的底层源码有深入理解，具备生产环境下的定制开发与性能调优经验；\n3、具备较强的复杂系统架构设计能力，对高并发微服务系统中的异步调度、资源池化、负载均衡有深刻理解与实战经验；\n4、熟悉GPU底层微架构，熟练使用CUDA、Triton、CUTLASS等工具进行算子级别极限优化者优先；\n5、有大语言模型优化（PTQ/QAT/KV Cache优化/PD分裂）或多模态模型（VLM）线上工程落地经验者优先。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}