主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "大模型推理优化工程师-Data语音",
"job_level": "未披露",AI生成
"work_category": "全职",AI生成
"department": "未披露",
"location": "杭州",
"work_mode": "未披露",AI生成
"job_category": "机器学习"AI生成
},
"company": {
"company_name": "字节跳动",
"company_industry": "互联网 / 数字内容 / 电商",
"company_size": "10000人以上",
"company_website": "bytedance.com",
"company_description": "字节跳动提供内容创作、信息分发、电商和协作产品，旗下产品包括抖音、今日头条、TikTok和飞书。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "未披露",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1、负责构建新一代大模型推理引擎并主导性能优化，涵盖CUDA/Triton算子开发、vLLM/SGLang框架升级、分布式推理策略优化、量化/稀疏化等模型效能加速技术，优化多模态语音理解/语音生成等多模态生成大模型在GPU集群上的推理性能，实现低延迟、高吞吐的工业级部署；\n2、研发GPU推理加速技术栈，设计最佳分布式通算结合方案，搭建PCIe通信与高并发推理架构；\n3、负责高性能方案前瞻性建设，构建基于C++/Python研发的高性能推理系统；\n4、与上下游部门深度合作，分析性能瓶颈，通过软硬结合提升模型训推效率，优化和部署语音大模型，支撑语音多模态场景下的性能优化需求并推动业务落地，支持AI工具链和技术生态建设，推动AI关键业务发展。",
"requirements_text": "1、精通Python，熟悉C++特性，具备高性能代码开发能力和算法相关经验；\n2、至少具备以下一个领域经验：GPU编程（CUDA/Triton/AscendC/TileLang开发）、模型量化/稀疏化/蒸馏、基于vLLM的框架研发、并行计算通算结合（多卡/多机推理优化）；\n3、符合以下条件者优先：拥有推理系统经验、具备vLLM/SGLang开发经验、Tilelang/Tritton开发经验，深入了解Transformer架构，有量化/稀疏化等相关技术落地或者论文发表等相关经验。",
"skills": [AI生成
"Python",
"C++",
"CUDA"
],
"preferred_qualifications": "3、符合以下条件者优先：拥有推理系统经验、具备vLLM/SGLang开发经验、Tilelang/Tritton开发经验，深入了解Transformer架构，有量化/稀疏化等相关技术落地或者论文发表等相关经验",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://jobs.bytedance.com/experienced/position/7544990392732748039/detail"
}
]
},
"posting": {
"posting_id": "7544990392732748039",
"post_date": "2025-09-01",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://jobs.bytedance.com/experienced/position/7544990392732748039/detail"
},
"fulltext": "大模型推理优化工程师-Data语音\n职位描述\n1、负责构建新一代大模型推理引擎并主导性能优化，涵盖CUDA/Triton算子开发、vLLM/SGLang框架升级、分布式推理策略优化、量化/稀疏化等模型效能加速技术，优化多模态语音理解/语音生成等多模态生成大模型在GPU集群上的推理性能，实现低延迟、高吞吐的工业级部署；\n2、研发GPU推理加速技术栈，设计最佳分布式通算结合方案，搭建PCIe通信与高并发推理架构；\n3、负责高性能方案前瞻性建设，构建基于C++/Python研发的高性能推理系统；\n4、与上下游部门深度合作，分析性能瓶颈，通过软硬结合提升模型训推效率，优化和部署语音大模型，支撑语音多模态场景下的性能优化需求并推动业务落地，支持AI工具链和技术生态建设，推动AI关键业务发展。\n\n职位要求\n1、精通Python，熟悉C++特性，具备高性能代码开发能力和算法相关经验；\n2、至少具备以下一个领域经验：GPU编程（CUDA/Triton/AscendC/TileLang开发）、模型量化/稀疏化/蒸馏、基于vLLM的框架研发、并行计算通算结合（多卡/多机推理优化）；\n3、符合以下条件者优先：拥有推理系统经验、具备vLLM/SGLang开发经验、Tilelang/Tritton开发经验，深入了解Transformer架构，有量化/稀疏化等相关技术落地或者论文发表等相关经验。\n1、负责构建新一代大模型推理引擎并主导性能优化，涵盖CUDA/Triton算子开发、vLLM/SGLang框架升级、分布式推理策略优化、量化/稀疏化等模型效能加速技术，优化多模态语音理解/语音生成等多模态生成大模型在GPU集群上的推理性能，实现低延迟、高吞吐的工业级部署；\n2、研发GPU推理加速技术栈，设计最佳分布式通算结合方案，搭建PCIe通信与高并发推理架构；\n3、负责高性能方案前瞻性建设，构建基于C++/Python研发的高性能推理系统；\n4、与上下游部门深度合作，分析性能瓶颈，通过软硬结合提升模型训推效率，优化和部署语音大模型，支撑语音多模态场景下的性能优化需求并推动业务落地，支持AI工具链和技术生态建设，推动AI关键业务发展。\n1、精通Python，熟悉C++特性，具备高性能代码开发能力和算法相关经验；\n2、至少具备以下一个领域经验：GPU编程（CUDA/Triton/AscendC/TileLang开发）、模型量化/稀疏化/蒸馏、基于vLLM的框架研发、并行计算通算结合（多卡/多机推理优化）；\n3、符合以下条件者优先：拥有推理系统经验、具备vLLM/SGLang开发经验、Tilelang/Tritton开发经验，深入了解Transformer架构，有量化/稀疏化等相关技术落地或者论文发表等相关经验。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}