主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "端侧多模态推理引擎高性能优化工程师-AML（上海/杭州/广州/深圳）",
"job_level": "未披露",AI生成
"work_category": "全职",AI生成
"department": "未披露",
"location": "上海",
"work_mode": "未披露",AI生成
"job_category": "机器学习"AI生成
},
"company": {
"company_name": "字节跳动",
"company_industry": "互联网 / 数字内容 / 电商",
"company_size": "10000人以上",
"company_website": "bytedance.com",
"company_description": "字节跳动提供内容创作、信息分发、电商和协作产品，旗下产品包括抖音、今日头条、TikTok和飞书。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "本科及以上学历",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1、负责开发和优化字节跳动公司级的端侧AI推理框架，通过CPU/GPU/DSP/NPU的并行计算优化、架构设计、稀疏优化、异构调度等多种高性能优化技术打造业界领先的高性能异构AI推理引擎；\n2、负责将LLM、多模态、AIGC等大模型算法在端侧做AI推理技术优化，落地到抖音、剪映、火山引擎等产品，支撑字节跳动AI业务的发展；\n3、负责AI模型和推理框架工具链开发及技术生态的建设。",
"requirements_text": "1、本科及以上学历，计算机/电子/信息/通信/自动化/软件等相关专业，有AI工程优化经验优先；\n2、精通C/C++，精通算法与数据结构，熟悉Python；\n3、熟悉主流LLM/VLM/AIGC算法模型原理，了解混合专家（MoE）架构、低比特量化（如INT8/INT4/INT2）、SparseAttention等模型优化手段，有相关优化经验者优先；\n4、具备CUDA/OpenCL/Metal中的至少1种GPU优化经验，熟悉TensorRT/Triton/CUTLASS，熟悉高通/MTK等NPU架构及部署方案，有丰富的ARM NEON汇编优化，有以上技术的AI工程优化部署经验者优先；\n5、熟练掌握GPU（NVIDIA/Adreno/Mali/Apple）、CPU（ARM/x86）中的1个或多个平台的高性能计算优化技术，深入理解计算机体系结构，熟悉移动端/PC端/车端中一个或多个平台的并行计算优化、访存优化等；\n6、熟悉常用深度学习推理计算库，例如Llama.cpp、MNN、TNN、CoreML等，熟悉计算密集型算子如FlashAttention、Conv2d、GEMM、GEMV实现和加速优先。",
"skills": [AI生成
"Python",
"C++",
"CUDA",
"深度学习",
"数据结构"
],
"preferred_qualifications": "1、本科及以上学历，计算机/电子/信息/通信/自动化/软件等相关专业，有AI工程优化经验优先；3、熟悉主流LLM/VLM/AIGC算法模型原理，了解混合专家（MoE）架构、低比特量化（如INT8/INT4/INT2）、SparseAttention等模型优化手段，有相关优化经验者优先；4、具备CUDA/OpenCL/Metal中的至少1种GPU优化经验，熟悉TensorRT/Triton/CUTLASS，熟悉高通/MTK等NPU架构及部署方案，有丰富的ARM NEON汇编优化，有以上技术的AI工程优化部署经验者优先；6、熟悉常用深度学习推理计算库，例如Llama.cpp、MNN、TNN、CoreML等，熟悉计算密集型算子如FlashAttention、Conv2d、GEMM、GEMV实现和加速优先",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://jobs.bytedance.com/experienced/position/7418052174699841819/detail"
}
]
},
"posting": {
"posting_id": "7418052174699841819",
"post_date": "2024-09-24",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://jobs.bytedance.com/experienced/position/7418052174699841819/detail"
},
"fulltext": "端侧多模态推理引擎高性能优化工程师-AML（上海/杭州/广州/深圳）\n职位描述\n1、负责开发和优化字节跳动公司级的端侧AI推理框架，通过CPU/GPU/DSP/NPU的并行计算优化、架构设计、稀疏优化、异构调度等多种高性能优化技术打造业界领先的高性能异构AI推理引擎；\n2、负责将LLM、多模态、AIGC等大模型算法在端侧做AI推理技术优化，落地到抖音、剪映、火山引擎等产品，支撑字节跳动AI业务的发展；\n3、负责AI模型和推理框架工具链开发及技术生态的建设。\n\n职位要求\n1、本科及以上学历，计算机/电子/信息/通信/自动化/软件等相关专业，有AI工程优化经验优先；\n2、精通C/C++，精通算法与数据结构，熟悉Python；\n3、熟悉主流LLM/VLM/AIGC算法模型原理，了解混合专家（MoE）架构、低比特量化（如INT8/INT4/INT2）、SparseAttention等模型优化手段，有相关优化经验者优先；\n4、具备CUDA/OpenCL/Metal中的至少1种GPU优化经验，熟悉TensorRT/Triton/CUTLASS，熟悉高通/MTK等NPU架构及部署方案，有丰富的ARM NEON汇编优化，有以上技术的AI工程优化部署经验者优先；\n5、熟练掌握GPU（NVIDIA/Adreno/Mali/Apple）、CPU（ARM/x86）中的1个或多个平台的高性能计算优化技术，深入理解计算机体系结构，熟悉移动端/PC端/车端中一个或多个平台的并行计算优化、访存优化等；\n6、熟悉常用深度学习推理计算库，例如Llama.cpp、MNN、TNN、CoreML等，熟悉计算密集型算子如FlashAttention、Conv2d、GEMM、GEMV实现和加速优先。\n1、负责开发和优化字节跳动公司级的端侧AI推理框架，通过CPU/GPU/DSP/NPU的并行计算优化、架构设计、稀疏优化、异构调度等多种高性能优化技术打造业界领先的高性能异构AI推理引擎；\n2、负责将LLM、多模态、AIGC等大模型算法在端侧做AI推理技术优化，落地到抖音、剪映、火山引擎等产品，支撑字节跳动AI业务的发展；\n3、负责AI模型和推理框架工具链开发及技术生态的建设。\n1、本科及以上学历，计算机/电子/信息/通信/自动化/软件等相关专业，有AI工程优化经验优先；\n2、精通C/C++，精通算法与数据结构，熟悉Python；\n3、熟悉主流LLM/VLM/AIGC算法模型原理，了解混合专家（MoE）架构、低比特量化（如INT8/INT4/INT2）、SparseAttention等模型优化手段，有相关优化经验者优先；\n4、具备CUDA/OpenCL/Metal中的至少1种GPU优化经验，熟悉TensorRT/Triton/CUTLASS，熟悉高通/MTK等NPU架构及部署方案，有丰富的ARM NEON汇编优化，有以上技术的AI工程优化部署经验者优先；\n5、熟练掌握GPU（NVIDIA/Adreno/Mali/Apple）、CPU（ARM/x86）中的1个或多个平台的高性能计算优化技术，深入理解计算机体系结构，熟悉移动端/PC端/车端中一个或多个平台的并行计算优化、访存优化等；\n6、熟悉常用深度学习推理计算库，例如Llama.cpp、MNN、TNN、CoreML等，熟悉计算密集型算子如FlashAttention、Conv2d、GEMM、GEMV实现和加速优先。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}