主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "高德-AI Infra/模型推理工程师/专家-推理加速方向-视觉技术中心",
"job_level": "专家",AI生成
"work_category": "全职",AI生成
"department": "阿里集团",
"location": "北京",
"work_mode": "未披露",AI生成
"job_category": "技术类-算法"AI生成
},
"company": {
"company_name": "高德",
"company_industry": "数字地图 / 导航服务",
"company_size": "未披露",
"company_website": "alibaba.com",
"company_description": "高德提供电子地图和导航服务。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": 3,
"degree": "硕士及以上学历",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "我们是谁？ \n作为中国领先的数字地图内容及导航服务提供商，高德地图日均服务数亿用户出行决策，每日处理超百亿级位置数据。视觉技术中心是驱动高德实现厘米级高精地图、实时三维重建、多模态感知等核心技术的引擎，持续突破自动驾驶、AR导航、智慧交通等领域的技术边界。\n团队gihub主页：https://github.com/amap-cvlab\n为何加入我们？ \n挑战世界级技术难题，追求智能上限 \n用AI驱动国民级APP的产品迭代和颠覆式创新\n岗位职责：\n我们在构建面向具身智能与交互式世界模型的下一代推理基础设施：支持多模态流式输入（视频/传感器/地图）、实时闭环输出（动作/轨迹/场景状态），在端云一体部署下实现确定性低延迟、可规模化吞吐与可持续的成本效率。你将负责推理加速基础框架与关键性能机制建设，打通“模型—引擎—硬件—调度—观测”的全链路。\n你将负责\n1) 推理基础框架与运行时\n● 设计并实现端云一体推理框架：统一模型加载、版本管理、热更新、灰度与回滚能力\n● 建设流式推理 pipeline：ingest → preprocess/encode → predict/plan → control，支持异步与背压\n● 推理引擎集成与改造：vLLM / TensorRT-LLM / SGLang / TGI（云端），TensorRT / ONNX Runtime / TVM / NPU SDK（端侧）\n2) 实时调度与性能关键路径\n● Prefill/Decode 分离调度（如适用）、长度分桶、连续 batching、尾延迟治理（P99/P999）\n● KV cache 管理：paged/block、prefix/prompt cache、逐出策略、显存碎片治理\n● 多机多卡并行与通信：TP/PP/EP（MoE），NVLink/IB/RDMA 等链路优化\n● 投机解码/并行解码（Speculative/Medusa 等）在业务场景的落地与收益闭环\n3) 量化与算子/Kernel 优化\n● 建立 profiling 体系：算子画像（attention/GEMM/视觉编码/采样解码等）、输入分布、性能回归基线\n● 分层量化策略：FP8/INT8/INT4 与 activation-aware 量化，质量回归与灰度上线\n● CUDA/Triton kernel、算子融合、内存与流水并行优化；端到端 latency 优化而非单点指标\n4) 可观测性与可靠性\n● 建立实时推理指标体系：E2E latency、jitter、FPS/Hz、丢帧率、功耗/温控降频、OOM/重试等\n● 帧级/样本级 tracing，故障定位、过载保护、降级与安全回退路径（端侧尤重）\"",
"requirements_text": "学历与专业背景：\n3年以上工作经验，硕士及以上学历，中大厂AI Infra从事经验\n能力要求：\n1. 有AI推理加速框架/引擎研发经验者优先，如参与过vLLM、TensorRT-LLM、Triton、OneFlow等相关框架的开发与优化。\n2. 熟悉具身智能、交互式世界模型、机器人AI相关业务场景，了解实时推理、多模态融合推理、连续状态推理的技术难点者优先。\n3. 具备分布式推理、多机多卡协同推理研发经验，熟悉NCCL、MPI等通信机制，能解决分布式场景下的通信瓶颈与调度问题。\n4. 具备AI编译器、中间表示（IR）优化相关经验者优先，熟悉TVM、MLIR等编译工具链优先。\n5. 具备良好的系统设计能力与问题排查能力，能独立解决复杂的性能瓶颈、内存溢出、硬件适配等工程问题。\n6. 具备强烈的技术钻研精神，对AI基础设施、前沿AI场景落地有浓厚兴趣，善于攻克技术难题。\n7. 良好的团队协作与沟通能力，能跨团队协同推进项目，清晰输出技术方案与成果。\n8. 具备优秀的文档撰写与技术分享能力，注重代码质量与工程规范。",
"skills": [AI生成
"团队协作",
"沟通能力",
"大语言模型"
],
"preferred_qualifications": "1. 有AI推理加速框架/引擎研发经验者优先，如参与过vLLM、TensorRT-LLM、Triton、OneFlow等相关框架的开发与优化；2. 熟悉具身智能、交互式世界模型、机器人AI相关业务场景，了解实时推理、多模态融合推理、连续状态推理的技术难点者优先；4. 具备AI编译器、中间表示（IR）优化相关经验者优先，熟悉TVM、MLIR等编译工具链优先",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://talent.amap.com/off-campus/position-detail?positionId=100012980005"
}
]
},
"posting": {
"posting_id": "100012980005",
"post_date": "2026-09-04",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://talent.amap.com/off-campus/position-detail?positionId=100012980005"
},
"fulltext": "高德-AI Infra/模型推理工程师/专家-推理加速方向-视觉技术中心\n高德-AI Infra/模型推理工程师/专家-推理加速方向-视觉技术中心\n\n基础信息\n职位类别：技术类-算法\n工作地点：北京\n\n职位描述\n我们是谁？ \n作为中国领先的数字地图内容及导航服务提供商，高德地图日均服务数亿用户出行决策，每日处理超百亿级位置数据。视觉技术中心是驱动高德实现厘米级高精地图、实时三维重建、多模态感知等核心技术的引擎，持续突破自动驾驶、AR导航、智慧交通等领域的技术边界。\n团队gihub主页：https://github.com/amap-cvlab\n为何加入我们？ \n挑战世界级技术难题，追求智能上限 \n用AI驱动国民级APP的产品迭代和颠覆式创新\n岗位职责：\n我们在构建面向具身智能与交互式世界模型的下一代推理基础设施：支持多模态流式输入（视频/传感器/地图）、实时闭环输出（动作/轨迹/场景状态），在端云一体部署下实现确定性低延迟、可规模化吞吐与可持续的成本效率。你将负责推理加速基础框架与关键性能机制建设，打通“模型—引擎—硬件—调度—观测”的全链路。\n你将负责\n1) 推理基础框架与运行时\n● 设计并实现端云一体推理框架：统一模型加载、版本管理、热更新、灰度与回滚能力\n● 建设流式推理 pipeline：ingest → preprocess/encode → predict/plan → control，支持异步与背压\n● 推理引擎集成与改造：vLLM / TensorRT-LLM / SGLang / TGI（云端），TensorRT / ONNX Runtime / TVM / NPU SDK（端侧）\n2) 实时调度与性能关键路径\n● Prefill/Decode 分离调度（如适用）、长度分桶、连续 batching、尾延迟治理（P99/P999）\n● KV cache 管理：paged/block、prefix/prompt cache、逐出策略、显存碎片治理\n● 多机多卡并行与通信：TP/PP/EP（MoE），NVLink/IB/RDMA 等链路优化\n● 投机解码/并行解码（Speculative/Medusa 等）在业务场景的落地与收益闭环\n3) 量化与算子/Kernel 优化\n● 建立 profiling 体系：算子画像（attention/GEMM/视觉编码/采样解码等）、输入分布、性能回归基线\n● 分层量化策略：FP8/INT8/INT4 与 activation-aware 量化，质量回归与灰度上线\n● CUDA/Triton kernel、算子融合、内存与流水并行优化；端到端 latency 优化而非单点指标\n4) 可观测性与可靠性\n● 建立实时推理指标体系：E2E latency、jitter、FPS/Hz、丢帧率、功耗/温控降频、OOM/重试等\n● 帧级/样本级 tracing，故障定位、过载保护、降级与安全回退路径（端侧尤重）\"\n\n职位要求\n学历与专业背景：\n3年以上工作经验，硕士及以上学历，中大厂AI Infra从事经验\n能力要求：\n1. 有AI推理加速框架/引擎研发经验者优先，如参与过vLLM、TensorRT-LLM、Triton、OneFlow等相关框架的开发与优化。\n2. 熟悉具身智能、交互式世界模型、机器人AI相关业务场景，了解实时推理、多模态融合推理、连续状态推理的技术难点者优先。\n3. 具备分布式推理、多机多卡协同推理研发经验，熟悉NCCL、MPI等通信机制，能解决分布式场景下的通信瓶颈与调度问题。\n4. 具备AI编译器、中间表示（IR）优化相关经验者优先，熟悉TVM、MLIR等编译工具链优先。\n5. 具备良好的系统设计能力与问题排查能力，能独立解决复杂的性能瓶颈、内存溢出、硬件适配等工程问题。\n6. 具备强烈的技术钻研精神，对AI基础设施、前沿AI场景落地有浓厚兴趣，善于攻克技术难题。\n7. 良好的团队协作与沟通能力，能跨团队协同推进项目，清晰输出技术方案与成果。\n8. 具备优秀的文档撰写与技术分享能力，注重代码质量与工程规范。\n我们是谁？ \n作为中国领先的数字地图内容及导航服务提供商，高德地图日均服务数亿用户出行决策，每日处理超百亿级位置数据。视觉技术中心是驱动高德实现厘米级高精地图、实时三维重建、多模态感知等核心技术的引擎，持续突破自动驾驶、AR导航、智慧交通等领域的技术边界。\n团队gihub主页：https://github.com/amap-cvlab\n为何加入我们？ \n挑战世界级技术难题，追求智能上限 \n用AI驱动国民级APP的产品迭代和颠覆式创新\n岗位职责：\n我们在构建面向具身智能与交互式世界模型的下一代推理基础设施：支持多模态流式输入（视频/传感器/地图）、实时闭环输出（动作/轨迹/场景状态），在端云一体部署下实现确定性低延迟、可规模化吞吐与可持续的成本效率。你将负责推理加速基础框架与关键性能机制建设，打通“模型—引擎—硬件—调度—观测”的全链路。\n你将负责\n1) 推理基础框架与运行时\n● 设计并实现端云一体推理框架：统一模型加载、版本管理、热更新、灰度与回滚能力\n● 建设流式推理 pipeline：ingest → preprocess/encode → predict/plan → control，支持异步与背压\n● 推理引擎集成与改造：vLLM / TensorRT-LLM / SGLang / TGI（云端），TensorRT / ONNX Runtime / TVM / NPU SDK（端侧）\n2) 实时调度与性能关键路径\n● Prefill/Decode 分离调度（如适用）、长度分桶、连续 batching、尾延迟治理（P99/P999）\n● KV cache 管理：paged/block、prefix/prompt cache、逐出策略、显存碎片治理\n● 多机多卡并行与通信：TP/PP/EP（MoE），NVLink/IB/RDMA 等链路优化\n● 投机解码/并行解码（Speculative/Medusa 等）在业务场景的落地与收益闭环\n3) 量化与算子/Kernel 优化\n● 建立 profiling 体系：算子画像（attention/GEMM/视觉编码/采样解码等）、输入分布、性能回归基线\n● 分层量化策略：FP8/INT8/INT4 与 activation-aware 量化，质量回归与灰度上线\n● CUDA/Triton kernel、算子融合、内存与流水并行优化；端到端 latency 优化而非单点指标\n4) 可观测性与可靠性\n● 建立实时推理指标体系：E2E latency、jitter、FPS/Hz、丢帧率、功耗/温控降频、OOM/重试等\n● 帧级/样本级 tracing，故障定位、过载保护、降级与安全回退路径（端侧尤重）\"\n学历与专业背景：\n3年以上工作经验，硕士及以上学历，中大厂AI Infra从事经验\n能力要求：\n1. 有AI推理加速框架/引擎研发经验者优先，如参与过vLLM、TensorRT-LLM、Triton、OneFlow等相关框架的开发与优化。\n2. 熟悉具身智能、交互式世界模型、机器人AI相关业务场景，了解实时推理、多模态融合推理、连续状态推理的技术难点者优先。\n3. 具备分布式推理、多机多卡协同推理研发经验，熟悉NCCL、MPI等通信机制，能解决分布式场景下的通信瓶颈与调度问题。\n4. 具备AI编译器、中间表示（IR）优化相关经验者优先，熟悉TVM、MLIR等编译工具链优先。\n5. 具备良好的系统设计能力与问题排查能力，能独立解决复杂的性能瓶颈、内存溢出、硬件适配等工程问题。\n6. 具备强烈的技术钻研精神，对AI基础设施、前沿AI场景落地有浓厚兴趣，善于攻克技术难题。\n7. 良好的团队协作与沟通能力，能跨团队协同推进项目，清晰输出技术方案与成果。\n8. 具备优秀的文档撰写与技术分享能力，注重代码质量与工程规范。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}