主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "【大模型北斗实习】大模型推理系统前沿研究",
"job_level": "实习",AI生成
"work_category": "实习",AI生成
"department": "未披露",
"location": "北京市 / 上海市",
"work_mode": "未披露",AI生成
"job_category": "技术类"AI生成
},
"company": {
"company_name": "美团",
"company_industry": "科技零售 / 生活服务",
"company_size": "10000人以上",
"company_website": "meituan.com",
"company_description": "美团通过科技推动服务零售和商品零售的数字化，连接消费者与商户。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "未披露",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "大模型推理是大模型应用的核心能力，是影响大模型应用成本和效率的关键因素。本课题专注于大模型推理加速与分布式系统优化的前沿技术探索，通过软硬件协同设计和算法工程联合优化，降低大模型推理的应用成本，提高推理性能。\n研究内容包括但不限于：\n1）投机推理（Speculative Decoding），研究基于预测性执行的动态推理优化方法，参与设计低延迟推理框架，通过概率模型预生成候选序列以降低解码计算开销。\n2）分布式系统优化，探索多节点协同推理中的通信-计算负载均衡策略，提出基于异构硬件的混合并行调度方案，实现吞吐量提升。\n3）稀疏Transformer优化与模型压缩，通过稀疏Transformer优化以及模型压缩技术提升模型的计算效率。\n4）算子优化，熟悉硬件架构的算子优化方法，通过更高效的算子优化模型的吞吐和延时。",
"requirements_text": "岗位要求：\n1）熟悉TensorFlow、PyTorch等深度学习框架。\n2）熟悉Python、C++等至少一门编程语言，熟悉LINUX环境。\n加分项：\n1）有影响力的开源项目中做出过核心贡献。\n2）发表过高水平论文优先（如ICLR,ICML,ACL,EMNLP等）。\n3）有CUDA/Triton编程经验。\n4）熟悉vllm/sglang/trt-llm/lmdeploy等开源推理框架。",
"skills": [AI生成
"Python",
"C++",
"Linux",
"PyTorch",
"TensorFlow",
"CUDA",
"深度学习",
"大语言模型"
],
"preferred_qualifications": "加分项：；2）发表过高水平论文优先（如ICLR,ICML,ACL,EMNLP等）",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://zhaopin.meituan.com/web/position/detail?jobUnionId=3153841114&jobShareType=1"
}
]
},
"posting": {
"posting_id": "3153841114",
"post_date": "",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://zhaopin.meituan.com/web/position/detail?jobUnionId=3153841114&jobShareType=1"
},
"fulltext": "【大模型北斗实习】大模型推理系统前沿研究\n【大模型北斗实习】大模型推理系统前沿研究\n\n基础信息\n工作地点：北京市 / 上海市\n职位类别：技术类\n职位族群：算法,硬件,软件\n更新时间：2025-05-23\n\n岗位职责\n大模型推理是大模型应用的核心能力，是影响大模型应用成本和效率的关键因素。本课题专注于大模型推理加速与分布式系统优化的前沿技术探索，通过软硬件协同设计和算法工程联合优化，降低大模型推理的应用成本，提高推理性能。\n研究内容包括但不限于：\n1）投机推理（Speculative Decoding），研究基于预测性执行的动态推理优化方法，参与设计低延迟推理框架，通过概率模型预生成候选序列以降低解码计算开销。\n2）分布式系统优化，探索多节点协同推理中的通信-计算负载均衡策略，提出基于异构硬件的混合并行调度方案，实现吞吐量提升。\n3）稀疏Transformer优化与模型压缩，通过稀疏Transformer优化以及模型压缩技术提升模型的计算效率。\n4）算子优化，熟悉硬件架构的算子优化方法，通过更高效的算子优化模型的吞吐和延时。\n\n岗位基本要求\n岗位要求：\n1）熟悉TensorFlow、PyTorch等深度学习框架。\n2）熟悉Python、C++等至少一门编程语言，熟悉LINUX环境。\n加分项：\n1）有影响力的开源项目中做出过核心贡献。\n2）发表过高水平论文优先（如ICLR,ICML,ACL,EMNLP等）。\n3）有CUDA/Triton编程经验。\n4）熟悉vllm/sglang/trt-llm/lmdeploy等开源推理框架。\n大模型推理是大模型应用的核心能力，是影响大模型应用成本和效率的关键因素。本课题专注于大模型推理加速与分布式系统优化的前沿技术探索，通过软硬件协同设计和算法工程联合优化，降低大模型推理的应用成本，提高推理性能。\n研究内容包括但不限于：\n1）投机推理（Speculative Decoding），研究基于预测性执行的动态推理优化方法，参与设计低延迟推理框架，通过概率模型预生成候选序列以降低解码计算开销。\n2）分布式系统优化，探索多节点协同推理中的通信-计算负载均衡策略，提出基于异构硬件的混合并行调度方案，实现吞吐量提升。\n3）稀疏Transformer优化与模型压缩，通过稀疏Transformer优化以及模型压缩技术提升模型的计算效率。\n4）算子优化，熟悉硬件架构的算子优化方法，通过更高效的算子优化模型的吞吐和延时。\n岗位要求：\n1）熟悉TensorFlow、PyTorch等深度学习框架。\n2）熟悉Python、C++等至少一门编程语言，熟悉LINUX环境。\n加分项：\n1）有影响力的开源项目中做出过核心贡献。\n2）发表过高水平论文优先（如ICLR,ICML,ACL,EMNLP等）。\n3）有CUDA/Triton编程经验。\n4）熟悉vllm/sglang/trt-llm/lmdeploy等开源推理框架。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}