主分类:AI训练推理与计算优化
辅助:芯片设计与验证(仅展示)
来源 JD 数据(旧分类保留,当前主分类见上方)
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "大模型推理阶段Prefill-Attention-FFN分离场景下类GPU硬件架构-算法优化机制研究-阿里星/A Star",
"job_level": "校招",AI生成
"work_category": "全职",AI生成
"department": "阿里云",
"location": "北京 / 杭州 / 上海",
"work_mode": "未披露",AI生成
"job_category": "技术类"AI生成
},
"company": {
"company_name": "阿里云",
"company_industry": "云计算 / 人工智能",
"company_size": "10000人以上",
"company_website": "alibaba.com",
"company_description": "阿里云提供云基础设施、AI模型、智能体和计算服务。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "未披露",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1. 本岗位聚焦于大模型推理阶段PAF(Prefill-Attention-FFN)分离架构下的软硬件协同优化。将深入底层,打破传统单一硬件视角的局限,通过跨层级建模与仿真,为下一代AI算力基础设施提供理论依据与技术支撑;\n2. 构建PAF全链路负载特征基准:\n- 深入分析大模型推理中Prefill、Attention、FFN三个阶段的算子行为与数据流特征。\n- 重点针对FFN阶段(占据参数量主体),建立独立于具体硬件的Workload特征模型,量化其对带宽、存储层级及计算密度的精确需求,填补业界在异构选型需求侧的空白。\n3. 异构架构跨层次白盒化评估与建模:\n- 对比分析冯·诺依曼架构(通用/国产GPU)与新型存算一体架构(存内/近存计算)在FFN侧的性能表现。\n- 从器件物理特性→电路阵列拓扑→微架构数据通路→算法映射策略四个层次,建立统一的跨层次对标评估模型。\n- 通过晶体管级仿真等手段,确保模型的准确性,定位现有架构的效率边界与结构性瓶颈。\n4. PAF异构系统协同机制研究与落地:\n- 研究FFN(类LPU承载)与Attention/Prefill(GPU承载)在异构执行时的数据流转路径、调度粒度及通信-计算重叠策略。\n- 量化阶段间协同开销对端到端推理性能的影响,提出最优的异构调度方案。\n- 输出系统性技术分析报告,直接指导集团AI芯片选型、系统架构演进及软硬件协同设计。\n5. 前沿技术探索与生态贡献:\n- 将研究成果转化为高质量的技术专利、学术论文(目标ISCA/MICRO/HPCA等顶会)。\n- 参与ROCm、MLIR等开源社区建设,推动阿里云在异构计算领域的标准制定与技术影响力。",
"requirements_text": "我们需要你具备扎实的体系结构基础和跨越软硬件边界的系统思维。以下能力满足任意2-3项即可,但我们更看重你的第一性原理思维和解决复杂工程问题的潜力。\n1. 硬性背景\n学历专业: 计算机科学与技术、电子工程、微电子、自动化等相关专业,2027年毕业的应届生。\n基础知识: 精通计算机组成原理与体系结构,深刻理解CPU/GPU/NPU的微架构设计(如流水线、缓存一致性、内存层次结构)。\n2. 专业技能(多选一或多选多)\n【体系结构与编译器方向】\n- 熟悉LLVM/SGLANG等编译框架,有GPU Kernel优化、算子融合、自动调优(Auto-tuning)实战经验。\n- 熟练掌握CUDA/HIP编程模型,能深入理解Kernel执行机制与硬件资源映射关系。\n加分项: 有vLLM、TensorRT-LLM等推理引擎底层优化经验者优先。\n【硬件设计与仿真验证方向】\n- 熟练使用Gem5、GPGPU-Sim、Verilator等模拟器进行微架构建模与性能分析。\n加分项: 有存内计算(PIM)或专用加速器(DSA)架构设计经验者优先,对服务器系统以及超节点系统熟悉者优先。\n【大模型系统与算法方向】\n- 深入理解Transformer模型结构,熟悉PyTorch/TensorFlow底层机制。\n- 对MoE(混合专家)、FlashAttention、PagedAttention等前沿优化技术有深入研究。\n加分项: 有大规模分布式训练/推理系统调试经验者优先。\n3. 核心素质(阿里星特质)\n- 极强的好奇心与钻研精神: 不满足于黑盒调用,喜欢追问“为什么慢”、“瓶颈在哪”,具备从现象挖掘本质问题的能力。\n- 优秀的工程落地能力: 能将复杂的理论模型转化为可运行的代码或硬件描述语言,具备严谨的实验设计与数据分析能力。\n- 跨界沟通协作力: 能够跨越硬件、软件、算法团队的认知鸿沟,清晰表达技术观点,推动跨领域项目进展。\n4. 有强烈技术热情和好奇心,自驱力和学习力强;具备良好的分析与解决问题的能力、沟通以及团队合作能力;喜欢挑战性的技术研发工作,善于攻坚克难,有创新热情,积极乐观,坚韧抗压,结果导向,能够持续推动问题的解决和突破。\n5. 掌握AI基础知识,掌握基础提示词工程,会使用Al专业工具,集成AI到个人工作流;有AI相关开发工具应用研发经验者优先,持有阿里云ACA/ACP/ACE认证证书者优先。",
"skills": [AI生成
"PyTorch",
"TensorFlow",
"CUDA",
"数据分析",
"架构设计",
"团队协作",
"解决问题",
"分析能力",
"建模",
"大语言模型"
],
"preferred_qualifications": "加分项: 有vLLM、TensorRT-LLM等推理引擎底层优化经验者优先;加分项: 有存内计算(PIM)或专用加速器(DSA)架构设计经验者优先,对服务器系统以及超节点系统熟悉者优先;加分项: 有大规模分布式训练/推理系统调试经验者优先;有AI相关开发工具应用研发经验者优先,持有阿里云ACA/ACP/ACE认证证书者优先",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://campus-talent.alibaba.com/campus/position/199907660035?deptCodes="
}
]
},
"posting": {
"posting_id": "199907660035",
"post_date": "2026-07-30",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://campus-talent.alibaba.com/campus/position/199907660035?deptCodes="
},
"fulltext": "大模型推理阶段Prefill-Attention-FFN分离场景下类GPU硬件架构-算法优化机制研究-阿里星/A Star\n大模型推理阶段Prefill-Attention-FFN分离场景下类GPU硬件架构-算法优化机制研究-阿里星/A Star\n\n基础信息\n毕业起止时间要求:2026-11-01 - 2027-10-31\n职位类别:技术类\n招聘项目:阿里巴巴2027届应届生\n工作地点:北京 / 杭州 / 上海\n\n职位描述\n1. 本岗位聚焦于大模型推理阶段PAF(Prefill-Attention-FFN)分离架构下的软硬件协同优化。将深入底层,打破传统单一硬件视角的局限,通过跨层级建模与仿真,为下一代AI算力基础设施提供理论依据与技术支撑;\n2. 构建PAF全链路负载特征基准:\n- 深入分析大模型推理中Prefill、Attention、FFN三个阶段的算子行为与数据流特征。\n- 重点针对FFN阶段(占据参数量主体),建立独立于具体硬件的Workload特征模型,量化其对带宽、存储层级及计算密度的精确需求,填补业界在异构选型需求侧的空白。\n3. 异构架构跨层次白盒化评估与建模:\n- 对比分析冯·诺依曼架构(通用/国产GPU)与新型存算一体架构(存内/近存计算)在FFN侧的性能表现。\n- 从器件物理特性→电路阵列拓扑→微架构数据通路→算法映射策略四个层次,建立统一的跨层次对标评估模型。\n- 通过晶体管级仿真等手段,确保模型的准确性,定位现有架构的效率边界与结构性瓶颈。\n4. PAF异构系统协同机制研究与落地:\n- 研究FFN(类LPU承载)与Attention/Prefill(GPU承载)在异构执行时的数据流转路径、调度粒度及通信-计算重叠策略。\n- 量化阶段间协同开销对端到端推理性能的影响,提出最优的异构调度方案。\n- 输出系统性技术分析报告,直接指导集团AI芯片选型、系统架构演进及软硬件协同设计。\n5. 前沿技术探索与生态贡献:\n- 将研究成果转化为高质量的技术专利、学术论文(目标ISCA/MICRO/HPCA等顶会)。\n- 参与ROCm、MLIR等开源社区建设,推动阿里云在异构计算领域的标准制定与技术影响力。\n\n职位要求\n我们需要你具备扎实的体系结构基础和跨越软硬件边界的系统思维。以下能力满足任意2-3项即可,但我们更看重你的第一性原理思维和解决复杂工程问题的潜力。\n1. 硬性背景\n学历专业: 计算机科学与技术、电子工程、微电子、自动化等相关专业,2027年毕业的应届生。\n基础知识: 精通计算机组成原理与体系结构,深刻理解CPU/GPU/NPU的微架构设计(如流水线、缓存一致性、内存层次结构)。\n2. 专业技能(多选一或多选多)\n【体系结构与编译器方向】\n- 熟悉LLVM/SGLANG等编译框架,有GPU Kernel优化、算子融合、自动调优(Auto-tuning)实战经验。\n- 熟练掌握CUDA/HIP编程模型,能深入理解Kernel执行机制与硬件资源映射关系。\n加分项: 有vLLM、TensorRT-LLM等推理引擎底层优化经验者优先。\n【硬件设计与仿真验证方向】\n- 熟练使用Gem5、GPGPU-Sim、Verilator等模拟器进行微架构建模与性能分析。\n加分项: 有存内计算(PIM)或专用加速器(DSA)架构设计经验者优先,对服务器系统以及超节点系统熟悉者优先。\n【大模型系统与算法方向】\n- 深入理解Transformer模型结构,熟悉PyTorch/TensorFlow底层机制。\n- 对MoE(混合专家)、FlashAttention、PagedAttention等前沿优化技术有深入研究。\n加分项: 有大规模分布式训练/推理系统调试经验者优先。\n3. 核心素质(阿里星特质)\n- 极强的好奇心与钻研精神: 不满足于黑盒调用,喜欢追问“为什么慢”、“瓶颈在哪”,具备从现象挖掘本质问题的能力。\n- 优秀的工程落地能力: 能将复杂的理论模型转化为可运行的代码或硬件描述语言,具备严谨的实验设计与数据分析能力。\n- 跨界沟通协作力: 能够跨越硬件、软件、算法团队的认知鸿沟,清晰表达技术观点,推动跨领域项目进展。\n4. 有强烈技术热情和好奇心,自驱力和学习力强;具备良好的分析与解决问题的能力、沟通以及团队合作能力;喜欢挑战性的技术研发工作,善于攻坚克难,有创新热情,积极乐观,坚韧抗压,结果导向,能够持续推动问题的解决和突破。\n5. 掌握AI基础知识,掌握基础提示词工程,会使用Al专业工具,集成AI到个人工作流;有AI相关开发工具应用研发经验者优先,持有阿里云ACA/ACP/ACE认证证书者优先。\n\n在招业务\n阿里云\n1. 本岗位聚焦于大模型推理阶段PAF(Prefill-Attention-FFN)分离架构下的软硬件协同优化。将深入底层,打破传统单一硬件视角的局限,通过跨层级建模与仿真,为下一代AI算力基础设施提供理论依据与技术支撑;\n2. 构建PAF全链路负载特征基准:\n- 深入分析大模型推理中Prefill、Attention、FFN三个阶段的算子行为与数据流特征。\n- 重点针对FFN阶段(占据参数量主体),建立独立于具体硬件的Workload特征模型,量化其对带宽、存储层级及计算密度的精确需求,填补业界在异构选型需求侧的空白。\n3. 异构架构跨层次白盒化评估与建模:\n- 对比分析冯·诺依曼架构(通用/国产GPU)与新型存算一体架构(存内/近存计算)在FFN侧的性能表现。\n- 从器件物理特性→电路阵列拓扑→微架构数据通路→算法映射策略四个层次,建立统一的跨层次对标评估模型。\n- 通过晶体管级仿真等手段,确保模型的准确性,定位现有架构的效率边界与结构性瓶颈。\n4. PAF异构系统协同机制研究与落地:\n- 研究FFN(类LPU承载)与Attention/Prefill(GPU承载)在异构执行时的数据流转路径、调度粒度及通信-计算重叠策略。\n- 量化阶段间协同开销对端到端推理性能的影响,提出最优的异构调度方案。\n- 输出系统性技术分析报告,直接指导集团AI芯片选型、系统架构演进及软硬件协同设计。\n5. 前沿技术探索与生态贡献:\n- 将研究成果转化为高质量的技术专利、学术论文(目标ISCA/MICRO/HPCA等顶会)。\n- 参与ROCm、MLIR等开源社区建设,推动阿里云在异构计算领域的标准制定与技术影响力。\n我们需要你具备扎实的体系结构基础和跨越软硬件边界的系统思维。以下能力满足任意2-3项即可,但我们更看重你的第一性原理思维和解决复杂工程问题的潜力。\n1. 硬性背景\n学历专业: 计算机科学与技术、电子工程、微电子、自动化等相关专业,2027年毕业的应届生。\n基础知识: 精通计算机组成原理与体系结构,深刻理解CPU/GPU/NPU的微架构设计(如流水线、缓存一致性、内存层次结构)。\n2. 专业技能(多选一或多选多)\n【体系结构与编译器方向】\n- 熟悉LLVM/SGLANG等编译框架,有GPU Kernel优化、算子融合、自动调优(Auto-tuning)实战经验。\n- 熟练掌握CUDA/HIP编程模型,能深入理解Kernel执行机制与硬件资源映射关系。\n加分项: 有vLLM、TensorRT-LLM等推理引擎底层优化经验者优先。\n【硬件设计与仿真验证方向】\n- 熟练使用Gem5、GPGPU-Sim、Verilator等模拟器进行微架构建模与性能分析。\n加分项: 有存内计算(PIM)或专用加速器(DSA)架构设计经验者优先,对服务器系统以及超节点系统熟悉者优先。\n【大模型系统与算法方向】\n- 深入理解Transformer模型结构,熟悉PyTorch/TensorFlow底层机制。\n- 对MoE(混合专家)、FlashAttention、PagedAttention等前沿优化技术有深入研究。\n加分项: 有大规模分布式训练/推理系统调试经验者优先。\n3. 核心素质(阿里星特质)\n- 极强的好奇心与钻研精神: 不满足于黑盒调用,喜欢追问“为什么慢”、“瓶颈在哪”,具备从现象挖掘本质问题的能力。\n- 优秀的工程落地能力: 能将复杂的理论模型转化为可运行的代码或硬件描述语言,具备严谨的实验设计与数据分析能力。\n- 跨界沟通协作力: 能够跨越硬件、软件、算法团队的认知鸿沟,清晰表达技术观点,推动跨领域项目进展。\n4. 有强烈技术热情和好奇心,自驱力和学习力强;具备良好的分析与解决问题的能力、沟通以及团队合作能力;喜欢挑战性的技术研发工作,善于攻坚克难,有创新热情,积极乐观,坚韧抗压,结果导向,能够持续推动问题的解决和突破。\n5. 掌握AI基础知识,掌握基础提示词工程,会使用Al专业工具,集成AI到个人工作流;有AI相关开发工具应用研发经验者优先,持有阿里云ACA/ACP/ACE认证证书者优先。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [
"T024"
],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}