职位详情

职位列表 链接有效 不适用(官网全量采集) official:alibaba:199907660035

大模型推理阶段Prefill-Attention-FFN分离场景下类GPU硬件架构-算法优化机制研究-阿里星/A Star

未披露 · 北京 / 杭州 / 上海 · 阿里云

主分类:AI训练推理与计算优化
软件开发与 IT
辅助:芯片设计与验证(仅展示)
来源 JD 数据(旧分类保留,当前主分类见上方)
{
    "schema_version": "via_ai_product_manager_jobs_v1",
    "data_type": "ai_product_manager_jobs",
    "job": {
        "job_title": "大模型推理阶段Prefill-Attention-FFN分离场景下类GPU硬件架构-算法优化机制研究-阿里星/A Star",
        "job_level": "校招",AI生成
        "work_category": "全职",AI生成
        "department": "阿里云",
        "location": "北京 / 杭州 / 上海",
        "work_mode": "未披露",AI生成
        "job_category": "技术类"AI生成
    },
    "company": {
        "company_name": "阿里云",
        "company_industry": "云计算 / 人工智能",
        "company_size": "10000人以上",
        "company_website": "alibaba.com",
        "company_description": "阿里云提供云基础设施、AI模型、智能体和计算服务。"
    },
    "compensation": {
        "salary_range": {
            "min": "",
            "max": "",
            "currency": "未披露",
            "cycle": "未披露"
        },
        "benefits": "未披露"
    },
    "requirements": {
        "working_years": "",
        "degree": "未披露",
        "language": "未披露",AI生成
        "visa_support": "未披露",
        "responsibilities": "1. 本岗位聚焦于大模型推理阶段PAF(Prefill-Attention-FFN)分离架构下的软硬件协同优化。将深入底层,打破传统单一硬件视角的局限,通过跨层级建模与仿真,为下一代AI算力基础设施提供理论依据与技术支撑;\n2. 构建PAF全链路负载特征基准:\n- 深入分析大模型推理中Prefill、Attention、FFN三个阶段的算子行为与数据流特征。\n- 重点针对FFN阶段(占据参数量主体),建立独立于具体硬件的Workload特征模型,量化其对带宽、存储层级及计算密度的精确需求,填补业界在异构选型需求侧的空白。\n3. 异构架构跨层次白盒化评估与建模:\n- 对比分析冯·诺依曼架构(通用/国产GPU)与新型存算一体架构(存内/近存计算)在FFN侧的性能表现。\n- 从器件物理特性→电路阵列拓扑→微架构数据通路→算法映射策略四个层次,建立统一的跨层次对标评估模型。\n- 通过晶体管级仿真等手段,确保模型的准确性,定位现有架构的效率边界与结构性瓶颈。\n4. PAF异构系统协同机制研究与落地:\n- 研究FFN(类LPU承载)与Attention/Prefill(GPU承载)在异构执行时的数据流转路径、调度粒度及通信-计算重叠策略。\n- 量化阶段间协同开销对端到端推理性能的影响,提出最优的异构调度方案。\n- 输出系统性技术分析报告,直接指导集团AI芯片选型、系统架构演进及软硬件协同设计。\n5. 前沿技术探索与生态贡献:\n- 将研究成果转化为高质量的技术专利、学术论文(目标ISCA/MICRO/HPCA等顶会)。\n- 参与ROCm、MLIR等开源社区建设,推动阿里云在异构计算领域的标准制定与技术影响力。",
        "requirements_text": "我们需要你具备扎实的体系结构基础和跨越软硬件边界的系统思维。以下能力满足任意2-3项即可,但我们更看重你的第一性原理思维和解决复杂工程问题的潜力。\n1. 硬性背景\n学历专业: 计算机科学与技术、电子工程、微电子、自动化等相关专业,2027年毕业的应届生。\n基础知识: 精通计算机组成原理与体系结构,深刻理解CPU/GPU/NPU的微架构设计(如流水线、缓存一致性、内存层次结构)。\n2. 专业技能(多选一或多选多)\n【体系结构与编译器方向】\n- 熟悉LLVM/SGLANG等编译框架,有GPU Kernel优化、算子融合、自动调优(Auto-tuning)实战经验。\n- 熟练掌握CUDA/HIP编程模型,能深入理解Kernel执行机制与硬件资源映射关系。\n加分项: 有vLLM、TensorRT-LLM等推理引擎底层优化经验者优先。\n【硬件设计与仿真验证方向】\n- 熟练使用Gem5、GPGPU-Sim、Verilator等模拟器进行微架构建模与性能分析。\n加分项: 有存内计算(PIM)或专用加速器(DSA)架构设计经验者优先,对服务器系统以及超节点系统熟悉者优先。\n【大模型系统与算法方向】\n- 深入理解Transformer模型结构,熟悉PyTorch/TensorFlow底层机制。\n- 对MoE(混合专家)、FlashAttention、PagedAttention等前沿优化技术有深入研究。\n加分项: 有大规模分布式训练/推理系统调试经验者优先。\n3. 核心素质(阿里星特质)\n- 极强的好奇心与钻研精神: 不满足于黑盒调用,喜欢追问“为什么慢”、“瓶颈在哪”,具备从现象挖掘本质问题的能力。\n- 优秀的工程落地能力: 能将复杂的理论模型转化为可运行的代码或硬件描述语言,具备严谨的实验设计与数据分析能力。\n- 跨界沟通协作力: 能够跨越硬件、软件、算法团队的认知鸿沟,清晰表达技术观点,推动跨领域项目进展。\n4. 有强烈技术热情和好奇心,自驱力和学习力强;具备良好的分析与解决问题的能力、沟通以及团队合作能力;喜欢挑战性的技术研发工作,善于攻坚克难,有创新热情,积极乐观,坚韧抗压,结果导向,能够持续推动问题的解决和突破。\n5. 掌握AI基础知识,掌握基础提示词工程,会使用Al专业工具,集成AI到个人工作流;有AI相关开发工具应用研发经验者优先,持有阿里云ACA/ACP/ACE认证证书者优先。",
        "skills": [AI生成
            "PyTorch",
            "TensorFlow",
            "CUDA",
            "数据分析",
            "架构设计",
            "团队协作",
            "解决问题",
            "分析能力",
            "建模",
            "大语言模型"
        ],
        "preferred_qualifications": "加分项: 有vLLM、TensorRT-LLM等推理引擎底层优化经验者优先;加分项: 有存内计算(PIM)或专用加速器(DSA)架构设计经验者优先,对服务器系统以及超节点系统熟悉者优先;加分项: 有大规模分布式训练/推理系统调试经验者优先;有AI相关开发工具应用研发经验者优先,持有阿里云ACA/ACP/ACE认证证书者优先",
        "job_highlights": "未披露"
    },
    "contact": {
        "recruiter_name": "未披露",
        "contact_methods": [
            {
                "type": "apply_link",
                "value": "https://campus-talent.alibaba.com/campus/position/199907660035?deptCodes="
            }
        ]
    },
    "posting": {
        "posting_id": "199907660035",
        "post_date": "2026-07-30",
        "hire_time": "未披露",
        "update_date": "20260917",
        "job_url": "https://campus-talent.alibaba.com/campus/position/199907660035?deptCodes="
    },
    "fulltext": "大模型推理阶段Prefill-Attention-FFN分离场景下类GPU硬件架构-算法优化机制研究-阿里星/A Star\n大模型推理阶段Prefill-Attention-FFN分离场景下类GPU硬件架构-算法优化机制研究-阿里星/A Star\n\n基础信息\n毕业起止时间要求:2026-11-01 - 2027-10-31\n职位类别:技术类\n招聘项目:阿里巴巴2027届应届生\n工作地点:北京 / 杭州 / 上海\n\n职位描述\n1. 本岗位聚焦于大模型推理阶段PAF(Prefill-Attention-FFN)分离架构下的软硬件协同优化。将深入底层,打破传统单一硬件视角的局限,通过跨层级建模与仿真,为下一代AI算力基础设施提供理论依据与技术支撑;\n2. 构建PAF全链路负载特征基准:\n- 深入分析大模型推理中Prefill、Attention、FFN三个阶段的算子行为与数据流特征。\n- 重点针对FFN阶段(占据参数量主体),建立独立于具体硬件的Workload特征模型,量化其对带宽、存储层级及计算密度的精确需求,填补业界在异构选型需求侧的空白。\n3. 异构架构跨层次白盒化评估与建模:\n- 对比分析冯·诺依曼架构(通用/国产GPU)与新型存算一体架构(存内/近存计算)在FFN侧的性能表现。\n- 从器件物理特性→电路阵列拓扑→微架构数据通路→算法映射策略四个层次,建立统一的跨层次对标评估模型。\n- 通过晶体管级仿真等手段,确保模型的准确性,定位现有架构的效率边界与结构性瓶颈。\n4. PAF异构系统协同机制研究与落地:\n- 研究FFN(类LPU承载)与Attention/Prefill(GPU承载)在异构执行时的数据流转路径、调度粒度及通信-计算重叠策略。\n- 量化阶段间协同开销对端到端推理性能的影响,提出最优的异构调度方案。\n- 输出系统性技术分析报告,直接指导集团AI芯片选型、系统架构演进及软硬件协同设计。\n5. 前沿技术探索与生态贡献:\n- 将研究成果转化为高质量的技术专利、学术论文(目标ISCA/MICRO/HPCA等顶会)。\n- 参与ROCm、MLIR等开源社区建设,推动阿里云在异构计算领域的标准制定与技术影响力。\n\n职位要求\n我们需要你具备扎实的体系结构基础和跨越软硬件边界的系统思维。以下能力满足任意2-3项即可,但我们更看重你的第一性原理思维和解决复杂工程问题的潜力。\n1. 硬性背景\n学历专业: 计算机科学与技术、电子工程、微电子、自动化等相关专业,2027年毕业的应届生。\n基础知识: 精通计算机组成原理与体系结构,深刻理解CPU/GPU/NPU的微架构设计(如流水线、缓存一致性、内存层次结构)。\n2. 专业技能(多选一或多选多)\n【体系结构与编译器方向】\n- 熟悉LLVM/SGLANG等编译框架,有GPU Kernel优化、算子融合、自动调优(Auto-tuning)实战经验。\n- 熟练掌握CUDA/HIP编程模型,能深入理解Kernel执行机制与硬件资源映射关系。\n加分项: 有vLLM、TensorRT-LLM等推理引擎底层优化经验者优先。\n【硬件设计与仿真验证方向】\n- 熟练使用Gem5、GPGPU-Sim、Verilator等模拟器进行微架构建模与性能分析。\n加分项: 有存内计算(PIM)或专用加速器(DSA)架构设计经验者优先,对服务器系统以及超节点系统熟悉者优先。\n【大模型系统与算法方向】\n- 深入理解Transformer模型结构,熟悉PyTorch/TensorFlow底层机制。\n- 对MoE(混合专家)、FlashAttention、PagedAttention等前沿优化技术有深入研究。\n加分项: 有大规模分布式训练/推理系统调试经验者优先。\n3. 核心素质(阿里星特质)\n- 极强的好奇心与钻研精神: 不满足于黑盒调用,喜欢追问“为什么慢”、“瓶颈在哪”,具备从现象挖掘本质问题的能力。\n- 优秀的工程落地能力: 能将复杂的理论模型转化为可运行的代码或硬件描述语言,具备严谨的实验设计与数据分析能力。\n- 跨界沟通协作力: 能够跨越硬件、软件、算法团队的认知鸿沟,清晰表达技术观点,推动跨领域项目进展。\n4. 有强烈技术热情和好奇心,自驱力和学习力强;具备良好的分析与解决问题的能力、沟通以及团队合作能力;喜欢挑战性的技术研发工作,善于攻坚克难,有创新热情,积极乐观,坚韧抗压,结果导向,能够持续推动问题的解决和突破。\n5. 掌握AI基础知识,掌握基础提示词工程,会使用Al专业工具,集成AI到个人工作流;有AI相关开发工具应用研发经验者优先,持有阿里云ACA/ACP/ACE认证证书者优先。\n\n在招业务\n阿里云\n1. 本岗位聚焦于大模型推理阶段PAF(Prefill-Attention-FFN)分离架构下的软硬件协同优化。将深入底层,打破传统单一硬件视角的局限,通过跨层级建模与仿真,为下一代AI算力基础设施提供理论依据与技术支撑;\n2. 构建PAF全链路负载特征基准:\n- 深入分析大模型推理中Prefill、Attention、FFN三个阶段的算子行为与数据流特征。\n- 重点针对FFN阶段(占据参数量主体),建立独立于具体硬件的Workload特征模型,量化其对带宽、存储层级及计算密度的精确需求,填补业界在异构选型需求侧的空白。\n3. 异构架构跨层次白盒化评估与建模:\n- 对比分析冯·诺依曼架构(通用/国产GPU)与新型存算一体架构(存内/近存计算)在FFN侧的性能表现。\n- 从器件物理特性→电路阵列拓扑→微架构数据通路→算法映射策略四个层次,建立统一的跨层次对标评估模型。\n- 通过晶体管级仿真等手段,确保模型的准确性,定位现有架构的效率边界与结构性瓶颈。\n4. PAF异构系统协同机制研究与落地:\n- 研究FFN(类LPU承载)与Attention/Prefill(GPU承载)在异构执行时的数据流转路径、调度粒度及通信-计算重叠策略。\n- 量化阶段间协同开销对端到端推理性能的影响,提出最优的异构调度方案。\n- 输出系统性技术分析报告,直接指导集团AI芯片选型、系统架构演进及软硬件协同设计。\n5. 前沿技术探索与生态贡献:\n- 将研究成果转化为高质量的技术专利、学术论文(目标ISCA/MICRO/HPCA等顶会)。\n- 参与ROCm、MLIR等开源社区建设,推动阿里云在异构计算领域的标准制定与技术影响力。\n我们需要你具备扎实的体系结构基础和跨越软硬件边界的系统思维。以下能力满足任意2-3项即可,但我们更看重你的第一性原理思维和解决复杂工程问题的潜力。\n1. 硬性背景\n学历专业: 计算机科学与技术、电子工程、微电子、自动化等相关专业,2027年毕业的应届生。\n基础知识: 精通计算机组成原理与体系结构,深刻理解CPU/GPU/NPU的微架构设计(如流水线、缓存一致性、内存层次结构)。\n2. 专业技能(多选一或多选多)\n【体系结构与编译器方向】\n- 熟悉LLVM/SGLANG等编译框架,有GPU Kernel优化、算子融合、自动调优(Auto-tuning)实战经验。\n- 熟练掌握CUDA/HIP编程模型,能深入理解Kernel执行机制与硬件资源映射关系。\n加分项: 有vLLM、TensorRT-LLM等推理引擎底层优化经验者优先。\n【硬件设计与仿真验证方向】\n- 熟练使用Gem5、GPGPU-Sim、Verilator等模拟器进行微架构建模与性能分析。\n加分项: 有存内计算(PIM)或专用加速器(DSA)架构设计经验者优先,对服务器系统以及超节点系统熟悉者优先。\n【大模型系统与算法方向】\n- 深入理解Transformer模型结构,熟悉PyTorch/TensorFlow底层机制。\n- 对MoE(混合专家)、FlashAttention、PagedAttention等前沿优化技术有深入研究。\n加分项: 有大规模分布式训练/推理系统调试经验者优先。\n3. 核心素质(阿里星特质)\n- 极强的好奇心与钻研精神: 不满足于黑盒调用,喜欢追问“为什么慢”、“瓶颈在哪”,具备从现象挖掘本质问题的能力。\n- 优秀的工程落地能力: 能将复杂的理论模型转化为可运行的代码或硬件描述语言,具备严谨的实验设计与数据分析能力。\n- 跨界沟通协作力: 能够跨越硬件、软件、算法团队的认知鸿沟,清晰表达技术观点,推动跨领域项目进展。\n4. 有强烈技术热情和好奇心,自驱力和学习力强;具备良好的分析与解决问题的能力、沟通以及团队合作能力;喜欢挑战性的技术研发工作,善于攻坚克难,有创新热情,积极乐观,坚韧抗压,结果导向,能够持续推动问题的解决和突破。\n5. 掌握AI基础知识,掌握基础提示词工程,会使用Al专业工具,集成AI到个人工作流;有AI相关开发工具应用研发经验者优先,持有阿里云ACA/ACP/ACE认证证书者优先。",
    "standard_classification": {
        "std_category_code": "T014",
        "std_aux_codes": [
            "T024"
        ],
        "std_category_status": null,
        "std_taxonomy_version": "20261104"
    }
}