职位详情

职位列表 链接有效 不适用(官网全量采集) official:alibaba:199907720115

面向AI芯片推理系统优化-阿里星

未披露 · 北京 / 成都 / 杭州 / 上海 · 阿里巴巴控股集团

主分类:AI训练推理与计算优化
软件开发与 IT
来源 JD 数据(旧分类保留,当前主分类见上方)
{
    "schema_version": "via_ai_product_manager_jobs_v1",
    "data_type": "ai_product_manager_jobs",
    "job": {
        "job_title": "面向AI芯片推理系统优化-阿里星",
        "job_level": "校招",AI生成
        "work_category": "全职",AI生成
        "department": "阿里巴巴控股集团",
        "location": "北京 / 成都 / 杭州 / 上海",
        "work_mode": "未披露",AI生成
        "job_category": "技术类"AI生成
    },
    "company": {
        "company_name": "阿里巴巴控股集团",
        "company_industry": "电子商务 / 云计算 / 人工智能",
        "company_size": "未披露",
        "company_website": "alibaba.com",
        "company_description": "阿里巴巴集团面向消费者和企业提供电子商务、云计算及人工智能服务。"
    },
    "compensation": {
        "salary_range": {
            "min": "",
            "max": "",
            "currency": "未披露",
            "cycle": "未披露"
        },
        "benefits": "未披露"
    },
    "requirements": {
        "working_years": "",
        "degree": "硕士及以上学历(博士优先)",
        "language": "未披露",AI生成
        "visa_support": "未披露",
        "responsibilities": "大模型时代,推理效率已成为 AI 落地的核心瓶颈。我们正在构建面向自研 AI 芯片的高性能推理系统,目标是在千亿参数大模型上实现业界领先的推理吞吐和延迟。\n你将参与设计推理引擎的核心模块,包括图执行引擎、内存管理、批处理调度、分布式推理等。你需要在算法、系统和硬件三个层面寻找最优解——从模型量化、KV Cache 优化、Speculative Decoding 等算法创新,到算子调度、显存复用、流水线并行等系统优化,再到与编译器、驱动团队协作榨干硬件的每一分性能。\n岗位职责\n• 设计并实现高性能推理引擎,支持主流大模型(LLaMA/Qwen/GPT 等)的高效推理\n• 研究和落地推理优化技术,包括但不限于:KV Cache 管理、Continuous Batching、Speculative Decoding、模型量化(INT8/INT4/FP8)、稀疏化推理\n• 设计高效的显存管理策略,优化大模型推理的显存占用和碎片问题\n• 开发分布式推理框架,支持张量并行(Tensor Parallelism)、流水线并行(Pipeline Parallelism)、专家并行(Expert Parallelism)等策略\n• 与算子库团队协作,定义高性能算子的接口和性能目标\n• 与编译器团队协作,优化推理场景下的编译策略和代码生成\n• 构建推理性能基准测试框架,持续跟踪和优化推理性能",
        "requirements_text": "• 计算机科学、软件工程、人工智能或相关专业,硕士及以上学历(博士优先)\n• 深入理解深度学习模型的推理过程,熟悉 Transformer/LLM 的架构和计算特性\n• 扎实的 C/C++ 和 Python 编程能力,有高性能系统开发经验\n• 熟悉 CUDA/ROCm 等 GPU 编程模型,或有其他 AI 加速器编程经验\n• 对操作系统内存管理、多线程并发、分布式系统有深入理解\n• 有强烈的性能优化意识,习惯用数据驱动决策\n加分项\n• 在 MLSys、系统、体系结构等领域发表过顶级论文(OSDI/SOSP/ASPLOS/EuroSys/MLSys 等)\n• 参与过 vLLM、SGLang、TensorRT-LLM、LMDeploy 等开源推理框架的核心开发\n• 有 GPU/NPU 上的高性能算子开发经验(如 FlashAttention、FlashInfer 等)\n• 熟悉分布式训练/推理框架(Megatron-LM、DeepSpeed、Ray 等)\n• 有大规模模型部署经验,处理过千卡级别的推理集群",
        "skills": [AI生成
            "Python",
            "C++",
            "CUDA",
            "深度学习",
            "分布式系统",
            "性能优化",
            "大语言模型",
            "C语言"
        ],
        "preferred_qualifications": "计算机科学、软件工程、人工智能或相关专业,硕士及以上学历(博士优先);加分项",
        "job_highlights": "未披露"
    },
    "contact": {
        "recruiter_name": "未披露",
        "contact_methods": [
            {
                "type": "apply_link",
                "value": "https://campus-talent.alibaba.com/campus/position/199907720115?deptCodes="
            }
        ]
    },
    "posting": {
        "posting_id": "199907720115",
        "post_date": "2026-07-30",
        "hire_time": "未披露",
        "update_date": "20260917",
        "job_url": "https://campus-talent.alibaba.com/campus/position/199907720115?deptCodes="
    },
    "fulltext": "面向AI芯片推理系统优化-阿里星\n面向AI芯片推理系统优化-阿里星\n\n基础信息\n毕业起止时间要求:2026-11-01 - 2027-10-31\n职位类别:技术类\n招聘项目:阿里巴巴2027届应届生\n工作地点:北京 / 成都 / 杭州 / 上海\n\n职位描述\n大模型时代,推理效率已成为 AI 落地的核心瓶颈。我们正在构建面向自研 AI 芯片的高性能推理系统,目标是在千亿参数大模型上实现业界领先的推理吞吐和延迟。\n你将参与设计推理引擎的核心模块,包括图执行引擎、内存管理、批处理调度、分布式推理等。你需要在算法、系统和硬件三个层面寻找最优解——从模型量化、KV Cache 优化、Speculative Decoding 等算法创新,到算子调度、显存复用、流水线并行等系统优化,再到与编译器、驱动团队协作榨干硬件的每一分性能。\n岗位职责\n• 设计并实现高性能推理引擎,支持主流大模型(LLaMA/Qwen/GPT 等)的高效推理\n• 研究和落地推理优化技术,包括但不限于:KV Cache 管理、Continuous Batching、Speculative Decoding、模型量化(INT8/INT4/FP8)、稀疏化推理\n• 设计高效的显存管理策略,优化大模型推理的显存占用和碎片问题\n• 开发分布式推理框架,支持张量并行(Tensor Parallelism)、流水线并行(Pipeline Parallelism)、专家并行(Expert Parallelism)等策略\n• 与算子库团队协作,定义高性能算子的接口和性能目标\n• 与编译器团队协作,优化推理场景下的编译策略和代码生成\n• 构建推理性能基准测试框架,持续跟踪和优化推理性能\n\n职位要求\n• 计算机科学、软件工程、人工智能或相关专业,硕士及以上学历(博士优先)\n• 深入理解深度学习模型的推理过程,熟悉 Transformer/LLM 的架构和计算特性\n• 扎实的 C/C++ 和 Python 编程能力,有高性能系统开发经验\n• 熟悉 CUDA/ROCm 等 GPU 编程模型,或有其他 AI 加速器编程经验\n• 对操作系统内存管理、多线程并发、分布式系统有深入理解\n• 有强烈的性能优化意识,习惯用数据驱动决策\n加分项\n• 在 MLSys、系统、体系结构等领域发表过顶级论文(OSDI/SOSP/ASPLOS/EuroSys/MLSys 等)\n• 参与过 vLLM、SGLang、TensorRT-LLM、LMDeploy 等开源推理框架的核心开发\n• 有 GPU/NPU 上的高性能算子开发经验(如 FlashAttention、FlashInfer 等)\n• 熟悉分布式训练/推理框架(Megatron-LM、DeepSpeed、Ray 等)\n• 有大规模模型部署经验,处理过千卡级别的推理集群\n\n在招业务\n阿里巴巴控股集团\n大模型时代,推理效率已成为 AI 落地的核心瓶颈。我们正在构建面向自研 AI 芯片的高性能推理系统,目标是在千亿参数大模型上实现业界领先的推理吞吐和延迟。\n你将参与设计推理引擎的核心模块,包括图执行引擎、内存管理、批处理调度、分布式推理等。你需要在算法、系统和硬件三个层面寻找最优解——从模型量化、KV Cache 优化、Speculative Decoding 等算法创新,到算子调度、显存复用、流水线并行等系统优化,再到与编译器、驱动团队协作榨干硬件的每一分性能。\n岗位职责\n• 设计并实现高性能推理引擎,支持主流大模型(LLaMA/Qwen/GPT 等)的高效推理\n• 研究和落地推理优化技术,包括但不限于:KV Cache 管理、Continuous Batching、Speculative Decoding、模型量化(INT8/INT4/FP8)、稀疏化推理\n• 设计高效的显存管理策略,优化大模型推理的显存占用和碎片问题\n• 开发分布式推理框架,支持张量并行(Tensor Parallelism)、流水线并行(Pipeline Parallelism)、专家并行(Expert Parallelism)等策略\n• 与算子库团队协作,定义高性能算子的接口和性能目标\n• 与编译器团队协作,优化推理场景下的编译策略和代码生成\n• 构建推理性能基准测试框架,持续跟踪和优化推理性能\n• 计算机科学、软件工程、人工智能或相关专业,硕士及以上学历(博士优先)\n• 深入理解深度学习模型的推理过程,熟悉 Transformer/LLM 的架构和计算特性\n• 扎实的 C/C++ 和 Python 编程能力,有高性能系统开发经验\n• 熟悉 CUDA/ROCm 等 GPU 编程模型,或有其他 AI 加速器编程经验\n• 对操作系统内存管理、多线程并发、分布式系统有深入理解\n• 有强烈的性能优化意识,习惯用数据驱动决策\n加分项\n• 在 MLSys、系统、体系结构等领域发表过顶级论文(OSDI/SOSP/ASPLOS/EuroSys/MLSys 等)\n• 参与过 vLLM、SGLang、TensorRT-LLM、LMDeploy 等开源推理框架的核心开发\n• 有 GPU/NPU 上的高性能算子开发经验(如 FlashAttention、FlashInfer 等)\n• 熟悉分布式训练/推理框架(Megatron-LM、DeepSpeed、Ray 等)\n• 有大规模模型部署经验,处理过千卡级别的推理集群",
    "standard_classification": {
        "std_category_code": "T014",
        "std_aux_codes": [],
        "std_category_status": null,
        "std_taxonomy_version": "20261104"
    }
}