职位详情

职位列表 链接有效 不适用(官网全量采集) official:baidu:c4e673fd-4258-4cb8-87f1-1c1a6f2ae3cc

大模型AI系统架构工程师(J82517)

未披露 · 北京市 · 百度

主分类:AI训练推理与计算优化
软件开发与 IT
来源 JD 数据(旧分类保留,当前主分类见上方)
{
    "schema_version": "via_ai_product_manager_jobs_v1",
    "data_type": "ai_product_manager_jobs",
    "job": {
        "job_title": "大模型AI系统架构工程师(J82517)",
        "job_level": "未披露",AI生成
        "work_category": "全职",AI生成
        "department": "ACG",
        "location": "北京市",
        "work_mode": "未披露",AI生成
        "job_category": "技术"AI生成
    },
    "company": {
        "company_name": "百度",
        "company_industry": "互联网 / 人工智能",
        "company_size": "10000人以上",
        "company_website": "baidu.com",
        "company_description": "百度围绕搜索发展人工智能技术,业务涉及语音、图像、知识图谱、自然语言处理、自动驾驶和AI芯片。"
    },
    "compensation": {
        "salary_range": {
            "min": "",
            "max": "",
            "currency": "未披露",
            "cycle": "未披露"
        },
        "benefits": "未披露"
    },
    "requirements": {
        "working_years": "",
        "degree": "未披露",
        "language": "未披露",AI生成
        "visa_support": "未披露",
        "responsibilities": "-KV Cache 系统架构研发:负责推理引擎中 KV Cache 管理器的设计与开发(如 PagedAttention、RadixCache 机制),优化显存利用率\n-分布式存储优化:结合存储领域经验,设计跨节点、多层级(HBM-Mem-SSD)的 KV Cache 卸载(Offloading)与交换系统\n-高性能需求支撑:针对 RAG(检索增强生成)、长文本对话、多轮会话等业务场景,提供高性能的缓存复用与预取方案\n-前沿技术跟踪:深度参与并优化社区主流推理框架(如 SGLang, vLLM, TensorRT-LLM, LightLLM),将最新的科研成果(如计算与传输重叠、KV 量化等)落地到生产环境\n-性能瓶颈分析:解决推理过程中出现的显存碎片、数据污染、带宽瓶颈及精度下降等硬核问题",
        "requirements_text": "-存储领域深度:2~3 年及以上系统研发经验,精通内存管理、缓存淘汰算法或分布式存储系统(如 Redis 内部机制、Ceph、RocksDB 等)者优先\n-推理引擎认知:熟悉至少一种主流 AI 推理框架的底层源码,深刻理解 PagedAttention、Continuous Batching、CUDA Graph 等核心技术\n-底层功底扎实:精通 C++/Python,具备优秀的并行计算基础,熟悉 Linux 内核内存管理或 CUDA 编程者优先\n-算子与精度理解:了解 KV Cache 量化技术(如 FP8, INT4, Group-wise Quantization)及其对显存压力和模型精度的平衡者优先\n-社区参与度:在 vLLM, SGLang, FlashInfer 等开源社区有贡献记录(Contribute/PR)者优先",
        "skills": [AI生成
            "Python",
            "C++",
            "Redis",
            "Linux",
            "CUDA"
        ],
        "preferred_qualifications": "存储领域深度:2~3 年及以上系统研发经验,精通内存管理、缓存淘汰算法或分布式存储系统(如 Redis 内部机制、Ceph、RocksDB 等)者优先;底层功底扎实:精通 C++/Python,具备优秀的并行计算基础,熟悉 Linux 内核内存管理或 CUDA 编程者优先;算子与精度理解:了解 KV Cache 量化技术(如 FP8, INT4, Group-wise Quantization)及其对显存压力和模型精度的平衡者优先;社区参与度:在 vLLM, SGLang, FlashInfer 等开源社区有贡献记录(Contribute/PR)者优先",
        "job_highlights": "未披露"
    },
    "contact": {
        "recruiter_name": "未披露",
        "contact_methods": [
            {
                "type": "apply_link",
                "value": "https://talent.baidu.com/jobs/detail/SOCIAL/c4e673fd-4258-4cb8-87f1-1c1a6f2ae3cc"
            }
        ]
    },
    "posting": {
        "posting_id": "c4e673fd-4258-4cb8-87f1-1c1a6f2ae3cc",
        "post_date": "2025-02-14",
        "hire_time": "未披露",
        "update_date": "20260917",
        "job_url": "https://talent.baidu.com/jobs/detail/SOCIAL/c4e673fd-4258-4cb8-87f1-1c1a6f2ae3cc"
    },
    "fulltext": "大模型AI系统架构工程师(J82517)\n大模型AI系统架构工程师(J82517)\n\n基础信息\n部门:ACG\n地点:北京市\n类别:技术\n招聘人数:6\n发布时间:2026-08-06\n\n工作职责\n-KV Cache 系统架构研发:负责推理引擎中 KV Cache 管理器的设计与开发(如 PagedAttention、RadixCache 机制),优化显存利用率\n-分布式存储优化:结合存储领域经验,设计跨节点、多层级(HBM-Mem-SSD)的 KV Cache 卸载(Offloading)与交换系统\n-高性能需求支撑:针对 RAG(检索增强生成)、长文本对话、多轮会话等业务场景,提供高性能的缓存复用与预取方案\n-前沿技术跟踪:深度参与并优化社区主流推理框架(如 SGLang, vLLM, TensorRT-LLM, LightLLM),将最新的科研成果(如计算与传输重叠、KV 量化等)落地到生产环境\n-性能瓶颈分析:解决推理过程中出现的显存碎片、数据污染、带宽瓶颈及精度下降等硬核问题\n\n职责要求\n-存储领域深度:2~3 年及以上系统研发经验,精通内存管理、缓存淘汰算法或分布式存储系统(如 Redis 内部机制、Ceph、RocksDB 等)者优先\n-推理引擎认知:熟悉至少一种主流 AI 推理框架的底层源码,深刻理解 PagedAttention、Continuous Batching、CUDA Graph 等核心技术\n-底层功底扎实:精通 C++/Python,具备优秀的并行计算基础,熟悉 Linux 内核内存管理或 CUDA 编程者优先\n-算子与精度理解:了解 KV Cache 量化技术(如 FP8, INT4, Group-wise Quantization)及其对显存压力和模型精度的平衡者优先\n-社区参与度:在 vLLM, SGLang, FlashInfer 等开源社区有贡献记录(Contribute/PR)者优先\n-KV Cache 系统架构研发:负责推理引擎中 KV Cache 管理器的设计与开发(如 PagedAttention、RadixCache 机制),优化显存利用率\n-分布式存储优化:结合存储领域经验,设计跨节点、多层级(HBM-Mem-SSD)的 KV Cache 卸载(Offloading)与交换系统\n-高性能需求支撑:针对 RAG(检索增强生成)、长文本对话、多轮会话等业务场景,提供高性能的缓存复用与预取方案\n-前沿技术跟踪:深度参与并优化社区主流推理框架(如 SGLang, vLLM, TensorRT-LLM, LightLLM),将最新的科研成果(如计算与传输重叠、KV 量化等)落地到生产环境\n-性能瓶颈分析:解决推理过程中出现的显存碎片、数据污染、带宽瓶颈及精度下降等硬核问题\n-存储领域深度:2~3 年及以上系统研发经验,精通内存管理、缓存淘汰算法或分布式存储系统(如 Redis 内部机制、Ceph、RocksDB 等)者优先\n-推理引擎认知:熟悉至少一种主流 AI 推理框架的底层源码,深刻理解 PagedAttention、Continuous Batching、CUDA Graph 等核心技术\n-底层功底扎实:精通 C++/Python,具备优秀的并行计算基础,熟悉 Linux 内核内存管理或 CUDA 编程者优先\n-算子与精度理解:了解 KV Cache 量化技术(如 FP8, INT4, Group-wise Quantization)及其对显存压力和模型精度的平衡者优先\n-社区参与度:在 vLLM, SGLang, FlashInfer 等开源社区有贡献记录(Contribute/PR)者优先",
    "standard_classification": {
        "std_category_code": "T014",
        "std_aux_codes": [],
        "std_category_status": null,
        "std_taxonomy_version": "20261104"
    }
}