{
    "schema_version": "via_ai_product_manager_jobs_v1",
    "data_type": "ai_product_manager_jobs",
    "job": {
        "job_title": "大模型推理优化工程师（上海/深圳）",
        "job_level": "未披露",AI生成
        "work_category": "全职",AI生成
        "department": "IEG",
        "location": "上海",
        "work_mode": "未披露",AI生成
        "job_category": "技术"AI生成
    },
    "company": {
        "company_name": "腾讯",
        "company_industry": "互联网 / 科技 / 人工智能",
        "company_size": "10000人以上",
        "company_website": "tencent.com",
        "company_description": "腾讯是一家互联网和科技公司，业务覆盖通信与社交、数字内容、游戏、金融科技、企业服务、云计算与人工智能等方向。"
    },
    "compensation": {
        "salary_range": {
            "min": "",
            "max": "",
            "currency": "未披露",
            "cycle": "未披露"
        },
        "benefits": "未披露"
    },
    "requirements": {
        "working_years": 2,
        "degree": "教育背景：硕士及以上学历",
        "language": "未披露",AI生成
        "visa_support": "未披露",
        "responsibilities": "1.背景：我们正在寻找专注于大模型推理优化的工程师，负责游戏业务中线上大模型服务的性能优化。您将参与从推理引擎优化到异构硬件落地的全流程，在低延迟、高吞吐的场景中支撑游戏大模型的在线推理服务，作为核心技术中台支持不同游戏项目的落地需求；\r\n2.推理性能优化：围绕首 Token 延迟（TTFT）、生成吞吐、显存与算力利用率进行极致调优；应用量化（FP8、INT4/AWQ、MXFP4 等）、稀疏化等压缩技术，在维持模型推理效果的前提下降低推理成本；\r\n3.推理引擎与算子优化：基于 vLLM、SGLang、TensorRT-LLM 等主流框架进行二次开发与深度优化，涉及连续批处理、PagedAttention、前缀缓存、KV Cache 量化与分级存储等关键能力；结合 CUDA/Triton 进行算子融合与计算图编译优化；\r\n4.推理架构演进：探索 PD 分离、投机解码、MoE 专家并行等前沿架构，优化长上下文、长思维链与高并发场景下的推理效率；\r\n5.算力适配：负责推理服务在算力上的部署、适配与调优，开展算子适配、显存管理与通信优化，构建跨硬件、可复用的推理加速方案；\r\n6.性能分析与持续优化：建立推理服务的分析与监控体系，使用 Nsight 等工具进行 profiling 与瓶颈定位，监控推理服务的算力资源使用效率；与模型、agent、游戏引擎等多团队协作，结合游戏研发与运营的实际需求，持续优化推理成本。",
        "requirements_text": "1.教育背景：硕士及以上学历，计算机、软件工程、人工智能或相关专业；在大模型推理优化、GPU 性能调优方向有丰富经验者优先；\r\n2.技术能力：；\r\n3.精通 Python 与 C++，熟悉 Linux 开发环境，具备扎实的系统编程与算法基础；\r\n4.熟悉 PyTorch 等深度学习框架，深入理解 KV Cache、量化、前缀缓存等大模型推理优化机制；\r\n5.有 CUDA 编程或 GPU 性能调优经验，能使用 Nsight 等工具进行 profiling；\r\n6.熟悉主流推理框架（vLLM、SGLang、TensorRT-LLM 等），有二次开发或深度优化经验。",
        "skills": [AI生成
            "Python",
            "C++",
            "Linux",
            "PyTorch",
            "CUDA",
            "深度学习",
            "性能调优",
            "大语言模型"
        ],
        "preferred_qualifications": "1.有算力推理部署与适配经验；\r\n2.熟悉 Triton、CUTLASS 等算子开发，或有 FlashAttention/FlashInfer 源码级优化经验；\r\n3.有游戏 AI、云游戏或实时交互系统性能优化经验；\r\n4.在大模型推理、高性能计算方向发表高质量研究论文或作出重要开源贡献。",
        "job_highlights": "1.参与游戏业务大规模线上推理系统的建设，直面高并发、低延迟的实时交互挑战；\r\n2.深入异构算力推理加速前沿，与团队共同定义游戏大模型推理范式；\r\n3.技术驱动的成长环境，支持论文、专利申报及开源社区影响力建设；\r\n4.具有竞争力的薪资、股权激励及弹性工作制度。"
    },
    "contact": {
        "recruiter_name": "未披露",
        "contact_methods": [
            {
                "type": "apply_link",
                "value": "https://careers.tencent.com/jobdesc.html?postId=2095496373041545216"
            }
        ]
    },
    "posting": {
        "posting_id": "2095496373041545216",
        "post_date": "2026-09-08",
        "hire_time": "未披露",
        "update_date": "20260917",
        "job_url": "https://careers.tencent.com/jobdesc.html?postId=2095496373041545216"
    },
    "fulltext": "大模型推理优化工程师（上海/深圳）\n在腾讯，技术人解决问题的激情永不熄灭。无论是面对产品、程序的问题，还是生活与人的问题，腾讯技术人都力图交出漂亮的答卷。我们善用科学工具，以强大的思维之力创造世界，为卓越的产品体验保驾护航，也为公司和产品策略提出宝贵的洞见，用技术引领新的变革。这里的每位成员，既传承着长久以来的务实文化，又时刻以创新眼光瞄准大海星辰。我们十分期待你加入这样一个「技术社区」，分享团队能量，尽情发挥所长。\n1.背景：我们正在寻找专注于大模型推理优化的工程师，负责游戏业务中线上大模型服务的性能优化。您将参与从推理引擎优化到异构硬件落地的全流程，在低延迟、高吞吐的场景中支撑游戏大模型的在线推理服务，作为核心技术中台支持不同游戏项目的落地需求；\r\n2.推理性能优化：围绕首 Token 延迟（TTFT）、生成吞吐、显存与算力利用率进行极致调优；应用量化（FP8、INT4/AWQ、MXFP4 等）、稀疏化等压缩技术，在维持模型推理效果的前提下降低推理成本；\r\n3.推理引擎与算子优化：基于 vLLM、SGLang、TensorRT-LLM 等主流框架进行二次开发与深度优化，涉及连续批处理、PagedAttention、前缀缓存、KV Cache 量化与分级存储等关键能力；结合 CUDA/Triton 进行算子融合与计算图编译优化；\r\n4.推理架构演进：探索 PD 分离、投机解码、MoE 专家并行等前沿架构，优化长上下文、长思维链与高并发场景下的推理效率；\r\n5.算力适配：负责推理服务在算力上的部署、适配与调优，开展算子适配、显存管理与通信优化，构建跨硬件、可复用的推理加速方案；\r\n6.性能分析与持续优化：建立推理服务的分析与监控体系，使用 Nsight 等工具进行 profiling 与瓶颈定位，监控推理服务的算力资源使用效率；与模型、agent、游戏引擎等多团队协作，结合游戏研发与运营的实际需求，持续优化推理成本。\n1.教育背景：硕士及以上学历，计算机、软件工程、人工智能或相关专业；在大模型推理优化、GPU 性能调优方向有丰富经验者优先；\r\n2.技术能力：；\r\n3.精通 Python 与 C++，熟悉 Linux 开发环境，具备扎实的系统编程与算法基础；\r\n4.熟悉 PyTorch 等深度学习框架，深入理解 KV Cache、量化、前缀缓存等大模型推理优化机制；\r\n5.有 CUDA 编程或 GPU 性能调优经验，能使用 Nsight 等工具进行 profiling；\r\n6.熟悉主流推理框架（vLLM、SGLang、TensorRT-LLM 等），有二次开发或深度优化经验。\n1.有算力推理部署与适配经验；\r\n2.熟悉 Triton、CUTLASS 等算子开发，或有 FlashAttention/FlashInfer 源码级优化经验；\r\n3.有游戏 AI、云游戏或实时交互系统性能优化经验；\r\n4.在大模型推理、高性能计算方向发表高质量研究论文或作出重要开源贡献。",
    "standard_classification": {
        "std_category_code": "T014",
        "std_aux_codes": [],
        "std_category_status": null,
        "std_taxonomy_version": "20261104"
    }
}