{
    "schema_version": "via_ai_product_manager_jobs_v1",
    "data_type": "ai_product_manager_jobs",
    "job": {
        "job_title": "【校招】LLM推理优化工程师",
        "job_level": "",AI生成
        "work_category": "全职",AI生成
        "department": "",
        "location": "北京市",
        "work_mode": "",AI生成
        "job_category": "技术类/Technical"AI生成
    },
    "company": {
        "company_name": "月之暗面",
        "company_industry": "",
        "company_size": "",
        "company_website": "",
        "company_description": ""
    },
    "compensation": {
        "salary_range": {
            "min": "",
            "max": "",
            "currency": "",
            "cycle": ""
        },
        "benefits": ""
    },
    "requirements": {
        "working_years": "",
        "degree": "",
        "language": "",AI生成
        "visa_support": "",
        "responsibilities": "核心职责训练-推理协同优化推动 Quantized-aware Training (QAT) 和 Quantized Training 的工程化落地，研发W8A8、W4A16等低比特训练方案，实现训练与推理精度-效率的最优平衡设计并实现 Speculative Decoding（投机解码）及其变体（如EAGLE，DFlash等）的全链路方案，包括Draft模型训练、接受率优化与系统调度策略建立从训练到推理的端到端优化链路，确保相关训练方案在推理侧获得可度量的性能收益任职要求计算机科学、电子工程或相关专业本科及以上学历扎实的分布式系统功底：深入理解多机并行训练/推理相关技术，具备大规模训练框架(Megatron-LM)及主流推理框架(vLLM,SGLang)的开发能力。以下两项至少具备其一：掌握低比特推理与量化技术：熟悉GPTQ、AWQ、SmoothQuant等后量化方案，理解训练感知量化的实现细节与数值稳定性处理，熟悉MXFP4，NVFP4等新兴低比特量化格式。深入理解投机解码原理：掌握Draft模型与Target模型的协同机制，了解EAGLE3、DFlash等当前主流方法的训练、推理实现方法。优先考虑：具备LLM算法基础，熟悉大模型训练相关算法与技术熟悉CUDA编程模型，熟练使用Nsight Systems/Compute进行性能剖析，能够手写高性能CUDA Kernel在LLM 算法/体系结构/系统领域相关顶级会议或期刊上有论文发表",
        "requirements_text": "",
        "skills": [],AI生成
        "preferred_qualifications": "",
        "job_highlights": ""
    },
    "contact": {
        "recruiter_name": "",
        "contact_methods": []
    },
    "posting": {
        "posting_id": "d5c86bcc-3d38-4e85-8161-01c9f3fdce49",
        "post_date": "2026-08-14",
        "hire_time": "",
        "update_date": "",
        "job_url": "https://app.mokahr.com/campus-recruitment/moonshot/148507#/job/d5c86bcc-3d38-4e85-8161-01c9f3fdce49"
    },
    "fulltext": "核心职责训练-推理协同优化推动 Quantized-aware Training (QAT) 和 Quantized Training 的工程化落地，研发W8A8、W4A16等低比特训练方案，实现训练与推理精度-效率的最优平衡设计并实现 Speculative Decoding（投机解码）及其变体（如EAGLE，DFlash等）的全链路方案，包括Draft模型训练、接受率优化与系统调度策略建立从训练到推理的端到端优化链路，确保相关训练方案在推理侧获得可度量的性能收益任职要求计算机科学、电子工程或相关专业本科及以上学历扎实的分布式系统功底：深入理解多机并行训练/推理相关技术，具备大规模训练框架(Megatron-LM)及主流推理框架(vLLM,SGLang)的开发能力。以下两项至少具备其一：掌握低比特推理与量化技术：熟悉GPTQ、AWQ、SmoothQuant等后量化方案，理解训练感知量化的实现细节与数值稳定性处理，熟悉MXFP4，NVFP4等新兴低比特量化格式。深入理解投机解码原理：掌握Draft模型与Target模型的协同机制，了解EAGLE3、DFlash等当前主流方法的训练、推理实现方法。优先考虑：具备LLM算法基础，熟悉大模型训练相关算法与技术熟悉CUDA编程模型，熟练使用Nsight Systems/Compute进行性能剖析，能够手写高性能CUDA Kernel在LLM 算法/体系结构/系统领域相关顶级会议或期刊上有论文发表"
}