主分类:AI训练推理与计算优化
来源 JD 数据(旧分类保留,当前主分类见上方)
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "微信 -WeLM 大模型推理优化工程师(深圳、上海)",
"job_level": "未披露",AI生成
"work_category": "全职",AI生成
"department": "WXG",
"location": "北京",
"work_mode": "未披露",AI生成
"job_category": "技术"AI生成
},
"company": {
"company_name": "腾讯",
"company_industry": "互联网 / 科技 / 人工智能",
"company_size": "10000人以上",
"company_website": "tencent.com",
"company_description": "腾讯是一家互联网和科技公司,业务覆盖通信与社交、数字内容、游戏、金融科技、企业服务、云计算与人工智能等方向。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": 2,
"degree": "计算机、软件工程、人工智能等相关专业本科及以上学历",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1. 模型推理服务优化:\n * 负责大语言模型(LLM)推理性能的优化,包括延迟降低、吞吐量提升和资源效率优化\n * 开发和应用模型压缩技术(包括但不限于量化、稀疏化等)\n * 优化推理框架,支持多种硬件平台(GPU、专用AI芯片)\n * 设计并实现高效、稳定、可扩展的推理服务架构\n2. 性能分析与调优:\n * 建立性能基准测试框架,持续监控和评估推理性能\n * 分析性能瓶颈,提出并实施优化方案\n * 针对不同应用场景(实时对话、批量处理等)定制优化策略\n3. 技术创新与落地:\n * 跟踪最新研究成果,将前沿优化技术应用到生产环境\n * 与算法团队合作,参与模型架构的推理友好设计\n * 编写高质量的技术文档和最佳实践指南",
"requirements_text": "1.必备条件:;\r\n2.计算机、软件工程、人工智能等相关专业本科及以上学历;\r\n3.扎实的 C++/Python 基础;\r\n4.熟悉 PyTorch 或 JAX 等深度学习框架,了解模型训练与推理流程;\r\n5.有 CUDA 编程或 GPU 性能调优经验,能使用 Nsight 等工具做 profiling;\r\n6.了解常见 LLM 架构(如 Transformer、Attention、KV Cache)及推理优化思路;\r\n7.具备良好的沟通与文档能力,能独立负责模块设计与实现。",
"skills": [AI生成
"Python",
"C++",
"PyTorch",
"CUDA",
"深度学习",
"模型训练",
"性能调优",
"大语言模型"
],
"preferred_qualifications": "1.有SGlang、vLLM、TensorRT-LLM 等推理框架二次开发优化经验;\r\n2.熟悉 AWQ/GPTQ/Speculative Decoding/Sparse Attention等推理优化方案,并有实际落地案例;\r\n3.有大规模分布式推理、多机多卡部署与调度经验;\r\n4.熟悉 Triton、cuBLAS、CUTLASS 等 GPU 编程与算子优化;\r\n5.在 LLM 推理、编译器(如 TVM、XLA)、或高性能计算方向有论文或开源贡献。",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://careers.tencent.com/jobdesc.html?postId=2020723060671414272"
}
]
},
"posting": {
"posting_id": "2020723060671414272",
"post_date": "2026-09-14",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://careers.tencent.com/jobdesc.html?postId=2020723060671414272"
},
"fulltext": "微信 -WeLM 大模型推理优化工程师(深圳、上海)\n1. 模型推理服务优化:\n * 负责大语言模型(LLM)推理性能的优化,包括延迟降低、吞吐量提升和资源效率优化\n * 开发和应用模型压缩技术(包括但不限于量化、稀疏化等)\n * 优化推理框架,支持多种硬件平台(GPU、专用AI芯片)\n * 设计并实现高效、稳定、可扩展的推理服务架构\n2. 性能分析与调优:\n * 建立性能基准测试框架,持续监控和评估推理性能\n * 分析性能瓶颈,提出并实施优化方案\n * 针对不同应用场景(实时对话、批量处理等)定制优化策略\n3. 技术创新与落地:\n * 跟踪最新研究成果,将前沿优化技术应用到生产环境\n * 与算法团队合作,参与模型架构的推理友好设计\n * 编写高质量的技术文档和最佳实践指南\n1.必备条件:;\r\n2.计算机、软件工程、人工智能等相关专业本科及以上学历;\r\n3.扎实的 C++/Python 基础;\r\n4.熟悉 PyTorch 或 JAX 等深度学习框架,了解模型训练与推理流程;\r\n5.有 CUDA 编程或 GPU 性能调优经验,能使用 Nsight 等工具做 profiling;\r\n6.了解常见 LLM 架构(如 Transformer、Attention、KV Cache)及推理优化思路;\r\n7.具备良好的沟通与文档能力,能独立负责模块设计与实现。\n1.有SGlang、vLLM、TensorRT-LLM 等推理框架二次开发优化经验;\r\n2.熟悉 AWQ/GPTQ/Speculative Decoding/Sparse Attention等推理优化方案,并有实际落地案例;\r\n3.有大规模分布式推理、多机多卡部署与调度经验;\r\n4.熟悉 Triton、cuBLAS、CUTLASS 等 GPU 编程与算子优化;\r\n5.在 LLM 推理、编译器(如 TVM、XLA)、或高性能计算方向有论文或开源贡献。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}