主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "腾讯云 EdgeOne-推理平台高级工程师",
"job_level": "高级",AI生成
"work_category": "全职",AI生成
"department": "CSIG",
"location": "深圳",
"work_mode": "未披露",AI生成
"job_category": "技术"AI生成
},
"company": {
"company_name": "腾讯",
"company_industry": "互联网 / 科技 / 人工智能",
"company_size": "10000人以上",
"company_website": "tencent.com",
"company_description": "腾讯是一家互联网和科技公司，业务覆盖通信与社交、数字内容、游戏、金融科技、企业服务、云计算与人工智能等方向。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": 3,
"degree": "本科及以上学历",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1.负责大模型推理服务的调度与性能优化，提升首 Token 延迟、Decode 延迟、吞吐、显存利用率和 GPU 利用率；\n2.负责推理请求调度、动态 Batching、KV Cache 管理与调度、显存管理等等推理性能与效率的核心能力建设；\n3.负责分布式推理优化，结合模型结构、硬件资源和业务流量特点，优化 TP/PP/EP 等推理策略；\n4.负责推理引擎优化，围绕模型加载、算子执行、CUDA/GPU 性能、并发执行等方向持续提升推理性能和稳定性；\n5.跟进并引入 LLM Serving、推理引擎、分布式推理、GPU 性能优化等前沿技术，推动推理平台持续演进。",
"requirements_text": "1.本科及以上学历，计算机、人工智能、电子、自动化、软件工程等相关专业，有大模型推理系统优化经验者优先；\n2.熟练掌握 Linux 环境下 C/C++/Rust/Python/等 1 至 2 种以上语言；\n3.熟悉 LLM 推理基本流程，理解模型加载、Prefill、Decode、Serving、Batching、调度、并发控制、显存管理、KV Cache、分布式推理等核心机制以及相关优化实践；\n4.熟悉 TensorRT-LLM、vLLM、SGLang、Triton Inference Server、ORCA 等主流推理框架、推理引擎或调度机制；\n5.具备良好的性能分析和系统优化能力，能够定位推理链路中的调度、显存、算子、通信和资源利用率瓶颈；\n6.有强烈的工作责任心，较好的学习能力、沟通能力和自驱力，能够快速响应线上问题并推动解决。",
"skills": [AI生成
"Python",
"C++",
"Rust",
"Linux",
"沟通能力",
"学习能力",
"大语言模型",
"C语言"
],
"preferred_qualifications": "1.有大规模 LLM 在线推理服务、推理调度、分布式推理或推理引擎优化落地经验；\n2.具备 CUDA/GPU 性能优化经验，熟悉 kernel 优化、显存访问优化、算子融合、性能 profiling 等方向；\n3.熟悉 TensorRT-LLM、vLLM、SGLang、LightX2V、FlashAttention、PagedAttention 等推理优化框架或关键技术；\n4.有 LLM、VLM、Diffusion、视频生成模型等 AIGC 模型训练或推理优化经验。",
"job_highlights": "1.团队技术氛围开放，鼓励对 LLM 推理、推理引擎、GPU 优化等等前沿新技术进行探索和落地，能够参与真实大规模业务场景下的系统优化实践；\n2.在边缘分发与计算赛道，腾讯云 EdgeOne 具备行业领先的竞争力，目前推理业务处于快速成长阶段，推理系统和平台能力仍有大量建设空间，个人在技术深度、系统视野和影响力上都有较大的成长机会。"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://careers.tencent.com/jobdesc.html?postId=2077640543470534656"
}
]
},
"posting": {
"posting_id": "2077640543470534656",
"post_date": "2026-07-24",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://careers.tencent.com/jobdesc.html?postId=2077640543470534656"
},
"fulltext": "腾讯云 EdgeOne-推理平台高级工程师\n在腾讯，后台开发工程师不仅是“又快又稳”的问题解决专家，更是生态共创者。你将与技术团队一同沉淀优质代码，让它成为我们共有的宝贵资产。在不同的业务场景和技术发展阶段，你的架构思维也将帮助更多协作团队拓展新的思考。我们也珍视你的挑战精神，同时欢迎你一起参与团队愿景、文化和产品方向的探讨。\n1.负责大模型推理服务的调度与性能优化，提升首 Token 延迟、Decode 延迟、吞吐、显存利用率和 GPU 利用率；\n2.负责推理请求调度、动态 Batching、KV Cache 管理与调度、显存管理等等推理性能与效率的核心能力建设；\n3.负责分布式推理优化，结合模型结构、硬件资源和业务流量特点，优化 TP/PP/EP 等推理策略；\n4.负责推理引擎优化，围绕模型加载、算子执行、CUDA/GPU 性能、并发执行等方向持续提升推理性能和稳定性；\n5.跟进并引入 LLM Serving、推理引擎、分布式推理、GPU 性能优化等前沿技术，推动推理平台持续演进。\n1.本科及以上学历，计算机、人工智能、电子、自动化、软件工程等相关专业，有大模型推理系统优化经验者优先；\n2.熟练掌握 Linux 环境下 C/C++/Rust/Python/等 1 至 2 种以上语言；\n3.熟悉 LLM 推理基本流程，理解模型加载、Prefill、Decode、Serving、Batching、调度、并发控制、显存管理、KV Cache、分布式推理等核心机制以及相关优化实践；\n4.熟悉 TensorRT-LLM、vLLM、SGLang、Triton Inference Server、ORCA 等主流推理框架、推理引擎或调度机制；\n5.具备良好的性能分析和系统优化能力，能够定位推理链路中的调度、显存、算子、通信和资源利用率瓶颈；\n6.有强烈的工作责任心，较好的学习能力、沟通能力和自驱力，能够快速响应线上问题并推动解决。\n1.有大规模 LLM 在线推理服务、推理调度、分布式推理或推理引擎优化落地经验；\n2.具备 CUDA/GPU 性能优化经验，熟悉 kernel 优化、显存访问优化、算子融合、性能 profiling 等方向；\n3.熟悉 TensorRT-LLM、vLLM、SGLang、LightX2V、FlashAttention、PagedAttention 等推理优化框架或关键技术；\n4.有 LLM、VLM、Diffusion、视频生成模型等 AIGC 模型训练或推理优化经验。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}