主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "大模型推理工程师（J101025）",
"job_level": "未披露",AI生成
"work_category": "全职",AI生成
"department": "ACG",
"location": "北京市",
"work_mode": "未披露",AI生成
"job_category": "技术"AI生成
},
"company": {
"company_name": "百度",
"company_industry": "互联网 / 人工智能",
"company_size": "10000人以上",
"company_website": "baidu.com",
"company_description": "百度围绕搜索发展人工智能技术，业务涉及语音、图像、知识图谱、自然语言处理、自动驾驶和AI芯片。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": 1,
"degree": "-本科及以上学历",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "-负责大语言模型、多模态模型的推理部署、性能优化与服务化落地，支撑公司MaaS模型服务平台对外稳定、低成本提供推理能力\n-负责模型推理链路优化，包括推理加速、批处理调度、KV Cache优化等，持续提升吞吐、降低延迟、减少GPU资源成本\n-搭建和优化大模型推理服务架构，实现模型热加载、动态扩缩容、流量隔离、负载均衡、超时重试、熔断降级，保障线上高并发、高可用、低抖动\n-负责线上推理问题排查、性能瓶颈分析、稳定性治理，持续优化算力利用率、售卖率、服务SLA，支撑业务规模化商用\n-配合业务、算法、平台团队，完成新模型接入、版本迭代、灰度发布、压测验收，输出标准化部署、监控、运维规范\n-参与MaaS平台推理调度、资源管理、计费统计、算力运营体系建设，助力模型服务商业化落地",
"requirements_text": "-本科及以上学历，计算机、软件工程、人工智能等相关专业，1-3年大模型推理工程落地经验，熟悉LLM推理原理\n-熟练掌握 Python、Linux、Shell，熟悉网络、多进程/多线程、异步并发编程\n-精通大模型推理优化技术，熟练使用 vLLM/TGI/TensorRT 至少一种主流推理引擎，掌握量化（INT4/INT8）、KV Cache、PagedAttention、动态批处理等核心优化手段\n-熟悉模型服务化架构，掌握FastAPI/Grpc、容器化Docker、K8s基本部署运维，了解微服务高可用设计\n-具备线上高并发推理服务落地经验，能够独立完成压测、性能调优、问题复盘与稳定性优化\n-熟悉GPU算力资源调度、显存、吞吐、延迟指标体系，有MaaS、云模型服务、AI中台相关经验优先\n-具备良好的工程规范、文档能力、问题排查能力，抗压能力强，能跟随业务快速迭代",
"skills": [AI生成
"Python",
"Linux",
"Docker",
"FastAPI",
"微服务",
"性能调优",
"大语言模型"
],
"preferred_qualifications": "熟悉GPU算力资源调度、显存、吞吐、延迟指标体系，有MaaS、云模型服务、AI中台相关经验优先",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://talent.baidu.com/jobs/detail/SOCIAL/336e82e0-307f-49f1-ae1f-4831fb9d570e"
}
]
},
"posting": {
"posting_id": "336e82e0-307f-49f1-ae1f-4831fb9d570e",
"post_date": "2026-06-23",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://talent.baidu.com/jobs/detail/SOCIAL/336e82e0-307f-49f1-ae1f-4831fb9d570e"
},
"fulltext": "大模型推理工程师（J101025）\n大模型推理工程师（J101025）\n\n基础信息\n部门：ACG\n地点：北京市\n类别：技术\n招聘人数：3\n发布时间：2026-07-21\n\n工作职责\n-负责大语言模型、多模态模型的推理部署、性能优化与服务化落地，支撑公司MaaS模型服务平台对外稳定、低成本提供推理能力\n-负责模型推理链路优化，包括推理加速、批处理调度、KV Cache优化等，持续提升吞吐、降低延迟、减少GPU资源成本\n-搭建和优化大模型推理服务架构，实现模型热加载、动态扩缩容、流量隔离、负载均衡、超时重试、熔断降级，保障线上高并发、高可用、低抖动\n-负责线上推理问题排查、性能瓶颈分析、稳定性治理，持续优化算力利用率、售卖率、服务SLA，支撑业务规模化商用\n-配合业务、算法、平台团队，完成新模型接入、版本迭代、灰度发布、压测验收，输出标准化部署、监控、运维规范\n-参与MaaS平台推理调度、资源管理、计费统计、算力运营体系建设，助力模型服务商业化落地\n\n职责要求\n-本科及以上学历，计算机、软件工程、人工智能等相关专业，1-3年大模型推理工程落地经验，熟悉LLM推理原理\n-熟练掌握 Python、Linux、Shell，熟悉网络、多进程/多线程、异步并发编程\n-精通大模型推理优化技术，熟练使用 vLLM/TGI/TensorRT 至少一种主流推理引擎，掌握量化（INT4/INT8）、KV Cache、PagedAttention、动态批处理等核心优化手段\n-熟悉模型服务化架构，掌握FastAPI/Grpc、容器化Docker、K8s基本部署运维，了解微服务高可用设计\n-具备线上高并发推理服务落地经验，能够独立完成压测、性能调优、问题复盘与稳定性优化\n-熟悉GPU算力资源调度、显存、吞吐、延迟指标体系，有MaaS、云模型服务、AI中台相关经验优先\n-具备良好的工程规范、文档能力、问题排查能力，抗压能力强，能跟随业务快速迭代\n-负责大语言模型、多模态模型的推理部署、性能优化与服务化落地，支撑公司MaaS模型服务平台对外稳定、低成本提供推理能力\n-负责模型推理链路优化，包括推理加速、批处理调度、KV Cache优化等，持续提升吞吐、降低延迟、减少GPU资源成本\n-搭建和优化大模型推理服务架构，实现模型热加载、动态扩缩容、流量隔离、负载均衡、超时重试、熔断降级，保障线上高并发、高可用、低抖动\n-负责线上推理问题排查、性能瓶颈分析、稳定性治理，持续优化算力利用率、售卖率、服务SLA，支撑业务规模化商用\n-配合业务、算法、平台团队，完成新模型接入、版本迭代、灰度发布、压测验收，输出标准化部署、监控、运维规范\n-参与MaaS平台推理调度、资源管理、计费统计、算力运营体系建设，助力模型服务商业化落地\n-本科及以上学历，计算机、软件工程、人工智能等相关专业，1-3年大模型推理工程落地经验，熟悉LLM推理原理\n-熟练掌握 Python、Linux、Shell，熟悉网络、多进程/多线程、异步并发编程\n-精通大模型推理优化技术，熟练使用 vLLM/TGI/TensorRT 至少一种主流推理引擎，掌握量化（INT4/INT8）、KV Cache、PagedAttention、动态批处理等核心优化手段\n-熟悉模型服务化架构，掌握FastAPI/Grpc、容器化Docker、K8s基本部署运维，了解微服务高可用设计\n-具备线上高并发推理服务落地经验，能够独立完成压测、性能调优、问题复盘与稳定性优化\n-熟悉GPU算力资源调度、显存、吞吐、延迟指标体系，有MaaS、云模型服务、AI中台相关经验优先\n-具备良好的工程规范、文档能力、问题排查能力，抗压能力强，能跟随业务快速迭代",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}