主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "Token Foundry-云端推理服务技术专家-北京/杭州",
"job_level": "专家",AI生成
"work_category": "全职",AI生成
"department": "阿里集团",
"location": "北京 / 杭州",
"work_mode": "未披露",AI生成
"job_category": "技术类-开发"AI生成
},
"company": {
"company_name": "通义",
"company_industry": "人工智能",
"company_size": "未披露",
"company_website": "alibaba.com",
"company_description": "通义提供人工智能模型及文档阅读等AI应用。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": 3,
"degree": "计算机科学、软件工程或相关专业硕士及以上学历",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1. 设计并构建面向多模态交互（语音、视觉、语言、上下文融合）的云端推理服务平台，支持Omni/Speech/VL等大模型的在线/近线推理。\n2. 主导端云协同架构中云端服务模块的技术方案，包括模型服务化（Model Serving）、动态批处理（Dynamic Batching）、请求调度、弹性扩缩容、负载均衡等关键能力。\n3. 优化云端推理链路的延迟、吞吐与资源利用率，针对ToB客户对SLA（如99.9% 构建统一的服务治理框架，集成监控告警、日志追踪（如OpenTelemetry）、AB测试、灰度发布、故障自愈等运维能力。\n4. 与算法团队紧密协作，推动模型结构适配、量化部署、缓存策略等端云联合优化方案落地。",
"requirements_text": "1. 计算机科学、软件工程或相关专业硕士及以上学历，3年以上后端/云服务/推理平台开发经验。\n2. 精通Go/Python/C++至少一种语言，具备扎实的系统编程和高并发服务开发能力。\n3. 熟悉主流推理框架（如Triton Inference Server、vLLM、TensorRT-LLM、ONNX Runtime）及模型服务化最佳实践。\n4. 有大规模AI服务部署经验，熟悉GPU资源调度、模型版本管理、冷启动优化、长尾请求处理等典型问题。\n5. 有ToB项目交付经验，能理解客户需求并转化为可靠、可运维的技术方案。",
"skills": [AI生成
"Python",
"C++",
"大语言模型"
],
"preferred_qualifications": "未披露",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://careers-tongyi.alibaba.com/off-campus/position-detail?positionId=100007800001"
}
]
},
"posting": {
"posting_id": "100007800001",
"post_date": "2026-09-09",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://careers-tongyi.alibaba.com/off-campus/position-detail?positionId=100007800001"
},
"fulltext": "Token Foundry-云端推理服务技术专家-北京/杭州\nToken Foundry-云端推理服务技术专家-北京/杭州\n\n基础信息\n职位类别：技术类-开发\n工作地点：北京 / 杭州\n\n职位描述\n1. 设计并构建面向多模态交互（语音、视觉、语言、上下文融合）的云端推理服务平台，支持Omni/Speech/VL等大模型的在线/近线推理。\n2. 主导端云协同架构中云端服务模块的技术方案，包括模型服务化（Model Serving）、动态批处理（Dynamic Batching）、请求调度、弹性扩缩容、负载均衡等关键能力。\n3. 优化云端推理链路的延迟、吞吐与资源利用率，针对ToB客户对SLA（如99.9% 构建统一的服务治理框架，集成监控告警、日志追踪（如OpenTelemetry）、AB测试、灰度发布、故障自愈等运维能力。\n4. 与算法团队紧密协作，推动模型结构适配、量化部署、缓存策略等端云联合优化方案落地。\n\n职位要求\n1. 计算机科学、软件工程或相关专业硕士及以上学历，3年以上后端/云服务/推理平台开发经验。\n2. 精通Go/Python/C++至少一种语言，具备扎实的系统编程和高并发服务开发能力。\n3. 熟悉主流推理框架（如Triton Inference Server、vLLM、TensorRT-LLM、ONNX Runtime）及模型服务化最佳实践。\n4. 有大规模AI服务部署经验，熟悉GPU资源调度、模型版本管理、冷启动优化、长尾请求处理等典型问题。\n5. 有ToB项目交付经验，能理解客户需求并转化为可靠、可运维的技术方案。\n1. 设计并构建面向多模态交互（语音、视觉、语言、上下文融合）的云端推理服务平台，支持Omni/Speech/VL等大模型的在线/近线推理。\n2. 主导端云协同架构中云端服务模块的技术方案，包括模型服务化（Model Serving）、动态批处理（Dynamic Batching）、请求调度、弹性扩缩容、负载均衡等关键能力。\n3. 优化云端推理链路的延迟、吞吐与资源利用率，针对ToB客户对SLA（如99.9% 构建统一的服务治理框架，集成监控告警、日志追踪（如OpenTelemetry）、AB测试、灰度发布、故障自愈等运维能力。\n4. 与算法团队紧密协作，推动模型结构适配、量化部署、缓存策略等端云联合优化方案落地。\n1. 计算机科学、软件工程或相关专业硕士及以上学历，3年以上后端/云服务/推理平台开发经验。\n2. 精通Go/Python/C++至少一种语言，具备扎实的系统编程和高并发服务开发能力。\n3. 熟悉主流推理框架（如Triton Inference Server、vLLM、TensorRT-LLM、ONNX Runtime）及模型服务化最佳实践。\n4. 有大规模AI服务部署经验，熟悉GPU资源调度、模型版本管理、冷启动优化、长尾请求处理等典型问题。\n5. 有ToB项目交付经验，能理解客户需求并转化为可靠、可运维的技术方案。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}