主分类：Agent系统开发
辅助：AI训练推理与计算优化（仅展示）
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "大模型Agent平台研发工程师-Data AML",
"job_level": "未披露",AI生成
"work_category": "全职",AI生成
"department": "未披露",
"location": "上海",
"work_mode": "未披露",AI生成
"job_category": "研发"AI生成
},
"company": {
"company_name": "字节跳动",
"company_industry": "互联网 / 数字内容 / 电商",
"company_size": "10000人以上",
"company_website": "bytedance.com",
"company_description": "字节跳动提供内容创作、信息分发、电商和协作产品，旗下产品包括抖音、今日头条、TikTok和飞书。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "未披露",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1、构建核心推理代工平台：负责支持Hugging Face全量模型的自动化接入与分发，利用性能模拟器与动态库存匹配技术，实现高效的延迟与吞吐优化；\n2、研发Agent基础设施：设计并实现云端存储与状态机系统，支持智能体任务的断点回滚、时间回溯调试及KV Cache的高效管理；\n3、开发AI开发者工具栈：建设智能体可观测性系统，通过全链路Tracing展示Agent决策树，帮助用户识别冗余交互并自动提取高质量对话轨迹用于模型微调；\n4、打造混合工具运行时：设计SDK实现本地工具与云端工具（如Sandbox、Search、Browser）的无缝集成，支持MCP等协议转换，兼容主流Agent框架（如LangGraph、AutoGen、Dify）；\n5、前沿推理加速落地：在代工平台上部署自动推测解码、结构化输出、自动量化与OPD等高端推理能力。",
"requirements_text": "1、扎实的基础功底：精通Python及C/C++，熟悉Linux环境及分布式系统设计；\n2、深厚的推理/模型背景：深入理解大模型推理机制，熟悉vLLM，TensorRT-LLM或类似的推理引擎，对Transformer架构有深入研究；\n3、工程与架构能力：具备后端系统开发经验，熟悉高并发、高性能存储（如Redis，PostgreSQL，Vector DB）的应用；\n4、敏锐的技术视野：对Agent生态有热情，熟悉至少一种Agent开发框架（如LangGraph，AutoGen，CrewAI或Dify）；\n5、较强的自驱力：能在快速演进的AI浪潮中保持学习，具备独立解决复杂工程问题的能力。\n\n加分项\n1、架构级优化经验：有推测解码、PagedAttention或软硬件联合设计经验者优先；\n2、协议与标准贡献：熟悉OpenAI Assistants API架构，或对MCP等Agent通讯协议有研究；\n3、全栈/SDK经验：有面向开发者的SDK开发经验，能够从用户视角优化AI产品的易用性；\n4、算法理解力：能使用数学工具分析RLHF或Agent调优中的优化算法。",
"skills": [AI生成
"Python",
"C++",
"PostgreSQL",
"Redis",
"Linux",
"分布式系统",
"大语言模型"
],
"preferred_qualifications": "加分项；1、架构级优化经验：有推测解码、PagedAttention或软硬件联合设计经验者优先",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://jobs.bytedance.com/experienced/position/7599925395534711045/detail"
}
]
},
"posting": {
"posting_id": "7599925395534711045",
"post_date": "2026-01-27",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://jobs.bytedance.com/experienced/position/7599925395534711045/detail"
},
"fulltext": "大模型Agent平台研发工程师-Data AML\n职位描述\n1、构建核心推理代工平台：负责支持Hugging Face全量模型的自动化接入与分发，利用性能模拟器与动态库存匹配技术，实现高效的延迟与吞吐优化；\n2、研发Agent基础设施：设计并实现云端存储与状态机系统，支持智能体任务的断点回滚、时间回溯调试及KV Cache的高效管理；\n3、开发AI开发者工具栈：建设智能体可观测性系统，通过全链路Tracing展示Agent决策树，帮助用户识别冗余交互并自动提取高质量对话轨迹用于模型微调；\n4、打造混合工具运行时：设计SDK实现本地工具与云端工具（如Sandbox、Search、Browser）的无缝集成，支持MCP等协议转换，兼容主流Agent框架（如LangGraph、AutoGen、Dify）；\n5、前沿推理加速落地：在代工平台上部署自动推测解码、结构化输出、自动量化与OPD等高端推理能力。\n\n职位要求\n1、扎实的基础功底：精通Python及C/C++，熟悉Linux环境及分布式系统设计；\n2、深厚的推理/模型背景：深入理解大模型推理机制，熟悉vLLM，TensorRT-LLM或类似的推理引擎，对Transformer架构有深入研究；\n3、工程与架构能力：具备后端系统开发经验，熟悉高并发、高性能存储（如Redis，PostgreSQL，Vector DB）的应用；\n4、敏锐的技术视野：对Agent生态有热情，熟悉至少一种Agent开发框架（如LangGraph，AutoGen，CrewAI或Dify）；\n5、较强的自驱力：能在快速演进的AI浪潮中保持学习，具备独立解决复杂工程问题的能力。\n\n加分项\n1、架构级优化经验：有推测解码、PagedAttention或软硬件联合设计经验者优先；\n2、协议与标准贡献：熟悉OpenAI Assistants API架构，或对MCP等Agent通讯协议有研究；\n3、全栈/SDK经验：有面向开发者的SDK开发经验，能够从用户视角优化AI产品的易用性；\n4、算法理解力：能使用数学工具分析RLHF或Agent调优中的优化算法。\n1、构建核心推理代工平台：负责支持Hugging Face全量模型的自动化接入与分发，利用性能模拟器与动态库存匹配技术，实现高效的延迟与吞吐优化；\n2、研发Agent基础设施：设计并实现云端存储与状态机系统，支持智能体任务的断点回滚、时间回溯调试及KV Cache的高效管理；\n3、开发AI开发者工具栈：建设智能体可观测性系统，通过全链路Tracing展示Agent决策树，帮助用户识别冗余交互并自动提取高质量对话轨迹用于模型微调；\n4、打造混合工具运行时：设计SDK实现本地工具与云端工具（如Sandbox、Search、Browser）的无缝集成，支持MCP等协议转换，兼容主流Agent框架（如LangGraph、AutoGen、Dify）；\n5、前沿推理加速落地：在代工平台上部署自动推测解码、结构化输出、自动量化与OPD等高端推理能力。\n1、扎实的基础功底：精通Python及C/C++，熟悉Linux环境及分布式系统设计；\n2、深厚的推理/模型背景：深入理解大模型推理机制，熟悉vLLM，TensorRT-LLM或类似的推理引擎，对Transformer架构有深入研究；\n3、工程与架构能力：具备后端系统开发经验，熟悉高并发、高性能存储（如Redis，PostgreSQL，Vector DB）的应用；\n4、敏锐的技术视野：对Agent生态有热情，熟悉至少一种Agent开发框架（如LangGraph，AutoGen，CrewAI或Dify）；\n5、较强的自驱力：能在快速演进的AI浪潮中保持学习，具备独立解决复杂工程问题的能力。\n\n加分项\n1、架构级优化经验：有推测解码、PagedAttention或软硬件联合设计经验者优先；\n2、协议与标准贡献：熟悉OpenAI Assistants API架构，或对MCP等Agent通讯协议有研究；\n3、全栈/SDK经验：有面向开发者的SDK开发经验，能够从用户视角优化AI产品的易用性；\n4、算法理解力：能使用数学工具分析RLHF或Agent调优中的优化算法。",
"standard_classification": {
"std_category_code": "T009",
"std_aux_codes": [
"T014"
],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}