主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "Token效能治理架构师 - TikTok研发",
"job_level": "未披露",AI生成
"work_category": "全职",AI生成
"department": "未披露",
"location": "杭州、深圳",
"work_mode": "未披露",AI生成
"job_category": "后端"AI生成
},
"company": {
"company_name": "字节跳动",
"company_industry": "互联网 / 数字内容 / 电商",
"company_size": "10000人以上",
"company_website": "bytedance.com",
"company_description": "字节跳动提供内容创作、信息分发、电商和协作产品，旗下产品包括抖音、今日头条、TikTok和飞书。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": 5,
"degree": "计算机相关专业本科及以上学历",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "团队介绍：TikTok研发团队，旨在实现TikTok业务的研发工作，搭建及维护业界领先的产品。加入我们，你能接触到包括用户增长、社交、直播、电商C端、内容创造、内容消费等核心业务场景，支持产品在全球赛道上高速发展；也能接触到包括服务架构、基础技术等方向上的技术挑战，保障业务持续高质量、高效率、且安全地为用户服务；同时还能为不同业务场景提供全面的技术解决方案，优化各项产品指标及用户体验。 \n在这里， 有大牛带队与大家一同不断探索前沿， 突破想象空间。 在这里，你的每一行代码都将服务亿万用户。在这里，团队专业且纯粹，合作氛围平等且轻松。目前在北京，上海，杭州、广州、深圳分别开放多个岗位机会。\n\n1、设计Token效能治理的整体架构，覆盖采集、归因、分析、预算、优化、评测、告警与运营闭环；\n2、建立统一指标体系，包括单请求Token、有效Token比例、缓存命中、上下文利用率、单位任务成本、单位效果成本及Token—时延—质量联合指标；\n3、推动推理链路优化，包括Prompt压缩、上下文裁剪、KV Cache、Prefix Cache、动态批处理、模型路由、大小模型协同及推测解码等方向；\n4、深入Agent工作负载，治理长上下文、工具调用、记忆注入、重复推理、失败重试与多轮交互中的Token浪费，建设成本归因和预算机制，将Token消耗下钻到业务、模型、场景、租户、版本及请求链路，支持预算控制与容量规划；\n5、建立效果护栏和评测机制，确保Token优化不以任务成功率、回答质量、安全性或稳定性退化为代价；\n6、牵引跨团队技术规划，沉淀平台能力、接入规范、最佳实践和治理SOP，推动重点业务规模化落地，识别行业技术演进对成本与架构的影响，形成中长期技术路线和关键技术预研。",
"requirements_text": "1、计算机相关专业本科及以上学历，具备扎实的分布式系统、在线服务或AI基础设施经验；\n2、5年及以上系统架构经验，主导过跨团队、跨链路的性能或成本治理项目；\n3、熟悉大模型推理链路，理解Transformer、Tokenizer、Attention、KV Cache、Batching、量化及模型并行等核心机制；\n4、能够从业务目标出发建立指标和归因模型，并用数据定位问题、验证收益、推动工程决策；\n5、具备较强的架构抽象、技术规划与项目推动能力，能够协调模型、平台、数据与业务团队完成复杂落地；\n6、对成本敏感，能同时处理效果、吞吐、时延、资源与研发复杂度之间的取舍。\n\n加分项：\n1、有LLM推理引擎、模型服务平台、AI Gateway、Agent平台或FinOps建设经验；\n2、有长上下文优化、语义缓存、模型路由、Prompt工程或LLM评测体系实践；\n3、有GPU/异构算力资源效率治理、容量规划或成本优化经验；\n4、有开源项目贡献、技术专利、论文或技术社区影响力。",
"skills": [AI生成
"分布式系统",
"系统架构",
"大语言模型"
],
"preferred_qualifications": "加分项：",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://jobs.bytedance.com/experienced/position/7684218303107647797/detail"
}
]
},
"posting": {
"posting_id": "7684218303107647797",
"post_date": "2026-09-11",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://jobs.bytedance.com/experienced/position/7684218303107647797/detail"
},
"fulltext": "Token效能治理架构师 - TikTok研发\n职位描述\n团队介绍：TikTok研发团队，旨在实现TikTok业务的研发工作，搭建及维护业界领先的产品。加入我们，你能接触到包括用户增长、社交、直播、电商C端、内容创造、内容消费等核心业务场景，支持产品在全球赛道上高速发展；也能接触到包括服务架构、基础技术等方向上的技术挑战，保障业务持续高质量、高效率、且安全地为用户服务；同时还能为不同业务场景提供全面的技术解决方案，优化各项产品指标及用户体验。 \n在这里， 有大牛带队与大家一同不断探索前沿， 突破想象空间。 在这里，你的每一行代码都将服务亿万用户。在这里，团队专业且纯粹，合作氛围平等且轻松。目前在北京，上海，杭州、广州、深圳分别开放多个岗位机会。\n\n1、设计Token效能治理的整体架构，覆盖采集、归因、分析、预算、优化、评测、告警与运营闭环；\n2、建立统一指标体系，包括单请求Token、有效Token比例、缓存命中、上下文利用率、单位任务成本、单位效果成本及Token—时延—质量联合指标；\n3、推动推理链路优化，包括Prompt压缩、上下文裁剪、KV Cache、Prefix Cache、动态批处理、模型路由、大小模型协同及推测解码等方向；\n4、深入Agent工作负载，治理长上下文、工具调用、记忆注入、重复推理、失败重试与多轮交互中的Token浪费，建设成本归因和预算机制，将Token消耗下钻到业务、模型、场景、租户、版本及请求链路，支持预算控制与容量规划；\n5、建立效果护栏和评测机制，确保Token优化不以任务成功率、回答质量、安全性或稳定性退化为代价；\n6、牵引跨团队技术规划，沉淀平台能力、接入规范、最佳实践和治理SOP，推动重点业务规模化落地，识别行业技术演进对成本与架构的影响，形成中长期技术路线和关键技术预研。\n\n职位要求\n1、计算机相关专业本科及以上学历，具备扎实的分布式系统、在线服务或AI基础设施经验；\n2、5年及以上系统架构经验，主导过跨团队、跨链路的性能或成本治理项目；\n3、熟悉大模型推理链路，理解Transformer、Tokenizer、Attention、KV Cache、Batching、量化及模型并行等核心机制；\n4、能够从业务目标出发建立指标和归因模型，并用数据定位问题、验证收益、推动工程决策；\n5、具备较强的架构抽象、技术规划与项目推动能力，能够协调模型、平台、数据与业务团队完成复杂落地；\n6、对成本敏感，能同时处理效果、吞吐、时延、资源与研发复杂度之间的取舍。\n\n加分项：\n1、有LLM推理引擎、模型服务平台、AI Gateway、Agent平台或FinOps建设经验；\n2、有长上下文优化、语义缓存、模型路由、Prompt工程或LLM评测体系实践；\n3、有GPU/异构算力资源效率治理、容量规划或成本优化经验；\n4、有开源项目贡献、技术专利、论文或技术社区影响力。\n团队介绍：TikTok研发团队，旨在实现TikTok业务的研发工作，搭建及维护业界领先的产品。加入我们，你能接触到包括用户增长、社交、直播、电商C端、内容创造、内容消费等核心业务场景，支持产品在全球赛道上高速发展；也能接触到包括服务架构、基础技术等方向上的技术挑战，保障业务持续高质量、高效率、且安全地为用户服务；同时还能为不同业务场景提供全面的技术解决方案，优化各项产品指标及用户体验。 \n在这里， 有大牛带队与大家一同不断探索前沿， 突破想象空间。 在这里，你的每一行代码都将服务亿万用户。在这里，团队专业且纯粹，合作氛围平等且轻松。目前在北京，上海，杭州、广州、深圳分别开放多个岗位机会。\n\n1、设计Token效能治理的整体架构，覆盖采集、归因、分析、预算、优化、评测、告警与运营闭环；\n2、建立统一指标体系，包括单请求Token、有效Token比例、缓存命中、上下文利用率、单位任务成本、单位效果成本及Token—时延—质量联合指标；\n3、推动推理链路优化，包括Prompt压缩、上下文裁剪、KV Cache、Prefix Cache、动态批处理、模型路由、大小模型协同及推测解码等方向；\n4、深入Agent工作负载，治理长上下文、工具调用、记忆注入、重复推理、失败重试与多轮交互中的Token浪费，建设成本归因和预算机制，将Token消耗下钻到业务、模型、场景、租户、版本及请求链路，支持预算控制与容量规划；\n5、建立效果护栏和评测机制，确保Token优化不以任务成功率、回答质量、安全性或稳定性退化为代价；\n6、牵引跨团队技术规划，沉淀平台能力、接入规范、最佳实践和治理SOP，推动重点业务规模化落地，识别行业技术演进对成本与架构的影响，形成中长期技术路线和关键技术预研。\n1、计算机相关专业本科及以上学历，具备扎实的分布式系统、在线服务或AI基础设施经验；\n2、5年及以上系统架构经验，主导过跨团队、跨链路的性能或成本治理项目；\n3、熟悉大模型推理链路，理解Transformer、Tokenizer、Attention、KV Cache、Batching、量化及模型并行等核心机制；\n4、能够从业务目标出发建立指标和归因模型，并用数据定位问题、验证收益、推动工程决策；\n5、具备较强的架构抽象、技术规划与项目推动能力，能够协调模型、平台、数据与业务团队完成复杂落地；\n6、对成本敏感，能同时处理效果、吞吐、时延、资源与研发复杂度之间的取舍。\n\n加分项：\n1、有LLM推理引擎、模型服务平台、AI Gateway、Agent平台或FinOps建设经验；\n2、有长上下文优化、语义缓存、模型路由、Prompt工程或LLM评测体系实践；\n3、有GPU/异构算力资源效率治理、容量规划或成本优化经验；\n4、有开源项目贡献、技术专利、论文或技术社区影响力。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}