主分类：AI训练推理与计算优化
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "大模型应用研发工程师（推理部署优化方向）-TRAE",
"job_level": "未披露",AI生成
"work_category": "全职",AI生成
"department": "未披露",
"location": "深圳",
"work_mode": "未披露",AI生成
"job_category": "后端"AI生成
},
"company": {
"company_name": "字节跳动",
"company_industry": "互联网 / 数字内容 / 电商",
"company_size": "10000人以上",
"company_website": "bytedance.com",
"company_description": "字节跳动提供内容创作、信息分发、电商和协作产品，旗下产品包括抖音、今日头条、TikTok和飞书。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "未披露",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "团队介绍：TRAE（The Real AI Engineer），是字节跳动旗下的AI编程产品，一个能理解需求、调动工具、独立完成开发任务的AI开发工程师，为用户提供端到端生成真实软件的服务。TRAE是当前国内受到广泛欢迎的AI编程产品之一，也是业界首个端到端AI软件开发Agent产品，可覆盖简单到复杂全场景。我们正在寻找充满热情、富有创造力的人才。期待你的加入，与我们共同重塑开发范式，定义未来开发的形态。\n\n1、服务稳定性保障：保障TRAE产品AI功能的模型服务稳定，处理线上报警、完成部署扩缩容，支撑To C/To B业务增长；\n2、E2E性能及成本优化：端到端分析链路性能，协同客户端与服务端优化代码补全及Agent时延、吞吐；从业务视角优化模型部署成本，提升GPU利用率；\n3、高性能推理部署优化：结合业务特性设计并迭代模型推理、部署方案，逼近硬件理论算力极限；基于高性能算子库扩展新模型结构支持，构建“模型量化-推理加速-部署”完整Pipeline并产品化落地（如MoE稀疏结构、Diffusion模型）。",
"requirements_text": "1、对LLM应用层创新有热情，追求卓越，致力于逼近模型能力边界与硬件理论算力极限；\n2、具备端到端分析业务性能瓶颈、稳定性的能力，能精准定位关键卡点并推动解决；\n3、熟悉LLM模型部署流程及常见优化技术，有vLLM、TRT-LLM、SGLang开发/优化经验者优先；\n4、了解NVIDIA GPU硬件特性，具备一定CUDA Kernel开发及调优经验；\n5、自驱力强，能主动学习LLM前沿结构与推理、部署优化方案，并推动业务落地。",
"skills": [AI生成
"CUDA",
"大语言模型"
],
"preferred_qualifications": "3、熟悉LLM模型部署流程及常见优化技术，有vLLM、TRT-LLM、SGLang开发/优化经验者优先",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://jobs.bytedance.com/experienced/position/7551308917906589970/detail"
}
]
},
"posting": {
"posting_id": "7551308917906589970",
"post_date": "2025-09-18",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://jobs.bytedance.com/experienced/position/7551308917906589970/detail"
},
"fulltext": "大模型应用研发工程师（推理部署优化方向）-TRAE\n职位描述\n团队介绍：TRAE（The Real AI Engineer），是字节跳动旗下的AI编程产品，一个能理解需求、调动工具、独立完成开发任务的AI开发工程师，为用户提供端到端生成真实软件的服务。TRAE是当前国内受到广泛欢迎的AI编程产品之一，也是业界首个端到端AI软件开发Agent产品，可覆盖简单到复杂全场景。我们正在寻找充满热情、富有创造力的人才。期待你的加入，与我们共同重塑开发范式，定义未来开发的形态。\n\n1、服务稳定性保障：保障TRAE产品AI功能的模型服务稳定，处理线上报警、完成部署扩缩容，支撑To C/To B业务增长；\n2、E2E性能及成本优化：端到端分析链路性能，协同客户端与服务端优化代码补全及Agent时延、吞吐；从业务视角优化模型部署成本，提升GPU利用率；\n3、高性能推理部署优化：结合业务特性设计并迭代模型推理、部署方案，逼近硬件理论算力极限；基于高性能算子库扩展新模型结构支持，构建“模型量化-推理加速-部署”完整Pipeline并产品化落地（如MoE稀疏结构、Diffusion模型）。\n\n职位要求\n1、对LLM应用层创新有热情，追求卓越，致力于逼近模型能力边界与硬件理论算力极限；\n2、具备端到端分析业务性能瓶颈、稳定性的能力，能精准定位关键卡点并推动解决；\n3、熟悉LLM模型部署流程及常见优化技术，有vLLM、TRT-LLM、SGLang开发/优化经验者优先；\n4、了解NVIDIA GPU硬件特性，具备一定CUDA Kernel开发及调优经验；\n5、自驱力强，能主动学习LLM前沿结构与推理、部署优化方案，并推动业务落地。\n团队介绍：TRAE（The Real AI Engineer），是字节跳动旗下的AI编程产品，一个能理解需求、调动工具、独立完成开发任务的AI开发工程师，为用户提供端到端生成真实软件的服务。TRAE是当前国内受到广泛欢迎的AI编程产品之一，也是业界首个端到端AI软件开发Agent产品，可覆盖简单到复杂全场景。我们正在寻找充满热情、富有创造力的人才。期待你的加入，与我们共同重塑开发范式，定义未来开发的形态。\n\n1、服务稳定性保障：保障TRAE产品AI功能的模型服务稳定，处理线上报警、完成部署扩缩容，支撑To C/To B业务增长；\n2、E2E性能及成本优化：端到端分析链路性能，协同客户端与服务端优化代码补全及Agent时延、吞吐；从业务视角优化模型部署成本，提升GPU利用率；\n3、高性能推理部署优化：结合业务特性设计并迭代模型推理、部署方案，逼近硬件理论算力极限；基于高性能算子库扩展新模型结构支持，构建“模型量化-推理加速-部署”完整Pipeline并产品化落地（如MoE稀疏结构、Diffusion模型）。\n1、对LLM应用层创新有热情，追求卓越，致力于逼近模型能力边界与硬件理论算力极限；\n2、具备端到端分析业务性能瓶颈、稳定性的能力，能精准定位关键卡点并推动解决；\n3、熟悉LLM模型部署流程及常见优化技术，有vLLM、TRT-LLM、SGLang开发/优化经验者优先；\n4、了解NVIDIA GPU硬件特性，具备一定CUDA Kernel开发及调优经验；\n5、自驱力强，能主动学习LLM前沿结构与推理、部署优化方案，并推动业务落地。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}