主分类:AI训练推理与计算优化
来源 JD 数据(旧分类保留,当前主分类见上方)
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "大模型训练与推理Infra工程师-MiMo",
"job_level": "未披露",AI生成
"work_category": "全职",AI生成
"department": "未披露",
"location": "北京",
"work_mode": "未披露",AI生成
"job_category": "算法研发"AI生成
},
"company": {
"company_name": "小米集团",
"company_industry": "消费电子 / 智能制造 / 物联网",
"company_size": "10000人以上",
"company_website": "xiaomi.com",
"company_description": "小米是一家消费电子和智能制造企业,以智能手机、智能硬件和物联网平台为核心。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": "",
"degree": "- 计算机科学、软件工程、机器学习或相关领域的本科及以上学历",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1. 模型训练基础设施开发\n - 设计和实现支持大规模分布式训练的计算平台,优化模型训练效率和资源利用率。\n - 维护和扩展现有的分布式训练框架,确保平台的高性能和稳定性(如基于 PyTorch、TensorFlow 或 JAX)。\n - 集成和优化高性能计算技术(如 CUDA、MPI、NCCL 等)。\n2. 模型推理基础设施开发\n - 构建高效的推理框架,支持大模型的在线和离线推理需求。\n - 优化推理速度、内存占用和能耗,支持多种硬件架构(GPU、NPU等 )。\n - 实现PD分离、Context Caching、模型量化、推敲编码等推理优化技术。\n3. 性能监控与优化\n - 开发工具链和监控系统,跟踪训练与推理过程的性能瓶颈。\n - 分析并优化数据加载、通信效率和硬件利用率等关键环节。\n4. 跨团队协作\n - 与模型研究团队密切合作,理解模型需求,定制训练和推理策略。\n - 支持产品团队的模型部署需求,推动大模型在实际场景中的落地应用。",
"requirements_text": "基本要求:\n- 计算机科学、软件工程、机器学习或相关领域的本科及以上学历,硕士或博士优先。\n- 深入理解深度学习原理和分布式训练框架(如 Horovod、DeepSpeed、Ray 等)。\n- 熟练掌握至少一种主流深度学习框架(如 PyTorch、TensorFlow 或 JAX)。\n- 熟悉高性能计算技术(CUDA、NCCL、cuDNN 等)及硬件架构(GPU、NPU 等)。\n- 具有扎实的编程能力,精通 Python 和至少一种系统级编程语言(如 C++)。\n\n优先条件:\n- 有参与或主导过大规模模型(如 Transformer、大语言模型)的训练和部署经验。\n- 熟悉模型优化技术(如混合精度训练、剪枝、量化等)。\n- 对云计算和容器化技术(如 Kubernetes、Docker、Terraform)有实际经验。\n- 对新兴 AI 硬件(如 H卡)有实操经验。\n- 具备优秀的系统设计和性能调优能力。",
"skills": [AI生成
"Python",
"C++",
"Docker",
"Kubernetes",
"PyTorch",
"TensorFlow",
"CUDA",
"机器学习",
"深度学习",
"性能调优",
"大语言模型"
],
"preferred_qualifications": "计算机科学、软件工程、机器学习或相关领域的本科及以上学历,硕士或博士优先;优先条件:",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://xiaomi.jobs.f.mioffice.cn/index/m/position/7446241662216700012/detail"
}
]
},
"posting": {
"posting_id": "7446241662216700012",
"post_date": "2024-12-09",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://xiaomi.jobs.f.mioffice.cn/index/m/position/7446241662216700012/detail"
},
"fulltext": "大模型训练与推理Infra工程师-MiMo\n职位描述\n1. 模型训练基础设施开发\n - 设计和实现支持大规模分布式训练的计算平台,优化模型训练效率和资源利用率。\n - 维护和扩展现有的分布式训练框架,确保平台的高性能和稳定性(如基于 PyTorch、TensorFlow 或 JAX)。\n - 集成和优化高性能计算技术(如 CUDA、MPI、NCCL 等)。\n2. 模型推理基础设施开发\n - 构建高效的推理框架,支持大模型的在线和离线推理需求。\n - 优化推理速度、内存占用和能耗,支持多种硬件架构(GPU、NPU等 )。\n - 实现PD分离、Context Caching、模型量化、推敲编码等推理优化技术。\n3. 性能监控与优化\n - 开发工具链和监控系统,跟踪训练与推理过程的性能瓶颈。\n - 分析并优化数据加载、通信效率和硬件利用率等关键环节。\n4. 跨团队协作\n - 与模型研究团队密切合作,理解模型需求,定制训练和推理策略。\n - 支持产品团队的模型部署需求,推动大模型在实际场景中的落地应用。\n\n职位要求\n基本要求:\n- 计算机科学、软件工程、机器学习或相关领域的本科及以上学历,硕士或博士优先。\n- 深入理解深度学习原理和分布式训练框架(如 Horovod、DeepSpeed、Ray 等)。\n- 熟练掌握至少一种主流深度学习框架(如 PyTorch、TensorFlow 或 JAX)。\n- 熟悉高性能计算技术(CUDA、NCCL、cuDNN 等)及硬件架构(GPU、NPU 等)。\n- 具有扎实的编程能力,精通 Python 和至少一种系统级编程语言(如 C++)。\n\n优先条件:\n- 有参与或主导过大规模模型(如 Transformer、大语言模型)的训练和部署经验。\n- 熟悉模型优化技术(如混合精度训练、剪枝、量化等)。\n- 对云计算和容器化技术(如 Kubernetes、Docker、Terraform)有实际经验。\n- 对新兴 AI 硬件(如 H卡)有实操经验。\n- 具备优秀的系统设计和性能调优能力。\n1. 模型训练基础设施开发\n - 设计和实现支持大规模分布式训练的计算平台,优化模型训练效率和资源利用率。\n - 维护和扩展现有的分布式训练框架,确保平台的高性能和稳定性(如基于 PyTorch、TensorFlow 或 JAX)。\n - 集成和优化高性能计算技术(如 CUDA、MPI、NCCL 等)。\n2. 模型推理基础设施开发\n - 构建高效的推理框架,支持大模型的在线和离线推理需求。\n - 优化推理速度、内存占用和能耗,支持多种硬件架构(GPU、NPU等 )。\n - 实现PD分离、Context Caching、模型量化、推敲编码等推理优化技术。\n3. 性能监控与优化\n - 开发工具链和监控系统,跟踪训练与推理过程的性能瓶颈。\n - 分析并优化数据加载、通信效率和硬件利用率等关键环节。\n4. 跨团队协作\n - 与模型研究团队密切合作,理解模型需求,定制训练和推理策略。\n - 支持产品团队的模型部署需求,推动大模型在实际场景中的落地应用。\n基本要求:\n- 计算机科学、软件工程、机器学习或相关领域的本科及以上学历,硕士或博士优先。\n- 深入理解深度学习原理和分布式训练框架(如 Horovod、DeepSpeed、Ray 等)。\n- 熟练掌握至少一种主流深度学习框架(如 PyTorch、TensorFlow 或 JAX)。\n- 熟悉高性能计算技术(CUDA、NCCL、cuDNN 等)及硬件架构(GPU、NPU 等)。\n- 具有扎实的编程能力,精通 Python 和至少一种系统级编程语言(如 C++)。\n\n优先条件:\n- 有参与或主导过大规模模型(如 Transformer、大语言模型)的训练和部署经验。\n- 熟悉模型优化技术(如混合精度训练、剪枝、量化等)。\n- 对云计算和容器化技术(如 Kubernetes、Docker、Terraform)有实际经验。\n- 对新兴 AI 硬件(如 H卡)有实操经验。\n- 具备优秀的系统设计和性能调优能力。",
"standard_classification": {
"std_category_code": "T014",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}