职位详情

职位列表 链接状态未知 49b697d91eb15a1c27b896938da5a60f5a1f8eace5789a0d6140232647c58246

语言大模型架构/优化/scaling实习生

· · 月之暗面

JD数据
{
    "schema_version": "via_ai_product_manager_jobs_v1",
    "data_type": "ai_product_manager_jobs",
    "job": {
        "job_title": "语言大模型架构/优化/scaling实习生",
        "job_level": "",AI生成
        "work_category": "实习",AI生成
        "department": "",
        "location": "",
        "work_mode": "",AI生成
        "job_category": "算法类/AI"AI生成
    },
    "company": {
        "company_name": "月之暗面",
        "company_industry": "",
        "company_size": "",
        "company_website": "",
        "company_description": ""
    },
    "compensation": {
        "salary_range": {
            "min": "",
            "max": "",
            "currency": "",
            "cycle": ""
        },
        "benefits": ""
    },
    "requirements": {
        "working_years": "",
        "degree": "",
        "language": "",AI生成
        "visa_support": "",
        "responsibilities": "职位描述:深度参与前沿大模型(LLM)的架构设计与迭代,重点攻关Attention机制(如MLA, Linear Attention, VQ)、MoE等SOTA结构的性能与效率瓶颈,推动模型在上下文长度与参数规模上实现突破。主导模型优化器与训练策略的研究,深入分析优化动力学,探索二阶优化(如Hessian-free)的可行性,并应用μ-Parametrization (MuP)等技术指导模型稳定、高效地Scaling。与Infra团队紧密合作,共同设计和优化训练框架,将前沿算法思想高效映射到大规模GPU集群上,提升训练稳定性与资源利用率。职位要求:985/211/海外知名高校硕士及以上学历,计算机、人工智能、数学等相关专业。在大模型领域有丰富的实战经验,熟悉Transformer,并在以下至少一个方向有深入实践:模型结构创新、训练优化器、大规模训练(Scaling)或推理优化。编程能力卓越,精通PyTorch/JAX等框架,有丰富的深度学习模型训练及调优经验。具备强烈的技术热情和owner意识,善于沟通协作,能独立承担复杂挑战。加分项(有以下经验者优先):熟悉Triton、CUDA,有高性能计算或算子优化经验。熟悉优化器/LLM Scaling原理。在ICLR、NeurIPS、ICML等ML/NLP顶会上发表过相关论文。有ACM/IOI/NOI等算法竞赛获奖经历。",
        "requirements_text": "",
        "skills": [],AI生成
        "preferred_qualifications": "",
        "job_highlights": ""
    },
    "contact": {
        "recruiter_name": "",
        "contact_methods": []
    },
    "posting": {
        "posting_id": "dad560d0-433c-48e9-8785-7433d9f27290",
        "post_date": "2025-11-03",
        "hire_time": "",
        "update_date": "",
        "job_url": "https://app.mokahr.com/campus-recruitment/moonshot/148507#/job/dad560d0-433c-48e9-8785-7433d9f27290"
    },
    "fulltext": "职位描述:深度参与前沿大模型(LLM)的架构设计与迭代,重点攻关Attention机制(如MLA, Linear Attention, VQ)、MoE等SOTA结构的性能与效率瓶颈,推动模型在上下文长度与参数规模上实现突破。主导模型优化器与训练策略的研究,深入分析优化动力学,探索二阶优化(如Hessian-free)的可行性,并应用μ-Parametrization (MuP)等技术指导模型稳定、高效地Scaling。与Infra团队紧密合作,共同设计和优化训练框架,将前沿算法思想高效映射到大规模GPU集群上,提升训练稳定性与资源利用率。职位要求:985/211/海外知名高校硕士及以上学历,计算机、人工智能、数学等相关专业。在大模型领域有丰富的实战经验,熟悉Transformer,并在以下至少一个方向有深入实践:模型结构创新、训练优化器、大规模训练(Scaling)或推理优化。编程能力卓越,精通PyTorch/JAX等框架,有丰富的深度学习模型训练及调优经验。具备强烈的技术热情和owner意识,善于沟通协作,能独立承担复杂挑战。加分项(有以下经验者优先):熟悉Triton、CUDA,有高性能计算或算子优化经验。熟悉优化器/LLM Scaling原理。在ICLR、NeurIPS、ICML等ML/NLP顶会上发表过相关论文。有ACM/IOI/NOI等算法竞赛获奖经历。"
}