JD数据
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "大模型应用工程师(LLM微调与私有化部署)",
"job_level": "高级",AI生成
"work_category": "全职",AI生成
"department": "",
"location": "合肥·包河区·省体育场",
"work_mode": "现场办公",AI生成
"job_category": "AI应用软件工程师"AI生成
},
"company": {
"company_name": "合肥意数未来信息科技",
"company_industry": "咨询",
"company_size": "20-99人",
"company_website": "",
"company_description": ""
},
"compensation": {
"salary_range": {
"min": 13000,
"max": 22000,
"currency": "CNY",
"cycle": "month"
},
"benefits": ""
},
"requirements": {
"working_years": 3,
"degree": "本科",
"language": "中文",AI生成
"visa_support": "",
"responsibilities": "",
"requirements_text": "作息:朝九晚六,周末双休 不加班不内卷\n【岗位简介】\n我们计划打造行业专属私有大模型,基于开源基座模型做领域LoRA微调,把公司行业业务数据训练进模型,私有化部署,配套RAG知识库增强。\n招聘LLM应用⼯程师,负责从⾏业数据处理、模型微调、效果评估到私有化上线全链路落地。\n需要掌握⼤模型相关算法原理,具备真实微调项目落地经验。\n【岗位职责】\n1. 负责公司行业私有语料处理:PDF/Word/业务⽂档解析、文本清洗、敏感数据脱敏、构建SFT指令训练数据集,与业务专家配合校验样本专业准确性。\n2. 基于开源基座大模型(DeepSeek/Qwen等),使用QLoRA/LoRA完成领域SFT微调;开展模型效果评估,定位幻觉、回答错误、过拟合、灾难性遗忘等问题,迭代数据集和训练策略。\n3. 模型推理优化:模型量化(AWQ/GPTQ)、vLLM推理部署,封装API接口,完成私有化服务器部署,保障服务稳定和并发访问。\n4. 搭建RAG检索增强系统(文档分块、Embedding、向量库、混合检索+重排),作为微调模型的补充方案,解决实时更新的业务资料查询。\n5.(可选)模型蒸馏:针对训练完成的行业模型做轻量化蒸馏,降低推理算力成本。\n5. 对接内部业务系统,持续收集业务使用中的bad case,定期迭代优化模型。\n【任职要求】\n1. 本科及以上学历,3-5年经验,计算机/人工智能相关,熟练Python,掌握PyTorch基础,熟悉Linux开发环境。\n2. 有独立使用LLaMA‑Factory / Axolotl等框架完成LoRA/QLoRA微调实战经验,能够独立产出LoRA权重文件,理解背后相关算法原理。\n3. 熟悉大模型基础算法与概念:Transformer、SFT、LoRA、QLoRA、Embedding、向量数据库、模型量化、推理加速,理解RAG与微调的适用场景差异。\n4. 具备模型评估能力,能够查看训练loss,识别过拟合、灾难性遗忘等训练常见问题,并给出优化方案。\n5. 有私有化模型部署经验,熟悉vLLM、transformers推理框架;有知识蒸馏经验优先。\n6. 良好沟通能力,能够和公司行业业务专家协作,理解业务知识,共同完成样本校验、模型效果验收。\n 【优先加分项】\n• 垂直行业大模型项目经验(企业行业模型、业务问答助手)\n• 熟悉Milvus / PGVector向量数据库\n• 了解DPO偏好对齐\n• •全栈开发能力,可独立完成前后端简单业务系统开发\n 【福利待遇】\n朝九晚六|双休不加班,待遇优厚\n团队氛围简单,技术自主发挥空间大\n项目稳定,专注私有大模型落地",
"skills": [AI生成
"模型微调与对齐",
"模型训练与算法优化",
"RAG与检索增强",
"编程与代码实现",
"数据库/缓存/向量库",
"数据工程与数据管道"
],
"preferred_qualifications": "",
"job_highlights": ""
},
"contact": {
"recruiter_name": "",
"contact_methods": [
{
"type": "apply_link",
"value": "https://www.zhipin.com/job_detail/26ce60f60d2378010nN_2Nq8FVJS.html"
}
]
},
"posting": {
"posting_id": "26ce60f60d2378010nN_2Nq8FVJS",
"post_date": "",
"hire_time": "",
"update_date": "",
"job_url": "https://www.zhipin.com/job_detail/26ce60f60d2378010nN_2Nq8FVJS.html"
},
"fulltext": "作息:朝九晚六,周末双休 不加班不内卷\n【岗位简介】\n我们计划打造行业专属私有大模型,基于开源基座模型做领域LoRA微调,把公司行业业务数据训练进模型,私有化部署,配套RAG知识库增强。\n招聘LLM应用⼯程师,负责从⾏业数据处理、模型微调、效果评估到私有化上线全链路落地。\n需要掌握⼤模型相关算法原理,具备真实微调项目落地经验。\n【岗位职责】\n1. 负责公司行业私有语料处理:PDF/Word/业务⽂档解析、文本清洗、敏感数据脱敏、构建SFT指令训练数据集,与业务专家配合校验样本专业准确性。\n2. 基于开源基座大模型(DeepSeek/Qwen等),使用QLoRA/LoRA完成领域SFT微调;开展模型效果评估,定位幻觉、回答错误、过拟合、灾难性遗忘等问题,迭代数据集和训练策略。\n3. 模型推理优化:模型量化(AWQ/GPTQ)、vLLM推理部署,封装API接口,完成私有化服务器部署,保障服务稳定和并发访问。\n4. 搭建RAG检索增强系统(文档分块、Embedding、向量库、混合检索+重排),作为微调模型的补充方案,解决实时更新的业务资料查询。\n5.(可选)模型蒸馏:针对训练完成的行业模型做轻量化蒸馏,降低推理算力成本。\n5. 对接内部业务系统,持续收集业务使用中的bad case,定期迭代优化模型。\n【任职要求】\n1. 本科及以上学历,3-5年经验,计算机/人工智能相关,熟练Python,掌握PyTorch基础,熟悉Linux开发环境。\n2. 有独立使用LLaMA‑Factory / Axolotl等框架完成LoRA/QLoRA微调实战经验,能够独立产出LoRA权重文件,理解背后相关算法原理。\n3. 熟悉大模型基础算法与概念:Transformer、SFT、LoRA、QLoRA、Embedding、向量数据库、模型量化、推理加速,理解RAG与微调的适用场景差异。\n4. 具备模型评估能力,能够查看训练loss,识别过拟合、灾难性遗忘等训练常见问题,并给出优化方案。\n5. 有私有化模型部署经验,熟悉vLLM、transformers推理框架;有知识蒸馏经验优先。\n6. 良好沟通能力,能够和公司行业业务专家协作,理解业务知识,共同完成样本校验、模型效果验收。\n 【优先加分项】\n• 垂直行业大模型项目经验(企业行业模型、业务问答助手)\n• 熟悉Milvus / PGVector向量数据库\n• 了解DPO偏好对齐\n• •全栈开发能力,可独立完成前后端简单业务系统开发\n 【福利待遇】\n朝九晚六|双休不加班,待遇优厚\n团队氛围简单,技术自主发挥空间大\n项目稳定,专注私有大模型落地"
}