主分类：数据工程与数据平台研发
来源 JD 数据（旧分类保留，当前主分类见上方）
{
"schema_version": "via_ai_product_manager_jobs_v1",
"data_type": "ai_product_manager_jobs",
"job": {
"job_title": "资深爬虫开发工程师（杭州）",
"job_level": "高级",AI生成
"work_category": "全职",AI生成
"department": "效率工程部",
"location": "杭州市",
"work_mode": "未披露",AI生成
"job_category": "技术"AI生成
},
"company": {
"company_name": "网易",
"company_industry": "互联网 / 游戏 / 数字内容",
"company_size": "10000人以上",
"company_website": "netease.com",
"company_description": "网易提供互联网和游戏服务，并通过有道、网易云音乐、网易严选等业务提供学习、音乐及消费服务。"
},
"compensation": {
"salary_range": {
"min": "",
"max": "",
"currency": "未披露",
"cycle": "未披露"
},
"benefits": "未披露"
},
"requirements": {
"working_years": 2,
"degree": "本科",
"language": "未披露",AI生成
"visa_support": "未披露",
"responsibilities": "1. 设计、开发、维护、重构分布式网络爬虫，采集并清洗结构化数据。\n2. 负责持续运营和更新爬虫程序，识别和解决数据源变化和其他问题。\n3. 爬虫性能优化，包括处理性能、爬取策略、占用带宽、反爬虫机制等方面。\n4. 能够统计和分析数据，与其他团队合作，如数据工程师、数据分析师协作，以确保数据采集系统的有效性和可靠性。",
"requirements_text": "1. 本科及以上学历，计算机相关专业，至少2年及以上项目开发经验，扎实的技术理论基础，数据结构以及算法等；\n2. 熟练掌握 Python编程语言，掌握 Selenium、Scrapy、PlayWright等框架的用法，熟悉任意开源爬虫框架。\n3. 熟悉 HTML、JavaScript，懂得分析常见 Web界面结构，掌握基本 jQuery、CSS、XPath等语法。\n4. 熟悉 App逆向分析、调试、加固、混淆等技术；有 ollvm、unicorn开发经验优先。\n5. 熟悉 HTTP、TCP等网络协议，精通 httpClient/jSoup/xpath/正则表达式/验证码处理/代理池等爬虫相关技术。\n6. 掌握 Charles等抓包工具。\n7. 了解 Android或iOS系统底层原理及机制，熟悉汇编语言和加解密算法。\n8. 有深入的大规模分布式爬虫集群实践经验。\n9. 对新技术保持热情，持续学习并乐于分享，勇于技术创新与技术改进。\n10. 具备良好的沟通能力，积极主动、自驱力强，有强烈的团队意识和执行力。",
"skills": [AI生成
"Python",
"JavaScript",
"数据结构",
"沟通能力"
],
"preferred_qualifications": "有 ollvm、unicorn开发经验优先",
"job_highlights": "未披露"
},
"contact": {
"recruiter_name": "未披露",
"contact_methods": [
{
"type": "apply_link",
"value": "https://hr.163.com/job-detail.html?id=66771&lang=zh"
}
]
},
"posting": {
"posting_id": "66771",
"post_date": "",
"hire_time": "未披露",
"update_date": "20260917",
"job_url": "https://hr.163.com/job-detail.html?id=66771&lang=zh"
},
"fulltext": "资深爬虫开发工程师（杭州）\n职位描述\n1. 设计、开发、维护、重构分布式网络爬虫，采集并清洗结构化数据。\n2. 负责持续运营和更新爬虫程序，识别和解决数据源变化和其他问题。\n3. 爬虫性能优化，包括处理性能、爬取策略、占用带宽、反爬虫机制等方面。\n4. 能够统计和分析数据，与其他团队合作，如数据工程师、数据分析师协作，以确保数据采集系统的有效性和可靠性。\n\n职位要求\n1. 本科及以上学历，计算机相关专业，至少2年及以上项目开发经验，扎实的技术理论基础，数据结构以及算法等；\n2. 熟练掌握 Python编程语言，掌握 Selenium、Scrapy、PlayWright等框架的用法，熟悉任意开源爬虫框架。\n3. 熟悉 HTML、JavaScript，懂得分析常见 Web界面结构，掌握基本 jQuery、CSS、XPath等语法。\n4. 熟悉 App逆向分析、调试、加固、混淆等技术；有 ollvm、unicorn开发经验优先。\n5. 熟悉 HTTP、TCP等网络协议，精通 httpClient/jSoup/xpath/正则表达式/验证码处理/代理池等爬虫相关技术。\n6. 掌握 Charles等抓包工具。\n7. 了解 Android或iOS系统底层原理及机制，熟悉汇编语言和加解密算法。\n8. 有深入的大规模分布式爬虫集群实践经验。\n9. 对新技术保持热情，持续学习并乐于分享，勇于技术创新与技术改进。\n10. 具备良好的沟通能力，积极主动、自驱力强，有强烈的团队意识和执行力。\n1. 设计、开发、维护、重构分布式网络爬虫，采集并清洗结构化数据。\n2. 负责持续运营和更新爬虫程序，识别和解决数据源变化和其他问题。\n3. 爬虫性能优化，包括处理性能、爬取策略、占用带宽、反爬虫机制等方面。\n4. 能够统计和分析数据，与其他团队合作，如数据工程师、数据分析师协作，以确保数据采集系统的有效性和可靠性。\n1. 本科及以上学历，计算机相关专业，至少2年及以上项目开发经验，扎实的技术理论基础，数据结构以及算法等；\n2. 熟练掌握 Python编程语言，掌握 Selenium、Scrapy、PlayWright等框架的用法，熟悉任意开源爬虫框架。\n3. 熟悉 HTML、JavaScript，懂得分析常见 Web界面结构，掌握基本 jQuery、CSS、XPath等语法。\n4. 熟悉 App逆向分析、调试、加固、混淆等技术；有 ollvm、unicorn开发经验优先。\n5. 熟悉 HTTP、TCP等网络协议，精通 httpClient/jSoup/xpath/正则表达式/验证码处理/代理池等爬虫相关技术。\n6. 掌握 Charles等抓包工具。\n7. 了解 Android或iOS系统底层原理及机制，熟悉汇编语言和加解密算法。\n8. 有深入的大规模分布式爬虫集群实践经验。\n9. 对新技术保持热情，持续学习并乐于分享，勇于技术创新与技术改进。\n10. 具备良好的沟通能力，积极主动、自驱力强，有强烈的团队意识和执行力。",
"standard_classification": {
"std_category_code": "T016",
"std_aux_codes": [],
"std_category_status": null,
"std_taxonomy_version": "20261104"
}
}