北京百炼智能科技有限公司---急求爬虫/数据采集工程师---base:北京，薪资open谈，年15-18薪

ak47jian

公司网址：http://www.bailian-ai.com/ ---百炼智能

办公地址：北京市朝阳区北苑路 58 号楼航空科技大厦B座9层

薪酬结构：Open谈，年15-18薪

工作时间：弹性8小时，不打卡

联系人：陈  18401337190

微信号：z545592017




【岗位职责】

1、负责多平台信息的数据采集、抽取、去重、分类、垃圾过滤、质量识别等工作；

2、研究数据采集策略和防屏蔽规则，解决封账号、封IP、验证码、滑块等难点以及落地实施，对爬取实时性、成功率负责；

3、关注数据质量，进行监控，保证数据的完整性和准确性，对已有网站进行维护，并及时修复；

4、参与数据采集系统的架构设计和开发，对平台进行持续改进和优化。

【任职要求】

1、全日制本科优先，计算机相关专业，2-5年大规模数据采集经验，具有团队管理经验者优先，如技术能力符合，则学历可适当放宽

2、熟练掌握Python语言，熟练掌握JS语言、有APP数据采集经验者优先；

3、精通数据采集技术，熟悉HttpClient/jsoup/XPath/CSS/正则表达式/验证码加密处理/代理池等网页信息抽取技术，熟悉HTTP底层协议；

4、精通各种反爬技术，并能够通过多种应对策略（如代理池、模拟登录、验证码与滑块的处理、浏览器渲染等）来保证数据的持续交付；

5、熟悉网页数据采集原理及技术，熟悉基于Cookie的网站登录原理；

6、熟悉数据清洗、去重、入库等技术，具有数据挖掘、机器学习背景者优先；

7、良好的编码能力，工作认真细致踏实，逻辑思维缜密，善于分析，以解决技术难题为乐趣，具备良好的沟通交流能力。