北京百炼智能科技有限公司---急求爬虫/数据采集工程师---base:北京,薪资open谈,年15-18薪 无合适标签 未标注

ak47jian 3月前 304

公司网址:http://www.bailian-ai.com/ ---百炼智能

办公地址:北京市朝阳区北苑路 58 号楼航空科技大厦B座9层 

薪酬结构:Open谈,年15-18薪 

工作时间:弹性8小时,不打卡 

联系人:陈  18401337190 

微信号:z545592017 


【岗位职责】 

1、负责多平台信息的数据采集、抽取、去重、分类、垃圾过滤、质量识别等工作; 

2、研究数据采集策略和防屏蔽规则,解决封账号、封IP、验证码、滑块等难点以及落地实施,对爬取实时性、成功率负责; 

3、关注数据质量,进行监控,保证数据的完整性和准确性,对已有网站进行维护,并及时修复; 

4、参与数据采集系统的架构设计和开发,对平台进行持续改进和优化。 

【任职要求】 

1、全日制本科优先,计算机相关专业,2-5年大规模数据采集经验,具有团队管理经验者优先,如技术能力符合,则学历可适当放宽

2、熟练掌握Python语言,熟练掌握JS语言、有APP数据采集经验者优先; 

3、精通数据采集技术,熟悉HttpClient/jsoup/XPath/CSS/正则表达式/验证码加密处理/代理池等网页信息抽取技术,熟悉HTTP底层协议; 

4、精通各种反爬技术,并能够通过多种应对策略(如代理池、模拟登录、验证码与滑块的处理、浏览器渲染等)来保证数据的持续交付; 

5、熟悉网页数据采集原理及技术,熟悉基于Cookie的网站登录原理; 

6、熟悉数据清洗、去重、入库等技术,具有数据挖掘、机器学习背景者优先; 

7、良好的编码能力,工作认真细致踏实,逻辑思维缜密,善于分析,以解决技术难题为乐趣,具备良好的沟通交流能力。


最新回复 (0)
返回